没规矩不成方圆！欧盟抢先发布AI伦理指导原则

据外媒报道，欧盟日前发布了AI伦理指导方针，公司和政府机构未来开发AI时应遵循7大原则。

这些原则不像艾萨克·阿西莫夫（Isaac Asimov）的“机器人三定律”。他们不会提供快速制定的伦理框架来帮助我们控制杀人机器人。相反，当我们将AI融入医疗、教育和消费技术等领域时，它们解决了影响社会的模糊和分散的问题。

举例来说，如果AI系统在未来的某个时候诊断出你患了癌症，欧盟的指导方针将希望确保这些事情：软件不会因你的种族或性别而产生偏见，不会无视人类医生的反对意见，而且病人有权要求它们解释诊断结果。所以，这些指导方针旨在阻止AI的疯狂行为。

为了帮助实现这一目标，欧盟召集了由52名专家组成的小组，他们提出了未来AI系统应该满足的七大原则。

具体如下：

1.人类代理和监督：AI不应该践踏人类的自主性。人们不应该被AI系统所操纵或胁迫，应该能够干预或监督软件所做的每一个决定；

2.技术稳健性和安全性：AI应该是安全而准确的，它不应该轻易受到外部攻击(例如对抗性例子)的破坏，并且应该是相当可靠的；

3.隐私和数据管理：AI系统收集的个人数据应该是安全的，并且能够保护个人隐私。它不应该被任何人访问，也不应该轻易被盗；

4.透明度：用于创建AI系统的数据和算法应该是可访问的，软件所做的决定应该“为人类所理解和追踪”。换句话说，操作者应该能够解释他们的AI系统所做的决定；

5.多样性、无歧视、公平：AI应向所有人提供服务，不分年龄、性别、种族或其他特征。同样，AI系统不应在这些方面有偏见；

6.环境和社会福祉：AI系统应该是可持续的(即它们应该对生态负责)，并能“促进积极的社会变革”；

7.问责制：AI系统应该是可审计的，并由现有的企业告密者保护机制覆盖。系统的负面影响应事先得到承认和报告。

请注意，这些原则中有些条款的措辞有点儿抽象，并且很难从客观的意义上进行评估。例如，“积极社会变化”的定义在人与人、国与国之间差异很大。但其他原则更为直截了当，可以通过政府监督来检验。例如，共享用于训练政府AI系统的数据可能是对抗偏见算法的好方法。

这些指导方针不具有法律约束力，但它们可以影响欧盟起草的任何未来立法。欧盟曾多次表示，它希望成为道德AI领域的领导者，并通过《通用数据保护条例》》GDPR表明，它愿意制定影响深远的、保护数字权利的法律。

但这个角色在某种程度上是环境迫使欧盟扮演的。在投资和尖端研究方面，欧盟无法与美国和中国竞争，因此它选择了伦理作为塑造这项技术未来的最佳选择。

作为这一努力的一部分，欧盟发布的报告还包括了一份被称为“可信赖AI评估列表”，它可以帮助专家们找出AI软件中的任何潜在弱点或危险。此列表包括以下问题：“你是否验证了系统在意外情况和环境中的行为方式？”以及“你评估了数据集中数据的类型和范围了吗？”这些评估列表只是初步的，欧盟将在未来几年收集公司的反馈，并在2020年提交关于其效用的最终报告。

数字版权组织Access Now的政策经理范尼·希德韦吉(Fanny Hidvégi)表示：“评估列表是该报告最重要的部分。它提供了一个实用的、前瞻性的角度，指导我们如何减轻AI的潜在危害。在我们看来，欧盟有潜力和责任走在这项工作的前列。但我们确实认为，欧洲联盟不应止步于制定伦理准则。”

其他人则怀疑，欧盟试图通过伦理研究来塑造全球AI的发展方式，这是否会产生很大影响。智库数据创新中心(Center For Data Innovation)高级政策分析师埃林·奇沃特(Eline Chivot)表示：“我们对正在采取的方法持怀疑态度，即通过为AI伦理创建一个黄金标准，它将确认欧盟在全球AI发展中的地位。而要成为AI伦理领域的领导者，首先必须在AI领域取得领先优势。”

欧盟要做AI的国际规范制定者

与北美和亚洲相比，欧盟的AI技术发展相对滞后，欧委会此次在发布该七条 AI道德原则时也坦承欧洲在AI私人投资方面落后：以2016年为例，当年亚洲在此方面吸引到的投资为109亿美元，北美区域为209亿美元，而欧洲方面得到的投资仅为24亿-32亿欧元（27-41.5亿美元）。

因此，欧盟方面也在想方设法加大对AI领域的投入。根据欧盟方面提供的资料显示，在公共投资方面，根据欧盟“地平线2020”计划，到2020年年底，欧委会计划投入约15亿欧元到AI领域，同时确保来自公共和私人投资达到至少200亿欧元。

同时，欧盟提出在未来的十年中，希望每年对AI领域投资最少200亿欧元，这笔资金不仅来自欧盟机构，也会来自私人投资机构，同时欧委会也会在“地平线2020”计划安排下每年再投资10亿欧元。

当然，在希望可以迎头赶上北美和亚洲的AI产业之外，欧盟机构也更加重视AI所有可能能带来的在隐私和安全等方面的风险，可谓未雨绸缪，且由于欧盟在重视隐私和安全方面的传统，这样的立法推进较之美国而言，相对更快。就在两周前，谷歌自身就推出了一个人工智能伦理委员会，但由于谷歌为该委员会选择的成员遭到了谷歌自身雇员的强烈反对，该委员会在成立一周之后就被谷歌自行解散了。

在欧盟方面，并不满足于仅仅为欧盟内部的AI产业设定规则。

欧盟此次指出，推出该七条 AI道德原则仅仅是第一步。随后，欧盟要在2019年的夏天展开一个正式的实验阶段，且已经告知与AI产业有关的官、产、学三界，该实验开始的具体日期。

第三步，欧盟要在国际场合为其“以人为本”的AI系统建立共识，并希望将这种方法纳入AI道德的全球舞台。

欧委会指出，技术，数据和算法不分国界，为此，欧委会继续加强同日本，加拿大以及新加坡等志同道合国家的合作，并继续在包括七国集团（G7）和G20在内的国际场合的讨论和倡议中发挥积极作用。

IBM欧洲主席页特（Martin Jetter）对此表示，欧委会此次出台的指导方针“为推动AI的道德和责任制定了全球标准。”