AI先驱Judea Pearl：机器人一定会有自由意志

Judea Pearl 为的发展贡献了很多智慧。在 20 世纪 80 年代，在他的带领下机器终于能够进行概率推理。现在，他却成为这一领域最尖锐的批评者之一。在他的最新著作 《The Book of Why：The New Science of Cause and Effect》 中，他认为人工智能的发展正因人们没有完全理解智能的真正含义而遭遇阻碍。

三十年前，人工智能研究面临的主要挑战是让编程机器找到一系列可观察条件与潜在原因之间的联系。Pearl 用一种称为贝叶斯网络的方案解决了这个问题。贝叶斯网络使得机器能够根据一位从非洲回来的人发烧并感到身体疼痛的症状，推断出此人最有可能患有疟疾。2011 年，Pearl 赢得了计算机科学领域的最高荣誉——图灵奖，在很大程度上得益于这项工作成果。 （https://amturing.acm.org/award_winners/pearl_2658896.cfm）

但是，正如 Pearl 所看到的那样，人工智能领域陷入了概率关联的泥淖之中。如今，到处都是机器学习和神经网络最新突破的头条报道，以及计算机可以下棋、操控自动驾驶车辆的消息。这让 Pearl 感到烦恼不已。在他看来，今天人工智能领域的技术水平只不过是上一代机器已有功能的增强版：在大量数据中发现隐藏的规律性。“所有令人印象深刻的深度学习成果都只是曲线拟合”他最近说道。

在他的新书中，现年 81 岁的 Pearl 详细阐述了智能机器如何真正思考的愿景。他认为，做到这一点的关键在于用因果推理来取代推理。机器不仅需要具备将发热和疟疾关联起来的能力，还需要具备推断疟疾引起发烧的能力。一旦构建了这种因果关系框架，机器就有可能提出反事实的问题 - 询问某种干预引起的因果关系将如何改变。这被 Pearl 视为科学思想的基石。Pearl 还提出了一种形式化的语言，让这种思维成为可能 - 一种 21 世纪的贝叶斯框架让机器可以用概率思考。

Pearl 期望因果推理可以赋予机器人类智能。他解释道，它们可以更有效地与人类沟通，甚至可以获得具有自由意志和作恶能力的道德实体（moral entities）地位。Quanta Magazine 对 Pearl 进行了采访，以下为采访的精要内容。

它是对过去 25 年来我从事的关于因果关系的工作，它在一个人生活中的含义，它的应用以及我们如何回答固有因果问题的总结。奇怪的是，这些疑问已经被科学抛弃了。所以这本书是对这种科学的忽视做出的弥补。

当然，但是在科学方程式中你看不到这种高尚的愿望。代数的语言是对称的：如果由 X 得到 Y，那么由 Y 可以得到 X 的信息。我说的是确定性关系。我们无法用数学写出一个简单的事实——例如，即将到来的暴风雨会导致气压下降，而不是相反。

数学还没有开发出一种能理解人类的非对称语言，即 X 得到 Y 并不意味着 Y 得到 X。我知道，这听起来像是对科学的一种可怕说法。我要对我妈这么说，她会削我的。

但是科学更加宽容：如果我们缺乏对非对称关系的微积分，科学会鼓励我们创造这种关系。这就是数学可以发挥作用的地方。对于我来说，看到简单的因果演算解决了我们这个时代即使最伟大的统计学家也认为不明确或无法解决的问题，让我兴奋不已。所有这一切就像是在高中几何中找到证明方法那样让人愉悦。

20 世纪 80 年代初出现的问题具有预测性或诊断性。医生观察到患者的症状，并提出患者患有疟疾或其他疾病的可能性。我们希望自动系统和专家系统能够替代专业人员——无论是医生还是矿物探险家，还是其他类型的付费专家。所以当时我提出了通过概率做到这些的想法。

不幸的是，标准概率计算需要指数空间和指数时间。我想出了一个称为贝叶斯网络的方案，它需要多项式时间，并且非常透明。

当我开发出让机器推理不确定性的工具之后，我就离开了这个领域去追求更具挑战性的任务：推理和因果关系。从这点上来说我是个叛徒。我的许多 AI 同事仍致力于研究不确定性。有些研究圈子继续研究诊断，而不关心问题的因果关系。他们想要的只是得到好的预测和诊断结果。

举个例子来说，我们今天看到的所有机器学习的工作都是在诊断模式下进行的——比如说将对象标记为“猫”或“老虎”。他们不关心干预；他们想做的只是识别一个对象并预测它将如何发展。

当我开发出用于预测和诊断的强大工具时，我感觉自己像一个叛徒，因为我知道这仅仅是人类智能的冰山一角。如果我们想要机器推理干预措施（“如果我们禁烟了会怎样？”）和内省（“如果我读完了高中会怎样？”），我们必须引用因果模型。关联是不够的——这是一个数学事实，而不是我个人的想法。

当我深入了解深度学习相关研究之后，我发现几乎所有研究都只停留在关联这一层——曲线拟合。这听起来像是亵渎，即 深度学习的所有令人印象深刻的成就只是为数据拟合一条曲线。从数学层次结构的角度来看，不管操作数据的方式多么巧妙，以及在操作时写入的数据是什么，它仍然只是一次曲线拟合练习，复杂且平庸。

不，我对机器学习印象深刻，因为我们不能指望曲线拟合来解决这么多问题。事实证明，机器学习可以。但我说的是未来——接下来会怎样呢？我们会有一个可以计划实验，并找到未解决科学问题答案的机器人科学家吗？这才是下一步。我们也希望与一台机器进行一些有意义的沟通，有意义是说符合我们的直觉。如果你剥夺机器人关于原因和结果的直觉，你和它们永远不会有真正意义上的交流。机器人无法像你我那样表达“我应该做得更好”。我们因此失去了一个重要的沟通渠道。

我们必须为机器配备环境模型。如果一台机器没有现实的模型，那么你不能指望机器在现实中表现得很聪明。第一步，我猜可能会在 10 年内发生，人类将会编程具有理解和概念能力的模型。

下一步，机器将自行假设这些模型，并根据经验证据对它们进行验证和改进。这就是科学；一开始我们认为地心说是真理，到最后却将日心模型奉为圭臬。

机器人也将相互沟通，并解读这个隐喻模型的假想世界。

AI 研究目前处于分裂状态。首先，有人陶醉在机器学习、深度学习和神经网络取得的成就中。他们不明白我在说什么，只希望继续拟合曲线。但是当你与在统计学习以外从事人工智能工作的人交谈时，他们会立即会意。我阅读了过去两个月中关于机器学习局限性的几篇论文。

这不是一种趋势，而是一种严肃认真寻求真相的努力，他们在寻找诸如我们要去向何方？下一步是什么等问题的答案。

我很高兴你没有问我关于自由意志的事情。

机器人一定会有自由意志。 我们必须了解如何对它们进行编程，以及我们从中能获得什么。出于某种原因，进化上这种自由意志是计算所需要的。

你拥有自由意志；进化让我们具备了这种能力。显然，它提供了一些计算功能。

我想第一个迹象是机器人开始进行反事实交流，比如“你应该做得更好”。如果一个踢足球的机器人开始用这种语言沟通，那么我们就会知道他们已经有了自由意志。

“你应该把球传给我，我一直等着你，但你没有！”

“你应该”意味着你可以控制所有驱使你去做你需要做的事，而你却没有做。所以第一个标志就是沟通；接下来是踢球的表现变好。

即一个人的贪婪或不满超越了所有社会标准规范。例如，有人拿出一个类似于软件模块的东西说：“你饿了，所以你有权采取行动来满足你的贪婪或不满。”但其他的软件模块劝告你应该遵循社会法则。其中一个模块被称为同理心（compassion）。当你的欲望超越社会普遍规范时，就是邪恶。

当我们明显发现机器人持续忽略一些软件模块时。当机器人似乎遵循某些软件模块的建议但忽略其他模块时，当机器人忽略人类编程时制定好的行为规范，或本应从过去经验中学习的那些模块时。如果机器人不再遵循这些规则，那么这就是人工智能犯罪的迹象。