与「长尾理论」作者Chris Anderson午餐谈话笔记

 

对我个人来说，最有意思的是第二天午餐席上，与「长尾理论」作者安德森（Chris Anderson）相邻而坐，畅谈了一个多小时与AI相关的彼此看法。由于发现安德森似乎对于我的观点很感兴趣并还一路作了笔记，因此觉得或许值得把我们谈话内容记录下来与大家分享。

 

编按：7月19日与20日连续两天，参加「2018 Digital Innovation Forum数字创新论坛」，有机会与「长尾理论」作者克瑞斯・安德森（Chris Anderson）在午餐时间交换彼此对AI等问题的看法，觉得很有意思，所以把它做成纪录与大家分享。

 

「2018 Digital Innovation Forum数位创新论坛」是ABAC（APEC企业咨询委员会(APEC Business Advisory Council)）的台北分会与今年11月的APE年度会议主办国巴布亚新几内亚的分会，所共同出面办理的研讨会；会中请到了许多网络技术与数字经济的成功创业家与思想家，分享他（她）们的经验与看法，非常精彩，从中却可学到很多新观念。第二天一早，AppWorks创办合伙人，也是TiEA理事长的林之晨（Jamie Lin），把台湾比喻为“Ｗakanda of Asia”，用一些简单具说服力的数字，相信可让国际友人对台湾在网络与数字经济发展上的实力印象深刻。连续两天的会议，到了第二天听众仍然几乎满座，就可视为会议成功的指标。

 

对我个人来说，最有意思的是第二天午餐席上，与「长尾理论」作者安德森（Chris Anderson）相邻而坐，畅谈了一个多小时与AI相关的彼此看法。由于发现安德森似乎对于我的观点很感兴趣并还一路作了笔记，因此觉得或许值得把我们谈话内容记录下来与大家分享。

 

我们的谈话从我请教他「量子计算的空前计算能量，人类将来要如何使用它」的问题开始。他回说「这个问题目前确实还没有答案；过去的历史一再证明，科技人员都是把技术可能性变成可行性后，往往不知道也无法处理如何应用的问题，因此剩下的问题就交给创业家去发挥想象力了。」不过，他认为量子计算怎么说都还比较单纯，AI的问题反倒比较严肃。于是我们的话题就切换到AI。

 

我对AI的过去印象

 

我对AI的接触，始自30余年前在美国写博士论文期间，因回顾研究文献的关系，曾经浅尝即止的经验。那时AI的名词刚被提出，它的主要内容还是从麻省理工学院维纳（Robert Wiener）教授控传学（cybernetics）或「计算机如何仿真」的观点下手，基本上是属于「rule-based」的一套概念。

 

不过，因为当时计算机的计算能力、储存容量等客观条件的限制，在实作上难以获得重大进展，所以热潮很快就消退了。一直到最近几年，因为资通讯能量与容量，以及相关的设置与操作成本早已不可同日而语；而云端、大数据、IOT、神经网络科学（甚至量子计算科学概念）的快速发展，累积了完全超乎当年想象的成果，所以人们终又重新找回AI这个概念，来取代前不久还常使用的机器人学（robotics）的说法，用来代表最新运算与储存科技综合运用的名词。

 

在这次研讨会中，也有人提醒AI这两个字，不应翻成Artificial Intelligence，而应翻成Augmented Intelligence；后者的翻法，我认为比较有「人本」思维，值得大家反思。

 

与安德森AI话题的切入 — — Local vs. Global Optimum

 

AI可从许多不同的角度切入来讨论。由于我自己长期探索的学术问题之一是决策 — — decision(名词)与decision-making动(名)词 — — 因此就用「决策不只是选择」这一观点与心得，拿来作为我们两人讨论AI这一议题的破题话头。
我说：东西方大学不论是哪个学院，对于决策都把它简化为选择（choice），但这种定义下的决策都只是从已知（已经给定，given）的选项（choice set）中去做抉择，而忽略了更高层次的思考。例如，你如何确认这组给定的选项就是最值得的候选选项，你该不该去思考「是否还有其他更佳选择组合（choice set）的可能性」的问题？

 

听了我的质疑，安德森就在纸上画了一条起起伏伏的曲线，并说过去要找这条曲线上的最佳解（optimal solution，不论是最低或最高点），都是从某一个特定的点去前后搜索，检视曲线斜率是往上或往下的方式去找答案 — — 按：决策学大师赛蒙（Herbert Simon，自取的中文名字为司马贺）针对上述事实与限制，就提出「决策所做的选择只是在找相对的「满意解（satisficed solution）」，而不是最佳解」的说法；因为没有人有足够的时间与资源去探索整条曲线的最低点或最高点的所在位置，而只能在可能或可行范围内找出一个local的最佳解，又因为他永远不知道那是不是global最佳解，所以在这种情形下。

 

理论上，决策者充其量只能声称这时找到的local最佳解为「满意解」 — — 但现在，安德森说计算机是一次就从整条曲线上所有的点同时下手，去判定它们的属性，然后让这些被判定出来的属性直接互相沟通，这样就可让符合「最佳解」标准的答案自然涌现（emerging）；于是这时所选出来的点，就不再是local最佳，而可确定它就是这条曲线的global最佳了。

 

安德森用相当于大数据的概念，似乎是针对当年司马贺所提出「满意解」概念背后的困境（无法判定是否为global最佳的问题），提出了解答。但我则指出「你画的这条曲线，在我来看只代表一种特定的可能性空间（a specific given solution space）而已，这个solution space中的global optimum可能也只是更大solution space中的local optimum。我解释说：这不是理论上的强辩，而是实务上的经验。因为在现实世界的决策情境中，幕僚提的甲乙丙案，很可能被决策主管「退回重拟」 — — 被要求去扩大solution space以发掘出更好的选项；甚至被要求从完全不同的思考角度去探索新的solution space，然后再从中寻找值得考虑的选项。

 

决策不只是针对已知Solution Space选择最佳解

我说一旦进入上述的决策情境时，决策就已经不再是「单纯地针对既有选择空间内的选项去作抉择」了，而是升高了一个层次，进入到「先扩大或改变选择空间」然后再进行选择的「先谋后断（design first then choice）」层次。从information processing的观点看，进入属于alternative design的「谋」，与过去只在某种choice criteria之下，针对已知的solution space来找出 ”optimal” solution的机制与思维完全不同。

 

因为实务上「先谋后断」的决策问题型态确实存在，所以AI对于这种升高一个层次问题是否已经具备处理能力，就会变成一个值得探讨的问题。安德森基本同意目前的AI在这方面还有很大努力空间，也同意我所提这一议题的适当性legitimacy。

 

先谋后断之外的决策议题

 

我接着提出，在我的决策研究中，除了「先谋后断」外，决策还有更高层次的入手点必须考虑，那就是管理上常提醒人们的「做对的事重于把事做对」的问题。

 

因为「先谋后断」只是在「已知的问题定义（given problem definition）下寻找答案」，仍然无法避免 ”find a right solution for a wrong problem”的窘境；所以决策者对于重大决策再「先谋后断」之前，还须先检视「问题定义」是否妥适的问题。我还接着简介我所提出的决策「见识谋断（intelligent, conception, design, choice）」四部曲的架构。

 

而针对其中「识（定义问题，conception），我特别提出自己处理「苏花改」案的经验作为「无解的问题有时可通过问题的重新定义找到解决的对策」的案例 — — 苏花公路的改善，在「发展派」与「保育派」20余年对抗的僵局下，使苏花高速公路计划完全无法推动，并且也使苏花公路山区路段的交通安全问题无从解决。后来交通部把问题重新定义为「改善苏花公路山区路段的安全性」以达成「给花东民众一条安全回家的路」作为目标，亦即，把原本「发展 vs 保育」「要做 vs 不做」的政策「原则」之争，转化为「维护社会公平与安全 vs 环境保育」的「如何做」的工程「技术」问题；使僵持不下的政策困局，因而取得双方共识，使不安全的苏花山区公路改善工程终于得以顺利推动，并逐段完工通车中。

 

安德森同意用这个案例来说明「决策在谋断之上，还存在定义问题（conception）更高层次的问题」具有说服力；甚至佩服我们当年在可想象的困难情形下，能想到用这种方法来解决政治难题。

 

对于AI的其他三点观察

 

我顺着以上的话题，提出了以下三点观察与看法。

 

（一）从AI技术发展的角度，我强调因为对人类决策来说，不论是谋或识（design or conception）都涉及如何thinking outside the box发挥创意的问题；所以如何针对人类所具有以不同方式来定义问题的创意、创新能力，来探索AI研究的方向，是值得进一步思考的问题。

 

(二)从上述讨论中，我们也发现任何决策必须按照决策情境，先做出「决策的决策」问题；亦即：决策者进行实际决策时，必须先在「见识谋断」四个不同层次间，做出究竟该从哪个层次入手做决策的问题 — — 这一决策可称为super-ordinate decision或meta-decision；这一「决策的决策」如果误判，后续做出的决策就不可能妥切。AI系统「是否」或「如何」具备这种能力，应该是一个未来的努力空间。

 

(三)另一更严肃的问题是：「见识谋断」的每一层次其实都由「事实前提、价值前提」两类信息所构成。

 

而其中的「价值前提」问题，投射回AI领域，就成为「如何让AI系统具有价值判断或价值抉择能力？」甚至是「如果AI系统通过深度学习自发演化出价值观，并从而做出自己的价值取舍，那么到时我们该如何面对这种决策的后果？」。这些都是在AI后续发展过程中，我们必须未雨绸缪，事先想清楚对策的问题。

 

安德森同意以上三个观点反映的都是重要问题，并也都属于AI未来的研究议题与可能发展空间。

 

系统论的典范危机

 

在与安德森对谈过程中，我也提到今天不论东西方大学的哪一种学院，所教授的系统论（system theory）都还是牛顿机器典范（Newtonian mechanical paradigm），完全无法处理具生命力系统的演化（evolution）问题；而未来AI将普遍具有「深度学习」能力，并逐步进入「准生命演化」的境界，牛顿典范的系统论早已不合时宜、不敷应用；因此我们今天亟需一套新的系统论典范，来面对这种新的需求。对此科研界需要新系统论的说法，安德森表示同意，并说这是很重要的基本问题。

 

我进一步跟他说，我根据复杂系统（complex system）的科研成果已经整理出一套，以自组织概念为核心，可用以解释生命系统的创生、存在、演化等生命现象的系统理论，并已写入我最近出版的《管理》书中。他对此深感讶异与高度兴趣。不过，我跟他说目前该书虽然还只有中文版，但只要有兴趣，不妨碍我们保持联络、继续讨论。

 

最后，我们谈到前一天Phil Libin（前EvernoteCEO）所提出AI系统的设计必须遵守的三个原则：Honesty、Decision Revocability、Not applied to Zero-sum game。安德森同意这些原则很重要，但如何落实是更根本的问题。我认为Libin提出的这些原则是未来AI技术发展与应用上必须秉持的人本思维精神与深度反省的态度；至于应以何种方式将它们落实，则是大家必须共同思考的问题。

时间:2018-08-01 23:59  来源:    转发量:次