吴恩达：2020 年，这些 AI 大事件让我无法忘怀.

日前，吴恩达在圣诞节之际回顾了2020年AI的一些重大事件，包括AI应对新冠疫情、数据集存在种族偏见、对抗虚假信息、AlphaFold预测蛋白质三维结构、1750亿参数的GPT-3出现等等，并为大家送上节日祝福。

 

吴恩达寄语：

亲爱的朋友们，在过去的十年中，每年我都会飞往新加坡或香港，与我的母亲一起庆祝她的12月22日的生日。今年，我们则是通过Zoom线上庆生。尽管距离遥远，但我仍然感到很高兴，我的家人们可以从美国，新加坡，香港，香港和新西兰一起线上聚会，并演唱同步性很差的“Happy Birthday To You”。

 

我希望我也可以和大家一起在Zoom上通话，以祝大家节日快乐，新年快乐！

 

节假日期间，我经常想一想重要的人，回顾他们为我或他人所做的事，并默默地表示我对他们的感谢。这使我感到与他们的联系更加紧密。

 

我觉得在我们远离社交的假期中思考这一点非常有价值：谁是您生活中最重要的人，您可能出于什么原因要感谢他们？

无论是面对面的还是在线的，我都希望您能找到属于自己的方式——在这个假期里培养于最重要的人之间的关系。

Keep learning！            

 

1、2020年回顾

 

在过去一年，一种新的具有高度传染性的冠状病毒破坏了人们的正常生活，它所导致的社会裂痕也威胁到了我们的共同利益。

 

在这一年期间，有大量的工程师参与其中，设计了用于新冠肺炎（Covid-19）诊断和治疗的工具、建立了识别仇恨言论和虚假信息的模型，并指出和强调了整个AI社区偏见的存在。

 

但是事情也有轻松的一面：这一年里可以将睡衣一键转换成西装的在家办公工具、GPT-3语言模型、在AI辅助艺术和表演方面的引人入胜的实验。

 

接下来请就让我们一起探讨过去一年我们的艰辛和辉煌。

 

一、AI用于应对新冠疫情

1、AI加快了科学家对冠状病毒疫苗的搜寻，全球的机器学习研究人员争先恐后地利用AI技术来对抗冠状病毒。

 

2、巴黎和戛纳市在公交车站、公共汽车和市场中使用计算机视觉评估了法规的遵守情况。

 

3、多哥政府训练一个模型以识别卫星图像中的贫困地区，然后使用模型的输出指导将救济金分配给最需要的人。

 

摄影：环球影业集团/阿拉米

 

4、聊天机器人提供了合成的虚拟朋友，供被疫情封锁的人们孤独时聊天和调情。

 

5、对于在家工作的人们，视频会议公司训练AI模型来过滤背景噪音并将睡衣变成虚拟的商务正装。

 

6、中国许多机构合作开发了一种可在CT扫描中检测Covid-19的模型，其准确度超过90％。该模型已在七个国家/地区部署，到目前为止，该模型的代码已下载了超过300万次。

 

相关链接：https://www.cell.com/cell/pdf/S0092-8674(20)30551-1.pdf

 

7、美国生物技术公司Moderna，其疫苗于12月份获得美国食品药品监督管理局的批准，它使用机器学习来优化mRNA序列以转化为可以测试的分子。

 

图源：https://www.shutterstock.com/

 

新闻背后：AI可能仍在治疗Covid-19中起重要作用。某非营利组织使用了半监督式平台来筛选14,000种候选抗病毒药物。该系统验证了有望用于动物试验的四种化合物。

 

8、在防范新冠疫情传播中，口罩成为了主力。为了让大众乖乖带上口罩，人们可谓是操碎了心，AI也在这时候帮上了忙。

 

有人开发了一套AI系统，号称能够根据一个人说话的口音“听”出是否佩戴口罩，且检测的准确率已经达到了78.8%。

 

研究人员开发这项技术的初衷是，他们发现，戴上口罩会影响语音的的效果，这是由于肌肉收缩、发声量增加和传输损失引起的。

 

如今，戴口罩已经成为了日常。为了适应全民戴口罩的新环境，许多AI应用也在对自身进行升级。一些企业就开发出了口罩检测模型，可以判断人群中的个体是否有戴口罩，甚至还开发了对戴口罩人脸进行身份识别的模型。

 

我的立场：不是万能药，但这种新型、高病毒性、高传染性冠状病毒的问世已经成为人类利用AI对抗传染病能力的有力试验。

 

二、Deepfake伪造“一切”

当生成对抗网络渗透到文化、社会和科学领域时，它们正悄悄地在网络中充斥着无数的合成图像。

 

图源：Techtalk

Deepfake出现在主流娱乐活动、商业广告、政治活动中，甚至出现在纪录片中，用来替换当事人的真实面貌以提供隐私保护。在喧嚣中，对图像生成器的在线前端的狂潮基本上没有引起人们的注意。

 

受到2019年的“ This Person Does Not Exist”（一个可以生成假的、逼真的个人肖像网络应用程序）的启发，具有幽默感的工程师采用模仿现实世界细节的生成对抗网络（GAN）。

 

例如：

1、经过训练的Google Earth 可以使“This City Does Not Exist”产生大大小小的不存在的定居点的鸟瞰图。

 

AI生成的假的鸟瞰图   图源：http://thiscitydoesnotexist.com/

 

2、“This Horse Does Not Exist” 可以生成各种各样的姿势、品种和状态的马：

 

图源：https://thishorsedoesnotexist.com/

 

3、 “This Pizza Does Not Exist” 生成不存在的披萨，与真实的披萨相比，可能会缺少一些奶酪和酱汁的光泽感。

 

4、用AI生成的不存在的中国山水画，欺骗了众多艺术爱好者。

 

论文链接：https://arxiv.org/pdf/2011.05552.pdf

 

5、用AI生成不存在的雪人：

 

关于GAN的发展、应用和风险等问题，我曾经对Ian Goodfellow进行了简单的访谈。

 

Ian Goodfellow表示，他在GAN那篇论文中就列举了很多未来可能的研究方向，但没有想过域到域的转换（domain-to-domain translation），比如CycleGAN。

 

关于GAN的用途，Ian Goodfellow认为，将GAN应用在医学领域会更有意义，比如为牙科患者设计个性化的牙冠，以及设计药物等等。

 

最后，谈到GAN输出中包含的偏见，Ian Goodfellow表示：“随着GAN生成人脸越来越逼真，GAN可以通过为其他机器学习算法生成训练数据，来抵消训练数据中的偏见。如果你使用的语言在数据中代表性不高，则可以对其进行过度采样。但是，我希望还有其他方法可以解决数据集中代表性不足的问题。”

 

访谈更多内容参见以下链接：

https://blog.deeplearning.ai/blog/the-batch-gan-special-issue-ian-goodfellow-for-real-detecting-fakes-including-minorities-synthesizing-training-data-applying-virtual-make-up

 

 

2、2021年展望

与吴恩达的2020年回顾相呼应，Highland Capital Partners 风险投资家 Rob Toews 对 2021 年 AI 的领域将会发生什么提出了 10 个大胆预测，包含了从学术研究、监管等各个领域。其中两者提到的话题有很多重合的部分，比如Deepfake、GPT-3、AlphaFold等，基于这些事物在今年的关注度，相信读者也不会感到意外，以下节选7个供读者参考。

 

以下内容转载自学术头条

1、Deepfake 骗局将引发广泛的混乱和错误信息

 

Deepfake 技术正在迅速改进和扩散。加蓬和巴西最近发生的事件，反映出了该技术在政治领域具有的破坏力。2021 年将是 Deepfake 内容在美国成为主流的一年，有相当一小部分人最初认为它是真实的。Deepfake 所引起破坏的，很可能就是一个公众人物发表具有争议评论的视频。

 

作为回应，一些政策制定者将加大呼吁力度，认为大型科技公司必须负责监管 Deepfake 技术在其平台上的传播。

 

2、有关联邦学习的学术研究将激增

对于消费者和监管机构而言，数据隐私的保护正成为一个日益紧迫的问题。因此，保护隐私的 AI 方法将继续成为构建机器学习模型的最可持续的方式。这些方法中最突出的是联邦学习（Federated Learning）。

 

 

（来源：Proandroidde）

 

据谷歌学术（Google Scholar）统计，有关联邦学习的学术研究论文数量已经从 2018 年的 254 篇增加到 2019 年的 1340 篇，到 2020 年该领域的论文发表数量达到了 3940 篇。这种指数级的增长将持续下去：到 2021 年，将发表超过 10000 篇关于联邦学习主题的研究论文。

 

3、AI 芯片初创公司将被大型半导体公司超高价收购

专为 AI 工作负载而打造的硅基芯片，是半导体行业的未来。英特尔去年以 20 亿美元收购 Habana Labs 就是对这一趋势的认可。为了防止自身受到干扰，另一家传统芯片制造商将在 2021 年大举收购一家 AI 芯片初创公司。

 

（来源：Designnews）

 

最可能的收购目标：Graphcore、Cerebras、SambaNova

 

最有可能的收购者：NVIDIA、AMD、Qualcomm、Intel

 

4、AI 药物公司将被大型制药公司以超高价收购

大型制药公司已经意识到这样一个事实，即机器学习提供了革新药物发现和开发的潜力。2021 年，一家主要的制药公司将出资收购一家 AI 药物初创公司，将其技术和人才引入到公司内部。

 

（来源：Nature）

 

最可能的收购目标：Recursion、Exscientia、Insitro、Atomwise

 

最有可能的收购方：Bayer、GlaxoSmithKline、Novartis、Bristol Myers Squibb、Eli Lilly、Gilead

 

5、GPT-4 参数将超过一万亿

OpenAI 在 2019 年发布了 GPT-2，它拥有 15 亿个参数，这是第一个具有超过 10 亿个参数的非线性规划（NLP）模型。当时，这被认为是惊人的模型。2020 年，OpenAI 在全球发布了 GPT-3，其参数高达 1750 亿。

 

 

第一个参数超过 1 万亿的模型最有可能来自 OpenAI，并命名为 GPT-4。其他可能突破万亿参数模型大关的组织包括 Microsoft、NVIDIA、Facebook 和 Google。

 

随着第一个参数超过 1 万亿的模型发布，模型 “军备竞赛” 将在 2021 年继续。

 

6、AI 将成为监管机构反垄断调查的重要部分

今年，美国和欧洲的监管机构对亚马逊、苹果、Facebook 和 Google 正式发起了反垄断诉讼。到目前为止，监管机构在阐述针对科技巨头的反垄断案件时，并没有明确关注 AI。

 

图 | 多家公司参加反垄断调查（来源：Venture Beat）

 

在未来的一年里，预计监管机构将开始更频繁地关注、提及 AI，阐述这些公司如何以及为什么不公平地扼杀竞争。核心讨论的地方是，这些公司的数据垄断让它们在开发有效的机器学习算法方面拥有不可逾越的优势。

 

7、生物将继续是机器学习最热门、最具变革性的领域

这是这个列表中最不可预测的部分，同时它也是这个列表中最重要的预测。

 

图 | AlphaFold 解决蛋白质结构问题（来源：Edward Kinsman）

 

无论是在学术研究、创业投资和主流媒体关注方面，生物学都将日益成为应用人工智能影响较大的领域。DeepMind 上个月的历史性 AlphaFold 成就，其影响将需要数年才能完全发挥出来。而当前这些 AI 在生物领域的成果，仅仅是人类通过将计算方法和机器学习应用于生物学奥秘实现成就的开端。

 

原文链接：

https://blog.deeplearning.ai/blog/the-batch-biggest-ai-stories-of-2020-covid-triage-fun-with-gans-disinfo-whack-a-mole-gpt-superstar-imagenet-recall-fda-approvals?utm_source=Social&utm_medium=Twitter&utm_campaign=TheBatch_12.23.20

https://www.forbes.com/sites/robtoews/2020/12/22/10-ai-predictions-for-2021/

 

声明：文章收集于网络，版权归原作者所有，为传播信息而发，如有侵权，请联系小编删除，谢谢！