Facebook、微软、谷歌三大师齐聚首，共同探讨人工智慧发

AAAS 在 reddit 上组织了一场问答，Facebook 人工智慧研究院 Yann LeCun，微软研究院院长 Eric Horvitz， Google 研究总监 Peter Norvig 共同出席此次活动，回答了观众提出的一系列问题，包括如何研究更通用的人工智慧，如何看待深度学习热，AI 的下一个突破点，量子计算是否会对 AI 产生影响，用户的安全隐私问题等。本文选取部分内容，编译整理如下。

Q：现在，为了让 AI 在围棋中战胜人类选手，或者使用深度学习解决特定的科学任务，我们投入了很多人力、物力。取得的成就虽然很棒，但 AI 能解决的问题极其有限。能否找到一种苏格拉底式的 AI，能阐明它胜任的所有任务背后的原理。目前不将上百万种特定的 AI 组合在一起，你没法构建一个通用的 AI 系统。如何将只能解决特定问题的人工智慧转为更通用的人工智慧？

Yann LeCun：在我看来，让机器通过观察来学习预测模型是 AGI的最大障碍。这并不是唯一方法。人类婴儿和许多动物似乎通过观察世界、与其互动得到一种常识。我的直觉是，大脑中很大一部分相当于预测机器，它训练自己去预测它所能预测的一切。

可以用预测模型计划和学习新的任务，这一过程中只需与世界进行极少的互动。目前的「无模型」RL 系统，像 AlphaGo Zero，需要与「世界」进行大量的互动来学习。这种系统在围棋和象棋上都做得很好，因为这里的「世界」很简单，是确定的，而且可以在多个电脑上同时高速运行。与这种「世界」进行互动是可行的，成本极低。但这在现实世界中行不通，你不可能为了让系统只是学会不在悬崖边开车，而让它在悬崖边开无数次车。大脑中的模型告诉我们，在悬崖边开车是个坏主意。我们只需要一次就知道这个道理了。而如何让机器来学习这样的模型？

Eric Horvitz：是的，可以这样形容最近一系列取得胜利的 AI 系统——聪明而又片面的「学者」。人类智力背后存在着无数的未解之谜，我们并没有取得多大进展。包括「人工智慧」，其背后也存在一系列亟待解决的问题。这些问题中，包括人们如何在开放的世界中以一种「无监督」的方式学习，人类「常识」背后的机制和原理，以及人类是如何轻鬆将事情进行归纳总结的。

目前有几个研究方向可以回答这些挑战，其中包括不断推动在特定领域和某些应用领域的研究，那里一定会出现突破。然而，我认为我们需要追求更通用的人工智慧。

方法之一是採用综合人工智慧：我们是否能将多种能力整合起来，探究整合过程中的需要解决的难题。

另一种方法是不断推动 DNNs这种核心方法的发展，并追求更通用的解决问题的方法。我认为这一领域的突破很难实现，但将非常有价值。

下面这篇文章是关于通用 AI 框架的一些有意思的发展方向： http://erichorvitz.com/computational_rationality.pdf

Q：目前，很多关于机器学习的研究都转向了深度学习。

这会减少机器学习研究的多样性吗？

为了支持深度学习研究，其他如机率图模型、支持向量机等的研究会被抛弃吗？正如 90 世纪的深度学习一样，也许现在这些表现不好的模型在未来会表现得很好。

Yann LeCun：随着我们在 AI 上取得进步，我的感觉是深度学习只是解决方案的一部分。在复杂的图形中集成参数化模块并从数据中优化参数的想法并没有过时。从这个意义上说，只要我们还没有找到不需要使用梯度来优化参数的好办法，深层学习就不会消失。也就是说，正如我们今天所知道的那样，深度不足以构成「完整」的人工智慧。我一直喜欢说定义动态深层结构的能力的能力可以将深度学习推广为可微编程方法。

但事实上，我们至少遗漏了两件事：可以推理的机器，而不仅仅是感知和分类，机器可以通过观察世界来学习，而不需要人类策划的训练数据，不需要与世界进行太多次互动。有些人称之为无监督学习，但这个短语太模糊了。

我们需要机器学习的一种方式是学习人类的婴儿和动物：他们主要通过观察来建立世界模型，并且有非常少量的互动作用。这是下一个十年的挑战。

至于问题深度学习和图形模型之间没有对立。你可以这样使用图形模型，比如因子图，其中的因子是整个神经网路。这些是正交概念。人们曾经在深度学习框架的基础上建立了机率规划框架。例如 Uber 的 Pyro，它是通过 PyTorch 建立的。

事实证明，在图模型中使用反向传播进行推理是非常有用的。当数据匮乏并且可以手动特徵化时，SVM、核方法、树模型等更好用。

Eric Horvitz：人们对于深度神经网路在预测任务和分类的能力感到很兴奋。将其应用于对象辨识、语音辨识、翻译等的準确率不断提高。然而，AI 是一个宽广的领域，有着大量有前途的分支学科——并且 AI 的机器学习分支也还有着大量的分支。

我们需要继续开发有潜力的 AI 技术，包括机率图模型、决策理论分析、逻辑推理、规划、算法博弈论、元推理和控制论等已有的丰富成果。我们还需要将领域进行扩展，例如将有限理性模型推广到开放世界中研究智能体。

在微软研究室，我们在 DNNs 上付出了不少努力，投资更广泛的 AI 项目。我们也对如何结合逻辑推理、DNNs 和其他的机器学习感兴趣。例如，你可以看看我们用 DNNs+逻辑来自动编程的例子。

Q：你认为深度深度学习只是一时的潮流，还是长期的趋势？虽然我了解到基于深层学习的模型使得电脑视觉和 NLP方面有了巨大的改进。你认为深度学习是解决视觉和 NLP 问题的模式吗？或者，不久就会有新的範式出现？

Peter Norvig：我认为「深度学习」这个品牌已经创造了很大的价值，因此不管基础技术有多大变化，它还会维持很长一段时间。即使 CNNs和 ReLUs 兴起，我认为「深度学习」这个名字还将持续。

至于基本概念或方法，我认为我们在模式匹配问题上做得很好，但在关係推理和规划方面做得并不好。我们可以做一些抽象的形式，所以我们需要大量的新思想。

Q：我想知道是否有人试图设计一种模仿情感的奖励系统。我相信人工智慧系统必须与世界有某种联繫，「情感」是真正把我们与环境结合在一起的黏着剂。我正在想像 AI 通过完成一项任务能达到的某种状态。例如，我们有可以打败国际象棋大师的电脑，但我们能拥有想要赢的电脑吗？一个想法可能是分割数据，如果完成了一个任务，就会打开一个分区。所有的生命形式都通过一种奖励制度进化。

Peter Norvig：事实上，AlphaGo 等系统在围棋对弈以及其他游戏中取得的成果，主要来源于：一个系统的奖励，我们称之为「强化学习」。Alpha Zero 只从输掉一盘游戏或者赢得一盘游戏中获益，没有任何预先的专家知识，有的只是游戏的规则和「尝试更多能获得积极奖励的行为，更少获得消极反馈的行为」。所以，从某种意义上说，Alpha Zero 唯一「想要」的是赢。在另一个意义上说，它不想任何东西，它没有感受或好或坏的事情的感觉，它只是想从计算上获得最大的比分。

Q：很多传统统计模型的价值在于：我们能清楚地知道模型在做什幺，它们是如何得出结论的，在推断/预测时的不确定因素。深度学习的方法在预测方面也很不错，但它们往往是「黑箱子」。对于 ANNs等模型的内部机制，我们有哪些了解？了解模型的内部机制是否重要？我认为在做重大决策时，了解模型的内部机制极其重要。

Peter Norvig：这是当前研究的一个重要领域。你可以从 Big Picture blog 或 Chris Olah 的部落格中看到 Google 是如何来进行这一研究的。我认为理解上的困难更多的是来自于问题本身，而不是解决方案。

当然，二维线性回归极易理解，但它不适用于非良好线性模型问题。同样地，随机森林或者标準的 Python/Java 代码中「if/then」规则很容易理解，但是如果这些规则真的是一目了然的话，代码中就不会有 bug 了。

我想说的不仅仅是「理解」，还有「可信度」。我们什幺时候可以信任一个系统？特别是当系统做出重大决策的时候。有很多方面：

……

这是一个很伟大的研究领域，希望未来看到更多的工作。

Q：你认为 Capsule 网路怎幺样？除了 MultiMNIST，你们在其他资料集上有成功应用过它吗？当输入更多资料时，CNN 和它相比如何？

Yann LeCun：将胶囊网路应用于大规模的资料集是个不错的想法，Geoff Hinton 已经思考了几十年。他一直在寻找将其成功用于 MNIST 上的方法，如果想要将其成功用于 ImageNet 或其他资料集上，也需要花费很多的精力。此外，也不知道其在性能上是否存在优势。胶囊网路可以看成是一种具备特殊池化方式的捲积网路。

Q：你们在研究 AI 时发现最吓人的事情是什幺？

Yann LeCun：这项研究没有什幺可怕的。

可怕的事情只发生在人们试图过早地部署 AI 系统时。特斯拉自动驾驶功能超酷，但是，作为一个司机，你必须理解它的局限性，以便安全地使用它。

Eric Horvitz：对于如何在安全关键领域部署人工智慧，我们有一些自己的理解——例如，当机器和人员协同工作时，我们努力实现「人工智慧协作」。

我们在 AAAS 会议上有讨论这个话题：

https://aaas.confex.com/aaas/2018/meetingapp.cgi/session/17970

Q：当人工智慧机器人能够比任何一个团队更好地预测/引起市场波动，然后以闪电般的方式买卖股票、产品、土地等，会发生什幺？我们能採取什幺样的保障措施来防止 AI 的一些先驱者称霸世界市场？

Peter Norvig：多年来，有大量交易者将先进的统计模型运用到股票市场，取得了不错的成果。无论你有多聪明，你始终不知道还有多少空间，能让你把事情做得更好。就我个人而言，我认为我们应该提前几年就採取行动，通过控制交易的速度/或在交易上施加更高的成本，来抑制量化交易的效果。比我更了解交易的人或许有更好的保障办法，但我不认为 AI 从根本上改变了规则。

Yann LeCun：你越能準确地预测的市场，你就使得市场越难预测。完全有效的市场是完全不可预测的。因此，如果市场完全由一系列完美的自动交易系统组成，每个人都会得到完全相同的回报。

Q：量子计算的进步会驱动 AI 研究吗？如何看待二者在未来的融合？

Peter Norvig：目前我想做的很多事情量子计算都帮不上忙。我经常想要通过一个相对简单的算法来处理海量文本，而量子计算对此并无帮助。不过，量子计算可能有助于更高效地搜寻深度网路的参数空间。我不知道是否有人做出了这样的量子算法，不需要考虑如何用硬体来实现，如果在理论上可行也可能会有所帮助。

Yann LeCun：驱动？当然不是，量子计算对于 AI 的影响如何，说实话，我目前还不清楚。我认为，它在短期内不可能对 AI 产生影响。

Q：许多人在使用搜寻引擎和 Siri，Google Home 等语音助手时都会担心隐私洩露。当 AI 成为我们生活中密不可分的一部分时，有什幺措施可以使得用户在使用 AI 的同时保护其行为资料？

Eric Horvitz：我能理解这种担心，我们公司的员工对于终端用户资料採取了严格的匿名措施，资料短暂停留后就会被删除，并且为用户提供了多种方法来观察，控制和删除资料。我相信 Google 和 Facebook 也採用了同样严格的方法，对此我没有什幺不满。

随着欧盟发布的「一般资料保护条例」开始实施，对于用户资料的管控会越来越严格。在保护用户隐私方面的努力让人觉得很棒，例如私下训练 AI 系统和为用户提供更多选择。在几年前 IAPP 的会议上曾讨论过后者的解决方案，可以在这里查看

Q：这些发展 AI 的公司背后的动机是什幺呢？在我看来用户并不像 AI 公司那样关心 AI。一些公司借助 AI 蒐集手机用户资料来盈利，更是激化了用户与公司之间的矛盾。如何让像我这样的用户相信这些产品不是打着 AI 的旗号，实际上是为了收集用户资料？

Peter Norvig：你提到了数位助手，我认为这个技术明显是站在用户一边的，你的数位助理将是你的——你可以训练它去做你想做的事情；在某些情况下，它只会在你的设备上运行你的私人资料，没有其他人可以访问它的内部工作。它将作为你的代理人，你不用直接去一家大公司的网站，希望他们能提供给你有用的东西，而你的代理人会整理这些产品，确保你得到你想要的东西。

Yann LeCun：这对于我们科学家来说不成问题。真正的问题是「你信任你的资料吗？」你相信你的手机公司，你的 ISP，你的手机/操作系统製造商，你最喜欢的搜寻或社交网路服务，你的信用卡公司，你的银行，你使用的每一个行动应用程式的开发者吗？看看它们的资料政策，选择你可以信任的产品，确认他们不向第三方销售你的资料。在资料上遵从伦理并不会带给公司利益冲突，因为从长远来看，遵从资料伦理是唯一的好政策。

Eric Horvitz：我同意彼得的观点。在构建个人代理方面，存在着一些有趣的可能性，这些代理只根据他们所服务的人的偏好共享资料，并且这些代理只会根据所有者的指令行事。这是一个不错的研究领域。

Q： 我是本科新生，几年前我就想在 AI 领域工作，但是除了我的教授们我没有任何的资源。我的学校很小，要参加招聘会都得去别的城市，我如何能与 AI 领域产生更多的联繫呢？

Peter Norvig：我建议你自己通过课程或论坛线上交友继续学习。明显地，要凭藉小学校的项目，找到 AI 方面的工作很难。但是，你可以在一家大公司获得软体工程师的职位，一旦你到了那里，表达你对 AI 的兴趣，在工作中学习，密切关注你所能从事的与 AI 相关的项目，并且很有可能在更短的时间内取得博士学位，你将成为公司中一个公认的人工智慧专家。

Q：我是一名学习核工程/等离子体物理学研究生，正计划转向 AI 研究。

关于 AI 领域：AI 研究的下一个里程碑会是什幺？目前需要攻克哪些挑战来达到这些里程碑？

关于专业技能：我需要具备哪些关键技能/知识？刚入门的人该如何学习？

Yann LeCun：深度无监督学习、可以进行推理的深度学习系统是下一个里程碑。无监督学习需要面临的挑战：学习世界的层次化表徵，以理解变化的解释因素。如何在不完全可预测的世界中进行预测，这是机器需要学习的。

关键技能：良好掌握数学、熟练的程式设计技能、科学方法论。总的来说，创造力和知觉也很重要。

Peter Norvig：我对能真正理解人类语言、能进行实际对话的助理很感兴趣，这将是很重要的里程碑事件。其中挑战是结合抽象推理和规划将模式匹配，目前我们只能在非常形式化的领域，如围棋中才能做的很好，而在现实世界中还远远不够。

作为物理学家是你的一大优势，你的数学背景、实验、建模和处理不确定性、误差的思维很适合学习 AI。我见到过很多物理学家在 AI 领域做得不错。