Natue发表耶鲁大学新研究：随机AI帮助人类提高决策效率

选自Science

作者：Matthew Hutson

机器之心编译

参与：黄小天、李泽南

无法预测的人工智能听起来总是可怕的。但耶鲁大学的一项研究表明，随机运行的计算机程序可以帮助我们协调自己的行动，更高效地完成任务。这个方法可以缓解城市交通压力、改善公司运营策略，甚至帮助人们维护婚姻大计。

如果你想要做好一件事，仅仅招募合适的人来做是不够的，你还需要合理地分享计划。最常见的方法是自上而下的控制：由一个领导来控制任务组，告诉所有人要做什么。一个更违反直觉的想法是让人们自由决定哪些小工作更适合自己，并不断切换。根据被称为复杂系统理论的看法，这样可以把系统推向全局比对。例如：两个人在谈判陷入僵局时，其中一个人突然提出了一个看起来疯狂的建议，在这之后两人很可能就会达成一个新的解决方案。

为了搞清人工智能是否可以帮助人们协调行动，耶鲁大学社会学家、系统工程师 Hirokazu Shirado 和社会学家与医师 Nicholas Christakis 让志愿者们进行了简单的在线游戏。在一个由节点连接而成的网络中，每个人控制网络中 20 个节点中的一个，节点被标记为绿色、橙色和紫色，人们可以随时改变自己节点的颜色。游戏目标是让所有相邻节点的颜色都不相同，但是每个玩家都只能看到自己节点和与自己相连接节点的颜色，所以有时候解决与邻居之间颜色的冲突会造成邻居和邻居的邻居之间的冲突。如果这个网络在 5 分钟内完成了目标，所有玩家都会得到额外奖励。研究人员共招募了 4000 名玩家，并开展了 230 次随机生成网络的实验。

在这些实验中，有一些网络是由 20 个人控制节点，另一些则是由 3 个位于正中或连接良好的固定节点开始，试图向周围扩展找到最终答案（每种网络都有多种解决方法）。一些网络中有 17 个人和 3 个人工智能体分别控制，或者通过一些简单的人工智能程序。一些网络中，机器人控制的节点被放在中心，一些网络中则放在外围，一些网络中它们的位置被随机分配。在每次实验中，人工智能的行为都会受到噪音、随机性、其他节点选择的影响。在一些网络中，每过 1.5 秒，人工智能都会选择与相邻节点中颜色最为不同的颜色——这在人类玩家的眼中是一个不错的策略。在一些网络中，人工智能遵循这个策略，但在 10% 的游戏中，机器随机选择颜色。而在另一些游戏中，它们在 30% 的时间里随机选择颜色。

在大多有人工智能参与的网络中，最后的游戏成绩与 20 个人类玩家是相近的，但有一种例外——在人工智能体负责中央节点，并随机变换颜色的情况下，网络的表现比完全由人类玩家控制要好 10%。在这种情况下，整个游戏更有可能在时限之内完成（85% 的成功率，而全部人类玩家为 67% 成功率）。而中位数时间差距则更大：103 秒对 232 秒，该研究的成果已被发表在最近一期《自然》杂志上（论文：Locally noisy autonomous agents improve global human coordination in network experiments）。在实验中，0% 或 30% 噪音并不能让人工智能超过人类，这说明随机性反而可以在一些情况下为我们带来帮助。

此外，机器辅助网络的表现在一些已经开始的游戏中也有体现——三个由人工智能接管的节点可以适应已开始的游戏。而鉴于色彩调换网络需要自上而下地控制，机器生成的随机性结果智能在局部发挥作用，所以只能达到与人类相同的成绩。「我们也很震惊」论文作者之一 Christakis 说道。「对我来说这是一个美妙的结果。」

进一步的分析表明，略受噪音影响的人工智能对于部分网络有益，并可为他人树立榜样。在观察人工智能表现后，一些人也开始发出「噪音」——偶尔决定选择与邻居相冲突的颜色。人工智能的噪音水平影响了人类的噪音水平——即使不相邻的节点也是如此，影响呈连锁反应。

「机器人通过帮助人类来为自己谋利，」Christakis 说道。「如果没有机器人带来的噪音，人们通常会在游戏的某个阶段卡住——每个人都选择了与邻近节点冲突最小的颜色，但整个网络仍有冲突。在某种程度上，这个时候机器就承担了引导功能。如果你看到邻居（无论人还是机器）经常更换颜色，你或许也会决定这样做。」他指出，像 AlphaGo 这样高度复杂的人工智能程序可以帮助人们提高围棋水平，而「愚蠢的 AI」也可以让人类学到不少东西。

例如，存在一些关于增加和谐-随机突变的扰动的范例，这使得进化产生了复杂的生物体。美国辛辛那提大学心理学家 Michael Richardson 说：「这是一项很酷的小研究，结果与你从复杂系统理论那里获得的期待相当一致。」加利福尼亚理工学院的经济学家 Colin Camerer 看完了论文，并赞同研究者使用简单但严谨的方法生成大量数据以证明随机性也可以为社会带来秩序。但是他指出，正是由于模型的简单性，很难看清系统中发生的事情的相关类似物。研究者希望扩展工作以涵盖更复杂更逼真的协作，也许是在人与机器之间，并带有军事或产业目的。

除了引入噪音之外，机器人帮助人的方式有很多。我们可以想象聊天机器人介入关系治疗，引导夫妻达成和解而免受愤怒和厌烦的牵连。最近的一项研究发现，推特上那些扮演真人的机器人能让种族主义者感到羞辱，进而减少歧视言论。Shirado 表示，机器人善于提出不同意见，因为它们可以忍受愤怒。他拿自己过去在索尼工作的经历举例子，其中一个领导者推动了一款他们不想要的视频游戏项目，这个项目后来成了 PlayStation。

Christakis 提到了他的一位富有的好友，很多人认为这个朋友不易相处。Christakis 说：「朋友说他从来没有被邀请出席董事会，因为他很反叛。当我给他看了这篇文章之后，他说这棒极了，正好解释了他的行为方式，这就是为什么像他这样的叛逆者应该出现在每家公司的董事会上。」

论文：本地噪音自动智能体通过网络实验提升人类整体协调水平（Locally noisy autonomous agents improve global human coordination in network experiments）

链接：https://www.nature.com/nature/journal/v545/n7654/full/nature22332.html

摘要

群体协调面临着一个亚优化问题，并且理论表明一定程度的随机性有助于取得整体最优。下面是我们的研究实验，它涉及一个网络协作游戏，其中人类群体与自动软件智能体（被称为机器人）相互动。主体（*n* = 4,000）被嵌入到包含 20 个节点的网络中（*n* = 230），对于每一个节点，我们有时添加 3 个机器人。机器人通过不同水平的行为随机性和不同的测量学定位被编程。我们表明，通过低水平随机噪音行动并被放置在中心位置的机器人可明显提升人类的整体表现，并把解决时间的中位数加速了 56%。当协调非常困难时，情况更是如此。行为随机性不仅仅使机器人连接起来的人的任务更容易，还通过影响人类之间的游戏，从在这些异构系统的整体协调中创造进一步的级联效益。