深度学习之父：为什么我们需要确保AI不仅仅造福富人？

马丁福特在2015年出版的一本《机器人的崛起》一书引起了轰动，该书详细介绍了自动化的许多加速趋势，以及它们如何影响商业，特别是就业方面的内容。在他的另一本《Architects of Intelligence: The Truth About AI from the People Building It》书中，他试图精确阐述副标题所述的内容。

本书集结了对人工智能领域最知名人士的深入访谈，成功地采访了全球23位最有经验的人工智能和机器人研究人员，向他们询问人工智能的现状，人工智能如何应用于解决有用的问题，以及这对于机器人和计算的未来意味着什么。本文摘取的是其中之一，Geoffrey Hinton，Hinton目前是多伦多大学的计算机科学教授，也是Google Brain项目的一部分，由于他在人工神经网络方面具有很多开创性工作，被很多同行认为是“深度学习的教父”。

下面是一些采访的摘录的节选。

马丁福特：我们来谈谈人工智能的潜在风险。我写过的一个特殊挑战是对就业市场和经济的潜在影响。您是否认为所有这些都可能导致一场新的工业革命并彻底改变就业市场？如果是这样，那还是我们需要担心的事情么，还是说，它是另一件可能被人们夸大的事情？

GEOFFREY HINTON：如果你能够大幅提高生产力并提供更多好处，那应该是一件好事。而它是否是一件好事完全取决于社会系统，并不完全依赖于技术。人们正在研究技术，就好像技术进步是一个问题。但问题其实在于社会系统，以及我们是否会建立一个公平分享的社会系统，或者将所有改进集中在1％的人身上，将其他人都视为草芥对待的社会系统。这与技术无关。

马丁福特：这时候问题就出现了，因为很多工作岗位都是可以被淘汰的 - 特别是那些可预测且易于自动化的工作。社会对此的一个基本的保障就是收入制度，你认同这种做法吗？

GEOFFREY HINTON：是的，我认为基本收入是一个非常明智的想法。

马丁福特：那么，您认为这个问题需要政策上的回应吗？有些人认为应该就此打住，但那可能是不负责任的。

GEOFFREY HINTON：我搬到了加拿大是因为税率较高，因为我认为正确的税收是好事。政府应该做的是建立机制，以便当人们为自己的利益行事时，它会帮助每个人。高税收是一种这样的机制：当人们变得富有时，其他人都会受到税收的帮助。我当然同意，要确保AI让每个人受益，但还有很多工作要做。

马丁福特：你认为人工智能还会带来其他的一些风险吗，比如武器化？

GEOFFREY HINTON：是的，我对普京总统最近所说的一些事情感到担忧。我认为人们现在应该使得国际社会去讨论那些在没有人参与的情况下就杀死人的武器，就像他们对待化学战和大规模毁灭性武器一样。

马丁福特：您是否赞成暂停这种类型的研究和开发？

GEOFFREY HINTON：你不会暂停这种类型的研究，就像你不会暂停神经性毒剂的发展一样，但确实有国际机制试图阻止它们被广泛使用。

马丁福特：除军事武器使用外，其他风险如何？是否有其他问题让您，如隐私和透明度？

GEOFFREY HINTON：我认为用它来操纵选举和操纵选民令人担忧。 剑桥分析公司由Bob Mercer成立，他是一名机器学习者，你已经看到剑桥分析公司已经造成了很大的破坏，我们必须认真对待。

马丁福特：你认为需要有监管吗？

GEOFFREY HINTON：是的，需要很多监管。这是一个非常有趣的问题，但我不是这方面的专家，所以没什么可提供的。

马丁福特：那么全球军备竞赛怎么样？你认为一个国家不应远远领先于其他国家吗？

GEOFFREY HINTON：你所谈论的是全球政治。很长一段时间，英国是一个占主导地位的国家，他们表现得不是很好，然后就是美国，他们表现得不是很好，如果换成中国作为主导，我不指望他们表现得好很好。

马丁福特：你认为我们应该采取某种形式的产业政策吗？美国和其他西方政府是否应该关注人工智能并将其作为国家优先事项？

GEOFFREY HINTON：将会有巨大的技术发展，如果各国不努力跟上科技的发展，那将是疯狂的，所以很明显，我认为应该有很多投资。这对我来说似乎是常识。

马丁福特：总的来说，你对这一切感到乐观吗？你认为人工智能的回报会超过缺点吗？

GEOFFREY HINTON：我希望这些回报将超过缺点，但我不知道社会建设层面的人是否愿意，这是一个社会系统问题，而不是技术问题。

马丁福特：AI人才短缺，大家都在招聘。对于想要进入这个领域的年轻人，是否有任何建议，有没有什么建议可以帮助他们吸引更多的人，并使之成为人工智能和深度学习领域的专家?

GEOFFREY HINTON：我担心可能批评这些基础知识的人不多。Capsules 的论文是说，也许我们做事的一些基本方式并不是最好的做事方式，我们应该抛出一张更大的网络。我们应该为我们正在做的一些非常基本的假设寻找替代品。我给人们的一条建议是，如果你直觉上认为人们正在做的事情是错的，并且可能有更好的事情发生，那你应该遵循你的直觉。

也很可能你是错的，但是当人们在知道如何从根本上改变事情时，如果不跟着自己的直觉走，就会陷入困境。令人担心的是，我认为真正新思想的最富饶来源是研究生在大学中得到很好的建议。他们可以自由地提出真正的新想法，并且他们学到的东西足以让他们不仅仅重复历史，我们需要保留这一点。攻读完硕士学位然后直接进入这个行业的人们不会有什么全新的想法。我想你其实是需要坐下来思考几年的。

马丁福特：加拿大似乎有一个深度学习的中心。这是偶然的么，还是说加拿大有什么特别的地方才产生了中心？

GEOFFREY HINTON：加拿大高级研究院（CIFAR）为高风险地区的基础研究提供资金，这非常重要。Yann LeCun和Yoshua Bengio也都在加拿大，还有很多好运，我们三个人形成了非常富有成果的合作，加拿大高级研究所资助了我们的合作。我们也曾经在一个相对敌对的环境中有点被孤立，直到最近，这种敌对的恶劣环境才有所缓和，这笔资金对我们很有帮助，让我们能够在小型的会议上有更多的相互交流的时间，在那里，我们可以真正发表更多的未分享过的想法。