遇见人工智能 2018-10-07
机器之心发布,来源:AI Frontiers。
第三届美国硅谷顶级人工智能前沿大会(AI Frontiers Conference) 将于 2018 年 11 月 9-11 日在美国硅谷最高级别会议中心圣何塞会展中心盛大举行。美国 AI 界领军人物悉数出席。机器之心专属折扣码:P25SYNC。站在台上的演讲者缓慢而清晰地娓娓道来,所有的 AI 术语在他口中融会贯通,交织在一起,变得简单易懂。认识他的人并不会感到惊讶,因为他就是这些术语背后的人。但令许多人感到惊讶的是,他还领导着一个收入可观的非营利组织,其存在的使命是为人工智能不可避免的到来做好充分的准备。
他,是创立并领导 OpenAI 的 Ilya Sutskever,OpenAI 的目标是希望向所有人开放人工智能技术,并确保它在可预见的未来里是安全可靠的。
创立 OpenAI 以前,Sutskever 经历了一段漫长的旅程。十六年前,他作为一名本科生就读于多伦多大学。当时他对人工智能知之甚少,尽管他对计算机已然很着迷。
在多伦多大学,他遇到了 Geoffrey Hinton——深度学习研究的教授和先驱。Hinton 给了 Sutskever 一个研究项目:改进随机邻居嵌入算法。该项目是他们合作的开始,Sutskever 的出色表现也给 Hinton 留下了深刻的印象。顺理成章的,Sutskever 在攻读博士学位时加入了 Hinton 的小组。
「多亏与 Geoffrey 合作,我才有机会研究我们这个时代最重要的一些科学问题,并追求大多数科学家都非常不理解,结果却是完全正确的那些想法。」Sutskever 在接受多伦多大学采访时说。
AlexNet
2012 年,在 Hinton 的指导下,Sutskever 和博士生同学 Alex Krizhevsky 开发了 AlexNet,它在 2012 年 ImageNet LSVRC-2012 的比赛中脱颖而出。AlexNet 以一种新颖的神经网络架构在 NIPS 亮相,包含五个卷积层和三个完全连接的层。这篇论文被广泛认为是一项真正的开创性工作,因为它首次证明了在 GPU 上训练的深度神经网络可以将图像识别任务提升到一个新的水平。
更重要的是,AlexNet 让 Sutskever 意识到深度学习可以解决任何模式识别问题,只要你有一个深度神经网络训练大量的数据。
2012 年毕业后,Sutskever 在斯坦福大学跟随吴恩达教授读了两个月的博士后课程。然后他回到了多伦多大学并加入了 Hinton 的新研究公司 DNNResearch,这是 Hinton 研究小组的副产品。四个月后,即 2013 年 3 月,Google 收购了 DNNResearch,并聘请 Sutskever 担任 Google Brain 的研究科学家。
Seq2seq 学习
AlexNet 标志了自 2012 年起人工智能革命的开端。然而,许多领域仍未被深度学习算法所开发,例如自然语言处理。当时,卷积神经网络(CNN)使用的神经网络类型与文本等序列数据不兼容。
加入 Google 后,Sutskever 全身心地投入到序列建模问题中,它可以应用于语音,文本和视频,其中的一个非常实际的应用就是机器翻译。
2014 年,Sutskever 与谷歌研究员 Oriol Vinyals 和 Quoc Le 一起提出了 Seq2seq 学习(Sequence to Sequence Learning)。它输入比如一句英文的序列结构,再将其映射到也具有序列结构的一句法文上。
该方法使用循环神经网络(RNN),也就此开启了 RNN 广泛应用于语言任务的时代。他们的研究应用于机器翻译,并且在大型数据集上,其表现优于基于短语的统计机器翻译基线。
Seq2seq 学习允许更少的工程设计选择,并让 Google 翻译系统高效准确地处理大量数据集。它主要用于机器翻译系统,并被证明适用于更广泛的任务,包括文本摘要,人工智能对话和问答。
2015 年,麻省理工学院技术评论将 Sutskever 评为 Visionaries 类别的「35 岁以下创新者」。
TensorFlow
在谷歌大脑团队中,Sutskever 加入了 Google 开源库 TensorFlow 的开发,用于大规模机器学习。
TensorFlow 具有许多便利的功能和实用程序,如今是世界上最流行的机器学习系统。它使用数据流图来表示计算,将数据流图的节点映射到集群中的许多机器上,并与各种计算设备连接,包括 CPU,GPU 和定制设计的 ASIC、称为张量处理单元的 GoogleTPU。
AlphaGo
同样在谷歌大脑,Sutskever 协助了 DeepMind 的研究人员开发了划时代的围棋人工智能 AlphaGo,该系统基于深度神经网络和蒙特卡罗树搜索方面进行训练,并使用强化学习算法自学。
AlphaGo 在 2016 年 3 月的五场最佳对决比赛中击败了韩国围棋大师李世乭,创造了历史。这款机器首次在最复杂的战略棋盘游戏中超越了人类最强大的能力。关于 AlphaGo 的论文于 2016 年在 Nature 上发表,Sutskever 是合著者。
创立 OpenAI
在谷歌,Sutskever 一直不断地思考着长远的未来:当人工智能普及之后会对人类产生什么影响?在人工智能开发的最前沿,他看到了人工智能的能力是如何快速增长的。在不远的将来,人工智能将取代我们的每项工作。当人工智能能为我们做出重大决策(因为它逐渐接管所有责任)时,人类将会发生怎么的改变?
偶然的机会,在 2015 年 7 月的一天,Sutskeve 参加了由 Y Combinator 总裁 Sam Altman 在 Sand Hill Road 的一家餐厅举办的晚宴,在那里他遇见了 Elon Musk 和 Greg Brockman。Brockman 后来在他的博客文章中回忆道,「Ilya 是一位知识和愿景广泛的技术专家,并且可以随时深入了解当前系统的局限性和能力。」
在场的每个人达成了一个共识:人类需要一个组织,一个非营利组织,没有任何竞争激励来削弱其实现人工智能的使命;它还需要世界上最好的人工智能研究人员。
Ilya 对他离开谷歌的选择百感交集。虽然他很享受在 GoogleBrain 的工作,但他想做的更多。2015 年 12 月,他迈出了这一步。
Sutskever 和 GregBrockman(现为 OpenAI 首席技术官)共同创立了 OpenAI,得到来自 Elon Musk,Sam Altman 和 LinkedIn 创始人 Reid Hoffman 的 10 亿美元资金,其目标是「以最有可能造福人类的方式推进数字智能并使之成为一个整体」
Sutskever 说:「有可能在我们的有生之年,我们将建立一个在每个有意义的维度上都具有认知能力的人工智能系统。」
领导 OpenAI
OpenAI 吸引了几位世界知名的人工智能研究人员,包括发明 GAN 的 Ian Goodfellow,加州大学伯克利分校的 Pieter Abbeel 和目前负责特斯拉人工智能工作的 Andrej Karpathy。
OpenAI 位于旧金山一个不起眼的办公室,在过去的两年里取得了许多惊人的成就:他们创建了一个名为 Universe 的软件平台,用于测量和训练全球各地的人工智能系统。它旨在让机器人学习不同的策略; 他们创造了人工智能的游戏玩家,在复杂的多人竞技游戏 Dota2 中,他们有能力击败 99.95%全球玩家; 他们还建立了能完成日本相扑摔跤或者踢足球的虚拟机器人。
OpenAI 也在推进机器人研究的前沿。他们将深度强化学习应用于机器人学,以做家务,如干净的房间或做饭。最近,他们训练了他们的 Dactyl 手,学习如何旋转字母块并将新的一面放在上面。
人工智能安全研究也属于他们研究的范畴。两年前,OpenAI 列出了许多关于确保现代机器学习系统按预期运行的研究问题。
在过去的 6 年里,Sutskever 一直站在人工智能革命的最前沿。他的下一段旅程是传播这场革命,为整个人类带来好处,而他的团队正在推动人工智能的发展来实现强人工智能的终极高峰。他的计划是什么?我们可以发展到什么地步?我们正等着他精彩故事的下一章。
Ilya Sutskever 将于 2018 年 11 月 9 日在加利福尼亚州圣何塞举行的 AI Frontiers 会议上发言。
AI Frontiers 大会演讲嘉宾
AI Frontiers Conference 汇集了人工智能领域的思想领袖,展示最前沿的研究和产品。今年,我们的发言人包括:Ilya Sutskever(OpenAI 创始人),Jay Yagnik(Google AI 副总裁),Lee-Fu Lee(Sinovation 首席执行官),Mario Munich(iRobot 高级副总裁),Quoc Le(Google Brain),Pieter Abbeel(加州大学伯克利分校教授)等。