联合国首次人工智能峰会召开：让AI符合可持续发展目标
lengzhao 2017-06-12
机器之心原创
记者：李九喻
参与：吴攀、李泽南
今天，人工智能的重要性不言而喻。虽然在过去，技术的发展方向是由市场决定的，但对于人工智能来说，社会需要事先考虑规定和底线，因为这项技术很可能会对社会本身造成影响，甚至脱离人类的控制。为了解决这些日益紧迫的问题，联合国国际电信联盟（ITU）等联合国机构和 XPRIZE 基金会共同组织了「人工智能造福人类峰会（AI for Global Good Summit）」，大会于 2017 年 6 月 6 日至 9 日在瑞士日内瓦召开。本届大会旨在讨论让人工智能符合可持续发展的目标（SDG）。
很多人工智能研究先驱参与了本次会议，他们包括谷歌研究主管 Peter Norvig、UC Berkeley 人工智能实验室主管 Stuart Russell、MILA 主管 Yoshua Bengio、斯坦福大学人工智能实验室主管李飞飞、Dalle Molle 人工智能研究所联合主管 Jürgen Schmidhuber 和纽约大学教授 Gary Marcus 等人。他们来自不同行业，覆盖政府、业界联合国机构、民间组织和研究社区。
「如何让人工智能成为一个有效的，对社会有益的工具？」是一个宏大的命题，它引出了无数开放性议题。「人工智能」的意义是什么？智能系统和机器人会推动人类发展还是相反？我们如何能让无法预测的技术与人类价值共同发展？
首先，我们需要填补鸿沟
诚然，大多数人理解机器智能需要时间，人工智能并不是一种不言自明的技术。而将技术传播到利益相关者、感兴趣的大众和缺乏信息获取渠道的群体各有不同的难处。世界经济论坛社会与创新主管 Nicholas Davis 提醒现场观众：「并不是每个人都可以来到日内瓦讨论这样的议题。还有很多人会受到新技术影响，但他们并不知道这些讨论的存在。」
跨行业座谈会（左起）：两位主持人：红十字国际委员会（ICRC）战略参与和新技术主管 Anja Kaspersen；世界经济论坛社会与创新主管 Nicholas Davis；座谈会出席者：UC Berkeley 教授 Stuart Russell；清华大学公共管理学院院长薛澜；卡耐基梅隆大学计算机科学与机器人教授 Manuela Veloso；联合国全球脉动计划总监 Robert Kirkpatrick
事实上，这条鸿沟超越了理解，也体现在最终的目标上。学者们往往以研究为导向，致力于解决人工智能眼前的问题；业界则以竞争为导向，认为人工智能的发展会让企业更具竞争力；而对于政府来说，技术的背后仍有很大部分需要探索。即使到了 2016 年，欧洲议会仍然在从科幻作家阿西莫夫的机器人三定律中寻求洞见，提出了「如果人工智能发展到机器人最终具有自我意识后，会考虑给机器人部分人权。」
「所有交叉学科的技术都在以指数级的速度不断发展，」XPRIZE 创始人 Marcus Shingles 表示。著名计算机科学家，人工智能标准教科书《Artificial Intelligence: A Modern Approach》的共同作者 Stuart Russell 则认为书中的一些参考文献具有「误导性」，甚至简单地来说，是错误的。
不对称信息是一个大问题，特别是在你需要规划人工智能管理机制的时候。国家政府需要在全球化的商业环境中规范人工智能技术的部署，这其中包括自动化对工作机会的影响、自动化武器、网络安全、贸易关税、跨境数据访问权限等等。
清华大学公共管理学院院长薛澜根据政策专业知识指出了问题，「对于政府来说，目前有三大挑战：1. 机制复杂性——人工智能是一个宏观问题，对于多层级的政府而言难以掌控；2. 周期差距——由于政治环境的结构复杂性，人工智能技术的发展总是会比政治反应更快；3. 道德的分裂——我们目前还是难以在全球范围内统一道德和伦理的价值观。」
鉴于目前问题的复杂性，薛澜提出了「适应性态度」，建议人们接受歧义和理解的鸿沟。我们必须相互倾听，即使是在行业间、业内，甚至人与人之间，信息也不是完全联通的。
人工智能：人类的工具还是毒瘤
本次大会第二、三次全体座谈会：在启动中转型与未来路线图的关键词云。
人工智能作为工具有潜力帮助人类解决许多难题。该峰会主要强调了 17 个可持续发展目标，可作为想要在以下领域做出积极影响的人的指导：
消除贫困（No poverty）：将贫困与预测式大数据分析映射起来
零饥饿（Zero Hunger:）：增加农业产量
医疗健康和高质量生活（Good Health and Well Being）：分析大量的医疗数据
质量教育（Quality Education）：用个性化教学变革教育
性别平等（Gender Equality）：明确性别不平等问题，驱动性别平等的招聘
清洁用水和公共卫生（Clean Water and Sanitation）：改善有效的清洁水源供给
可承担的清洁能源（Affordable and Clean Energy）：改进光电能源获取
体面的工作与经济增长（Decent Work and Economic Growth）：通过智能自动化增加生产率
产业创新与基础设施（Industry Innovation and Infrastructure）：帮助驱动产业创新
减少不平等现象（Reduced Inequality）：建立更为包容的社会（例如，助残机器人）
可持续的城市与社区（Sustainable Cities and Communities）：通过传感器数据支持城市规划决策
负责任的消费与生产观念（Responsible Consumption and Production）：预测最优的生产等级从而减少浪费
气候行动（Climate Action）：对气候变化建模以预防灾难
水生生命（Life Below Water）：通过模式识别软件追踪非法捕鱼
陆地生命（Life on Land）：控制盗猎行为、监控物种安全
和平、公正和强大的机构（Peace, Justice and Strong Institutions）：减少政府的歧视和腐败
有目标的合作（Partnerships with Goals）：多方面的合作至关重要
这些主题是建设性的，是 21 世纪的企业家和政府的目标。人工智能可以帮助我们启动和推动社会变革，比如在开幕主题演讲中世界卫生组织总干事陈冯富珍提到的在医疗上使用「人工智能增强的移动或硬件（AI augmented mobile or hardwares）」。
但是，也还是存在一个具体的下行趋势。未来数十年，发展中国家的贫困儿童将面临巨大的困难。UNICEF Innovation 联合创始人 Christopher Fabian 向观众强调了这一问题的紧迫性：「随着自动化的发展，我们面临着越来越大的挑战。这个世界正变得越来越复杂，随着技术的发展，贫富差距将进一步扩大。」UNICEF（联合国儿童基金会）是联合国一个儿童机构，致力于为全球五分之一的儿童（处于底层的儿童）提供生存保障，Christopher 相信机器学习和预测分析这类的技术创新可以帮助缓解这种状况。这不是什么新兴的慈善事业，而是为了维持人类生存的基线。
另一方面，在峰会期间，人们也提出了很多担忧和隐患，其中包括：使用人工智能进行政治宣传、直接盗窃数字支付、信息战和定向营销（比如，根据人们社交媒体上内容，向被认定为抑郁的人推销酒类商品）。
「故意滥用人工智能可能是比恶意软件还要远远更加糟糕的问题。」Stuart Russell 说，他尤其担忧人工智能在致命性自动武器（LAWS）中的应用。根据伯克利网站上的定义，这些系统「可以在没有人类的干预下选择和攻击目标，其中可能包括可以在城市中搜寻和消灭敌方战斗人员的武装直升机，但并不包含需要人类做出决策的巡航导弹或遥控无人机。」
Russell 曾出席了联合国的《特定常规武器公约（CCW）》第三次会议，该会议也是在日内瓦举办的；他在该会议上呼吁禁止自动武器。他也是著名的《自动武器：来自人工智能机器人研究者的公开信（Autonomous Weapons: An Open Letter From AI Robotics Researchers）》的发起者，该公开信得到的全球 20000 人的参与，其中包括 Steven Hawking、Elon Musk、Steve Wozniak 等著名人士。
趋势：企业家以个人名义来解决问题
在开幕主题演讲中，Marcus Shingles 提到了一种新型的解决问题的方式：个人企业家（individual entrepreneur）。对于 Shingles 而言，我们今天所面临的最大挑战是在「线性连接的文化（linearly wired culture）」与当前人工智能发展的「指数趋势」之间的矛盾。据人工智能领域的著名研究者和深度学习的重要贡献者 Yoshua Bengio 称，即使我们完全停止研究，要「收获当前技术的好处」我们也还需要大约 20 年时间。当涉及到处理当今世界的复杂性时，标准社会流程还存在很多问题，而我们相信我们正在接近一个「拐点」。
许多企业家出生在数字时代，对行业有牢固的认识。比尔及梅林达·盖茨基金会（Bill-Melinda Gates Foundation）和陈-扎克伯格倡议（Chan-Zuckerberg Initiative）等成功的项目可以产生足以与政治影响媲美的巨大影响力。它们不同于传统的慈善事业，通常会在社交媒体上获得很大的曝光，也常常会吸引到技术专业为之工作。比如说，Chan-Zuckerberg Initiative 最近收购的多伦多创业公司 Meta 就正在研究科学界的数据透明问题，参阅《业界 | 扎克伯格夫妇基金会收购 Meta：将免费开放人工智能论文搜索引擎》。
亮点推荐：你应该了解这些
日内瓦数字公约（Geneva Digital Convention）：这是由微软发起的一项倡议，呼吁联合国创建对于网络空间安全的监管规则。其借鉴了「日内瓦第四公约（Fourth Geneva Convention）」的思想——其在战争期间为平民提供了保护。
AI4All：这是李飞飞及其斯坦福大学的学生发起的一个美国非营利组织，致力于增加人工智能领域的多样性。该组织支持美国全国的教育计划为代表性不足的高中学生提供人文人工智能（humanistic AI，即解决社会问题的人工智能）的早期教育。参与大学包括：斯坦福大学、普林斯顿大学、加州大学伯克利分校、卡内基梅隆大学。更多详情可参阅机器之心报道《访谈 | 李飞飞的全新使命：让人工智能摆脱极客专属标签》。
英伟达 CEO 黄仁勋及其夫人 Lori Huang 是 AI4All 的捐助者
IEEE 行为准则（IEEE Code of Conduct）：电气和电子工程师协会（IEEE）的这份协议规范了技术人员（包括人工智能研究者）的职业和道德行为，其开篇写道：「我们 IEEE 的成员要清醒地认识到我们的技术对整个世界的生活质量的影响的重要性，要接受我们的职业、其成员和我们服务的社区中的个人义务，因此我们承诺服从这个最高道德和职业准则。」详情请访问：https://www.ieee.org/about/ieee_code_of_conduct.pdf。此外去年，IEEE 还发布了世界首个人工智能道德准则设计草案《Ethically Aligned Design》，参见机器之心报道《学界 | IEEE 发布人工智能道德准则设计，确保人工智能为人类服务（附草案）》。
数据收集税（Data Collection Tax）：这是在「人工智能造福人类峰会」上由一位观众成员提出的可能性，希望能借此管理大公司收集个人数据的行为。
