谷歌研究员：如果你有良心，不要在AI工作

谷歌研究员FrançoisChollet认为，任何有良知的人都不应该在AI中为Facebook工作。

虽然记住谷歌是Facebook的竞争对手，并且对批评本身并不陌生，但Chollet提出了一些关于AI及其影响 - 或者说是利用 - 人们使用的道德问题的有趣观点。

Chollet 在一系列推文中说道：

“人类的思维非常容易受到简单的社会操纵模式的影响，在思考这些问题的时候，我已经编制了一个很有效的心理攻击模式清单，其中一些已经被广泛使用了很长时间（例如，积极/消极的社交强化），但是以非常弱的，没有针对性的形式。

从信息安全的角度来看，你可以称之为“漏洞”：可以用来接管系统的已知漏洞。就人类头脑而言，这些漏洞永远不会被修补，它们只是我们工作的方式。它们在我们的DNA中。他们是我们的心理。

在个人层面上，我们没有切实可行的方法来防御他们。人类的思想是一个静态的，易受攻击的系统，它将越来越多地受到智能AI算法的攻击，这些算法将同时完整地查看我们所做的和相信的所有事情，并完全控制我们所消费的信息。

重要的是，通过将人工智能算法应用于我们的饮食信息而产生的大众人口控制 - 特别是政治控制 - 并不一定需要非常先进的人工智能。你不需要自我意识，超级智能人工智能这是一个可怕的威胁。

那么，如果今天大规模人口控制已经可行 - 理论上 - 为什么世界还没有结束？总之，我认为这是因为我们对人工智能非常不好。但这可能即将改变。你看，我们的技术能力是这里的瓶颈。“

Facebook在最近几周受到了越来越多的审查。最引人瞩目的原因是，剑桥分析公司花费100万美元收购Facebook个人资料，而其负责人亚历山大尼克斯则吹嘘利用肮脏的数据进行选举。高管们甚至吹嘘自己在推选唐纳德特朗普总统时的角色。

Facebook的以前的员工，因为说出来对公司的数据采集和其他公司如何访问有关其超过两十亿用户此详细信息。

广泛的数据收集

Rails和Rust开发人员Dylan McKay经历了使用Facebook工具的过程，该工具允许用户下载他们的数据。尽管Messenger中的SMS功能关闭，但他惊讶地发现它包含他的通话记录，当前和以前的联系人的姓名以及短信的元数据。

一位用户回应McKay的推文，声称Facebook记录了他去过的确切位置。另一位在Facebook上发布了他们的联系信息的广告商名单。一个人甚至声称已经从他们的活动日志中删除了所有内容，但所有帖子仍然在转储中找到。

这些用户可能加入了#DeleteFacebook 运动。即使是2014年以190亿美元将其应用出售给Facebook的WhatsApp的创始人也呼吁人们在推特上删除自己的帐户。

就Facebook而言，它表示，作为回应，它将改变它与第三方应用程序共享数据的方式。这可能无法说服用户留下谁被社交媒体巨头收集的数据吓坏了。

在英国，国会议员已经致信Facebook的首席执行官马克扎克伯格，召集他向调查假新闻的特定委员会提供证据。白宫发言人在美国表示，唐纳德特朗普欢迎对这一违规行为进行调查。

与此同时，Facebook的股票一直受到重创。自该报告在周末爆发以来，该公司已经损失了590亿美元的价值。

“只有一家公司的产品是一种不透明的算法新闻源，它一直在进行大规模的情绪/意见操纵实验，这在选举操纵丑闻中深陷其中，这已经一次又一次地显示出道德上破产的领导力，“ Chollet写道。“对我来说，在谷歌工作是一个慎重的选择，如果我开始感觉不舒服，我一定会离开，如果我一直在FB工作，我会在2017年离开。

你赞同Chollet吗？请在评论中告诉我们您的想法。