人工智能的失败列子以及未来的挑战与机遇

人工智能是开创性的，有时甚至还是令人震惊。我们不断地获得有关效率，自动化和智能预测的惊人故事。但是，人工智能并不是完美的。对于每一个成功的故事，还有一个混乱或错误的故事–这种情况没有按计划进行。

虽然我们是AI的忠实信徒，并且已经在自己的企业中看到了AI的强大功能，但有时还是看到硬币的另一面，并记住我们都在努力推动更大的发展和更好的东西。但是沿着这条道路，会有摩擦和扰。我们如何应对这些异常和缺陷，最终定义了我们从这里出发的方向。

AI失败的例子

我们不希望人工智能是完美的。至少还没有。AI仍然会经历失败并导致意想不到的后果这一事实令人耳目一新。但是即使对于那些濒错误也可以作为成长和改进的教训。如今，失败越多，增长和改进就会越多-最终将引领通往更完善和完整的行业的道路。

以下是过去几年AI失败的一些优秀示例：

Microsoft AI Chatbot学习了一些不受欢迎的语言

人工智能聊天机器人已经成为社交媒体和其他网站上的规范。Facebook在Messenger中内置了一个非常出色的工具，它被用作提供客户服务和与潜在客户进行快速对话的强大业务工具。但是AI聊天机器人并不完美，以Microsoft的AI聊天机器人为例，该聊天机器人曾短暂地称为“ Tay”。

Tay于2016年3月发布并为Twitter用户部署，其编程方式是使用典型的千禧一代进行随意自然的交谈。但这只持续了24小时。发生了什么?好吧，该网站上针对了它的漏洞，并操纵Tay发表了非常性别歧视和种族主义的言论。

微软AI和研究副总裁Peter Lee因未提前预见这种可能性而不得不公开道歉。

运动员还是重罪犯?

亚马逊有一个名为“识别”的项目。这是一种基于AI的面部识别软件，已出售给警察机构以用于调查。从本质上讲，它应该交叉分析图像并将执法人员定向到可能的嫌疑人。问题在于它不是很准确。

在美国公民自由联盟马萨诸塞州分会的一项研究中，通过该系统运行了数十名波士顿地区运动员的照片。这些运动员中至少有27名(或大约六分之一)被错误地与面部照相配。其中包括三届超级碗冠军新英格兰爱国者队的杜伦·哈蒙。

你能说不好看吗?

用户在Apple的Face ID中发现缺陷

苹果一直在提出优秀技术。他们已经在智能手机和移动设备行业树立了标准。在大多数情况下，他们会把事情做好。但是有时候他们在行销中可能会显得太勇敢。一个例子是iPhone X的发布。在发布之前，苹果公司已经在其正面的面部识别系统上投入了大量时间和营销资源，以取代指纹读取器作为访问手机的主要方法。有人声称AI组件非常聪明，读者可以戴眼镜，化妆等，而不会影响功能。这本质上是对的。问题在于，苹果公司还明确表示，Face ID技术不能被面具或其他技术所欺骗。

一家位于越南的安全公司将其视为挑战。他们只用了200美元，就用石粉制成了一个面具，粘贴在一些打印的2D“眼睛”上，然后解锁了手机。这只是在提醒您，大胆的声明有时可能会再次引起人们的注意!

机器狗遇上致命的结局

谁不喜欢机器人小狗的主意?您会获得一台可爱的小机器，而无需吠叫，走路，大便，吃饭或昂贵的兽医账单。但是，如果您正在寻找生活伴侣，则可能不需要此机器人狗。

在2019年，波士顿机器人公司的机器人狗名叫Spot，而他在拉斯维加斯的一次会议上被公司CEO降职时遇上了戏剧性且不合时宜的舞台上的死亡。步行任务使他慢慢地跌跌撞撞，并最终跌倒在地，因为观众不舒服地喘着气并咯咯笑着。

IBM的Waston是一项了不起的技术。这款智能超级计算机在他的带领下取得了许多成就，包括在电视转播的危险游戏中击败了一些世界上最聪明的人。但是，就沃森所知，他还没有被当医生的信任。

在2018年，IBM Watson尝试启动医疗AI系统以提出治疗癌症患者的建议。IBM的目标无非是“消灭癌症”。但是，医院和肿瘤科医生很快就发现了重大缺陷。沃森(Watson)曾建议将出血过多的患者放到会导致更多出血的药物上，这可能会杀死患者!

IBM指责其工程师，称他们以假设和虚构案例为Watson编程，而不是依赖于实际的患者数据和历史病历。、

语音欺骗AI软件Cons首席执行官

伪造品正成为一个严重(且令人震惊)的问题。黑客发现了伪造声音，图片甚至视频的方法。在某些情况下，后果是灾难性的。

2019年3月，一家英国公司的首席执行官在德国母公司打了老板的电话。他被指示将相当于243000美元的款项转移给匈牙利供应商。该请求被标记为紧急请求，并要求首席执行官立即执行。该请求的唯一问题是，该行的另一端不是他的老板。这是一款基于AI的软件，用于模仿老板的声音。

当我们称其为AI失败时，现实是AI软件获胜。

我们可以清楚地看到，人工智能并非没有问题。就业务而言，人工智能的实施仍然面临一些挑战。它们包括：

• 处理能力有限。尽管AI和ML具有巨大的潜力，但它们利用了大量的处理能力。大多数计算根本没有那么先进。结果，很难在非常特定的环境之外充分利用这些技术。
• 知识有限。只有少数人真正足够了解AI，可以向市场进行解释。这使采用率无法达到应有的水平，并且正在减缓增长。
• 缺乏信任。人与计算机之间总是存在一定程度的不信任。尽管关系在过去几年中有所改善，但像本文中概述的那样的失败并没有太大帮助。
• 数据安全性。为了使AI应用程序正常工作，这些系统需要访问数百万个数据点。这为黑客创建了可能的弱点和漏洞，以使其成为目标并加以折衷。