AI隐形衣：穿上这件连帽衫，监控算法对你“视而不见”

本文转载自公众号“读芯术”(ID：AI_Discovery)。

AI在监控技术中的广泛使用，使得每一台闭路电视摄像机都有可能成为国家的密探。在网络上，从社交媒体网站或视频中抓取的图片皆可以被用来建立诸如Clearview AI(美国人工智能脸部识别公司)那样的大型监控数据库。

如今，一件连帽衫有可能改变这一切。Facebook和马里兰大学的研究学者制作了一系列运动衫和体恤衫，可以骗过监控算法，使其无法检测到穿着者。他们将其称为AI“隐形斗篷”。

这些衬衫利用了近五年前从计算机视觉算法中发现的一种特性。该算法使用一种简单(甚至有些天真幼稚)的方式来识别物体：他们在新图像中搜索与已识别图相似的像素图案。当人类在看到新事物时，可以根据复杂的线索和实际的知识进行判断，但算法只会用图像匹配这一方法。

来源：Rageon.com

这意味着，如果知道算法正在搜索的模式，就可以将其隐藏。为了制作这种可欺骗算法的衬衫，Facebook和马里兰大学的团队通过一种检测算法处理了一万张人像图片。当一个人被检测到时，图片的视角、亮度和对比度会被随机改变，接着，他们使用另一种算法找出欺骗算法最有效的随机改变。

当这些随机图案被打印在实物(如海报、纸娃娃以及衣物)上时，检测算法仍然会被欺骗。但研究学者也指出，实际测试的准确度低于纯数字测试，当一个人能穿着这个运动衫时，检测器的识别能力从近100%下降至50%，即投掷硬币正反面的可能性。

此研究延续了马里兰大学计算机科学系进行的一项工作，其中部分研究人员在2018和2019年期间加入了Facebook。此前，该实验室研究怎样利用与欺骗AI相同的原理来欺骗版权检测算法(例如YouTube用来防止未经授权使用受版权保护音乐的算法)，以说明逃避版权检测的容易程度，这引起了人们的重视。

这项研究对Facebook也有利。破解作效的根本原因是图像识别算法缺乏分析图像的上下文或理解，理解算法如何失败是使算法不受骗的第一步。

这是一个研究过程的开始，它不仅能使算法更好地抵抗攻击，而且从理论上来说，由于图片的展现方式更加复杂，其准确度和灵活度也将大大提高。换句话说，此研究可以增强图像检测算法的强度，而不是摧毁它。

事实上，我们的确可以买到一件印有算法欺骗图案的体恤衫或是运动衫。但是，目前它不太可能保护你的身份信息免受监控技术的侵害。研究员们测试图案使用的是普及的开源算法，而不是NEC等监控公司构建的独有算法。

同时，这个图案旨在避免人员检测，而非面部识别，后者仅针对人面部的某些方面而非整个身体。在公共场所，人员检测可用于执行以下任务：计算人群数量、查看是否有人在接近智能门铃，在某些情况下还可以增强面部识别。

图源：unsplash