扎克伯格、张一鸣、宿华都公开道歉，AI算法不灵了吗？

作者 | DavidZh

出品 | AI 科技大本营（公众号ID：rgznai100）

中国最大的两个短视频产品快手和抖音，世界最大的社交网络 Facebook，最近都来到了舆论风波的正中心。

凭借强大的推荐算法和用户贡献内容（UGC），这三家公司积累了海量用户，但也都遇到了内容审核的难题。

虽然三家公司的 CEO 都已经公开道过歉，但这些风波让我们更加理解 AI 是什么，它的能力边界又在哪儿。

▌AI 包含人的价值取向甚至是偏见

快手不久前也启动了内容审核员的大规模招聘，一口气就要 3000 名审核编辑，招聘条件是团员和党员优先。

对于 AI 在 UGC 社区内容审核中所扮演的角色，快手 CEO 宿华在道歉信中表达的观点更为直接：

（快手）社区运行用到的算法是有价值观的，因为算法的背后是人，算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷。

换句话说，快手的推荐算法包含并反映出了这家公司在短视频内容上的价值判断和平台偏好。内涵段子、抖音等头条系的 App 也是同理。

▌AI 能快速吸引用户，也让平台更容易被监管

成立于 2004 年的 Facebook，虽然总用户增长放缓，但月度活跃用户已经涨到了 20 亿，相当于全球互联网用户的 50%。

随着海量用户的加入，这些社交平台上的内容也开始变得五花八门。

快手上各种惊奇搞怪的表演，在早期给快手短视频贴上了 low 的标签。而抖音在强运营策略的主导下，依靠海草舞、各种运镜、旅游风光等内容，形成了自己的风格，同时也吸引到更多的内容贡献者。Facebook 用户的时间线上，则充斥着真真假假的时下新闻。

由于推荐算法 7*24 不间断运行，用户很容易因为“刷上瘾”而忘记时间。

就国内而言，在国家广电总局眼中，快手、抖音这些“全民级”内容平台的价值判断和导向是不符合要求的，所以才有了这次针对短视频和新闻资讯类产品的集中整顿。

在道歉信中，张一鸣将此次被整顿的深层原因归结为“‘四个意识’淡薄、社会主义核心价值观教育缺失、舆论导向存在偏差。”宿华则承诺要“重整社区运行规则，将正确的价值观贯穿到算法推荐的所有逻辑中”。

但从技术层面看，目前的 AI 算法还很难理解“四个意识”和社会主义核心价值观的真正含义。社区运行规则和内容审核策略的调整还是要借助相当多的人力。

以 Google 为例，基于机器学习的在线视频内容云端识别 API 去年 3 月才在 Google Cloud 正式上线。而国内云服务公司阿里云、腾讯云、百度云等对视频内容的识别、多维度分析和解读服务也才推出不久。

从技术成熟度来说，包含音频的视频内容分析和自动审核即便在人工智能逐步落地的今天，仍然有很多挑战。更不用说监管层面对短视频平台的种种要求。

▌内容审核之外，更难的是持续让用户信任

在内容审核上，月活用户数超过 20 亿的 Facebook 面临的挑战更加严峻。

首先是不同国家的语言和文化差异，一则带有煽动性的仇恨言论很可能成为审核机制的漏网之鱼，在社交网络里肆意传播。

按照目前 AI 的智力水平，要解决这个问题，更多还是要考人工来审核。目前 Facebook 拥有一个 15000 人规模的运营审核团队，预计今年年底增加至 20000 人。

在昨天举行的美国国会听证会上，Facebook 创始人扎克伯格回答问题时表示，利用机器学习工具来自动监测和处理仇恨言论要 5-10 年后才会变成现实。

这无疑是对 AI 在硅谷乃至整个科技界的莫大冲击。与此同时，也让我们更加清楚了解了人工智能现阶段的能力边界。

而在商业模式层面，Facebook 对用户完全免费，依靠广告收入支持平台和公司运营。抖音和快手也是如此。

这意味着此类免费产品的用户，或多或少总有一些个人数据被利用了。

在 2010 年的一次网络讨论中，一位 ID 为 blue_beetle 的用户道出了真相：

If you are not paying for it, you're not the customer; you're the product being sold.

正是因为 Facebook 没有做好隐私数据的保密工作，才招致了用户和公众的不信任。这对一个社交平台来说，是最直接的打击：当平台上的好友都离开，用户本身也有极高的可能性流失掉。

为了解决隐私保护和商业化之间的矛盾，扎克伯格表示会始终提供一个免费版的 Facebook。Facebook 的 COO 在接受采访时还说，如果用户不希望自己的数据作为投放广告的依据，可以选择自愿退出，但要向 Facebook 支付一笔费用。

这听起来可能并不是挽留用户的最佳方法，但在 AI 变得真正强大之前，免费互联网产品的商业化悖论将一直存在。