独家｜翟振明：虚拟现实技术发展与应用的伦理思考

本文共3980字，建议阅读13分钟。

本文为中山大学人机互联实验室主任翟振明于2017年3月25日在清华大数据RONG系列论坛：大数据与VR伦理讲座上分享的题为《虚拟现实技术发展与应用的伦理思考》的演讲。

[ 导读 ] 3月25日，由清华大学数据科学研究院和中国工业经济联合会企业社会责任促进中心共同主办的“虚拟现实技术（VR）应用的社会价值与社会风险”研讨会在北京召开。来自政府、协会、企业、高校、媒体的150多位代表参加了研讨会。嘉宾们围绕VR技术的发展趋势、产业应用前景以及其中可能存在的社会风险进行了讨论。

翟振明：今天我要讲清楚VR是什么，VR技术有什么风险。之后，才给我们自己定规矩，最终要把它融入到我们的文明和生活状态里面,才能使VR真正有价值。我的实验室工作并不是非要做具体产品，最主要的目的是把VR的终极可能性展示出来，直接考察它会给人类生活带来什么样的颠覆性的冲击。

我的实验室，现在主要是由我本人设计建成了一个可操作体验的模型，是VR加IOT的ER系统，或叫“扩展现实”模型。体验叫“虚拟与现实之间的无缝穿越体验”。实验室在哲学楼，我也是哲学系的教授，哲学系教授做这个干什么呢？

首先我想讲一讲哲学到底是什么东西。我想从大家讨论比较多的人工智能讲起。中国科学院自动化所有一位在世界人工智能界非常有影响力的一个人，叫王飞跃。在不久前的世界人工智能大会上，他做了一个主题报告，总结了60年以来人工智能领域的主要人物，其中最具核心影响力的人物基本都是哲学家。他讲了很多故事之后，总结说，人工智能起源于哲学。

在中国，很多人都知道一位叫罗素的西方哲学家。他有一个著名的理发师悖论。有一个理发师，他只给不给自己理发的人理发，在这样的前提下就产生一个问题——这个理发师该不该给自己理发？一说“该”就变成“不该”，一说“不该”又立马变成“该”，也就是一开始想到一个符合的东西，一启动就不符合。如果计算机编程里面有这样一个东西，你产生了一个不能停机的循环，就是一个最大的Bug，导致死机崩溃。所以，罗素提出这个理发师悖论以后，当时因为数学预设了一个所描述的对象的集合可以包括自己为元素的，而这个悖论却揭示了这个不能成立。所以那时候不少数学大家认为罗素别论挑战了整个数学的基础，使数学陷入危机，这可是一个大事。

罗素和另外一个哲学家怀德海一起写了一本书，叫《数学原理》。罗素这派哲学家认为描述世界所有的问题一定要先观察或实验，单靠思想只能揭示概念之间的关系，不能对世界的事实有所断言。但是理性主义哲学家认为我们关于世界的有些命题的真与假是不需要由观察来证实的，康德举的例子就是几何和算术，是关于空间和时间关系的学问，而空间和时间属人的心智的先验结构，不是来源于观察对象。罗素写《数学原理》的本来目的，是为了把数学还原为逻辑，反驳康德。

王飞跃这次总结名人堂的时候，说人工智能发展最重要的数学就是从那本书里面来的。几个人工智能核心人物的共同点，就是都读了这部厚厚的《数学原理》，并深受启发。

当代直接讨论VR虚拟现实的哲学家不多，从我二十年前出了英文版的系统探讨VR的哲学专著至今，也没见到有谁认真跟进。但是你要追溯的话，思想源头可以追溯到古希腊柏拉图那里去，后来的笛卡尔、莱布尼兹、康德、谢林、休谟、贝克莱等都有重头戏。

平时我们认为的所谓“物质”的东西，到底是啥呢？我们一般认为，独立存在的一团“材料”在那里持存，通过我们的感官给我们刺激，我们就“认识”到它们的“在那里如此这般”的状态了。VR是什么？它把事情发生的最底层秩序给颠倒了，一个人的不同感觉（比如视觉和听觉）分别刺激产生，不同人的感觉也各自激发，然后计算机在背后一协调综合，每个人就有了自己的世界，不同的人之间也可以共处一个共同的世界。每个人的感官刺激分别起作用，一个共同的世界就产生了。既然我们的VR世界缘起的顺序是反过来的，结果与自然的世界又不可分别，那么问题来了：我们原来对世界的理解是不是搞错了？这是不是哲学？当然是了。

所以我的那本书，就要论证这些东内容。我当时主要讨论的不是社会伦理责任问题，讨论的是世界是什么、人的自我意识是什么这样的纯哲学问题。这就要在思考推理过程中做很多思想实验，虚拟现实的原理要说清楚，技术路线要设计出来，我在书中插图把头盔都画出来了。这一连串的思想实验，后来都变成十几个专利脚本，已批准的有两项。现在我的人机互联实验室，就是基于二十年前我书中的设计。作为类似电影《黑客帝国》描述的情景的模型，我们现在可以进去体验了。

《黑客帝国》其实就是VR和互联网的整合，一进去是什么样子？我先讲体验，山东大学计算机和软件学院双职院长陈宝权教授去了我的实验室，进去以后，他确实也不能判断他乘坐的那辆车开出过实验室没有。我们自己人开，你在旁边戴着改装过的头盔。你戴上去一开始看到的是现场，如果把电脑背身上，去上厕所还是厕所，没问题。上车我们就往前开，外面一关门吃瓜群众就看不见你了。而你呢，你会感觉到在我们实验室外面的楼道上走了一圈，在那走了一会就出去，看到街上是外国的风情小镇，有一点穿越的感觉。当然，你知道这是假的。但是，哪一刻从真变假的？你没法判断，这就是无缝穿越。

然后再转了一圈发现在天安门，那一定是假的。但是车还是在开，旁边开车人还在，戴着头盔，你自己看到自己，车也在，方向盘也在，但是这时候开到了长安街上，那就一定不是真的了。然后中间会碰到另外一个人（他在另一个地方戴着头盔踩着一辆锁在地面的自行车），通过互联网连接，与你在虚拟的场景里接头相遇了，和你聊两句，各自继续前行。一会飞来一个飞碟，把这个车吸了上去，上到太空，又叫你下去，大部分人会犹豫好久才敢下去，感觉如果踩空在宇宙空间回不来了怎么办？

你在飞碟中行走，看到了带着头盔的自己迎面而来，你伸手触摸自己之后，舱门开了，太阳、土星从你身边飞速而过，过了一会儿飞碟把你缓缓放下，一看你回到地球落在中山大学校门口。车开进去，走过校园的部分，就开到我们实验室所在的一楼，进去以后刚开始没有看到保安，开到一个角落，转回来看到了保安，活的、正在上班的真的保安。那就是真实场景通过互联网无线传过来的，你自己感觉就在那哲学楼的一楼。紧接着，你唆的一声被送回六楼回到了实验室，没摘头盔就发现回到了出发时的地点，摘下头盔，果然回来了。整个过程，大概15分钟的无缝穿越体验。

所以现在就要讲这个东西了，这到底涉及到什么？VR，物联网。物联网就是把我们的人造物连起来接到互联网，任何人在任何地方都能看到它们的状态。知道了状态，进一步当然就要随时随地无障碍地操作它们了。有了网络化的虚拟现实，我们很多人都在同一个网络空间出现，物联网的操作界面，一定会被整合到VR中去，这难道还有别的更好选择吗？

那么这个危险在哪里？第一，如果我故意让你相信是真的，想欺骗并控制你，这就非常危险。如果我是控制欲非常强的人，那么大家遭殃的可能性就非常大。人是自由意识的主体，其控制外物的权利是理所当然的，但被他人控制的危险应该减至最低。

还有，我到处做讲演，一说到硬件这些东西要普及，要越变越小，成为我们移动设备的标配，就会有人说往后不要头盔，把信号源直接接入你的中枢神经，要方便有效得多。这是个非常危险的想法！为什么危险？VR以我们的自然感官为界限没有很大的问题，但一旦绕过自然感官直接输入信号，问题就是致命的了，这有两种可能。

第一种，你自以为是自己干的事，但其实是外面人直接操纵你干的事。第二种，可能你自我意识根本就没有了，别人看以为你还是一个正常人。一个小孩原来看书慢，现在看得很快，你认为我的孩子得到幸福生活了，其实幸福生活已经终结了，当然痛苦也终结了，因为他已经变成没有自我意识的机器人，虽然从第三人称视角观察根本看不出什么区别。这东西一推广，整个文明就没有了。那些看起来走来走去的人，其实就是机器，文明已经终结了，这不是非常可怕吗？这可不是一般的伦理道德的问题，是最根本的人类生存发展的问题。因为我们不知道脑中枢在什么时候碰到什么地方的时候，自我意识会消失，所有物理学、生理学、心理学都不知道在什么时候在哪里发生，搞坏的可能性一定比搞好的可能性要大很多倍。这两个可能性，都是极大的灾难，是我们要誓死去杜绝的。

还有第三种，就是VR与物联网整合后的扩展现实，不但可体验还可以操作，这就是我实验室的模型所展示的。很多人认为，VR是让人玩让人堕落的地方，而物联网是“实体经济”，是“严肃”的产生GDP的地方。这也是一种危险的思路，因为按此思路，VR就变成物联网的附属，让人为物服务，人和物的关系搞颠倒了。

本来，我们人在VR里面，VR里的人是主体，物联网是工具才对，把物联网当成主体，这是人物颠倒的世界，又叫人文理性的倒错。很多人把技术的VR应用叫做游戏的“非严肃应用”，而把物联网的应用叫做“严肃应用”，整个的倒错。人的生活本身严肃还是工具制造严肃？为什么觉得工具那么严肃，因为以前没有工具活都活不了；现在活下去不是最重要的，这时候才要回到真正的人的生活核心上去才是最重要的，VR里面的人是最重要的东西，物是为实现人的生活的内在价值服务的，这就是所有VR相关的伦理考量和责任意识的基础。

其他的没时间讲了，比如造世伦理学，造势伦理学讲的是我们的自然世界的规律是给定的，不是我们可干涉的，不存在伦理问题。但是VR虚拟世界里面的“自然规律”在相当程度上是我们自己定的，这就出现了前所未有的伦理问题，即判断怎样的“自然”规律更符合我们的需求的问题。比如说，ER世界里，是否允许“自然灾害”的发生？这个世界需要四季更替吗？等等。还有其他的问题，诸如有关责任与权利的边界问题、一个责任主体和双重身份、双重后果，人身与财产的区别等等，在这个全新的文明形态里，以前用的法律概念道德概念全都不太管用了，这就需要我们从最基本的人文理性开始系统重启。

整理：刘纯

校对：辛洪录

编辑：胡蝶