谁来守护正义，法官还是AI？

转自 大数据文摘

大数据文摘出品

来源：Medium

作者：陆震、Aileen、孟展

“俄罗斯侵害了Aleksandrova的人权”

随着屏幕中跳出这几个字，研究人员知道这套系统离成功又更近了一步。但这不是一次普通的审判，而是由人工智能裁定的。

事情起源于1970年，一位受雇于俄罗斯的女工Aleksandrova因为工伤失去了右手。但不幸的是她一路所争取的残疾补贴一直没有到位，十几年来一直受到地方法院的打击。不得以，她将此案提交给了欧洲人权法院，该法院于2007年裁定她的公平审判权受损，判决俄罗斯赔偿。

在2016年，法院的研究员用人工智能再次对此案作出了相同的判决。这套系统可以一字不落的阅读法律文件，并思考该如何判决。它还阅读了583个全部来自欧洲人权法案的其它案件，为“自己”积累经验，并由此得出了和人类法官相同的判决。

AI是如何做到的？

来自伦敦大学学院的计算机科学家团队开发了一套系统，可以准确预测现实生活中人权案件的结果。他们基于一系列关于折磨，隐私和受到有辱人格对待的法庭判决数据，来训练机器学习算法，将每个法律文档视为要分析的数据库。

“比如说你想做对电影评论的语义分析，”该研究的其中一个作者说。 “对于人类来说，我们基本上做的就是阅读它，然后做出判断。如果你想让它更抽象点，你可以计算文本中有多少正面和负面的单词然后再做决定。如果我看到正面的词汇比负面的要多，那么这篇评论我可能认为是正面的。“

“我们用同样的方法来分析法律文本，”他补充道。 “通过研究过去的案例，我们了解到案件中特定词语的重要性。”

在受训完毕后，79％的情况下它能做出与人类法官相同的判决。 2017年，另外一个单独的分析中，用美国最高法院过去199年的 28,009个案例训练算法，结果以超过70％的准确率成功预测了判决结果。

这项研究的作者没有声称他们的模型应该取代人类法官。但他们的工作表明，如果有足够的数据，机器可以预测法律的判决。

对AI审判公平性的顾虑

在美国，一家位于密歇根的私人公司开发了预测被告犯罪风险的系统，已经被颇有争议地用作法律判决的工具。系统能否做出“公平的”判断取决于其训练数据的公平程度，而人们担忧这些系统会采用甚至放大他们所学习数据本身的偏见。

英国纽卡斯尔法学院教授Lilian Edwards说：“人们一直在努力开发“公平”的算法，例如，可能会在算法中更少关注种族因素，但他们仍然很难消除偏见。基于种族和贫困的歧视可能会被其它更隐蔽的数据重建。”

所以AI真的能给我们带来正义吗？即使A.I.有能力对案件做出“正确的”判决，我们应该这样做吗？

尽管疑虑重重，但在政府“紧缩”预算和法律体系过重的背景下，法律界AI的推出已经不可避免。在2018年底，欧洲司法效率委员会发布了法律系统内A.I.的使用章程，要求采用不歧视，透明化和尊重基本权利的核心原则 。目前我们正处于这些准则的早期阶段，希望以后能成为共识。

这在某种程度上是对AI的肯定。“对于那些重复性场景下小而简单的案件，比起上法庭，涉案者更愿意通过AI提起诉讼，法官也能从重复的事务性劳动中解脱出来。”英国埃塞克斯法院的大律师QC Charles Ciumei说。

假设你在工作事故中失去了右手，就像Aleksandrova一样。你不必诉诸一系列区法院和地方法院，A.I.就可以处理你的申诉，查看证据，并快速给出答案。

在某种程度上，这种情况已经存在。由斯坦福大学学生Joshua Browder创建的DoNotPay应用程序允许其用户就停车罚款，信用卡费用提出异议，并在小额索赔法庭提起最高可达25,000美元的诉讼，所有这些都在应用程序内，并且都无需支付律师费用。该应用程序的广告词：“抗议公司及官僚，一键起诉任何人。”

法官的意义:仍然是那个最终做决定的人

快速而廉价地诉诸司法很难让人去反对，但如果寻求法律行动变得如此容易，它是否会培养无休止性的微诉讼文化？

更本质的是，它会改变正义本身吗？看看即时通信和算法预测影响公共和政治话语的方式。即使A.I.有能力对案件做出“正确的”判决，我们应该让AI这样做吗？

或许这个担忧有点为时过早。

上文中有提到，在“重复性场景下小而简单的案件”中AI确实能够提高法官的工作效率。

在封闭性的场景中，AI表现得非常出色，正如我们所熟悉的阿尔法狗打败了所有的人类选手，但如果围棋盘从19*19改成21*21，它将无所适从。而法律是一个开放性系统，法官的工作不仅仅是解读法律教条这么简单，一个案件的最终判决是法理情的结合。

北大法律实验室创始人也曾经在一次采访中表示，人工智能取代的将会是重复性工作，而不是法律人的工作，因为只有人会做价值判断。所以AI的角色其实很清楚，就是智能辅助，而帮助我们守护正义的还是法官。

相关报道：

https://medium.com/s/reasonable-doubt/a-i-judges-the-future-of-justice-hangs-in-the-balance-6dea1540daaa

实习/全职编辑记者招聘ing

加入我们，亲身体验一家专业科技媒体采写的每个细节，在最有前景的行业，和一群遍布全球最优秀的人一起成长。坐标北京·清华东门，在大数据文摘主页对话页回复“招聘”了解详情。简历请直接发送至[email protected]

志愿者介绍

后台回复“志愿者”加入我们