技术的本质：计算机如何塑造我们的社会？

本文转载自公众号“读芯术”(ID：AI_Discovery)

技术伦理是个永恒的话题。笔者常常思考这样的问题，计算机科学家是如何将伦理内容与价值观编码到机器学习算法中的，机器学习设计师又该怎样更好地了解自己的设计会给社会带来的影响。

如果一位机器学习工程师设计了更加公平公正的决策系统，那他们对公平公正的定义是什么?他们会选择什么评估指标对其进行优化?选择另一种指标或定义会造成什么样的社会影响?笔者认为，研究算法嵌入式社会问题的潜在危害是必要的，比如价值权衡、设计机器学习系统时发生价值冲突的应对方法。

这也正是笔者九个月前申请美国国家自然基金会(GRPF)博士时提出的研究倡议，但很遗憾，申请被拒绝了。

问题出在哪儿?从院士们的回复来看，一切都挺好的，但除了一点“这更像社会学研究而非计算机科学(CS)。”或许申请人类学领域要比CS更合适，这又牵扯到了另一件事，社会科学与计算机科学的互不关联，是计算机领域的标志性历史遗留问题。

反复读回信后，我开始考虑这些话的含意。脑中浮现了几个问题：

• 社会科学和计算机科学之间的关系为何?
• 计算机科学在社会中应扮演什么样的角色?
• 如果继续将二者分开看待，未来可能会发生什么?

技术的真正目的是什么，技术在我们生活中到底扮演着怎样的角色，作为计算机科学家是如何改变并塑造社会的?让我们一点点掀起技术的面纱，探索技术与社会的终极奥义。

1.社会科学和计算机科学的区别

技术渗透着社会的各个角落，并且应用比以往更加频繁。当下，社会是以线上形式运转的。所有联系都会借助宽带。群体之间是通过0 和1联系起来，它们构建起通向未来之路。

所以社会科学和计算机科学的关系是什么?

“技术不仅会帮助人类活动，也是重塑活动及意义的重要力量。”——Langdon Winner

数百万年来，人类凭借技术登上食物链顶端。发现问题的时候技术便会诞生，比如我们需要食物维持生命时，就会想到火。这些技术性工具在社会上会变得越来越普遍，人们会改变它们，以意想不到的方式重塑它们。

21世纪属于计算技术的时代，我们有了解决问题的新方式，互联网让我们获得更多信息，智能手机带给我们更多的出行机会，社交媒体以一种从未有过的方式将我们与世界联系起来。社会进程也因此发生了永久性的变化。

全世界目前因计算技术聚到了一起，而互联网、智能手机和社交媒体只是其中的一小部分，但它们已经让人类文化发生了翻天覆地的改变。事实上，社交媒体正是人类社会学研究下的科学分支，个体与个体间的关系也存在于这样的社会当中。

在这种情况下，如果说计算机科学和社会科学毫无联系根本是胡扯，而我们也很难想象一个这两者无根本联系的世界。技术不断创造，让世界根据我们的需求不断改变。计算机科学占领主要地位，就比如机器学习和人工智能，而随之而来的社会性变革的可能是你根本无法想象的。

2.计算机科学在社会中扮演什么样的角色?

“全面分析社会技术体系必须从方方面面来看，这样才能综合性地分辨当下存在的问题。”——《计算机在社会变革中的角色》

昨天下午我被安排去给毕业班讲75分钟的课，内容是计算机技术在处理社会问题时的角色。班上的大部分都是计算机科学的博士生，主题是以人为本的机器学习。

在读完“计算机在社会变革中的角色”一文之后，我问他们是否觉得计算机技术需要担负解决社会问题的责任。他们的见解和有趣：

一名同学提到技术本身不需要一定给社会带来积极改变，起作用的在于人，人们既然要创造技术，就要一直创造，而且是抱着为社会造福的态度;另一位同学问技术是否应该用于解决社会问题，他觉得技术不应让歧视和不公平这种社会问题一直存在，但也无需为解决这种潜在问题负责。

我们一致认为计算机技术不应是为解决社会问题，相反，应作为社会的一部分。其实就是计算机科学会让问题一直存在但同时也能解决它们。

我们讨论了计算机科学，特别是机器学习系统会如何在发展中改变社会。为得到评估成功的指标，我们选用数据来训练模型，从这些数据来看，机器学习的设计决策是基于社会科学的。

回到开头那封信，读回信并没有耗费一整天的时间，我咨询了一些新兴的计算机科学专家，想看他们是如何理解社会科学与计算机科学之间的关系。他们的回应一致，都认为二者是存在根本联系的。

3.假如依旧将社会科学与计算机科学分开对待，会发生什么?

获得软件工程的本科学位后，我需要学习计算机伦理道德课程，这个课程叫做“职业责任”。

这门课让我第一次懂得技术对社会的帮助与危害，它改变了我对技术在自己生活中角色的认知，同样也改变了职业轨道。

在听课之前，我从没想过道德、公平、公正和不平等这样的社会问题是与计算机科学息息相关的。我上过很多专业课，但从未听到有关职业道德的一个字。我会花上百个小时设计算法，可从来不会想界限在哪里。在我的计算机课程中，社会科学不是主题。

尽管处于一个被计算决策塑造越来越多的世界，但多年来被教导的就是社会科学与计算机科学是分开的。

当我决定开始修机器学习伦理的博士学位时，我告诉自己，这两者具有非常大的关联，少哪个都会非常危险。

这也是令我担忧的地方：如果两个领域依旧被视为彼此独立，“伦理道德”就会成为技术体系的一直都存在的问题，CS课程会继续只拥有一门“道德/职业责任”课程，有的甚至没有，技术也会一如既往地不断给社会带来负面影响。