《算法的力量：人类如何共同生存？》#

作者 杰米·萨斯坎德

导论#

我们都需要搭建一种智识上的框架，来帮助我们清晰且批判性地思考数字创新的政治后果。这本书希望使用政治学理论的思想和方法，来促成此种框架的形成。

有些事情看上去是无法言传的，或者干脆是无法想象的，那是因为常用概念库还没有发展出对它们的阐释。正如维特根斯坦（Ludwig Wittgenstein）所说：“我语言的有限性就是我世界的有限性。”

在工业革命期间，动力织布机、长筒袜和精纺机的发明就曾威胁要取代熟练的纺织工人的工作。一些被称为卢德派（Luddites）的工人发动了遍及英国乡村的猛烈攻击，他们在离开时摧毁了新机器。我们仍然使用“卢德派”一词来形容那些抵制具有破坏性的新技术到来的人。

卢德派的例子中可以看出，创新的经济后果常常要求政治给予回应，而新技术也会引发道德上的挑战。

所有政治秩序都建立在协调、合作和控制的基础之上。缺乏三者中的任何一个，组织集体生活都是不可能的。

确切地说，统计学的功能性定义，即“让先验的独立的事物结合在一起，从而将现实性和一致性赋予更大、更复杂的事物”，与政治的目的基本一致，一个是数值的抽象，一个则基于人类的现实。

退后一步，现在提出一个为阅读整本书提供指导的暂定假设已成为可能：我们如何收集、存储、分析并交流信息，本质上就是如何组织它们——这与我们组织政治的方式密切相关。因此，当一个社会开发出新奇的信息技术和通信技术时，我们便可以预见，政治上的变革也将到来。

第一章 日益强大的系统#

下个世纪，政治将被三大发展所转变：日益强大的系统、日益综合的技术和日益量化的社会。

机器学习，借用多明戈斯的话来说，就是自动化本身的“自动化”。

机器学习算法有三种“学习”方法。在监督学习（supervised learning）中，人类程序员设置了一系列确定的结果并为机器提供反馈，告诉它们其判断是否与确定的结果相合。相形之下，在无监督学习（unsupervised learning）中，机器将获得数据，然后自行寻找其范式。因此，一个无监督学习的机器可以用来“发现知识”，即建立人类程序员完全没有意识到的连接。在强化学习（reinforcement learning）中，机器被给予“奖励”和“惩罚”，从而告诉它做得是否正确。机器实现了自我完善。

然而，我们在本书的不同地方都能见到，对有缺陷的现实世界数据的依赖也能对机器学习系统造成破坏。微软于2016年3月23日在Twitter上推出了其人工智能聊天机器人Tay。Tay可以模拟一个19岁的女孩说话，并能从与其他Twitter用户的交流中学习。在它面世16小时后，Tay被禁止继续运行，因其发布了一系列含有种族主义和色情内容的煽动性推文，其中还有一张希特勒的照片，照片上打着“前方高能”的说明，还有一条推文说：“去他妈的机器人爸爸！我就是这样一个淘气的机器人！”Tay从Twitter上其他用户的这种交流方式中“学习”了此类说法。这个例子表明，人类在社交媒体上如何表达，机器学习也能有样学样。

第二章 日益综合的技术#

数字技术的发展还有五种潜在趋势：更无处不在，连接性更强，更敏感，更具构成性，更具沉浸性。

区块链的社会意义在于它可以在陌生人之间实现安全交易，而无须可信的第三方中介，如银行、信用卡公司或国家。它意图解决计算机科学（和政治学）中长期存在的问题：在没有通常所说的“人际关系”的人与人之间，如何建立起“信任”之类的东西。

现代机器人科学仍然是一个充满挑战的领域，部分原因在于“莫拉韦克悖论”（Moravec’s paradox），即（也许与预期相反）高层次推理只需要少量的计算，但低层次的感觉运动技巧则需要大量的计算资源。

第三章 日益量化的社会#

数据“是对某种事物的描述，它使对这些事物的记录、分析和重组成为可能”。将现象转化为数据的过程被称为“数据化”。

四个因素促成了这个过程。第一，越来越多的社会活动通过数字系统或数字平台展开，可供收集的数据就更多了。第二，在过去五十年中，存储数据的成本每两年左右就减少一半，而其密度却增加了5000万倍。第三，算力的爆炸式增长使我们有能力处理存储的内容。第四，数字信息的复制几乎没有边际成本，它们可以相当廉价地复制数百万次。这些因素共同解释了为什么从基于印刷的信息系统过渡到数字化系统的过程中就产生了如此大规模的数据爆炸。

数据科学家一直在努力地通过清洗、处理和组织等方式，将原始数据转化为信息，然后对它们进行分析和解读，再将其转化为知识。

Facebook的商业价值主要在于它从用户处收集的数据，这些数据用途十分广泛，从定向广告到搭建面部识别人工智能系统。

日益量化的社会是一个更容易通过机器和控制机器的人来检查和分析的社会。

第四章 像理论家一样思考#

我们正试图使用一种为昨天的世界创造的语言去掌握今天的世界。而且，过去的生活似乎更加反映了人类的天性，原因很简单，过去的生活是人类语言的更好反映。 ——安托万·德·圣艾克絮佩里，《风沙星辰》（1939）

过去，科学技术的进步帮助人类扫清了一些世界上的未解之谜。20世纪初，马克斯·韦伯的写作将现代性的中心化特征定义为“除魅”（Entzauberung），译为“启蒙”（de-magification）或“祛魅”（disenchantment）。这个过程就是理性观察取代魔法和迷信，成为解释生活中神秘事件的方法之过程。我们这代人也许是体验了相反效果的第一代——世界的“再神秘化”。随着时间的流逝，我们会发现自己被具有超凡力量的、微妙而复杂的技术越发紧密地包围起来；其中的大多数我们都几乎无法理解，更不用说控制了。阿瑟·克拉克（Arthur C. Clarke）说：“任何足够先进的技术都无法与魔法区分开来。”诚如斯言，若数字生活世界要为我们准备一场魔术表演，它必将与我们所见过的一切截然不同。

对于某些人来说，政治等同于政府：立法者决定社会集体目标并制定能实现这些目标的法律和政策的过程。根据这种观点，政治是在政客和公务员的控制下，在议会、政府大楼和市政厅里发生的事情。普通公民也能通过投票或行动主义或多或少地参与政治（可以这么理解），这取决于国家性质和公民意愿。

一种观点认为，政治无处不在，不仅存在于公共领域，还存在于私人领域：朋友和同事之间、家庭内部；俱乐部、团队和宗教机构；在政府中，也在艺术、建筑、科学、文学中，并嵌入语言本身。只要是存在合作、冲突或控制的地方，政治就存在；或是在所有某些特定的社会关系可能被另作安排的领域，从职场政治到性政治，政治也存在。这种观点认为，政治不是一种可以避免或忽略的东西。

阻止某事发生或被改变的最可靠方法，就是干脆不要把它提上日程。

我对政治的定义如下： 政治指的是人类的集体生活，包括我们为什么共同生活，如何安排和约束我们的集体生活，以及我们可以或应该以何种方式来有区别地安排和约束这种集体生活。 该定义不以任何特定形式的政治制度为前提。实际上，它所假设的只是（a）人类将继续集体生活，（b）人类的集体生活能够以不止一种方式组织起来，（c）约束集体生活的方式不止一种。这些都是最微小的假设，能让我们以一种开放的心态继续前行。

语言共同体在概念使用上的差别是至关重要的。当一个英国人听到“自由”一词时，他可能会想到弱化政府对经济和公民社会的干预的支持者。而如果是一个美国人听到“自由”一词，结果可能恰恰相反，他更可能想到主张扩大福利国家的社会主义者。

概念分析就是试图去了解当人们在谈论政治时，他们在谈论什么的过程。这就包括使政治话语经得起细致的调查和质疑，弄清定义和区别，从而使其变得清晰、一致、简单。

政治言论的目的经常就在于欺骗、叫停争论、混淆视听和迷惑别人；用奥威尔的话来说：“撒谎听起来很真实，让谋杀受人尊敬，为空中的风赋予固态的外观。”

概念分析还涉及试图理解概念的道德内涵及其意义。

“规范分析”即试图判断政治领域中是非善恶的方法，与道德哲学和伦理学紧密相关。我们对彼此负有何种正义的责任？我们是否有义务参与公共生活？我们享有做何种事情的自由，什么事情是应被禁止的？违反法律在任何情况下都是不可接受的吗？以上这些就是“规范性问题”。规范分析使我们能够通过反思和争论来确定原则，从而指导我们如何共同生活。

规范性理论用于阐明特定制度、政策或原则的道德正误。

语境分析是用来找出概念从何而来、为何能出现、在它们的构思过程中被赋予了何种含义，以及其含义是如何随着时间改变的。

第五章 代码就是力量#

强者如何统治弱者？答案是施加权力，它是政治秩序的基石和政治概念的教父。

我认为，未来的权力将采用三种形式。第一种是武力（第六章），第二种是审查（第七章），第三种是感知控制（第八章）。数字技术将逐渐成为这三种形式的主要来源。

我们不妨从“对某人有控制权”（having power over someone）和“有权力做某事”（having power to do something）的简单区分入手开始讨论。控制权（power over）是这样一种权力：如老板告诉他的下属去完成一项任务，或是学校老师要求其学生安静地坐着。这是关于管理者要求被管理者遵守规则的过程。相反，行动权（power to）并不意味着“管理者和被管理者”的体系，它指的是一种能力、才能，或是某人得以做某事的能力，例如，沿着街道行走或是举起沉重的杠铃。这是一个广义的定义。有了行动权的某人或某个团体在自身强大的同时并不需要剥夺相应对象的权力。

若A对B有控制权，即A有能力迫使B做某些B原本不会去做的事情。

一个人或实体是强大的，在于其具有稳定且广泛的能力，迫使其他人或实体去做某些他们本不会去做的重要事情，或者不做他们本来会去做的事情。

武力、强制、影响力、权威和操纵，是思考不同形式的权力的有利途径。但我们不应该认为它们天然是正确或错误的

代码和自然语言之间最重要的区别在于，代码的含义须更加准确。它的目的是生产明确的指令，不留解释上的灰色空间。

算法（algorithm）一词本身可追溯到9世纪的波斯数学家阿卜杜拉·花剌子模（Abd’Abdallah Muhammad ibn Mūsā Al-Khwārizmī）。对花剌子模名字的翻译——algorismus被用来描述推理、计算和处理数据的一切数学方法。

代码与权力有什么关系？当我们与数字技术互动时，我们同样须服从其代码的指示。

未来，代码将会成为动态的、敏感的和适应性更强的人类行为裁判——能够更改规则，也能加强规则。有时，它会让人觉得很巧妙，也会让人摸不着头脑；有时，它似乎也缺乏理性或不太公平。然而，这就是权力。

第六章 武力#

一方通过取消另一方对是否服从的选择权来确保后者的顺从。武力是权力最纯粹也最直接的表现形式。

在数字生活世界中，武力的使用在未来几年将发生三个重要的变化。第一个变化就是我所说的“武力数字化”：从成文法到数字法的转变。第二个变化可称之为“武力私有化”，这是从劳伦斯·莱斯格那里借来的概念，它侵蚀了国家在武力使用方面的长期垄断。第三个变化就是“武力自动化”，它随着自主数字系统的出现而出现，自主数字系统能够在没有人类的即时监督和控制的情况下，对人类施加武力。

数字生活世界提出了一种新型法律的前景，它在四个重要方面与人类当前生活的世界不同。首先，它将由数字系统实施，而不是由人类实施。其次，它将迫使人类无法违反法律，而非简单地事后惩罚。再次，它将具备适应性，能随情况的变化而变化。最后，它可以用代码来起草，而非使用自然语言。这是数字法（digital law），是他人强迫我们行事或限制我们行动的一种全新方式。

从法律的强制执行（人们因怕被处罚而遵纪守法），到通过武力强制执行的法律（人们遵纪守法只是因为他们除了不犯法外别无选择）。

“一道上锁的门，并没有以国家惩罚的威胁来命令你‘请勿进入’，而是设置了物理限制，决定某人能否自由出入某些地方。”未来，法律将更多地表现为一道上锁的门，而非“禁止入内”的命令。

托洛茨基曾在布列斯特说过：“每个国家都建立在武力之上。”诚如斯言……国家是（成功地）宣称在特定区域内对合法的身体暴力享有垄断权的人类共同体。

理论家长期以来一直在争论，我们为何要允许国家存在，为何只允许国家对我们使用武力。最著名的答案来自17世纪的英国思想家霍布斯，他经历过血腥的内战时期，惯用阴郁的视角窥探人类的本质。他认为，若无“所有人都敬畏”的“共同的力量”，人们将永久地陷入“战争状态”，每个人都在反对每个人。

代码将价值编成代码，但是奇怪的是，大多数人似乎都只把代码看作工程问题。或者觉得似乎最好把代码问题留给市场。或者最好不要由政府插手解决。

特朗普被Twitter封了，自建了一个社交媒体。可并不是每个人被社交媒体封杀了都有能力找到一个替代品。Twitter Facebook这些社交平台已经形成了事实上的垄断，掌握了互联网的话语权。而作为主体在美国的公司，他们一定要为美国的国家利益服务，受到美国的国家意志控制。

这种反对的成立取决于替代选择市场的存在，这不是我们可以想当然的事情

这种反对的成立取决于替代选择市场的存在，这不是我们可以想当然的事情。

伊丽莎白·安德森（Elizabeth Anderson）在另一语境下的言论：说科技公司不会对我们施加影响，因为我们可以选择退出，就类似于说墨索里尼不是独裁者，因为意大利人可以移民。

现实是，我们将越来越受制于来自各个新方向的力量。不管对这种权力的规范是应该事关集体控制，还是应由市场来规范，再或者是由其他形式的问责制来约束，它都将成为数字生活世界具有决定性的政治议题。

出现能够在不受人为控制的情况下施加武力的自主数字系统的可能性。想让这样的系统稳定运行，需要三个特征。首先，它们必须在某种意义上是“自我指导”（self-directing）的，即被充分编码以执行其功能，而无须任何进一步的人为干预。

其次，这样的系统必须是能“自我维持”（self-sustaining）的，即能在没有人类帮助的情况下良好运转相当长的时间。

最后，此类系统在功能上必须是独立的，从这个意义上说，它们不可能轻易被寻求重新获得控制权的人类主人接管。区块链技术可能再次发挥作用：如果操作代码分布在全球范围内多个机器上，那么就很难将其关闭。

人类的生命应该在多大程度上受制于不受人类直接控制的力量呢？

第七章 审查#

最精明老练的政治领导人知道，强迫别人就是要控制他们的身体；同时要影响或操纵他们，从而控制他们的思想。

未来在不使用或不威胁使用武力的前提下，如何能让人们去做他们原本不会做的事情。重点是两个简单却意义非凡的权力工具。第一，审查：收集、存储和处理有关他人的信息的能力。第二，感知控制：控制他人所知、所想和他们准备发表的对世界的看法。

我所说的审查，不只限于视觉观察，还包括任何收集、存储和处理有关某人的信息的方式。将来，受到审查将成为常态，完成大部分搜集工作的主要是机器，而不是人类。人们的所作所为将越来越难以逃避技术的关注。此外，那些掌握审查手段（能收集和处理信息的技术）的人，对其他人的控制力将会大大增加；在约翰·弥尔顿（John Milton）的《失乐园》（1667）中，撒旦对这类权力下了诱人的预言： 你的眼睛是如此清澈， 却又黯淡无光，但到那时它将是完美的 睁开眼后如此清亮，那时你就会跟神一样。

关键是审查在很多时候都带有强烈的主观性和随意性，“清风不识字，何故乱翻书”。而带来的后果就是被审查者的自我规训

审查与权力之间的关系是密切且双重的。首先，审查有助于收集信息，这在部署权力时相当有用。这是它的辅助功能。其次，审查本身就可以让人们去做他们本来可能不想做的事情，或者阻止他们做本来想要去做的事情。这就是其规训的功能。

审查与权力之间的关系是密切且双重的。首先，审查有助于收集信息，这在部署权力时相当有用。这是它的辅助功能。其次，审查本身就可以让人们去做他们本来可能不想做的事情，或者阻止他们做本来想要去做的事情。这就是其规训的功能。

审查的辅助功能非常简单直接：你对某人了解越多，你就越容易让他服从于你的权力，无论是通过武力、强制和影响力，还是权威和操纵。

信息本身不是权力，却有助于获得权力。审查的辅助功能就是收集此类信息。

审查的第二项功能就是规训。仅仅知道我们正在被观察这件事就会让我们的行为有所不同。它使得我们更不可能去做那些被认为是可耻、有罪或是错误的事情。

审查导致自我规训这一观点一般被认为来自福柯。作为20世纪政治思想的超级巨星，福柯认为权力并不仅限于国家对民众的强迫和胁迫。相反，他提出了“规训权力”这个概念，一种通过不断审查而获得的权力，他认为这可能比使用武力或威胁使用武力更加有效。这种权力与残酷的武力不同，“它深入每个个体内心深处，触摸他们的身体，并将自身植入每个人的行动和态度，植入他们的话语、学习过程及日常生活”。

福柯说没必要使用武力来维持政治秩序，这确实有点夸大其词，但重要的是其更深层次的思想：审查本身可以被视为一种强制。它不会强迫你做任何事情，但确实会鼓励你出于对不良后果的担心而进行自我监管，无论这种后果是真实的还是想象的。

量化人生

数字生活世界将带来人类相互监督能力的变革，它在五个方面与过去不同。第一，人类整个生命中不可记录的那部分，或是因过于复杂而无法窥其全貌的部分，将能够通过各种审查手段来观察和理解。社会现象的可读性因此将大大增加。第二，这种审查将会越来越私密，甚至发生在我们此前看作“私人”领域的地方。第三，通过审查搜集到的信息也许会更加“不朽”，始终活在人们的记忆中，甚至贯穿整个人生。第四，对负责展望未来的机器来说，人的行为的可预测性将越来越强。第五，人类生活的可评估性越来越强，在分数、评级和排名的驱使下，人们为了获得社会公共产品而相互竞争。累积的结果作为一种审查，将超过我们以往经历过的所有审查。相应地，那些制约我们的权力也得到了增加。

正如维克多·迈尔·舍恩伯格和肯尼斯·库克耶所说，在人类历史的大多数时期，遗忘是常态，记住才是例外。人类所知、所言、所做和所想中的绝大多数从未被记录下来，它们流失在时间的长河里。然而，在数字生活世界里，情况恰恰相反：人们记住了很多东西，却很少会忘记。数字形式的信息比以往任何形式的信息都更容易储存和复制，速度越来越快，且保存这些信息的动机一直都存在。

基于第三章中给出的所有理由，数据是一种有价值的商品，其价值只会随着时间的推移而增长。

用威廉·福克纳（William Faulkner）的话来说，在未来，“过去永不消逝。过去甚至还没有过去”。

对审查手段的控制——在看见别人的同时不被别人看见——将成为未来一种非凡的权力来源。反过来，审查手段也将越来越多地受到旨在增强隐私和保护匿名性的抵抗技术的挑战

第八章 感知控制#

在不让人民屈服于武力或审查的情况下，对人们施加权力的最后一种方式就是控制他们的所知、所想和准备就世界发表的看法。让人不去做某件事的好办法之一，就是从一开始就阻止他们做这件事的企图，或者是让他们确信，自己的欲望是错误的、不合法的、可耻的，甚至是疯狂的。我把这种手段称为“感知控制”。

为了解超出我们直接经验的事物，我们须依赖他人去（a）寻找和收集信息，（b）选择什么值得报告或记录，（c）决定有多少背景和细节是必要的，（d）以易于理解的形式反馈给我们。这些工作都是在“过滤”。我们如何感知更广阔的世界，在很大程度上取决于我们可用来理解这个世界的过滤器。

过滤是一种无比强大的感知控制手段。如果你控制了一个社会的信息流动，你就可以影响这个社会对是非、公不公平、干不干净、得体不得体、真实还是虚假、已知还是未知的共同观念。你可以告诉人们世界是什么样，什么是重要的，以及他们应该如何去思考和感受。你可以说明人们应该如何判断别人的行为。你可以唤起热情和恐惧、沮丧和绝望。你可以塑造规范和习俗，定义什么可以做，什么不能做，哪些礼仪是可以接受的，什么行为是适当的或不适当的，以及共享的社会仪式，如问候、求爱、仪式、谈话和抗议应该如何执行；什么可以说，什么被认为是不能说的；公认的政治和社会行为的界限是什么。如果我违反了一项规范或习俗，我可能不会像违反法律那样受到武力制裁，但后果可能会更糟：嘲笑、羞耻、排斥、孤立，甚至放逐。正如曼纽尔·卡斯特（Manuel Castells）所说：“我们感受和思考的方式决定了我们行动的方式。”那些控制感知手段的人将更多地决定我们的感受和思考方式，进而决定我们的行动方式。

普通人在心理上已经习惯于被动接受自己的命运。他们被幻想和错觉所控制，觉得改变是不可能的，甚至是不可取的。

互联网的发明和广泛应用标志着传统大众媒体垄断过滤手段的终结。

互联网已经被用于更精确、更广泛地控制我们传递和接收的信息，从而控制我们感知世界的方式。

在未来，我们如何感知世界将越来越多地由数字系统向我们揭示或隐藏的东西所决定。当我们只体验到世界的一小部分时，呈现在我们面前的那一部分将起到重大作用。它将决定我们的所知、所感和想要什么，从而影响我们去做什么。控制以上途径就是政治的本质。

第一个被数字技术控制的感知方式就是新闻。我们已经越来越依赖社交媒体来分类和呈现新闻。

第二，当我们搜索信息时，过滤器就会起作用。搜索引擎决定哪些结果或答案应该优先响应我们的查询。

第三，无论我们何时使用数字方式进行交流——在数字生活的世界中，这是十分常见的——我们同时也就在这个系统中向“过滤”开放了。

中国版Skype的用户被该应用程序的代码禁止相互发送某些术语。这反映了一种更广泛的趋势，即通信技术受制于基于禁用词的即时审查。微信是世界上第四大聊天软件，有近9亿的月活跃用户，它会根据关键词进行审查。如果你发送的消息中包含禁用词，远程服务器将通过审查系统直接拒绝发送该消息（而你并没有被告知）。

数字技术可以通过过滤“积极”或“消极”的新闻内容来影响用户的情绪（有争议的是，这项研究是在受试者不知情或没有征得其同意的情况下进行的）。

最后，以前只有当我们试图了解视线之外的事物时，外部过滤器才会真正发挥作用，但在未来，我们会越来越多地将我们的直接感官体验提交给过滤器。

因世界被过滤方式的不同，我们看待世界的方式也各不相同，社会分裂的问题就出现了。

2022年亚马逊Kindle已经宣布退出中国市场，不胜唏嘘

2009年，在与一家出版商发生龃龉后，亚马逊进入了每一款Kindle设备，并在未经允许的情况下删除了某本书的副本。这一壮举之所以成为可能，是因为电子阅读器使用了云存储技术。这本书的书名很应景——乔治·奥威尔的《1984》。如果时间倒回1995年，印刷书商想立即召回已经卖出去的数千本书自然是不可能的。

尽管权力可以被用于积极的目的，如让人们充分了解信息等，但也可以用来创造一个对特定想法充满敌意的环境，从公众意识中消除或降低某些问题的声量，从而促进不考虑公众利益的规范和习俗的形成。

如果一个算法显著地扭曲了我们对世界的看法，导致我们持有原本可能没有的信念，或拥有原本可能没有的感觉，或者去做我们本来不会去做的事，那么我们甚至很难意识到施加在我们身上的权力的本质。我们不知道自己不知道什么。过滤器滤掉了对强者进行审视的必要视角。

第九章 公私权力#

明显，我们大多数人将在两个主要方面受制于技术的力量。第一是我们为了特定目的而使用技术的时刻——使用社交媒体、通信或购物平台，乘坐自动驾驶汽车等都算。几乎每一件事都将受到这样或那样的数字平台系统的中介或促进。

第二种是作为被动的主体——比如，当我们走在街上时，监控摄像头会跟踪我们的轨迹。

现代，我们通常将国家和其他所有人之间的区别视为政治生活最核心的分歧。这源于四个假设。第一，只有政府才能强迫你做事。第二，国家（而不是私人公司）做了大部分的审查工作。第三，媒体（而不是国家）适当地享有感知控制的权力。第四，感知控制的力量总体上是一种比武力和审查更弱的权力形式。我们看到，这些假设在数字生活世界中都不可能成立。

在《正义诸领域》（Spheres Of Justice，1983）一书中，政治哲学家迈克尔·沃尔泽（Michael Walzer）认为，“支配总是以一套被称为‘主导物品’的社会物品为中介”。他解释说，在资本主义社会中，资本是占主导地位的物品，因为它可以“轻易地转化为”人们渴望的其他东西，如权力、威望和特权。我认为，在数字生活世界里，占主导地位的物品将是数字技术，因为对控制它的人来说，它不仅会带来便利、娱乐甚至财富，它还会带来权力。请注意，权力将属于那些控制技术的人，而不一定是拥有技术的人。

科技公司是在市场体系中运行并追求有限经济利益的私人实体。它并不对广大公众负责，而是对它的所有者和利益相关者负责。科技公司有自己的利益，与用户的利益是分开的。相比之下，国家不应该拥有自己的利益。至少在理论上，国家是为了公众而存在的。

最重要的科技公司越来越像公共事业公司，也就是说，越来越像维护电力、天然气、污水处理和供水等基础设施的组织。

最强大的公司将是那些控制着影响我们核心自由之技术的公司，比如思考、发言、旅行和集会的能力（第十章和第十一章）；它们能够影响民主进程的运作（第十二章和第十三章）；它们有力量解决社会正义问题（第十四、十五、十六章）；它们还会是在所有这些领域获得市场支配地位的公司（第十八章）。

一位著名作家曾写道，人类事务中出现了一种令人印象深刻的新权力形式，它“与此前世界上存在的任何形式都不同”： 它给整个社会生活覆上了一张琐碎而复杂的规则之网，这些规则细微而统一，即使是最具独创精神和最有活力的人也无法破网而出。它不会摧毁人的意志，而是软化、驯服和引导它；它很少发出命令，但经常抑制行动……它并不专制，但它却能阻碍、抑制、削弱、扼杀和僵化行动——以至最后，每个国家所管理的不过是一群胆怯而勤劳的动物，政府则是牧羊人。 这一段落看上去描述的是技术在数字生活世界中的力量。事实上，它由年轻的法国贵族托克维尔写于1835年，差不多两百年前。他的话题是什么呢？论美国的民主。

第十章 自由和增压的国家#

我认为自由可以分为三类：行动自由、思想自由和结社自由（结社自由也被称为共和主义的自由概念）。

行动自由意味着可以不受干扰地行动：能不受干扰地集会、旅行、游行、示威、做爱、学习、写作和演讲。它是一种关于自由的身体概念，与行动、活动、动议和运动有关，而无关精神层面的内部运作。

能够以一种真实的方式思考、相信和渴望，去发展自己的特质，制订人生计划，陶冶个人品位，这些都是思想自由的基本方面。它与另一个概念“自治”（autonomy）密切相关，这个词源自希腊语单词autos（自我）和nomos（规则或法律）：对内在自我的掌控。

有时我们会凭借直觉和本能自发地行动，而有时我们则会理性、谨慎和有意识地行动。有时我们的行为与道德信念保持一致，有时我们却会违反最深层的道德。就好像在每个个体内部都没有一个统一的自我，而是一群相互竞争的自我，为争夺至高地位而斗争和竞争。

自由是相对的，当我们屈服于欲望“自由”地无节制刷短视频等时，在更深层次的“自我”可能是不自由的。对自我的掌控成就了深层次的“思想自由”

以下是三个要点。第一，正如以赛亚·柏林所说，“自由的概念直接源自对什么东西构成了自我、人格和人的看法”。因此，说“我是自由的”就会引发这样一个问题：“哪个我？”第二，自由和不自由有可能同时存在，这取决于哪一个“自我”在发号施令。第三，我们有可能让自己陷入部分或暂时的不自由。

以下是三个要点。第一，正如以赛亚·柏林所说，“自由的概念直接源自对什么东西构成了自我、人格和人的看法”。因此，说“我是自由的”就会引发这样一个问题：“哪个我？”第二，自由和不自由有可能同时存在，这取决于哪一个“自我”在发号施令。第三，我们有可能让自己陷入部分或暂时的不自由。

“表达自己思想的权利，只有在我们能够拥有自己的思想时才有意义。”

能够独立思考固然很好，但如果不能将这些想法付诸行动，它们就会永远囚禁在我们的头脑中。

共和主义的自由观对自由有一种更广泛的看法，即自由就是成为自由社会的积极成员。

共和主义的自由有三个维度。

首先，一个自由的社群通过追寻其公民意志来进行自我管理，不受外部干涉。

第二，真正的自由来自政治参与和西塞罗所说的“美德”（virtus）的发展，意大利理论家后来将其翻译为virtù，英语共和主义者将其翻译成“公民美德”（civic virtue）或“公共精神”（public-spiritedness）。

第三，“实际自由”比那种所谓的“绝对自由”更重要，这是英国革命和美国革命的关键区别。

“如果你依靠别人的善意来维护你的权利”，那么“即使你的权利实际上得到了维护，你也将生活在奴役之中”。

这个想法很简单：依赖强者约束的自由根本不是一种自由。

与思想自由和行动自由不同，共和主义的自由观念不太强调每个人各行其是，而更强调整个社会的自由。矛盾的是，这意味着在自由的名义下，个人有时可能被迫以一种更具公益精神的方式行事，而不是让他们自己选择。

所有文明的法律制度都包含了些许可以喘息的空间，使人们在某些情况下能逍遥法外。这个空间里蕴含的“自由量”惊人。它的存在是对相信大多数人在大多数时候都能遵纪守法这一事实的务实让步。数字生活世界的危险之一，是法律将进一步开垦这片珍贵的“顽皮”腹地。

如果人的未来行为可以被预测，那么人到底存不存在自由意志？

预测人们未来犯罪的可能性，就是接受了这样一个事实：人类的行为在很大程度上受到一般规律和模式的支配，而这些一般规律和模式无关乎个人的自由选择。

习惯、道德、方便、谨慎、害怕惩罚……这些都可能是我们遵守法律的原因。无论主要原因是什么，有意识的服从行为教会我们按道德行事。学会思考我们所做事情的对错是成为一个好公民的重要组成部分。这是自由的礼物。然而，在一个已经替我们做出许多道德决定的世界里，在自我执行的法律面前，许多选择根本就不存在，或者因为惩罚的不可避免意味着不值得去冒险，我们就不会被要求以同样的方式磨炼自己的品格。

道德的自动化是否会在某种程度上削弱并剥夺我们人性中的重要部分——我们想做坏事就能做的自由，以及选择不做坏事的自由？

欧洲和南北美洲的黑客通常比其他地方的黑客更“反独裁”，而南欧的黑客则比北方的黑客更“左翼、无政府主义”。而中国黑客在工作中“相当民族主义”。

一个设计良好的法律体系，就像任何良好的规则体系一样，可以在限制人们自由的同时提高人类自由的总体水平。基于自由主义的观念，它通过保证每个人都拥有不受他人伤害而自由发展的空间来实现。这就是霍布斯所说的，需要一种“共同的力量”来让人们“共同敬畏”。

第十一章 科技公司与自由#

正如我们所见，数字技术有一个奇怪的特质，它可以同时增强和限制我们的自由。它使我们可以自由地去做以前不能做的事情，但同时也根据代码的约束限制我们的行为。

简而言之，我们正在目睹一种新的、历史性的政治平衡出现：我们获得了全新的发言形式和机会，但作为交换，我们也要接受一个事实，即我们的言论必须遵从控制论坛的人制定的规则。

依赖于强权约束的自由根本不是自由。每个控制言论平台的公司，只要它们愿意，可以随时减少或改进我们的言论自由。

从自由的角度来看，国家所掌握的权力与科技公司所掌握的权力有四个重要区别。

第一，也是最明显的是，民主国家要对人民负责，公民也对管理他们的规则有实质意义上的发言权。权力可以被问责。但对于大多数私营科技公司来说，情况却并非如此。它们制定规则，我们接受规则。

第二，（至少在理论上）国家的存在是为大众利益服务的。一个运作良好的政府制定旨在促进共同利益的法律和政策。相比之下，科技公司就像所有以资本主义模式运营的私营公司一样，为其所有者的商业利益而存在。

第三，成熟的法律制度是根据明确的规则和准则，随着时间的推移系统发展起来的。相反，私有代码以一种特殊的、不一致的方式开发出来。

代码帝国并不是一个统一的领域，而是由一些重叠的管辖区拼凑而成的。这并不一定是件坏事，它可能会形成一种数字邦联主义，人们可以根据自己喜欢的代码在不同的系统之间游走。

第四，数字生活世界中技术的复杂程度令人无法想象，比政府的运作方式更加难以捉摸。

机器的功能与人类不同，这一事实使它们天生难以理解。但在通常情况下，它们甚至不能根据其设计来运转。就像父母对孩子文身的决定感到困惑一样，软件工程师也经常对自己的人工智能系统做出的决定感到惊讶。随着算法越来越复杂，它们也变得越来越神秘。许多系统已经运行了数千行自生成的“黑暗代码”，其功能未知。

穆勒是个开明人士，但不是自由论者。他承认，为了社会的延续，必须对个人自由施加超过最小限度的限制（如果你愿意，可以称之为明智的限制）。但他相信，想要限制他人的自由，须有充分的理由。他开始认识到，只有一个理由可以证明这种限制是合理的：防止伤害他人。这就是伤害原则，西方政治思想中最具影响力的观念之一。

不幸的是，伤害原则在历史上一直被肆意违背。从一开始，人们就因为持有“错误”的信仰而受到迫害，因为与“错误”性别的人做爱而受到惩罚，因为向“错误”的上帝祈祷而遭到屠杀——这其中没有一件事伤害到了其他人。在数字生活世界中，科技公司必须比过去握有权力的强者做得更好。这是我们构建人类自由的机会，其目的应是解放人们，而不是摧毁他们。

数字自由意志主义所代表的是一种信念，它认为未来的自由意味着不受技术影响的自由。每一行施加权力的代码都是违背自由的。自由始于技术的终结。

数字自由主义是一种更为微妙的信念，它认为技术应该被设计来确保所有人享有最大可能的个人自由。这就是“明智的限制”路径。它的作用在于要求代码在善的不同概念之间尽可能保持中立。它不应该积极地倡导一种生活方式胜过倡导另一种生活方式，而应该给个人最大的自由空间来决定他们的道路，也许是通过对自己拥有的设备进行个性化定制。

数字邦联主义的理念是，维护自由的最佳方式是确保人们可以根据自己喜欢的代码在不同的系统之间移动。例如，如果我认为一个发言平台限制太多，我就能转向另一个。数字邦联主义要求，对于任何重要的自由，如通信、新闻收集、搜索和运输，都必须有多个可用的数字系统来行使它。而且，必须要能在这些系统之间移动而不产生负面后果。

相比之下，数字家长主义和数字道德主义认为，技术应该分别被设计来保护人们免受自身行为的有害影响，让人们远离不道德的生活。

数字共和主义认为，任何人都不应受制于控制数字技术者的专断权力。至少，这意味着必须有人协助我们理解，控制我们生活的技术是如何实际工作的，它们所包含的价值为何，是谁设计和创造了它们，它们服务于何种目的。真正的数字共和主义则更为激进，不仅要求我们理解对我们施加权力的数字系统，而且要求我们能够参与塑造它们的实际工作。依靠科技公司的善心和智慧来为我们的自由做出重要决定是不够的。这种观点认为，只要他们可以随意改变规则，让技术为其自身利益而不是我们的利益工作，我们就认为自己一定是不自由的。

自由和民主之间有着重要的联系。对自由主义者来说，这种联系的性质很简单：只有在民主国家，人民才能确保他们的自由不被践踏，并能参与制定“使人自由的明智的限制”。

第十二章 民主的梦想#

放眼全球，我们可以看到五种不同的民主制度，每一种都是通过数字技术实现的：协商民主、直接民主、维基民主、数据民主和人工智能民主。

“民主”这个词通常指的是一种政府形式，其最终的政治权力掌握在多数人（人民、群众、多数派和被统治者）手中，而不是少数人（君主、独裁者和寡头）手中。

经过两千多年的概念荒芜后，民主这个词终于在19世纪末踏上了它的回归之旅，但此次回归不是以其古典形式，而是作为自由民主重生。自由民主的中心前提，可以追溯到17世纪约翰·洛克（John Locke）的著作——个人应该被给予广泛的自由，让他们按照自己认为合适的方式生活。这意味着使用民主程序来制约权力（民主的部分），同时也意味着保护人民不受人民自己的伤害（自由的部分）。

自由民主的独特之处在于它拒绝了“民主越多越好”的观点。法治、个人权利、政教分离和分权，这些都是自由民主的核心内容，但其根本目的是限制而非促进不受约束的人民权力。

20世纪下半叶出现的许多民主国家都属于自由民主国家。它们的共同特点是代议制民主，而非直接民主制。这意味着掌握决策权的是民选代表，而非全体公民。

第一，现代政体的体量和规模使得像雅典议会这样的机构不可能存在。第二，现代生活的复杂性被视为不适合大众审议。第三，代议制民主使“最优秀和最聪明的人”（嗯）脱颖而出，创造了一个为公众利益服务的职业政客阶层。第四，政客和公众之间的对话是产生好点子的有效途径。第五，代议制被认为是调解并缓和群众喜怒无常的激情的最佳方式，同时也照顾了他们的情绪。

互联网本应改变民主。自20世纪90年代被广泛应用以来，互联网确实对成熟的民主体制的运作方式产生了重大影响，其对以下三方面的影响尤其明显。

首先是在政治竞选领域。几乎在每一次重大选举中，网络工具都被用来筹集资金、组织支持者、加强信息纪律、传播信息和监视激进分子。近年来，政治精英也开始充分利用大数据在公民画像、模拟公民政治行为方面的潜能，预测他们的意图，并相应地投放广告和组织资源。

微博众议院

其次，互联网改变了政府和公民之间的关系，使他们能够共同致力于解决公共政策问题。

最后，通过促进网络协会和网络运动的出现，互联网改变了公民之间的关系。

我们先花点时间思考一下为什么民主一直被认为是政府的最佳形式。这将使我们今后能够更好地评估各种民主形式的优点。

支持民主的第一个也是最古老的论据源于自由。

它认为，只有生活在自己制定的法律之下，我们才是真正自由的。否则，我们就是国王、暴君和外国占领者这些外部权力的玩物，无法设定我们自己的道路，或选择我们对美好生活的看法。独特的是，民主使所有的人都享有自由。只有当我们大家都牺牲一点自然自由，屈从于别人的意志，我们才能成为自己共同命运的主人。

支持民主的第二个论点也来自共和主义传统，它依赖于人性。

参与政治是做人和过充实生活的一部分。

人们可以通过与他人一起参与政治来提升自我。

对很多人来说，最为重要的是第三个论点——基于平等的理想。如果每个人的生命都具有同等的道德价值，那么政治决策就应该平等地关注每个人的利益和偏好。因此，政治共同体内的每一个人都应该有平等的机会去影响与他们有关的决定，不应允许任何精英集团或个人为自己积聚权力。民主是确保这一点的好方法。

支持民主的第四个理由是，在所有政府形式中，民主往往会在法律和政策方面产生最好的结果。

不敢苟同。一群不会做饭的人做出来的百家宴一定会比一个专业的厨师做出来的筵席要好吗？要把百家宴做好一方面要提高每个参与者的厨艺，另一方面要提供给每个参与者足够的食材。对于参与者，还要求他们自身的道德水平足够高，不能藏私

多数人，其中没有一个人是完美的，但总的来说，可能比少数人（不是单独的，而是集体的）更好，就像大家共同贡献的百家宴，总比一家独自供应的筵席好。

政治学家试图用两种不同的方式来解释民主的认知优势。一群被称为“计数者”（counters）的理论家认为，从数学逻辑的角度来看，一个庞大而又多样化的群体比一个更小的群体——即使是由专家组成的群体——能更好地回答政治问题。

另一群被称为“谈话者”（talkers）的理论家认为，民主不仅仅是个人意见的聚集。正是民主的“协商”（deliberative）元素带来了更好的立法结果。政治问题的公开传播可以让思想和信息得以分享，让偏见和既得利益得以暴露，让理性和合理性战胜无知和偏见。

支持民主的第五个理由与稳定有关：与其他政府形式相比，民主制度更有可能被视为合法的，因此它在治理压力下崩溃的可能性最小。

支持民主的最后一个论点是，尽管它有种种缺点，它仍是防止暴政和腐败的最佳途径。只要人民保持对权力杠杆的控制，他们就有可能避免疯狂的国王和坏蛋独裁者犯下最严重的暴行。

第十三章 未来的民主#

协商民主、直接民主、维基民主、数据民主和人工智能民主。

协商是共同体成员理性地讨论政治问题，以找到所有（或大多数）理性人士都能接受的解决方案的过程。

尽管普通公民表达个人意见的机会比以往任何时候都多，但这并没有广泛提高协商或政治讨论的质量。相反，政治上的分裂和信息不透明让人觉得跟过去没什么差别，甚至愈演愈烈。如果我们还不改变路线，那么在数字生活世界中，我们的协商质量可能会进一步下降。这是四种威胁造成的：感知控制、碎片化的现实、在线匿名和来自机器人日益严重的威胁。

在未来，我们如何感知世界将越来越多地由数字系统所揭示或隐藏的东西决定。这些系统——新闻和搜索服务、交流渠道、情感计算和增强现实平台——将决定我们的所知、所感，决定我们想要什么、做什么。反过来，那些拥有和运营这些系统的人将有能力塑造我们的政治偏好。因此，对协商民主的第一个威胁是，我们的观念越来越容易受到控制，有时还受制于我们试图问责的机构。当你的政治思想和感受是由别人为你构建和塑造的时候，你就很难理性地行动了。

第二个威胁来自公共话语的瓦解与极化。人们倾向于与他们喜欢的人交谈，也爱看那些证实了他们想法的新闻内容，同时过滤掉让他们觉得不愉快的信息和人群。科技让他们越来越有能力这样做。

这意味着我每天看到的世界可能与你看到的世界截然不同。

“假新闻”一词最初被用来描述在互联网上提出并广泛传播的虚假消息。而如今，连这个词本身也失去了意义，它被用来描述说话者不同意的任何东西。尽管一些社交媒体平台已经采取了应对措施，但网络交流的本质（如目前所设计的）的确有助于错误信息的迅速传播。其结果就是所谓的“后真相政治”。

还有两个因素加剧了后真相政治的问题。首先，除了过滤之外，来自政治精英的个性化政治信息还意味着你从某个候选人或政党收到的信息将与我得到的信息不一样，每条信息都会根据我们最想听到的内容量身定做。

其次，我们天生的群体极化倾向意味着，随着时间的推移，拥有相同观点的群体成员会变得更加极端。正如卡斯·桑斯坦所说：“最需要倾听反对意见的恰恰是那些最有可能过滤掉反对意见的人。”

我把两极分化和后真相政治的双重现象称为“碎片化的现实”

第三种威胁无助于协商的原因是，许多网络平台允许我们匿名或非实名参与。这种方式鼓励我们以一种在面对面交流的时代做梦也想不到的方式行事。我们的行为不能被追究，没有人知道我们长什么样子，你面对的不是真实的人，你眼前呈现的不是真实的世界，这些感觉结合在一起，导致许多人举止恶劣。

如果你想让人们憎恨你的敌人，那么一个策略就是伪装成你的敌人，说一些令人反感的话。

谁的声音大谁更有理

“思想市场”的概念虽然听上去很吸引人，但可能并不是最好的。如果内容是根据点击率（以及因此产生的广告收入）来设计和排序的，那么真相往往就会成为牺牲品。如果辩论室的主导者是那些拥有过滤能力的人，或者能派出最强大的机器人大军的人，那么对话就会偏向那些拥有更好技术的人，而不一定是有更好想法的人。协商民主需要一个民间讨论的论坛，而不是满是商人叫卖声的市场。

在大多数民主社会中，当言论自由会对其他自由或价值观构成不可接受的威胁时，限制言论自由就是必要的。与政治无关的暴力言论、煽动犯罪和威胁都属于这一类。

另一个棘手的原则问题与碎片化的现实有关。单单把后真相政治归咎于数字技术当然很容易。但事实是，人类利用欺骗达到政治目的的历史悠久而丰富！

首先，民主的目的是否在于汇聚集体智慧，以便我们找到通往可发现的“真相”的道路（一种工具主义观点）？或者出于实际目的，所谓的“真与假”“对与错”，仅仅是由多数人在任何特定时间所决定的吗？

正如马修·德安科纳（Matthew d’Ancona）所说，真相是一种“社会需要……这是一项循序渐进、来之不易的成就”，不仅在政治领域，而且在科学、法律和商业领域都是一种“约束力量”。

理性的投票需要人接收足够的的相关信息，充分思考后权衡利弊所作出的结果。这不但对人本身的能力要求很高，更会极大消耗人的精力。而且结果和投入还不一定成正比。你不能要求一个还在为生计奔波的人决定应该采取什么样的国家政策。 职业政客的出现本身是生产力发展到一定阶段后社会分工的结果。

这不仅仅是因为我们大多数人对公共政策的了解有限，甚至不是因为我们有时会非理性地投票。在某种程度上，投票实际上是不理性的：因为投票通常是由成千上万或数百万张选票决定的，我们每个人对最终结果只有很小的发言权。

但是Linux的审核权掌握在少数人如Linus手中。社区可以自由地根据自己的想法提patch，最终是否合入主线由少数审核者决定。

在没有自上而下控制的情况下进行的活动，被称为共同对等生产或开源生产。在集中指导和控制更多的地方，这种活动通常被称为众包。

在数字生活世界中，通过共同对等生产或众包直接邀请公民来帮助制定政治议程、制定政策和起草并完善法律是可能的。这种民主制度或它的变体的拥护者，将其称为维基政府（wiki-government）、合作民主（collaborative democracy）和群众民主（crowdocracy）。我倾向称它为维基民主。

像直接民主一样，维基民主将减少民选代表的作用。

维基民主还拥有直接民主的某些认知优势，因为它可以充分利用群体的智慧，尤其是适时地运用专家的智慧。

但是，充分发展的维基民主这一理念在实践中则困难重重。它比其他任何民主模式都更加重视参与者的时间和注意力。并非所有人都会乐于参与对法律的修改，喜欢修改代码的人就更少了。其结果可能是冷漠感增加，合法性却下降了，这是因为维基民主变成了知识渊博又有闲的阶层的维基民主了。

民主的主要目的之一是释放人们思想中所包含的信息和知识，并将其用于政治。

数据比你自己更懂你

在数据民主中，最终的政治权力将属于人民，但一些政治决策将基于数据而非投票做出。通过收集和综合大量的可用数据——对每个人的利益、偏好和价值观给予同等考量——我们可以绘制出最清晰、最完整的公共利益画像。在这种模式下，政策将建立在对人们的生活——所做、所需、所想、所言和所感——无比丰富和准确的描述之上。这些数据将是新鲜且实时更新的，而非以四五年为周期来处理。理论上，这将确保更大程度的政治平等，因为这些数据是平等地从每个人身上抽取的，而不仅仅来自那些热衷参与政治进程的人。这个论点认为，数据不会说谎：它显示的是真实的我们，而不是我们认为的我们。它规避了人们的认知偏见。人们是有偏见的，比如大家会偏向有利于自身特殊利益的论点，倾向于摒弃那些与自己世界观不一致的东西。我们通过精英们描述的框架来看待世界。我们对前后不一致的情况感到厌烦，即使改变自身想法是更合理的。我们受他人的影响很大，尤其是那些有权威的人。我们喜欢随大流，也希望别人喜欢自己。相比于理性，人们更喜欢依赖自己的直觉，也更愿意维持现状。

在数据民主中，最终的政治权力将属于人民，但一些政治决策将基于数据而非投票做出。通过收集和综合大量的可用数据——对每个人的利益、偏好和价值观给予同等考量——我们可以绘制出最清晰、最完整的公共利益画像。在这种模式下，政策将建立在对人们的生活——所做、所需、所想、所言和所感——无比丰富和准确的描述之上。这些数据将是新鲜且实时更新的，而非以四五年为周期来处理。理论上，这将确保更大程度的政治平等，因为这些数据是平等地从每个人身上抽取的，而不仅仅来自那些热衷参与政治进程的人。这个论点认为，数据不会说谎：它显示的是真实的我们，而不是我们认为的我们。它规避了人们的认知偏见。人们是有偏见的，比如大家会偏向有利于自身特殊利益的论点，倾向于摒弃那些与自己世界观不一致的东西。我们通过精英们描述的框架来看待世界。我们对前后不一致的情况感到厌烦，即使改变自身想法是更合理的。我们受他人的影响很大，尤其是那些有权威的人。我们喜欢随大流，也希望别人喜欢自己。相比于理性，人们更喜欢依赖自己的直觉，也更愿意维持现状。

另一个反对数据民主的论点是，该系统通过将人们的全部生活变成潜在的政治参与行为，剥夺了我们有意识地参与政治生活的益处。

反对数据民主的最有力论据是，在做出选举过程中利害攸关的政治决策时，数据经常是无用的。

数据告诉我们情况是什么，但它没有告诉我们它应该是什么。

一些政治问题最好由专家来处理，而不是卷入党派政治的意识形态旋涡之中。“专家”有时会被嘲笑，也经常受到忽视，但央行行长、独立委员会和（在某些地方）“技术官僚”的声望不断上升，这证明了一个事实，即我们并不总是介意由这些人代表我们做出艰难、冷静、长远的决定。

然而，对于人工智能民主的理念仍存在强烈的反对意见。其中最重要的是对透明度问题的异议：如果我们不能真正理解为我们做出决定的基础为何，我们真的能称该制度是民主的吗？尽管人工智能民主可以让我们在日常生活中更加自由、更加繁荣，但它也倾向于使人们受到代表他们做决定的体制的奴役。

当一个社会发展出了新型的信息和通信技术，人们可能同样也期待着政治变革。这甚至适用于像民主这样古老的概念。古希腊的古典模式、现代自由和竞争性精英主义模式，这些都是“民主”的模式，但也都是为它们所处时代的条件量身定做的。

第五部分 未来的正义#

每当一个人捍卫某种理想，或行动起来改善众人的遭际，或为反对不公而出击，他就激起了希望的小小涟漪，来自无数不同的能量中心的涟漪相互交汇，这使它们敢于形成一股潮流，足以推倒最强大的压迫与反抗之墙。 ——罗伯特·F. 肯尼迪

第十四章 分配的算法#

我所说的算法不公正有关。争论的焦点是社会正义的灵魂，即分配和承认

“社会正义”这个词的确切含义仍存在争议，但广义上来说，它被用来描述一种理念——每个人得到的都应是他们应得的东西，不能多也不能少。

正义和平等不一定非得是一回事。许多古代和中世纪思想家认为，人类天生就是不平等的，不仅在天赋和力量上不平等，在基本价值和道德地位上也不平等。

相比之下，社会正义与平等的观念如今紧密联系在一起。平等主义是一种信仰，它认为人们应该在重要的方面受到平等对待，尽管平等主义者自己并不总是能就什么是重要的达成一致。

大多数社会正义理论至少共同拥有着一个平等主义信念：所有人在基本价值上是平等的。

思考社会正义的方式主要有两种。第一，分配正义。顾名思义，分配正义指的是在社会中应如何分配资产。第二，承认正义。承认正义事关人们应如何彼此看待和相处，涉及人们的社会地位和尊重体系。

假设你不介意贫富差距，但你认为没有人应该挨饿或露宿街头；你觉得每个人不必拥有同样的东西，但每个人必须拥有足够的东西。如果这就是你的观点，那你是一个充足主义者（sufficientarian）。

你越不富裕（即使你并不那么穷困潦倒），你对社会资源的道德诉求就越强。这种信念通常被称为优先主义（prioritarian）。就像充足主义者一样，优先主义者不关心穷人和富人之间的整体差距，觉得只要不太富裕的人能得到优先考虑就行。

另一些人则认为，分配正义还要求更多，即机会平等，这意味着性别、性取向或种族等无关因素，不应妨碍人们追求工作或教育等有价值的事物。机会平等与另一种正义概念紧密相连，即正义是应得的。这一概念的意思是人们应该得到他们应得的。如果你努力工作，遵守规则，那么你就应该得到奖励。但是如果你整天无所事事，那么你就应该分到更少的份额。

什么是应得的？什么是不应得的？

许多平等主义者质疑，资格或其他衡量优长的“客观”指标，到底是不是对人们应该得到什么的公正指引。

约翰·罗尔斯在《正义论》中提出过此类主张，他认为，只要社会和经济不平等有利于弱势群体的最大利益，那么这种不平等就是被允许的。接受贫富差距扩大的前提是，贫富差距扩大能使穷人比其他任何群体都更快地富起来。

是计划经济“大锅饭”，还是市场经济“先富带后富”

分配正义到底是更关心绝对剥夺，还是更在乎相对不平等。相对不平等之所以事关重大是有理由的：它有能力侵蚀把我们联系在一起的人类共同纽带，会让不太富裕的人感到痛苦和羞耻，还可以阻止穷人充分参与社会和政治生活。

分配正义到底是更关心绝对剥夺，还是更在乎相对不平等。相对不平等之所以事关重大是有理由的：它有能力侵蚀把我们联系在一起的人类共同纽带，会让不太富裕的人感到痛苦和羞耻，还可以阻止穷人充分参与社会和政治生活。

分配正义的问题在现实世界中是如何发挥作用的？我们通过什么机制来决定社会物品的实际分配？答案是通过市场体系和国家的相互作用。

在现代社会，资源配置的默认方式是利用市场体系。

亚当·斯密（Adam Smith）在《国富论》（1776）中有一个著名的观察，即市场体系的运作是基于人们通常会追求自己的利益：“我们期望的晚餐并非来自屠夫、酿酒师和面包师的恩惠，而是来自他们对自身利益的关切。我们把注意力放在他们的自利心上，而非诉诸其人性。”

市场悲剧性的缺陷在于，它能在总体上有效地分配资源，但不一定是公正的。市场的逻辑并不能保证最穷的人得到足够的钱，或者使他们享有优先权，提供平等的机会，让人们得到他们应得的东西（无论你倾向于哪种分配正义的原则）。根据人们愿意付出多少来分配资源并不意味着资源会按正义的要求来分配。市场体制中总是需要某种外部干预，以保证表面上的公平正义。

国家的主要经济职能之一就是规范市场，明确什么可以拥有、购买和出售，以及在什么条件下可以拥有、购买和出售（包括如禁止买卖人口的规定）。这能防止一些最严重的不公正情况出现。国家也经常要自掏腰包，使自己有能力将资源导向正义所要求的地方（例如，为失业者或病人发放福利）。

首先，数字生活世界中用到算法的地方将越来越多，它将与市场和国家一起决定我们获得重要社会物品的途径。这使得算法成为一种新的、重要的分配正义机制。

算法的优势是标准化的代码能最低降低决策者私心和失误的影响，但这也可能是算法分配带来的问题。想起今天看的新闻，一位旅客因为48小时核酸超过3分钟被拒登机。如果让算法做决策，那即使超过1秒都不能登机了

体现为算法的代码是一种越来越重要的分配正义机制。它需要密切的政治关注。

大数据杀熟

最后，算法越来越多地干预了市场经济最根本的机制：价格机制。

第十五章 承认的算法#

社会正义不仅仅涉及物品（stuff）的分配。被迫亲吻主人脚下泥土的奴隶，在厉声呵斥的老板面前畏畏缩缩的工人，妻子被迫屈服于丈夫的残忍要求，这些情况会使我们的良心不安，但却不全是因为一方富裕一方贫穷。这种不公正来自另一组不平等——地位和尊严。

承认中的不公正有两种形式：客观的不公正和主体间的不公正。等级制度是造成客观不公正的原因。

当个体无法将彼此视为具有同等道德价值的存在时，就会出现主体间的承认缺失。

承认的正义是指把彼此视作同伴，并以同伴的方式对待彼此。

不被承认的另一个后果就是压迫。

争取承认的斗争到底是如何进行的呢？我们用什么机制来决定人们的等级、地位和尊重？最重要的两个就是法律和规范。

如今，公开的不公正法律等级制日益萎缩，旧的社会地位和角色规则通常被视为尴尬的存在。然而，许多旧的等级制度已僵化为经济、工作、家庭和社会生活中的不成文规范。

数字生活世界中会有很多“可见性的不平等”——我们当中有些人将是完全不可见的。过去，决定可见性、地位和尊重的是政治、法律、文化和社会精英。未来，它将更多地由算法来完成。

给人打分的行为本身就扭曲了我们在价值上对人的生命一视同仁的能力。个人评级系统的风险在于，它鼓励我们追求的并不是平等的社会地位，而是与同辈比起来更有利的地位。

竞争的分配模式（谁在何种条件下，以何种比例得到什么东西）和承认模型（谁的排名更高/低，谁更重要/不重要）在本质上就是算法。

第十六章 算法不公正#

在数字生活的世界里，社会工程和软件工程将变得越来越难以区分，有两个原因。首先，随着时间的推移，在市场和国家体系里，算法逐渐会被用于确定重要社会物品的分配，包括工作、贷款、住房和保险等。其次，在法律法规允许的范围下，算法在对人的识别、排序、分类和管理方面的应用也会越来越多。分配和承认作为社会正义的实质，将来会被逐渐托付给代码。

算法不公正即指算法的应用会产生不公正的结果。我们从两种主要的算法不公正开始：基于数据的不公正和基于规则的不公正。然后，我们检视我称其为“中立谬误”的东西，这个有缺陷的观念认为，我们需要的是中立或公正的算法。

当一种算法应用于选择不当、不完整、过时或存在选择偏见的数据时，不公正就出现了。

不管算法有多聪明，若给它灌输的都是对世界的片面或误导性的看法，它就不会公正地对待那些被隐藏在其视野之外或光线暗淡处的人。这就是基于数据的不公正。

显性不公正的规则是指：根据表面上看起来就不公正的标准来决定有关分配和承认的问题。

隐性不公正规则是指：不直接单独粗暴对待任何特定个人或群体，而是间接地使某些群体受到不如其他群体的待遇。

人类使用语言的方式反映了不公正的性别刻板印象。只要数字系统学习的对象是有缺陷的、乱作一团的和不完美的人类，我们就可以预期：中立算法将导致更多的不公正。

荒谬之处在于，中立并不总是等同于正义。

像对待所有人一样对待弱势群体，实际上会复制、巩固甚至产生新的不公正。

技术专家的教训是，正义时常要求区别对待不同的群体。这个想法是平权行动和资助少数民族艺术的基础，它也应该成为我们避免算法不公的所有努力的基础。对代码应用的评判，应该看其所产生的结果是否符合相关的正义原则，而不是看所应用的算法在人与人之间是否保持了中立。诺贝尔奖得主埃利·威塞尔（Elie Wiesel）认为：“中立帮助的是压迫者，而不是受害者。”

过去，歧视的意图隐藏在人们的心中；未来，它也可能会隐藏在规模和复杂性惊人的机器学习算法中；它还可能被锁在一个代码“黑箱”中，受到保密法的保护。

机器能够不断“学习”的事实并不能免除我们“教导”它们区分正义与非正义的责任。除非人工智能系统独立于人类控制而存在，即便到那时，监控和防止算法不公正的也许还是人类自己。这项工作不能留给律师和政治理论家去做，担子将逐渐落在收集数据、构建系统和应用规则的人的肩头。不管你喜欢与否，软件工程师将越来越多地成为数字生活世界的社会工程师。这是一个巨大的责任。

第十七章 技术导致失业#

技术导致失业论预测，技术的发展最终将导致大规模的人类失业。

供给侧不断增多，工人没了收入，需求侧不断减少，供需不会失衡？

总的来说，经济的蛋糕会变大（没错，伙计们，甜点的比喻又回来了），但人类工人分得的蛋糕会越来越小。

人类执行一项任务所需的教育水平，并不能成为判断这项任务对机器来说容易还是困难的可靠指南。机器之所以能超越人类，不是通过像人类一样“思考”或工作，而是在于它们使用的是与人类完全不同的计算机和机器人的方法。这就解释了为什么律师的工作可以被自动化，化妆师的工作却很难自动化。

我们今天为什么要工作呢？原因主要有三个：收入、地位和幸福。

谋生是人们工作的首要目的。对大多数人来说，出卖生产力是让自己吃饱穿暖的唯一赚钱方式。

我们工作也是为了满足自己对地位和他人尊重的需求，人类的这种需求是根深蒂固的。

终于，总有些幸运儿的工作帮助他们提升了幸福感。这种幸福感可能来源于业绩出色使他们获得了内在满足，也可能来源于他们给其他人带来了价值。

事实上，技术导致失业可能提供了一个机会，可以废除原有的工作模式，代之以一套不同的理念。简言之，这种理念意味着削弱甚至切断工作与收入、地位和幸福之间的联系。

这可能意味着对公司的部分利润征税，并将其重新分配给普通民众。

另一个逐渐流行起来的概念是全民基本收入（UBI），给每个公民支付现金，且“不附加任何条件”。

目前，流向劳动者的财富将越来越多地涌向那些拥有能替代劳动者的技术的人手中，如果这种现象是正确的，那么我们就需要检查这种激进的财富再分配，并考量其合理性。

第十八章 财富的旋风#

在数字生活的世界里，拥有东西的人将比做事情的人更快致富。 谋生的方法有两种。第一种是通过劳动，即通过生产性劳动获得报酬、薪金和奖金。第二种是通过资本，即能够产生财富的资产。资本包括土地（能产生租金）、股票（能产生股息）、工业机械（能产生利润）和知识产权（能产生使用费）。

某一特定资本的价值总是取决于它的生产能力和稀缺程度。一种资本的生产能力和稀缺程度越高，它可能创造出的财富就越多。

在未来，生产将减少对实物资产的依赖，更多地依赖知识产权、组织资本（业务流程、生产工艺等）和“用户生成的内容”（YouTube视频、Facebook照片、在线评分）这类无形资产。

数据可能成为数字生活世界中最重要的资本形式之一。正如我们所知，它被称为“商业原料”、“生产要素”和“新的煤炭”。

数字生活世界的关键经济区别将是那些拥有资本的人和没有资本的人之间的区别。资本所有者将有机会积累越来越多的财富，而那些只有劳动力可以出卖的人会发现，维持收支变得越来越难。

这些公司的共同战略是获取巨额现金储备，以便通过收购和吸收竞争对手的初创企业来扩大自己的商业优势。

财富也正前所未有地集中于少数科技公司。而且，这些公司雇用的员工少得惊人。

数字技术可能会促使越来越多的财富集中到越来越少的人和公司手中，这其中存在着结构性的原因。除了自动化之外，也许最重要的就是网络效应（network effect）。经济在一个相互重叠的网络世界中联系得越来越紧密，这些网络具有许多重要的特征。首先，他们通常是通过标准结合起来的：共同的规则或惯例，为会员之间的合作制定了标准。其次，采用某一标准（通过加入这个网络并遵守它的规则）的人越多，这个标准就变得越有价值。梅特卡夫定律（Metcalfe’s Law）认为，网络的价值随其附着节点数量的增长而呈几何级数增长：节点数量翻倍意味着其价值翻四倍，依此类推。这就意味着非会员加入的压力越来越大。无法成为流行的社交网络的一部分会被视作诡异又古怪的存在。

最后，网络经济奖励先行者。如果你能在竞争中脱颖而出，每增加一个用户/会员，都会让你加速增长，不久之后其他人就难以赶超了。

在日益网络化的经济中，那些拥有最高效数字技术的公司将会做得越来越好，可能获得的收益将是天文数字。与此同时，那些没有资本的人将看到他们的经济地位江河日下。

我们今天的财产制度有四个基本特征。首先，显而易见的是，财产所指的往往是东西。

私有财产的第二个特点是它的可转让性：它可以根据公认的规则通过出售或赠予的方式转让。第三，对于你拥有的东西，有明确的规则来规定你能做什么、不能做什么（总的来说，完全拥有个人财产意味着你可以随心所欲地使用它）。最后，人们的财产权不能轻易被侵犯。

然而，我们对私有财产范式的承诺给分配正义带来了某些影响。虽然它促进经济增长和繁荣，但也使财富的再分配更加困难。这是因为它缩小了国家干预市场的可接受范围和程度。

对抗财富旋风的一种方法是对资本或资本获利征税。

第二种方法是通过某种形式的强制购买，将某些资本资产直接收归国有，这当然与私有财产范式大相径庭。

国有制无须像真正的“计划经济”那样包含所有形式的资本，它只需要掌握最重要的资本。

像这类形式的资本，对于数字生活世界的共同财富来说是必不可少的。富人和穷人都将依赖它们来维持经济运转。这使得它们成了国有化的合适选择，这样一来，它们的运作就可以为所有人的利益服务。

20世纪的经验告诉我们，彻底的国家所有制很可能会变成独裁专政。财富和权力过多地集中在私人或公共机构手中都是危险的。这就是为什么有些人转而主张采取一种合作模式，即让消费者或工人集体拥有或管理产生财富的数字系统。

比起完全国有化，还有一种方法听起来不那么具有侵略性，那就是通过用益权（usufructurary）的权利体系，给予个人使用权和收益权。

持有资本的另一种方式是将其置于公有状态——一个不属于任何人的共享资源池，不受任何产权（或非常有限的产权）的限制。

公共事务主义者论证的核心是这样一种信念：过多的产权非但没有促进创新和进步，反而会钝化和扼杀我们的创造力。用专利和版权锁定发明和创造，意味着下一代生产者必须为在其基础上进行的生产支付费用，而在实践中这可能会完全阻止下一代生产者从事新的生产。相比之下，共享文化资源将允许具有创造性的改编、编辑、混合、仿效、征用、修正、批评、评论和定制。

第十九章 透明度和新的权力分割#

重要的是受制于当前所讨论之权力的人们的看法。政治领域不同于市场，衡量政治权力合法性的原则与衡量商业成功的原则也不同。财富、名气甚至地位都可以在市场上合法挣得，但不包括权力。权力的获得必须参考政治原则，而不是经济原则。

现代民主国家的公民对国家权力合法化的依据有一致看法。那就是在得到被统治者的同意后，国家保证一定程度的自由，制定与被统治者的信仰和利益尽可能一致的法律。我们称其为“自由民主的合法性原则”。

合法性最明显的来源就是同意：当人们同意科技公司的所作所为时，它们的权力即被合理化了。同意理念在小规模和特定情形的权力使用上是有效的。

同意原则并不能在系统层面上保护我们，防止我们的数据被滥用，即使它可以证明自己在某次搜索中对权力的临时行使是正当的。仅仅是同意，至少是这种在市场经济中给予的同意，应该还不够。

合法性的另一种来源是公平原则：如果你享受了数字平台提供的好处，出于公平，你也需要承担合理的责任。这类似于同意原则，但与之又有一个重要的区别。同意原则来源于自由的观念（如果你在自由的前提下同意权力的行使，那么你承受失去自由的损失就是合法的），而公平原则源自正义观念（如果你得到了X，那么作为回报，你放弃Y也是公正的）。

最后，我们也可以说，如果科技公司行使的权力反映或体现其用户共同的价值观，那么可以认为它是合法的。

没有透明度，共同价值观原则就是信仰而非合法性原则。

至少有两类监管在数字生活世界中可能是必不可少的。第一类是确保透明度；第二类就是打破权力的大规模集中。

将来我们也需要结构性监管，即通过政治干预确保技术权力不要过于集中在少数公司和个人的手中。

结构性干预也有合理的哲学解释。最简单的一种解释就是，它将防止权力累积到危险程度。

首先，不允许任何公司垄断武力、审查和感知控制手段中的任何一个；第二，不允许任何公司对一个以上的控制手段（包括武力、审查和感知控制）拥有显著控制权。

有些事情是数字系统不应该做的，即使它们（在技术上）比人类做得更好。这一原则可能适用于具有价值的事物，恰恰是因为它们是人类思想、双手或心灵的产物。

20世纪的重大辩论是关于我们的集体生活在哪些方面应由国家决定，什么应该留给市场力量和公民社会来决定。在未来，问题将变成我们的集体生活中有多少、在何种条件下应该由强大的数字系统指导和控制。我们不能不作为，让自己成为“外在力量的玩物”，总是服从于我们无法控制和理解的实体和系统替我们做出的决定。这就是未来政治的挑战。

第二十章 后政治学#

怎么感觉是在讽刺马克思主义人类增强带来的最直接的政治风险，就是如何获得它（就像如今如何获得世界级的医疗一样），它可能还只是提供给富人。杰伦·拉尼尔做了一番畅想：某天早晨，我们发现自己富有的邻居接受了“能让他们多活好几十年的手术”。拉尼尔说：“任何人经过这样的早晨，都可能变成马克思主义者。”

点评#

推荐

使用 小悦记 导出 | 2022年6月26日