•主题广泛,深刻展示出算法在社会治理中的具体作用:涉及算法治理术、透明度和问责制,刑事司法和预测性警务的公平性,良性的数字管理原则,智能城市中的人工智能等,展现了算法在公共管理、刑事司法和城市治理中的现状和问题。
•涉及学科领域广泛,勾勒了算法融入社会治理后的宏大图景:将算法技术与法学、社会学、犯罪学、公共管理学、政治学和文化理论等学科联系起来,具体呈现算法在不同领域的功能。
•从计算机科学研究的前沿出发,兼具制度分析与理论抽象:关注算法歧视和算法霸权,提出数字善治的路径,对算法与权力之间关系的反思具有理论高度。
《算法社会:技术、权力和知识(法律与科技译丛)》:
任何一个使用过谷歌搜索,或观察过亚马逊和奈飞自动向其用户精准推荐商品或内容的人都可以证明,机器学习算法可以做出高度精确的预测。虽然机器学习算法表现为不同的种类,但是其区别于传统统计分析的特征是,学习算法可以处理海量数据,并自主发现数据模式。技术人员仍然需要明确学习算法的“目标函数”,换句话说,需要告诉算法要搜索和优化什么。技术人员还必须明确拟部署的机器学习算法的类型,并且通常情况下他们还必须参与培训、调整和评估这些算法的性能。但真正让机器学习算法与众不同的是,它们本质上可以自行漫游在大量数据中寻找模式。机器学习算法基本上自行尝试不同的数据变量组合和这些变量之间的不同数学关系,寻找或“学习”变量的最佳组合和它们之间的数学关系,以做出准确的预测(Lehr & Ohm,2017)。
与传统的多元回归分析不同,机器学习不依赖于人来选定要测试的变量以及是否对这些变量应用特定的数学函数。因此,任何人都很难以清晰、直观的方式辨别或解释这些算法究竟是如何实现预测的——故而,机器学习算法有时被称为“黑箱”工具。而且,虽然机器学习可以生成高度准确的预测,但是它通常不支持由传统统计学工具做出的因果关系论断。这意味着,机器学习算法的用户可以确信其结果接近准确的预测,但是他们无法准确理解这些算法能够做出特定结果的原因(Coglianese & Lehr, 2019)。
当政府使用算法工具来优化社会秩序时,特别是如果使用算法有可能取代由人主导的分析和决策时,机器学习算法的不透明性和相对自主性的显著特征引发了人们的担忧。对许多公众来说,由人做出治理决策似乎比由机器人进行治理更为合法。可以说,算法的使用仍然是让人“来操控电脑”,比如,算法仅仅是用来指导审计或监督人员的分配,而对于是否有欺诈或逃税仍然由审计或监督员独立判定(Coglianese & Lehr, 2017)。对人类来说,让权于他人,即“脱离电脑操控”,完全是另一回事。然而,我们每天都在无限接近一个由机器人监管和算法裁决的场外世界,在这个世界中,以前由人为驱动的治理可以完全自动化。
当然,一想到人性的弱点——无数的认知偏差和群体功能失调——任何人可能会觉得,如果将人类从电脑操控中移除,至少某些政府职能会更完善,特别是在经过良好校准的情况下,很明显高级数字机器可以取代人的作用。但是公众对政府使用算法工具的接受程度充其量是停滞不前,至少在重要决策方面是如此,公众对算法工具的接受程度取决于两个方面:人被排除在决策之外的程度以及机器学习的用途。似乎很少有公众了解,多年来机器学习算法一直被用来进行邮件分拣决策(Coglianese & Lehr,2017)。同样,公众并不关心,利用算法审计纳税申报表或向某处派遣现场安全核查员,只要对纳税人或者企业做出处罚的主要决定是由审计员或者现场核查员做出的。即使算法被赋予生成简单规则的权力——就像算法控制的交通信号系统有效地自动执行那样——它们似乎也不太可能引起公众的高度关注,因为风险似乎相当低。
……
第一章 算法社会:引言 里克•彼得斯 马克•舒伦伯格
第一部分 算法治理
第二章 算法治理和算法治理术:迈向机械判断 保罗•亨曼
第三章 算法规制:作为治理工具的机器学习 加里•科格利亚尼斯
第四章 负责任和可问责的算法运行:如何在政府算法使用中产生公民信任 阿尔伯特•梅杰 斯蒂芬•格里梅利奎杰森
第五章 迈向数字善治原则:自动化决策中的公平性、问责制和比例原则 阿詹•威德拉克 马里斯•范•埃克 里克•彼得斯
第二部分 算法司法
第六章 诱人的公平:机器学习是答案吗?刑事司法系统中的算法公平 费尔南多•阿维拉 凯莉•汉娜-莫法特 波拉•毛鲁托
第七章 重思预测性警务:构建民主算法监控的整体框架 罗萨蒙德•范•布雷克
第八章 算法推理:通过数据产生主观性 格温•范•艾克
第三部分 算法城市
第九章 智慧城市想象:超越技术乌托邦愿景 马克•舒伦伯格 布鲁尼尔达•巴利
第十章 (智慧)城市中的感官:政治个性化 迈克尔•麦奎尔
第十一章 五种智慧城市的未来:城市智能的犯罪分析 基思•海沃德
第十二章 理解算法社会:思想总结 马克•舒伦伯格 里克•彼得斯
索引