AI社会学｜平台拒止：该用户不在服务区

四年前，电商巨头亚马逊在全美各大城市推出了雄心勃勃的“当日送达”计划 (Prime Free Same-Day Delivery)。只要会员在亚马逊上下单，平台上超过100万种商品都可在当日内免费送达。“计划”铺开11个月，即覆盖了全美27个大都市圈。然而，彭博社（Bloomberg）的记者很快发现，在一些主要城市——从南方亚特兰大、达拉斯到中部的芝加哥，再到东边的华盛顿、纽约，黑人聚居区被莫名其妙地被排除在外。下图显示的“空白”叫做罗克斯伯里（Roxbury），是波士顿的一个黑人社区，在“当日送达”茫茫蓝海里，它仿佛一座触目惊心的孤岛。

图片来源：Bloomberg

彭博社的报道毫无意外地引起了轩然大波。亚马逊回应说，他们从未将种族因素作为是否提供“当日送达”服务的考量——工程师们收集了数据库里的种种变量，如邮政编码、当地会员的数量、与亚马逊仓库的距离、当值快递员的数量，以及当地犯罪率等等，用以计算“当日送达”应该涵盖的范畴；可以确定的是，消费者的种族属性不在这些变量之内。

耐人寻味之处也正在于此：尽管严防死守了种族这条线，并且综合了各个方面的诸多变量，算法给出服务范畴仍然与美国历史上种族红线（redlining）划分的区域惊人的一致——白人和黑人获得的待遇和服务截然不同。历史，再一次，偷偷溜进了现代AI系统的算法里。

然而，故事在这里并没有结束。一场灵魂拷问才刚刚开始：作为一家私营企业，亚马逊是否有权将“盈利”作为提供服务的首要考量呢？在购买力相对较低的黑人社区，它是否有权暂缓推行“当日送达”？舆论如果因此将它钉上 “种族歧视”的耻辱柱，是不是有点过分了？一言以蔽之：亚马逊需要考虑顾客的种族吗？需要吗？不需要吗？

思考这个问题之前，我们要两个概念有所了解：一个是基础设施（infrastructures），另一个是平台企业（platforms）。伦敦政治经济学院的助理教授让―克里斯托夫·普兰汀（Jean-Christophe Plantin）认为，在数字经济中，私有的“平台企业”正在逐步成为当代生活的“基础设施”。在2018年那篇颇有影响力的论文中，他举了谷歌和脸书的例子。比如谷歌，作为垄断性的搜索引擎，它控制了几乎整个西方互联网的入口，一段信息在谷歌上消失了，几乎就等同于在整个社会知识谱系里消亡了。

当年谷歌还有一个非常有争议性的项目，叫做“谷歌图书”。它打算与全美各大图书馆合作，扫描所有馆藏图书，放在自己的网页上。除却版权争议，最大的反对意见来自对于私营平台一手掌控公共知识的担忧：过去，作为书籍存在的知识，是由公共图书馆对全民免费提供的，并受到严格的政策监管；现在，私有平台藉由图书电子化逐渐“控制”了知识，这是否意味着它们也应该承担起公共图书馆的职责，免费、公平地向公众开放？对公共基础设施的政策监管，是否也可以用来约束私营平台企业？

公共性和私有性之间的张力，是基础设施和平台企业在数字经济时代的首要冲突。普兰汀指出，传统的基础设施，如电力和邮政系统，被认为具有公共性，应该对公众提供无差别的平等服务，要将社会平等，而非利润追求，放在其决策的首位。即使再偏僻的乡村，只要有一个人居住，作为基础设施的公共邮政系统也应该对其进行无差别覆盖。而现代私有电子平台的崛起，以及其对于利润的狂热追求，打破了这一“传统”。随着平台企业逐步取代传统的基础公共设施，一系列的冲突也接踵而至。

同样的冲突出现在亚马逊的故事里。虽然购买力相对不足，但生活在黑人社区的人们却是最需要“当日送达”服务的——较之白人社会，黑人社区缺乏有机食品商店、优质商场和日常采购设施；由于缺少代步车辆，黑人们也更加依赖于快递服务。长期以来，这方面的服务由美国公共邮政系统向全美人群无差别提供，但自上世纪70年代以来，随着“新自由主义”政策施行，公共机构的资金预算不断缩减，邮政系统的服务能力每况愈下。与此同时，私营递送业务快速崛起，亚马逊成为真实的“万货商店”（“the everything store”），庞大的快递网无所不达，和谷歌一样具有压倒性的市场地位。但是，我们可以用平等和无差别的服务来要求它吗？我们可以让它“照顾”一下那些游离在AI系统边缘的人吗？

去年，我们团队做过一个小项目，从“基础设施”的角度，考察我国移动支付系统的边界。在科技社会学里，“基础设施”研究有一个很重要的技巧，叫做“infrastructure inversion”（基础设施的倒置）。学者们认为，当一个科技系统成为基础设施，其本身会与各种现存设施和社会规范融合从而变得“透明”与“不可见”。所以与其研究科技系统本身的运行，不如关注它的故障和修理。简单说，我们是在找支付宝和微信支付的“故障点”。

通过访谈和问卷调查，移动支付几乎无所不包的场域渐渐清晰起来；这些年，从护照换发到医院挂号，从公共交通到健康码，各种不可或缺的公共服务和日常生活设施，一步一步地都折叠进了支付宝和微信里。

同时，受访者会向我们追述在过去的一个月里，无法使用支付宝或微信支付的情境。在一个个小小的故事里，那些游离在中国移动支付边界的人群慢慢浮现出来：他们是居住在偏远山区，有银行账户和网络覆盖所以无法移动支付的村民们，是城市里不会用智能手机所以没法扫码的爷爷奶奶们，是担心隐私问题不愿意注册移动支付的用户们，是因为锁定单个移动支付服务所以无法使用其他服务的消费者们，是担心资金安全的大爷大妈们，是有视力障碍的残疾人群......

如果仅仅把阿里和腾讯当作私营企业，也许这些人群并不重要，毕竟每个公司都有自己的首要目标客户，有利润要求，有年报月报周报和KPI。可是，如果将整个移动支付系统视为正在逐步替代传统金融服务的基础设施，那么我们是否可以对它们提出类似于问询亚马逊的问题——

当支付宝和微信支付成为无所不包、无处不在、无所不能的基础设施，并逐渐将人们日常生活不可或缺的一系列公共服务收入旗下，如何确保所有人都能被无差别地接入系统，享受到同等质量的服务？既然任何科技系统都有其固有的边界和局限，那么决策者是否应该及时“找补”，以确保有足够的可替代性选择，譬如在移动支付之外强制现金的使用，或者为不会使用智能手机的老人提供必需的人工服务？

如果说亚马逊们的死穴在于“种族”，那么中国企业平台的命门又在哪里？

亚马逊种族歧视的故事在美国流传之后的几年之后，一则小小的故事也在中国互联网上流传：一位来自安徽亳州的老人，因为没有智能手机和健康码，无法使用公共交通系统，必须步行走到浙江。虽然之后故事的真实性受到质疑，但其在中国互联网引起的巨大回响恰恰显形了现代科技平台的界限和边缘。这些界限和边缘，从来没有像这一刻一样无所遁形。与居住在罗克斯伯里、无法被亚马逊当日投递服务覆盖的黑人们一样，在我国貌似全能全知的移动支付系统的边缘，也游离着许多幢幢黑影和血肉之躯。

【参考资料】

[1]  David Ingold and Spencer Soper, Amazon Doesn’t Consider the Race of Its Customers. Should It?, Bloomberg, April 1, 2016. 

[2]  Bowker, Geoffrey C., C. Geoffrey, and W. Bernard Carlson. Science on the run: Information management and industrial geophysics at Schlumberger, 1920-1940. MIT press, 1994.

[3]  Plantin, Jean-Christophe, Carl Lagoze, Paul N. Edwards, and Christian Sandvig. "Infrastructure studies meet platform studies in the age of Google and Facebook." New Media & Society 20, no. 1 (2018): 293-310.

[4]  Hong Shen, Cori Faklaris, Haojian Jin, Laura Dabbish, and Jason I. Hong. 2020. ‘I Can’t Even Buy Apples If IDon’t Use Mobile Pay?’: When Mobile Payments Become Infrastructural in China.Proc. ACM Hum.-Comput.Interact.4, CSCW2, Article 170 (October 2020): 1-26.

-----

作者沈虹，毕业于美国伊利诺伊大学香槟分校传播学系，现任职于美国卡内基梅隆大学。她用社会学的方法研究新兴科技。