AI社会学｜高科技，低生活——欢迎来到赛博朋克的时代

怎样开一家最先进、最酷的人工智能公司？四年前ReadMe的创始人格雷戈里·科贝格（Gregory Koberger）在推特上说：

第一步，花最低工资请一群活人假装AI；

第二步，等真正的AI被发明出来。

科贝格这样说，其实是在讽刺当时人工智能创业企业 Edison Software 让员工假扮 AI 为客户提供所谓的 “智能邮件回复” 服务。之后类似的丑闻层出不穷，比如，2017 年，一家为用户提供财务管理的公司Expensify承认，他们声称的智慧扫描（smartscan technology），所谓可以通过手机扫描转录收据的黑科技，其实也是人工服务。Expensify通过亚马逊的众包平台（Amazon Mechanical Turk），付最低工资，把收据转录的活儿实时众包（crowdsource) 出去。顾客扫描收据之后在手机上看到电子账务表，很可能是印度某个偏远小镇上名叫卡拉的小伙子为您手动输入的。

至今，这个AI的“活人困境”仍未解决。就在去年，《纽约时报》调查了谷歌旗下一项名叫Duplex的AI订餐服务，发现即使在自然语言识处理（natural language processing) 飞速发展的今天，AI订餐服务仍旧要依靠大量人工。在记者进行的十次实验里，有四次是成功订位的，然而这四次里只有一次是真的通过 AI 来进行的，其余三次都是外包的真人服务。随后，谷歌 对《纽约时报》坦陈，在其人工智能系统 Duplex 所拨出的电话中，有四分之一其实是人类所为，而在剩下的电话中，也有15%进行了部分的人为干预。

人工智能背后的人类劳动并不是件新鲜事。事实上，整个AI产业和科研界，从一开始，就建立在庞大的人类劳动的基础上，我们之前讨论过的计算机视觉的葵花宝典数据集ImageNet，就是由五万多名来自世界各地的众包工人在亚马逊的众包平台上进行手动标注的。然而，数据标注仅仅是现代AI系统这座庞大冰山的一角，在貌似全能的人工智能背后，有更多隐形的人类工人。

那么，谁是这些AI系统背后的人？

广义上来说，可以分为四大类：

第一类是所谓的AI训练者，也就是我们所熟知的“数据标注工”。他们负责对大量的图像、文本、语音、视频进行归类、整理、纠错和批注。这些工作对人工智能算法或许很难，但其中大部分却是人类通过直觉和简单训练就可以做的。机器学习算法将人类标注过的数据作为数据训练集，从中搜索规律，训练算法。AI公司通常将这批工作外包到劳动力报酬较低的地区以节省成本。比如，BBC曾报道非洲肯尼亚的单亲妈妈们是如何帮助新兴的自动驾驶企业进行图像识别的，包括在企业发来的图片上标注天气、物体、行人、建筑等等等等。

AI劳工的第二类是所谓的AI演员，就是本文开头提到的帮助创业企业假扮人工智能的人类员工。他们（暂时性）地假装扮演AI，帮助客人扫描账单，预定餐馆，撰写邮件，直到真正的人工智能足以胜任这些工作。

第三类是更为庞大的AI清洁工，广泛存在于各种社交媒体和内容分发平台之后。其中很重要的一类是内容审核员（content moderators），他们帮助清理平台上各种暴力色情少儿不宜的内容。社交媒体巨头Facebook就被曝光大量雇佣外包公司的员工帮助平台进行内容审核，据《纽约时报》报道，这些临时工全职工作八小时，每人每天要处理近八千则信息，其中包含大量暴力不适的图片。目前的AI内容识别还远远没有达到可以自动处理人类纷繁复杂、千变万化的信息的能力——比如，如何判断一张图片里裸露部分是艺术品，还是色情照片？

当然，如果从更广义的角度上来说，AI背后更大的一群劳工，是作为用户的我们。1950年代著名传媒学者达拉·斯麦兹（Dalls Smythe）在对商业媒介的批判里明确指出，广播电视媒介生产的真正商品，不是五花八门的各类节目，而是观众的注意力本身。商业媒体的内在逻辑，是把用户的注意力打包卖给广告商，亦就是著名的“受众商品理论”（audience commodity）。同样，在AI时代，作为用户的我们免费为各种算法系统献着自己的时间、精力、数据、隐私、劳动。有时候，这些劳动是如此微小，常常被我们忽视。比如，苹果手机来电留言语音转换文字的功能，转换之后，会邀请用户对文字转换进行评价，进一步为算法系统提供实时的人工反馈。

将AI的人工系统分解之后，我们发现，其实所谓的高科技劳工（码工）只是AI系统里极少数的一部分。AI的劳工系统呈现典型的金字塔型，最上层是少数的高科技高工资的码工，虽然他们也有996的困扰，但大体上有正式的社保和令人羡慕的工资。有些还能享用免费的泳池班车卡布奇诺。第二层是工资较低的合同工，他们承担一部分不那么关键的工作，工作极不稳定，有随时被解雇的危险。第三层是大量的数以万计的平台劳工，他们承担了AI系统里最繁重、重复性最高、工资最低、也是最容易被取代的工作。最后一层是数量更为巨大的用户们，他们免费为种种AI系统贡献着自己的时间、精力、数据和种种（不自知）的劳动。

更为严重的是，人工智能冰山下的劳工系统，是建立在严重的对于劳工的剥削之上的。两年前国际劳工组织（International Labor Office）发布了一篇针对75个国家3500名平台众包劳工（crowd workers）的大规模调研。调研指出，全世界大批平台劳工以低于最低工资的水平在工作着。譬如，2017年的小时工资只有4.43美元，远低于当时美国联邦最低工资7.25美元。通常，他们没有任何社会福利保障，受到资方单方面的评价，且无法申诉。他们没有任何升职渠道，事实上，他们工作的目的就是以大量人力训练计算机算法从而有一天算法不再需要他们。他们不仅没有和平台讨价还价的能力，还经常会被要求做一些不道德的工作（比如，为平台撰写假评论）。

令人惊奇的是，这些平台劳工们常常受过良好教育：37%有大学学位，20%甚至是研究生学历。其中，32%的人将平台工作作为主要的收入渠道。

人工智能时代，人们往往纠结于“我的工作会不会被AI取代”，而常常忽略了现代AI本质上是寄生在庞大人类劳动之上的算法系统，是无数血肉之躯的劳动养育了今天的人工智能系统。

从这个角度来说，任何关于未来人工智能取代人类工作的预测都是不完整、甚至是不诚实的。人工智能并不会 “取代” (replace) 人类的工作，它只会“重置” (displace) 人类的工作。

正如康奈尔大学的经济史学家路易斯·海曼（Louis Hyman）所言：It’s not technology that’s disrupting our jobs。取代人类工作的从来都不是科技本身。作为历史学家的海曼将科技和劳动的关系追溯到第一次工业革命，认为第一次工业革命的先决条件并非19世纪才出现的蒸汽机，而是早在18世纪就从自己农场里被带去工厂工作的农民们。劳动结构的转变带来了科技的狂飙突进，而非相反。

人工智能时代同理。自1970年代新自由主义以降，市场原教旨主义摆脱监管束缚，资本主义在全球整合供应链，第一世界原本稳定的制造业工作不断被外包出去，产生了大量失去全职工作机会之后只能选择“灵活就业”的工人，这批工人组成了合同工和平台劳工的基础——也就是我们今天人工智能时代的基础。

如果没有合适的政策监管和反制措施，我们当中的一部分人——通常是那些已经身处社会最底层的，会被进一步剥夺全职工作的机会，被人工智能的浪潮赶去做所谓的“灵活的工作”——那些数以万计的、动态的、按需召唤的、廉价的工作 。没有职业前景，没有社会保障，没有劳动合同，甚至也没有姓名（在众包平台里，工人只是一连串计算机分配的符码），因此，也缺乏组织起来和资方抗衡的能力。一篇基于美国的报道统计，到2033年，约有百分之三十的全职工作会被进一步转换成按需的平台劳工，在 “自由工作、在家工作、高科技” 的三重虚伪的光环下进一步滑入无法翻身的低收入陷阱。

在赛博朋克（cyberpunk）的科幻故事里，未来社会常常是光鲜亮丽的现代科技和破破烂烂的人类生活的结合，所谓的“ combination of low-life and high tech”。也许，这并不是一种艺术创造，而是一种单方面鼓励科技发展的必然结果。当人类社会将所有人力、物力和自然资源倾注在某些科技的发展之上时，其他方面的崩坏或许是无可避免的——资源是有限的，你被裹挟进了一种命运，必然要牺牲另外一种。

作为人类，我们真的那么需要自动读取收据的智能扫描机、自动订餐的机器人、自动回复邮件的黑科技、永不间断的个性定制新闻，以及可以早十分钟抵达楼下的外卖吗？在所有人被裹挟进科技发展的大潮、被资本的狂飙突进忽悠得晕头转向的时候，再没有一个时刻比今天更需要我们停下来，问一问：作为人类，我们需要的，到底是什么？

【参考资料】

[1] Lee, David. "Why Big Tech pays poor Kenyans to teach self-driving cars." BBC News (2018).

[2] Brian X. Chen and Cade Metz, 2019, Google’s Duplex Uses A.I. to Mimic Humans (Sometimes), The New York Times, https://www.nytimes.com/2019/05/22/technology/personaltech/ai-google-duplex.html

[3] Berg, Janine, Marianne Furrer, Ellie Harmon, Uma Rani, and M. Six Silberman. Digital labour platforms and the future of work: Towards decent work in the online world. Geneva: International Labour Office, 2018.

[4] Gray, Mary L., and Siddharth Suri. "The humans working behind the AI curtain." Harvard Business Review 9 (2017): 2-5.

[5] Hyman, Louis. "It’s not technology that’s disrupting our jobs." New York Times (2018).

[6] Smythe, Dallas W. "On the audience commodity and its work." Media and cultural studies: Keyworks 230 (1981): 256.

[7] Sterling, Bruce. Preface. Burning Chrome, by William Gibson, Harper Collins, 1986, p. xiv.

-----

作者沈虹，毕业于美国伊利诺伊大学香槟分校传播学系，现任职于美国卡内基梅隆大学。她用社会学的方法研究新兴科技。