现代世界是一个复杂的地方，这一点不会逃过你的注意。

我们都模糊地、不安地意识到，我们的生活被我们无法完全理解的系统所纠缠。你吃的最后一顿饭可能含有在另一个国家种植的农产品，这些农产品经过收割、加工、包装、运输，然后卖给你。你手中的**是一条更加复杂的链条的最终产物；一个依赖于非洲的矿山工人，中国的装配线，旧金山的办公桌。

解释这些系统如何连接以及它们对世界的影响不是一件容易的任务。但这正是凯特·克劳福德（Kate Crawford）教授和弗拉丹·乔勒（Vladan Joler）教授在上周五维多利亚&amp；伦敦阿尔伯特博物馆。

主要的艺术品是一幅巨大的地图，高两米，宽五米，它描绘了为现代最复杂的产品之一提供动力的系统：一个人工智能驱动的小工具，特别是亚马逊Echo。这是一堆黑白相间的分支线，看起来更像是一个核反应堆的示意图，而不是一个日常用品。这本书被称为《人工智能系统的解剖》，但副标题解释了它的范围：“亚马逊回声是人类劳动、数据和地球资源的解剖图。”

在揭幕前，Verge采访了纽约大学教授克劳福德，他是AI Now研究所的联合创始人。AI Now研究所是一个研究开发人工智能的社会影响的组织。Crawford和她的合作者Joler是诺维萨德大学艺术学院的教授，他说他们创造解剖学是因为缺乏对现代小工具，特别是人工智能的结构的认识。

克劳福德说：“我们需要就大规模构建人工智能的含义展开深入而复杂的对话。”通过解剖学，你可以从更大的角度来看待和理解它。”

为了清晰简洁，本次采访经过了少量编辑。单击此处查看AI系统的整体结构，并阅读随附文章。

那么，首先，您为什么选择Amazon Echo作为本项目的重点？

我对我们与这些系统之间非常简单的基于语音的交互非常感兴趣。Echo就在你家里，看起来很简单，很小，但它有着与大型生产系统相连的根基：物流、采矿、数据采集和人工智能网络培训。这是一个你从未见过的完整的基础设施。你只需发出一个简单的语音命令——“Alexa，开灯”——感觉就像变魔术一样。

但是，试图真正调查和几乎做考古学的魔术是如何工作的是这个项目的目的。回声是强大的，因为这种感觉的方便，但当你打开引擎盖，你可以看到它的全部成本。

有人会说，技术一直如此。在你的文章中，你也展示了这一点，当你谈到19世纪需要采集天然乳胶来隔离海底电缆时，导致了大量的森林砍伐。现在有什么不同？

在此之前，我们经历过许多技术繁荣，并同时开采资源使之成为可能。这当然是一种趋势。但我要说的是，转向人工智能有两个非常非常重要的原因。首先，它的运行水平开始改变社会本身的工作方式，因为人工智能系统正在被构建到对我们来说最重要的机构中，从医疗到刑事司法。这些系统在各个层面上改变了你与世界的互动方式，因此在规模上存在差异。

第二，我认为消费者是不同的，这是人工智能所特有的。对于人工智能设备，消费者处于一种混合状态，他们购买的是一种产品，同时也是一种资源，因为他们的语音命令被保留并作为训练数据语料库的一部分进行分析。他们也是一名工人，因为他们通过向系统提供反馈来提供无偿劳动。他们的回答有助于评估人工智能的准确性、实用性和质量。它们也是一种产品，因为它们的所有兴趣（通过这些互动获取）都变成了一个可以卖给广告商的个人资料。作为消费者、工人、资源和产品的结合是一种全新的东西。

如果消费者正以这种方式被利用，提供无偿劳动，你认为有必要采取行动重新获得这种价值吗？例如，我们是否应该以某种方式**他们的数据？

首先，人们需要了解正在发生的事情。例如，人们刚刚开始认识到，社交媒体网站不仅仅是用来分享你的照片和与朋友联系的。它们是一个巨大的系统，能够提取出完全不同的价值形式，而不是你想通过向妈妈问好或者喜欢一张猫的照片来实现的价值形式。要理解这个行业本身已经发生了变化，而且有一些价值被提取出来的形式在七、八年前甚至还不存在，就需要这种观念上的转变。

第二件事是改革我们的社会责任观念，使之符合我们的需要。就这看起来像什么而言，这是一个大问题。这是AI现在一直关注的事情之一，我们有一个非常庞大的民法和政策团队[…]与ACLU等组织合作，研究我们如何在什么是可接受的[数据]使用、什么类型的技术有严重的负面影响以及我们如何承担责任等问题上划清界限。我们认为这是一个非常大的研究项目。

解剖学本身分为三大系统，每一个都被称为“提取过程”。有一个物质资源提取过程，一个数据提取过程，一个人工提取过程。为什么您认为以这种方式构建这些系统是有用的，作为“抽取式的”？

所有这些过程都以不同的方式提取价值。举个例子，当你想到煤炭开采时，你可能会想到一个行业，它推动了猖獗的增长，带来了高利润，但也产生了最初在经济体系中被忽视和无法计算的成本。资源开采的真实图景可能需要几十年才能显现。数据挖掘是否有类似的未知成本，超过了我们当前的经济框架？

剑桥分析公司丑闻只是众多政治制度和公民社会成本未被考虑的例子之一。你可以看到这种模式在许多层面上重复：从点击工作的劳动实践，到用户数据的大规模收集，再到**消费技术设备所需的稀土矿。人工智能系统正在从各种人类活动中提取剩余价值——从人类的情感和面部表情——而最终用户往往不知道这些成本，需要数年时间才能完全理解。

您将Echo呈现为某种小工具的缩影——我们无法打开（因为我们将取消保修）也无法完全控制（因为该软件存在于云中，并且未经我们允许进行更新）。这种范式如何影响我们与技术的互动？还是与社会？

确切地由于弗兰克·帕斯夸尔等学者的重要工作，算法黑箱的概念现在已经广为人知。我们的项目感兴趣的是如何与其他类型的黑匣子连接。回声本身是一种很难检查的盒子：用户看不到它是如何工作的，它是如何记录数据的，或者它的算法是如何训练的。然后是隐藏的物流，通过多层承包商、分销商和下游组件**商，如何收获、冶炼和组装内部的简单组件。

在这篇文章中，我们写了一个例子，英特尔花了几年时间才充分了解自己的供应链，从而确保其微处理器中不含来自刚果的钽。想象一下，一家资源丰富、员工技能高超、拥有完善的记录和数据库的公司，花了数年时间才了解自己的采购模式！

这表明，从公司内部调查和分析这些过程是多么困难，更不用说外部的研究人员和记者了。但是，讲述生产故事的过程是如此重要和必要：这是我们如何开始了解全球技术产品生产的令人眩晕的复杂性。

在这篇文章中，你谈到了财富的积累和集中，以及那些处于底层的人糟糕的工作条件。你认为人工智能自然会加剧这种不平等吗？

（顺便说一句，我应该说我喜欢在你的地图上有多个“薄壳”的方式，每一个都积累了不同种类的价值。玻利维亚盐湖上有锂；矿物已经积累了数百万年。还有硅谷的技术精英，他们收集客户所有无偿点击工作的价值。）

没错，那些层很薄。在这个体系的顶端，有几个亿万富翁，他们获取了最大的价值，你越是深入物流和生产链，越接近原材料，差距就越大。

例如，根据彭博社的亿万富翁指数，亚马逊首席执行官杰夫·贝佐斯（Jeff Bezos）在2018年前五个月的平均每日收入为2.75亿美元。这显然是一个很大的数字，但除非你把它与下游的其他工人相比，否则很难真正理解。****（Amnesty）发布了一份报告，对刚果煤矿中的童工进行了追踪，在那里，锂离子电池的钴元素被追踪到。在这种情况下，一个在其中一个钴矿工作的孩子需要不间断地工作大约70万年，才能赚取与贝佐斯一天收入相同的收入。

这种不平等现象在整个工业历史中反复出现，并不是人工智能所特有的。但大规模人工智能系统需要如此多的数据、基础设施和维护，以至于很少有公司能够建造和运营它们。如果我们想要很好地管理这些系统，那么随着时间的推移思考这意味着什么是很重要的。

凯特·克劳福德（Kate Crawford）和弗拉丹·乔勒（Vladan Joler）对人工智能系统的剖析可以在伦敦维多利亚和阿尔伯特博物馆（Victoria and Albert Museum）看到，这是人工智能展览的一部分。你也可以在解剖学网站上浏览地图和阅读随附的文章。