我们生活在一个越来越受所谓“算法凝视”控制的世界。随着我们在医疗、交通和安全等领域将更多决策权让与机器，计算机所看到的世界成为主导现实。例如，如果面部识别系统不识别你的肤色，它就不会承认你的存在。如果一辆自动驾驶汽车看不到你穿过马路，它会直接穿过你。这就是行动中的算法凝视。

这种缓慢燃烧的结构变化可能很难理解。但正如社会变迁经常发生的情况一样，艺术家们正跃入认识论的角力。其中最棒的是Tom White，他是新西兰惠灵顿大学计算设计讲师，他的艺术描绘的是世界，不是人类看到的，而是算法。

怀特于2017年末开始**此类艺术品，并**了一系列名为“ImageNet的背叛”的印刷品。该名称结合了勒内·马格里特（RenéMagritte）的著名画作《非管道管道的管道》和ImageNet的名称，ImageNet是整个行业用于训练和测试机器视觉算法的图片数据库怀特告诉《边缘》杂志说：“对我来说，这似乎是一种自然的相似。”此外，我无法抗拒双关语。”

对人类来说，这些图片看起来像是线条和斑点的随意排列，缺乏任何明显的直接结构。但对于那些被训练来代表我们看世界的算法来说，它们作为特定的对象跃出页面：电风扇、缝纫机和割草机。这些指纹是光学错觉，但只有计算机才能看到隐藏的图像(在上面的视频中，您可以看到White是如何开发这些图像的，以及Verge的工作人员是如何猜测这些图像的。）

怀特的作品吸引了机器学习界的广泛关注，本月，作为在德里自然莫特画廊（Nature Morte gallery）举办的印度人工智能艺术展的一部分，怀特的作品将首次在大型画廊展出。怀特说，他设计自己的指纹是为了“通过机器的眼睛看世界”，并发出“机器说话的声音”

这种“声音”实际上是怀特称之为“感知引擎”的一系列算法。它们将机器视觉算法训练的数据——数千张物体图片的数据库——提取成抽象形状。然后将这些形状反馈到相同的算法中，以查看它们是否被识别。如果没有，图像将被反复调整并发送回，直到恢复。这是一个反复试验的过程，基本上最终会对算法对世界的理解进行反向工程。

怀特将这一过程比作“计算占卜板”，其中神经网络“同时推动并推动图形朝向目标”。他告诉Verge，这种方法使他能够控制输出，尽管以这种方式创建单个图像可能需要几天时间，他承认这个过程“有点乏味”

与一些从事机器学习的艺术家不同，怀特并不假装他的作品是某种自主人工智能的产物（有时艺术家和推广者为了创造一种技术神秘主义的感觉而推动这种不真实的叙述）。相反，他对自己的角色直言不讳：他为自己的感知引擎设置了一些启动参数，如线条的颜色和厚度，并对输出进行筛选，拒绝他认为不美观的印刷品。尽管他给自己的算法提供了一个说话的声音，但他也在确保结果令人愉悦。”我想我正在尝试释放算法，这样它就可以表达自己，这样人们就可以理解它在说什么，”他说。

它在说什么？就像任何艺术一样，不同的人听到不同的东西。

有些人认为怀特和他的同龄人的想象是一个坏兆头，这是人工智能不仅变得越来越聪明，而且开始创造性地思考，并承担起人类特有的角色的另一个迹象。Karthik Kalyanaraman是负责自然莫特展览的策展团队的一半，他通过电子邮件告诉Verge，他安排这次展览是为了让人们注意到我们面临的关于人类未来的“不可避免的”问题。”他问道：“一旦我们的大部分劳动（体力、脑力、情感、艺术）被机器取代，我们还能做什么呢？”我们将如何定义自己？”

Kalyanaraman认为，人工智能**的艺术表明，计算机作为创造性的演员可能值得称赞。怀特和他的同龄人使用的机器学习方式是通过筛选大量数据，然后复制发现的模式。Kalyanaraman认为，这与人类学习艺术的过程相似，但我们围绕创造力概念的“神秘主义”阻止我们看到相似之处。”如果一台机器能创造出令人惊讶的、风格新颖的艺术，我认为说它没有真正的创造性是愚蠢的，因为它没有意识，”他说。

其他人则用更无情的经济术语来描述这个问题。Mike Pepi为当代艺术杂志frieze撰文，他认为人工智能创造力的推广本质上是对企业利益的宣传。佩皮说，尽管有“乌托邦式的预言”，但人工智能的发展最终将取代人类劳动，包括需要创造力的白领工作。佩皮说：“如果机器智能能够征服这一独特的人类领域，那么迈向人工通用智能的征程一定很近，利润是无法想象的。”

怀特说，他的动机主要是解构我们所认为的机器感知。换句话说：解释算法的凝视。以怀特的系列作品《ImageNet的背叛》中的大提琴版画为例，如果你知道你在寻找什么，你可以看到代表乐器的形状（一组用曲线括起来的平行直线）。但它的背后也隐约浮现出一个令人困惑的形状。怀特说，之所以有这些形状，是因为算法是用大提琴手拿着大提琴的图片训练的。由于该算法没有对世界的先验知识——不了解乐器是什么，也不了解音乐或表演的任何概念——它自然地将两者组合在一起。毕竟，这就是它被要求做的：了解图片中的内容。

这种错误在机器学习中很常见，它展示了一些重要的经验教训。它显示了训练数据的重要性：给人工智能系统错误的数据来学习，它就会学到错误的东西。它还表明，无论这些系统看起来多么“聪明”，它们都拥有一种脆弱的智能，只了解世界的一部分——甚至不完全了解世界的一部分。例如，怀特为自然莫特画廊（Nature Morte gallery）设计的最新照片是抽象的颜色涂片，被谷歌的算法标记为“不合适的内容”。同样的算法用于过滤人类在世界各地看到的东西。

不过，怀特说，他并不认为他的作品是一种警告。”他说：“我只是想把算法原样呈现出来。”但我承认，有时令人担忧的是，我们所依赖的这些机器对世界上物体的接地方式有着如此不同的理解。”

尽管算法凝视容易出错，但它也可以做非常有益的事情。机器视觉可以通过在道路上安全驾驶汽车或通过加快医疗诊断来拯救生命，从而使世界变得更加安全。但如果我们真的想永远使用这项技术，我们需要更好地理解它。通过算法的眼睛看世界可能是第一步。

更新时间：美国东部时间2018年11月6日上午10:00：本文最初发表于2018年8月21日，并已更新为包含视频。