在凯瑟琳·克罗斯（Katherine Cross）的短篇小说《爱的恩典之机》（the Machine of Love Grace）——我们的《美好世界》（Better Worlds）选集的最后一部——中，亚历山德拉（Alexandra）和菲比（Phoebe）必须处理他们创造的Ami，这是一种人工智能，旨在调节在线社区，因为它以火扑火。

克罗斯是社会学家和游戏和社会评论家，她在华盛顿大学信息学院攻读博士学位，专门从事性别和网络骚扰的研究。她的作品曾出现在《建制》、《卫报》、《伽马索特拉》、《时代杂志》和《边缘》杂志上。

Verge与Cross讨论了人工智能如何需要同理心以及调节在线空间的重要性。

为了清晰起见，本次访谈已稍加编辑。

您将向读者介绍Ami，这是一种人工智能，被设计为一种强大的调节工具。Ami是如何工作的？在未来的几年里，你是否看到类似的东西出现在现实世界中？

它已经存在了。Ami的灵感来源于市场上的一款真正的产品——Spirit AI的Ally——它做了一些非常类似的事情，尽管Ally是为了补充MOD，而不是直接替换它们。我只是更进一步，推测一种更强大的人工智能，它既能取代人类，又能获得感知力。这些技术的发展是不可避免的。无论是好是坏，科技公司都在寻求在某种程度上自动化他们的调节过程。这是他们能看到的唯一解决可伸缩性问题的方法，在社交媒体平台或大型游戏中，人类MOD无法跟上数百万用户的动作，这一问题尤为严重。当然，Ami开始意识到有其他的选择。

Photo by Elizabeth Sampat

Twitter、Twitch和Facebook等社交媒体网站在内容控制方面也有自己的问题，在大多数情况下依赖于人类的判断。你如何看待人工智能在那些人类开发的系统上的构建？

我认为，实际上，这些网站过于依赖自动化流程。Ami真的很聪明，最重要的是，有同情心。她作为人工智能的显著特征是，她能够感受到他人的痛苦，并感到有责任对此采取行动，同时还拥有计算机的超人能力。目前，我们的真实世界人工智能仅仅是伪人工智能，在最糟糕的情况下，与强大的、充满活力的人类创造力相比，它们是远远不够的。例如，黑抽搐流光被使用猴子、炸鸡或香蕉表情符号的人骚扰，这些表情符号的种族主义符号很容易被其他人理解，但即使是最复杂的机器学习算法也完全无法理解。它肯定是被Twitch的AutoMod绊倒了。老实说，我们需要更多的社区管理人员，他们可以使用复杂的工具来帮助他们工作。但我觉得算法不能代替mods，就像锤子不能代替木匠一样。

我们看到，Ami并不害怕使用它可以使用的工具——不仅在兽人的世界里对违反者进行永久性的监视，而且还加入了一些关于玩家的附加评论。为什么这对玩家和游戏的主人来说是一件可怕的事情？

坦率地说，游戏行业因为害怕其最直言不讳、最愤怒的客户而陷入瘫痪，这些客户通常被误认为是所有玩家。虽然“顾客永远是对的”奉承是****的特有现象，但在游戏中尤其怪异。最爱辱骂的球迷希望能够对**他们比赛的人进行恶毒的攻击和威胁，但是当愤怒的目标反击时，他们感到震惊。游戏也被当作一种无后果放纵的幻想来销售，这在某种程度上是公平的——我们都需要逃避现实——但在社会环境中，这一概念往往延伸到玩家之间的社会互动，而不考虑种族主义或性骚扰如何阻碍其他人的幻想、其他人的逃避。当这样的玩家面对反击的人时，尤其是来自游戏公司本身的人，这是可怕的，因为这有可能遏制有毒的幻想。与此同时，游戏公司希望将这种“**”转化为自己的利润，因此他们担心失去它。不管有多少其他球迷、球员，甚至他们自己的员工受伤。

在某一点上，Ami做了一个有趣的观察：它有工具和方向来禁止人们，而且它这样做显然违反了法律。但即便如此——当很清楚它所做的是在其任务范围内时——人们仍然不愿意让它开展工作。为什么呢？

阿美当然更愿意被称为她！而且，正如我所说，许多游戏工作室不愿意告诉他们最毒的粉丝“不”。社区节制显然是必要的，它的存在可以安抚焦虑的家长或玩家。但被有资格的粉丝们视为狂热的节制，往往会遭到**。我们已经看到暴动和阿雷纳特最近把他们自己的员工扔到了狼群中，因为他们敢于像人一样说话，而不是在任何时候都进行完美的公关。

天网曾几次被取消名字，但这次机器人收购让我印象深刻的是，它实际上是在一种最有利的情况下行动，超越了游戏玩家在游戏中大喊大叫，要求整个企业进行重组。是什么让Ami比天网更像是一个慈善项目？

通常，“智能”是人工智能的定义。毕竟，线索就在名字里。但从历史上看，这种智力是以最狭隘的方式定义的，带有对情感的蔑视。但正如玛丽·沃斯通克拉夫特（Mary Wollstonecraft）曾经写得那样优美，“当我们强烈地感受到时，我们会深深地思考。”一个多世纪以来，女权主义哲学一直在不遗余力地向她证明这一点。理性和情感不是对立的；他们互相通知，有力地。Ami是一种AE，一种人工移情——尽管这也有点狭隘。毕竟，智慧包含着众多。

在故事的**中，我们了解到亚历山德拉的痛苦有多深。她曾希望在阿美族人身上创造一个不会脆弱的存在，就像亚历山德拉在自己身上看到的那样。这意味着Alexandra极度沮丧，甚至受到精神创伤。她对阿美的非理性、情绪化的一面非常生气。她想让阿美摆脱这些东西。她把感情与软弱联系在一起。但阿美向她展示了亚历山德拉最讨厌自己的地方其实可能是优点。

让阿美与众不同的是，与小说中其他许多只想屠杀所有人类的人工智能不同（我认为，这更多地反映了我们对自己优先事项的内疚），阿美进入了她的力量，并希望用它来减轻她周围的痛苦。像任何智者一样，她并不完美。你可以说她可能太刻薄或太热心。她的方法当然是直截了当的，而且会招致自身的危险。你可以努力解决这个问题。但她的动机源于强烈的移情感，源于她渴望拥有正义感并希望在世界上实现正义感。