这可能发生在你身上。当事情发生急转直下的时候，你正在网上（通过社交媒体、电子邮件、闲聊）与某人聊天。谈话开始时很有礼貌，但在你意识到之前，你正在与陌生人/同事/家庭朋友进行人身侮辱。好吧，我们有一些好消息：科学家正在研究它，在机器学习的帮助下，他们可以帮助我们在争论发生之前停止在线争论。

这项工作来自康奈尔大学、谷歌拼图（Google Jigsaw）和维基媒体（Wikimedia）的研究人员，他们合作开发了一款软件，可以扫描对话中的言语滴答声，并预测对话是否会以尖刻或友好的方式结束。值得注意的是，该软件是在一个高风险讨论的温床上进行培训和测试的：维基百科文章上的“对话页”，编辑们在这里讨论措辞的变化、对更好资源的需求等等。

该软件经过预编程，以寻找过去研究表明与会话情绪相关的某些特征。例如，表明讨论会进展顺利的标志包括感激（“谢谢你的帮助”）、问候（“你今天过得怎么样？”）、模糊限制（“我想是这样”），当然还有“请”一词的自由使用。所有这些结合在一起，不仅营造了友好的气氛，而且在两位参与者之间形成了情感缓冲。这本质上是一个无人区，一个人可以承认自己错了而不丢面子。

另一方面，警告信号包括重复的、直接的提问（“为什么没有提到这一点？你为什么不看看这个？”）以及以第二人称代词开头的句子的使用（“你的来源不重要”），特别是当它们出现在第一个回答中时，这表明有人试图把事情个人化。为了增加所有这些信号，研究人员还使用谷歌的透视API（Perspective API，一种人工智能工具）测量了对话的一般“毒性”，该工具试图衡量任何给定文本的友**、中立性或攻击性。

使用一种被称为逻辑回归的统计方法，研究人员在软件做出判断时找出了如何最好地平衡这些因素。在培训期结束时，当给一对以友好开始但以个人侮辱结束的对话时，该软件能够预测哪一次是哪一次，只有不到65%的时间。这很好，尽管有一些主要的警告适用：首先，测试是在有限的数据集上进行的（维基百科对话页面，在那里，在线讨论的参与者有一个共同的目标：提高文章质量，这是不同寻常的）。第二，人类在同样的任务中仍然表现得更好，72%的时间都能做出正确的判断。

但对科学家来说，这项工作表明，我们正在正确的道路上创造能够干预在线争论的机器。”康奈尔大学从事该项目的博士生贾斯汀·张（Justine Zhang）告诉《边缘》（the Verge）杂志说：“当对话最终变得糟糕时，人类会产生令人不安的怀疑，而这项[研究]表明，让计算机意识到这些怀疑也是可行的。”。

像这样的研究特别有趣，因为它是使用机器学习分析在线讨论的新兴工作体系的一部分。像Facebook和谷歌这样的科技巨头运营着巨大而有影响力的平台，平台上充斥着愤怒的评论，他们迫切需要这样的科技。最近对Facebook上的俄罗斯政治广告和YouTube上恐怖儿童内容的强烈**表明了风险所在。这些公司希望人工智能能够比人类版主做得更好（而且成本更低）。

然而，虽然人工智能确实能够处理互联网的规模，但它们已经一次又一次地证明，它们无法处理人类语言的细微差别。例如，谷歌的透视API（PerspectiveAPI）就被用于这项研究，它被认为是一种可以帮助清除网站上有害评论的工具。但它的判断往往有缺陷；例如，它将“我是一个男人”这句话列为比“我是一个***、黑人女人”毒性小得多的句子（谷歌则强调透视图是一项正在进行的工作，它只是开发人员自动化评论调节的工具之一）

在这项具体的研究中，你可以想象它被用**预在线讨论，当事情看起来要变得激烈时，给用户一个轻推。这样一个机器人在很多领域都是受欢迎的（他们一生中至少一次没有想过就陷入争论中吗？），但也值得考虑潜在的负面影响。除了AI节制这一更广泛的问题之外，如果像这样的机器人被改造来消除政治异议会怎么样？或者，如果阻止人们在线争论实际上是件坏事呢？没有人声称互联网是一个富有成效的辩论模式，但当对话出错时，它至少是一个发现如何不做事的机会。如果我们太孤立，我们可能永远也学不会。

张说，这样的分数在做这项工作时“在团队的后脑勺里”。她说，他们发现“一些分歧天生是有用的”，如果该软件判断速度过快，它可能“阻止潜在的建设性讨论。”“有一些情况下，人们能够从糟糕的对话中恢复过来，因此决定机器何时介入并进行调解是一个有趣的问题。”

张说，最重要的是，这项工作显示了人类对话的不可预测性和动态性。她说，在查看数据时，她有时会发现一场讨论中出现了争吵的所有特征，接着读下去，结果发现参与者不知何故从悬崖边退了回来，友好地结束了事情。”看到人们设法做到这一点很有趣，他们使用了一些奇怪的结合，既坚定又礼貌，”她说。

张希望未来的工作将集中在类似的例子上；显示人类在最后一刻自我救赎的交流。”我们的重点是看那些会出轨的对话，但很高兴看到这并不是全部。”