昨晚在旧金山举行的一个小活动中，IBM主持了两个人之间的两个辩论俱乐部式的讨论，一个叫“项目辩论者”的AI，目的是让AI按照一些相当标准的辩论规则进行一系列合理的论证：没有提前意识到辩论的主题，没有预先的回应。每一方都作了四分钟的介绍性发言，对对方的论点进行了四分钟的反驳，并作了两分钟的闭幕发言。

项目辩论者坚持自己的观点。

这看起来是一个巨大的飞跃，超越了我们所有人都记得的IBM的另一个引人注目的演示，当时沃森在Jeopardy与它的竞争对手擦肩而过。IBM今天的人工智能演示是建立在这个基础之上的。就像沃森当年所做的那样，它有许多可以从中提取的数据语料库。和沃森一样，它能够分析所有数据的内容，得出相关的答案。但这一次，“答案”是在四分钟的演讲中提出的与补贴空间和远程医疗相关的令人信服的观点。

该项目辩论者引用了一些消息来源，迎合了观众对儿童和退伍军人的喜爱，并在这个过程中开了一两个相关的玩笑。

那太令人印象深刻了。它基本上创造了一个新生水平的学期论文类型的辩论，在短短的几分钟内提出了一个辩论的主题，它没有具体的准备。该系统拥有“数亿篇文章”，它假设这些文章在其数据库中是准确的，这些数据库大约有100个知识领域。当它得到一个辩论主题时，需要花费几分钟的时间来钻研它们，决定什么可以使最好的论据支持这个主题，然后创建一个小演讲来描述这些观点。

它提出的一些观点相当简单；有些人引用了资料来源，有些人显然是从文章中抄袭来的。尽管如此，它还是能够从我们听到人工智能时通常想到的“当前信息”模式转变为“进行论证”模式。但给我留下更深刻印象的是，它试图以近乎实时的方式直接与人类对手的观点进行辩论(系统需要几分钟来分析人类四分钟的讲话，然后才能做出反应。）

坦率地说，这让我感到有点不安，但不是因为通常的担忧，比如“机器人将变得自我意识并接管”或“人工智能正在为我们的工作而来”。这是一件更微妙、更难让我理解的事情。这也许是第一次，我觉得人工智能在试图掩饰。我看不出它在撒谎，我也不认为它试图欺骗我们，但它确实采取了一种辩论策略，如果你看到一个人尝试它，就会让你对那个人少一点信任。

现场是这样的：一位人类辩论者反对**应该资助太空探索的观点。她建立了一个理解世界的框架，这是一种相当常见的辩论策略。她认为，补贴应该符合两个具体标准之一：满足人类的基本需求和创造只有**才能做的事情。太空探索不符合要求。很公平。

项目辩论者的工作是直接回应这些观点，但他并没有直接反驳这些观点。它当然是在同一个区域内说话的。它声称“资助太空探索通常会以科学发现带来的经济**的形式回报投资”，并表示对美国这样的国家来说，“拥有太空探索计划是成为一个大国的关键部分。”

“项目辩论者”并没有直接采用其人类对手提出的标准。事情是这样的：如果我在那场辩论中，我也不会这样做。设定辩论的框架是一种强有力的辩论策略，而接受这种框架往往会导致失败。

所以问题是：项目辩论者只是不理解标准，还是理解并选择不参与这些条款？看着辩论，我想答案是它没有完全明白，但我并不肯定。我分不清人工智能不那么聪明和人工智能比我以前见过的人工智能聪明得多之间的区别。这是一个相当不和谐的认知时刻。就像我说的，令人不安。

阿尔马登IBM研究部副总裁兼实验室主任杰夫·韦尔瑟（Jeff Welser）让我放心了。项目辩论者没有明白。但它并没有以一种真正有趣和重要的方式得到它。”他告诉我（呸）说：“实际上，我们并没有努力让它玩一些狡猾或掩饰的游戏。”但它确实做到了……这正是人类所做的，但它是在自己的限制范围内做到的。”

本质上，项目辩论者为其理解的每一条信息分配一个置信度分数。系统是否有信心了解正在讨论的内容？”如果它确信自己的观点是正确的，如果它真的相信自己理解对手所说的话，它将试图针对这一点提出一个非常有力的论点，”韦尔瑟解释道。

“如果它不那么自信，”他说，“它会尽最大努力提出一个论点，即使它不能完全回答这一点——这也是人类有时也会做的事，作为一个论点也是令人信服的。”

因此，《人权报》说，**应该有围绕基本人类需求的具体标准来证明补贴的合理性。项目辩论者回应说，空间是令人敬畏的，对经济有好处。人类可能会选择这种策略作为一种狡猾的方式，以避免在错误的条件下进行辩论。项目辩论者在其算法中有不同的动机，但没有那么不同。

这个实验的目的并不是让我认为我不能相信计算机是在真诚地争论——尽管它确实做到了这一点。关键是IBM在炫耀它可以在新的研究领域培训人工智能，这些领域最终可能在实际环境中有用。

第一种是在决策上下文中解析大量信息。同样的技术可以读取大量数据，并提出一系列的赞成和反对意见进行辩论，可以（并且已经）用来决定一只股票是否值得投资。IBM的系统没有做出价值判断，但它确实向银行提供了一系列信息，显示了关于股票的争论的双方。

至于辩论部分，韦尔瑟说，它“帮助我们理解语言是如何使用的”，通过教导系统在比通常的“嘿，谷歌，给我这条信息，关掉我的灯”更微妙的修辞环境中工作。也许有一天它可以帮助律师构建他们的论点，韦尔瑟开玩笑说：“项目辩论者不是一个很好的律师。”。另一位IBM研究人员建议，这项技术可以帮助判断假新闻。

这离IBM变成产品有多近？”这仍然是一个研究级别的项目，”Welser说，尽管“现在它下面的技术”已经开始在IBM项目中使用。

在关于远程医疗的第二场辩论中，项目辩论者再次艰难地分析了其人类对手在诊断中对人的触摸的重要性所做的细微差别。它没有讨论这一点，而是回到了一个更广泛的论点，这表明人类可能只是害怕新的创新。

“我是技术力量的忠实信徒，”人工智能打趣道，“我本该如此。”