这完全出乎意料：昨天谷歌I/O大会上最令人印象深刻的演示是一个电话预约理发。当然，这是一个与众不同的电话。它不是由人类**的，而是由谷歌助手**的。谷歌助手在提出正确的问题、在正确的地方停下来、甚至为了写实而加入奇怪的“嗯哼”等方面做得出奇地好。

观众们感到震惊，但最令人印象深刻的是，接听电话的人似乎没有怀疑他们在与人工智能通话。这对谷歌来说是一项巨大的技术成就，但也开启了一个道德和社会挑战的潘多拉魔盒。

例如，谷歌有义务告诉人们他们正在和一台机器说话吗？模仿人类的技术会侵蚀我们对所见所闻的信任吗？这是技术特权的另一个例子吗？那些有知识的人可以把他们不想在机器上进行的无聊的对话转移到机器上，而那些接听电话的人（很可能是低薪的****）则必须与一些愚蠢的机器人打交道？

换言之，这是一个典型的谷歌演示：同样的部分是好奇和担忧。

Google Assistant makes calls

Google Assistant will be able to make actual phone calls for you.

但让我们从基础开始。在舞台上，谷歌并没有详细介绍这个名为Duplex的功能是如何工作的，但附带的一篇博客文章增加了一些重要的内容。首先，Duplex不是未来派的人工智能聊天室，能够进行开放式对话。正如谷歌的研究人员所解释的那样，它只能在“封闭的领域”中进行对话——这种交流是功能性的，对要说的话有严格的限制你想要张桌子吗？要多少？哪一天？什么时候？好的，谢谢，再见，“放松！

乔治亚理工学院人工智能副教授马克·里德尔（Mark Riedl）专攻计算机叙事，他告诉《边缘》杂志，他认为谷歌的助手可能“相当不错”，但只能在公式化的情况下工作处理断章取义的语言对话是一个非常困难的问题但是，当人工智能不理解时，也有很多技巧可以掩饰，或者让对话回到正轨。”

谷歌的一个演示完美地展示了这些技巧的工作原理。人工智能能够处理一系列的误解，但通过重新措辞和重复问题做到了这一点。这种事情对于设计用来与人类对话的计算机程序来说很常见。他们的谈话片段似乎显示了真正的智慧，但当你分析他们所说的话时，他们被显示为预先编程的游戏。谷歌的博客文章提供了一些令人着迷的细节，详细说明了一些双工将使用的语言符号。这些包括详细说明（“下星期五，18日”）、同步（“你能听到我说话吗？”）和中断（“电话号码是212-”“对不起，你能重新开始吗？”）。

值得注意的是，谷歌称双工为“实验”。它不是一个成品，也不能保证它会以这种形式被广泛使用，或者说完全可以被广泛使用(另请参见：谷歌去年为其像素芽展示的实时翻译功能。它在舞台上工作完美无瑕，但在现实生活中却屡试不爽，只有像素**用户才能使用。）目前，双面打印仅在三种情况下工作：在餐厅预订；安排理发；向企业询问他们的假期时间。在今年夏天的某个时候，它也只对有限（未知）数量的用户开放。

还有一个大警告：如果一个电话出错，由一个人来接手。谷歌在其博客文章中表示，Duplex具有“自我监控能力”，允许它在对话超出其能力时识别在这些情况下，它会向能够完成任务的人工操作员发出信号，”谷歌说。这类似于Facebook的个人助理M，该公司承诺将使用人工智能处理****场景，但最终将未知数量的这项工作外包给了人类(Facebook在一月份关闭了这部分服务。）

所有这些都让我们更清楚地了解了Duplex可以做什么，但它并没有回答Duplex会产生什么影响的问题。作为第一家演示这项技术的公司，谷歌有责任直面这些问题。

显而易见的问题是，公司是否应该通知人们他们正在与机器人交谈？谷歌工程副总裁Yossi Matias告诉CNET，这“很可能”会发生。谷歌在《边缘》杂志上进一步表示，它绝对相信自己有责任通知个人(为什么在舞台上从未提及这一点尚不清楚。）

在这一领域工作的许多专家都同意这一点，尽管如何准确地告诉某人他们正在与人工智能对话是一个棘手的问题。如果助理在开始通话时说“你好，我是机器人”，那么接线员很可能会挂断电话。更微妙的指标可能意味着限制AI声音的真实性，或者在通话中加入特殊的音调。谷歌告诉Verge，它希望一套社会规范能够有机地发展，以明确呼叫方何时是人工智能。

巴斯大学研究AI伦理学的副教授Joanna Bryson告诉我们，谷歌显然有义务披露这些信息。如果机器人可以自由地摆出人类的姿势，那么恶作剧的范围是难以置信的；从诈骗电话到自动恶作剧。想象一下，接到一个惊慌失措的电话，说附近发生了枪击事件。你问他们一些问题，他们回答-足以让你相信他们是真的-然后挂断电话，说他们打错电话了。你会担心吗？

但是布莱森说，让公司自己管理这一点是不够的，需要出台新的法律来保护公众。”除非我们对其进行监管，否则一些地位不如谷歌的公司将利用这项技术谷歌可能会做正确的事情，但不是每个人都会去做。”

如果这项技术得到广泛应用，它将产生其他更微妙的影响，这种影响是不能立法禁止的。亚历克西斯·马德里加尔在为《大西洋月刊》撰文时指出，闲聊——无论是在打电话还是在街上聊天——都具有无形的社会价值。他引用城市学家简·雅各布斯（Jane Jacobs）的话，她说“地方一级的随意、公开接触”创造了一个“公众尊重和信任的网络”。如果我们给人们另一个避免社交互动的选择，不管它有多小，我们会失去什么？

人工智能电话的一个影响可能是让我们都变得粗鲁一点。如果我们不能在电话里分辨出人和机器的区别，我们会用怀疑的态度对待所有的电话交谈吗？我们可能会在电话中切断真实的人，告诉他们：“闭嘴，让我和一个人说话。”如果我们在餐馆预订变得更容易，我们是否会利用这一事实，更大胆地预订，而不在乎我们是否真的没有出现(谷歌向Verge表示，它将限制一家企业每天可以从助手那里接到的电话数量，以及助手可以拨打的电话数量，以阻止人们使用该服务进行垃圾邮件。）

这些问题没有明显的答案，但正如布莱森指出的那样，谷歌通过吸引人们对这项技术的关注，至少为世界提供了一项服务。它不是唯一一家开发这些服务的公司，当然也不会是唯一一家使用这些服务的公司。”“这是一个巨大的交易，他们正在展示它，”布赖森说重要的是，他们要继续做演示和视频，这样人们才能看到这些事情的发生[…]我们真正需要的是一个知情的公民。”

换句话说，在机器人开始为我们说话之前，我们需要就所有这些进行对话。