人工智能公司的首席执行官通常寻求将人工智能造成的威胁降至最低，而不是夸大它们。但在本周的Converge节目中，Clara Labs联合创始人兼首席执行官Maran Nelson告诉我们，有真正的理由担心人工智能，而不是科幻小说训练我们所期待的原因。

像《她》和《前机器》这样的电影描绘了一个不久的未来，在这个未来，拟人化的人工智能操纵着我们的情绪，甚至对我们实施暴力。但Nelson说，像Ex Machina公司的Ava这样的威胁需要几项技术突破，才有可能出现。与此同时，最先进的人工智能——利用机器学习进行算法预测——已经在造成危害。

“在未来五年中，随着公司在构建这些技术方面的能力越来越强，广大公众将无法理解他们的数据在做什么，他们在泄露什么，以及他们应该如何害怕人工智能已经在他们的生活和信息中扮演的角色，”尼尔森说。

Nelson说，人工智能预测哪些文章你可能想读，这导致了Facebook上错误信息的传播和2008年的金融危机。而且，由于算法的运行是无形的——不像小说中的艾娃和其他人工智能角色——它们的危害性更大。”与您实施此类系统之前相比，始终为用户提供更大的控制和更大的可视性是非常重要的，”Nelson说。然而，人工智能越来越多地被设计为在不事先询问用户的情况下为用户做出决策。

克拉拉处理人工智能的方法是无害的，甚至到了令人乏味的地步：它使一个虚拟助手为人们安排会议(本周，它添加了一系列集成，旨在将其定位为帮助招聘的工具。）但即使是看似简单的任务也会经常让人工智能出问题。”我们经常遇到的比较困难的情况是，‘下周三就好了，除非你能亲自去做，否则我们得根据你的喜好在几周内完成。’。很高兴来到你的办公室。”

即使是最先进的人工智能也不能高度自信地处理这条信息——因此克拉拉**人员检查人工智能的工作。这是一个被称为“人在回路中”的系统，Nelson说，这对于构建既强大又负责任的人工智能至关重要。

Nelson勾勒出了她对Converge上更好的人工智能的愿景。Converge是一个访谈游戏节目，科技界最伟大的人物向我们讲述了他们最疯狂的梦想。这是一场很容易取胜，但也不是不可能输掉的比赛，因为在最后一轮比赛中，我终于有了上场的机会，并获得了自己的几分。

你可以在下面阅读一段由Nelson编辑的部分文字，你可以在上面找到Converge的完整片段。你可以在这里或任何你能找到播客的地方收听它，包括苹果播客、Pocket cast、Google Play Music、Spotify、我们的RSS提要，以及任何**优秀播客的地方。

马兰·尼尔森：我的大想法是科幻小说确实伤害了我们在应该害怕人工智能的时候害怕人工智能的机会。

凯西·牛顿：我们已经看过很多电影和电视节目，里面有一个恶意的人工智能，所以我想让你帮我们把它整理一下。什么意思？

几乎每一次人们都在玩弄人工智能的概念，它会是什么样子，它的可怕意味着什么，它都被极大地拟人化了。你有这个东西——它来了，它向你走来，听起来你可能要死了，或者它非常清楚地表明你的生命有可能处于危险之中。

对

最让我害怕的不是在未来五年类似的事情会发生在我们身上的可能性，而是它不会发生的可能性。在未来五年中，随着公司在构建这些技术方面的能力越来越强，广大公众将无法理解他们的数据在做什么，他们在泄露什么，以及他们应该如何害怕AI已经在他们的生活和信息中扮演的角色。

因此，2001年HAL的想法分散了人们对实际威胁的注意力。

非常感谢。

我认为另一个人们没有想到的是2008年的金融崩溃。还有一种情况是，有人正在建立他们可以用钱做什么的风险模型。然后，他们给出了这些风险模型，这些模型实际上就像那些为Facebook新闻订阅和所有其他预测模型提供动力的模型一样，他们把它们提供给了银行家。他们说，“嘿，银行家们，看起来这些房地产证券化贷款会没事的。”不会没事的。一点也不！他们正在处理大量的不确定性，在这两种情况下，就像新闻提要和证券化贷款一样，最终是消费者承受了巨大的冲击，因为公司本身没有真正的责任结构。

你得到的一个想法是，各种规模的公司都把人工智能作为一种神奇的护身符，当他们说，“好吧，别担心，我们把人工智能放在这上面，”我们都应该放松下来，说，“哦，但是你要指出的是，实际上这些模型在预测事物方面可能非常糟糕。或者他们预测了错误的事情。

当然，我认为现实恰恰相反。当你开始与消费者互动，并拥有像我们这样的产品，主要是人工智能，这是一个真正的恐惧因素。这是什么意思？我放弃或放弃是什么意思？与您实现这样的系统之前相比，为用户提供更大的控制和更大的可视性总是很重要的。