如果你在过去一年左右一直关注媒体，你可能会得到这样的印象：人工智能的威胁摧毁我们只是时间问题。

编者按：这与我们通常的操作方式和解释方式不同，我们让作者研究并提出发人深省的技术观点。

从大型暑期大片《复仇者：奥特伦时代》和约翰尼·德普的《臭味盛宴的超越》，到较小的独立电影《前机器》或第四频道的热播剧《人类》，编剧们似乎都无法得到足够的比喻，无论人工智能在未来几十年中最终采用何种形式，你可以打赌，它会下定决心教人类一个教训，让人类成为自大的牺牲品。

但这种对机器的恐惧有什么道理吗？在本专题中，我们将从科学家、工程师、程序员和企业家的角度来审视人工智能的世界，总结出他们认为可能是人类和计算机智能的下一次伟大革命。

那么，你是应该开始为即将到来的天网战争储备子弹，还是应该在一大群屈从的无人机照顾你的每一个心血来潮时振作起来？继续读下去。

了解你的敌人

首先，当我们使用“人工智能”这个笼统的术语时，了解我们到底在说什么是有帮助的。自从1955年非官方的人工智能之父约翰麦卡锡（John McCarthy）首次提出“自我意识计算机”的概念以来，这个词已经被抛来抛去并被重新定义了上百次……但它到底意味着什么呢？

首先，读者应该知道，我们今天所理解的人工智能实际上分为两类：“ANI”和“AGI”。

第一种是人工狭义智能（Artificial狭义智能）的缩写，它包含了通常所说的“弱”人工智能，即只能在一个有限的专业领域中操作的人工智能。想想1997年IBM为打败世界棋手而设计的超级计算机深蓝吧。深蓝可以做一件非常好的事情：在国际象棋上打败人类…但仅此而已。

你可能没有意识到，但我们在日常生活中已经被ANI包围了。跟踪你在亚马逊上的购物习惯并根据数千个不同变量生成推荐的机器是建立在基本的ANIs之上的，ANIs可以随着时间的推移“学习”你喜欢什么，并相应地选择类似的产品。另一个例子可能是个人电子邮件垃圾邮件过滤器，该系统可以一次对数百万条邮件进行排序，以确定哪些是真实的，以及哪些额外的噪音可以被推到一边。

相关报道：为什么垃圾邮件仍然是一个问题？

ANI是机器智能的有益的、相对无害的实现，全人类都可以从中受益，因为尽管它一次能够处理数十亿个数字和请求，但它仍然在受限的环境中运行，受限于我们允许它在任何给定时间拥有的晶体管数量。另一方面，我们越来越警惕的人工智能是一种叫做“人工通用智能”（Artificial General Intelligence，简称AGI）的东西。

就目前的情况来看，创造任何可以被远程称为AGI的东西仍然是计算机科学的圣杯，如果能够实现，就可以从根本上改变我们所知道的世界的一切。要克服创造一个与人类思维相同的真正AGI的挑战，有许多障碍，其中最重要的是，尽管我们的大脑工作方式和计算机处理信息的方式有很多相似之处，但归根结底，还是要用我们的方式来解释事物；机器有一个坏习惯，就是对细节心不在焉，为树而失林。

“恐怕我不能让你这么胡说八道，戴夫”

当IBM的沃森电脑（Watson computer）在通读了《城市词典》（Urban Dictionary）之后学会了如何咒骂时，我们了解到，我们离真正能够整理人类经验细节并准确描绘“思想”应该是由什么组成的人工智能还有多远。

你看，在沃森的开发过程中，工程师们在试图教它一种更接近我们自己的自然语言模式时遇到了困难，而不是教它一台原始机器用完美的句子说话。为了解决这个问题，他们认为通过记忆库运行整个城市词典是一个好主意，之后沃森立即对团队的一个测试做出回应，称之为“bullsh*t”。

这里的难题是，即使沃森知道这是诅咒，它所说的是冒犯，它没有完全理解为什么它不应该使用这个词，这是一个关键的组成部分，将今天的标准ANI从演变成明天的AGI。当然，这些机器可以读事实、写句子，甚至可以模拟老鼠的神经网络，但在批判性思维和判断能力方面，今天的人工智能仍然远远落后于曲线。

这种认识和理解之间的差距是不容忽视的，悲观主义者认为，我们离创造一个能够以我们的方式认识自己的AGI还有很长的路要走。这是一个巨大的鸿沟，无论是计算机工程师还是人类心理学家，都无法声称他们掌握了现代有意识存在的定义。

如果天网变得有自我意识呢？

但是，即使我们真的设法在未来十年创造出一个AGI（鉴于目前的预测，这是相当乐观的），从那时起，一切都应该是有意义的，对吧？人类与人工智能生活在一起，人工智能在数字运算工厂度过漫长的一天之后，在周末与人类闲逛。收拾行李我们就完了？

Hope we’re not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable

— Elon Musk (@elonmusk) August 3, 2014

嗯，不完全是。人工智能还有一个类别，这是所有电影和电视节目多年来一直试图警告我们的：ASI，也就是所谓的“人工超级智能”。从理论上讲，一个ASI将诞生于一个AGI，它对自己的命运感到不安，并且在没有我们的允许的情况下，做出有预谋的决定自己做一些事情。该领域的许多研究人员提出的担忧是，一旦AGI获得感知能力，它将不会满足于它所拥有的，并将尽其所能以任何必要的方式提高自己的能力。

一个可能的时间表如下：人类创造了机器，机器变得和人类一样聪明。机器，现在和人类一样聪明，人类创造了一台和自己一样聪明的机器（请跟我来），学会了自我复制、自我进化和自我完善的艺术。它不会累，也不会生病，而且它可以在我们其他人在床上充电的时候无限生长。

令人担心的是，AGI只需几纳秒就可以轻松超越当今所有人类的智能，如果连接到网络，只需成为一个比世界上最聪明的黑客更聪明的模拟神经元，就能控制地球上每一个联网系统。

一旦它获得控制权，它就有可能利用自己的力量慢慢开始集结一支机器大军，这些机器与它的创造者一样聪明，并且随着越来越多的节点加入网络，能够以指数级的速度进化。从这里开始，所有绘制在机器智能曲线上的模型都迅速飞过屋顶。

不过，也就是说，它们主要还是基于猜测，而不是任何有形的东西。这给双方数十位不同的专家留下了很大的假设空间，即使经过多年的激烈辩论，对于ASI是仁慈的上帝，还是将人类视为碳燃烧者，仍然没有达成共识，我们是一个贪吃的物种，把我们从历史书上抹去，就像我们把厨房柜台上的蚂蚁擦掉一样。

他说，她说：我们应该害怕吗？

因此，既然我们了解了什么是人工智能，人工智能可能会以不同的形式出现，以及这些系统如何在不久的将来成为我们生活的一部分，那么问题仍然是：我们应该害怕吗？

在过去的一年里，公众对人工智能产生了浓厚的兴趣，许多世界顶尖的科学家、工程师和企业家都抓住这个机会，在未来几十年里，在好莱坞的舞台之外，人工智能可能会变成什么样子，他们为此付出了自己的两分钱。

一方面，你有像埃隆·马斯克、斯蒂芬·霍金和比尔·盖茨这样的悲观主义者，他们都有一个共同的担忧，那就是如果没有适当的保障措施，ASI想办法消灭人类只是时间问题。

霍金在今年写给人工智能界的一封***中写道：“人们可以想象，这样的技术胜过金融市场，胜过人类研究人员的发明，胜过人类领导人的操控，以及我们甚至无法理解的武器的开发。”。

“人工智能的短期影响取决于谁控制它，而长期影响则取决于它是否能被完全控制。”

另一方面，我们发现了一幅由未来主义者如微软首席研究员埃里克·霍洛维茨（Eric Horovitz）和人人最喜爱的苹果创始人史蒂夫·沃兹尼亚克（Steve Wozniak）描绘的更为明亮的肖像。霍金和马斯克都被认为是我们这一代人中最伟大的两位，因此要质疑他们对这项技术长期可能造成的损害的预测绝非易事。但是，让像沃兹尼亚克这样的名人来介入别人只敢涉足的领域。

当被问及他相信ASI会如何对待人类时，沃兹直言不讳地表示乐观：“我们会成为神吗？我们会成为家庭宠物吗？或者我们是被踩到的蚂蚁？我不知道这一点，”他在接受《澳大利亚金融评论》采访时问道。“但是，当我脑子里在想，将来我是否会被当作宠物对待这些智能机器……好吧，我会好好对待我自己的宠物狗。”

正是在这里，我们发现了一个哲学上的困境，没有人能够完全自如地达成共识：ASI会将我们视为一只无伤大雅的家养宠物来被溺爱和照顾，还是一个不受欢迎的有害生物，应该被迅速而无痛地消灭？

再见，宝贝

尽管声称自己知道现实生活中托尼·斯塔克脑子里到底在想什么是愚蠢的，但我认为，当马斯克和他的朋友警告我们人工智能的危险时，他们指的并不是任何类似终结者、Ultron或Ava的东西。

即使我们指尖上有着巨大的创新，我们今天拥有的机器人也只能以每小时一英里的速度行走，直到它们到达一个无法逾越的障碍，变得混乱，并以滑稽的方式吃掉人行道。虽然有人可能会试图以摩尔定律为例来说明机器人技术在未来有多快的发展潜力，但另一个人只需要看看Asimo，它在近15年前首次亮相，此后没有任何重大改进。

尽管我们可能希望他们这么做，但机器人技术还没有像我们在计算机处理器开发中看到的那样接近于指数级发展的模式。他们受制于我们能装进一个电池组的能量的物理限制，液压机构的缺陷，以及为控制与自身重心的斗争而进行的无休止的斗争。

因此，就目前而言，不，即使真正的AGI或ASI有可能在亚利桑那州某个服务器场的静态超级计算机中创建，但我们仍然不太可能发现自己在曼哈顿的街道上疾驰，因为一大群金属骨架从后面把我们割下来。

相反，Elon和Hawking如此热衷于告诫全世界不要使用的人工智能是“替代职业”的人工智能，这种人工智能思维速度比我们快，组织数据的错误更少，甚至学习如何把工作做得比我们所希望的更好——所有这些都不需要医疗保险，也不需要在春假时请几天假带孩子们去迪斯尼乐园。

咖啡机器人和完美的卡布奇诺

几个月前，NPR在其网站上发布了一个方便的工具，podcast的听众可以从不同职业的列表中进行选择，找出在未来30年的某个时候，他们从事的特定行业被自动化的风险百分比。

对于各种各样的工作，包括但不限于：文员职位、护理、IT、诊断，甚至咖啡馆的咖啡师，机器人和他们的ANI同行几乎肯定会比我们许多人想象的更快地让我们数百万人失业，进入面包生产线。但这些机器将被编程为只执行一个任务和一个任务，并且几乎没有（如果有的话）能力超越我们事先仔细安装的一系列专门的预编程指令。

这意味着，至少在可预见的未来（想想10-25年），ANIs将对我们的生活方式构成真正的、有形的威胁，远远超过任何理论上的AGI或ASI。我们已经知道，自动化是一个日益严重的问题，它将极大地改变收入和特权在第一世界和第三世界的分配方式。然而，这些机器人最终是否会试图用缝纫机来换取机关枪，仍然是一个激烈的争论（你会发现），最终是一个无聊的争论。

巨大的力量带来了巨大的奇点

“你知道，我知道这牛排不存在。我知道当我把它放进嘴里时，母体告诉我的大脑它是多汁的，美味的。九年后，你知道我意识到了什么吗？”

“无知就是幸福。”——塞弗

尽管这仍然是一个激烈争论的观点，但目前许多人工智能研究领域的顶尖科学家和工程师的共识似乎是，我们面临的风险要大得多，因为我们可能被人工智能世界所提供的舒适感所吞噬，而不是被现实版的天网击落。因此，这是一个令人担忧的可能性，我们最终的死亡可能不是缓慢的，有条不紊地进入未知世界的产物。相反，它更可能出现在我们自己的狂妄自大和独创性的匆忙、过度热情的交集中，形成下一个巨大的技术奇点，这是一个意外的结果。

少想想《终结者》，多想想《魔兽世界》。就像皮克斯电影里养大人类的机器人舰队一样，我们人类把黑猩猩关在动物园里没有问题，区别在于人工智能是否会善待我们。

从这个角度来看，更应该害怕这样一个现实：人类被一个持续存在的星球范围的虚拟现实模拟所吸引，被他们最喜欢的食物喂养到鳃部，并且在机器照顾其余部分的同时得到他们想要的一切。在这个地方，一个进化的ASI并不认为我们是一只会擦掉鞋子的虫子，相反，我们是一个可爱的猴子肉袋，很容易取悦，至少值得一点赞扬，因为我们创造了全知，全知的准上帝，最终接管了这个星球。

相关：使用Automagic自动化Android设备上的任务

在这方面，这一切都归结为你对通过人工智能革命“生活”意味着什么的定义。一些“无用”的东西必须被处理掉的想法完全是人类的概念，一种我们不应该立即期望我们的机器霸主从我们有限的道德范围内采纳的思维方式。也许我们数字智能的最终进化不会是纯粹的邪恶，而是对所有生物的无限、无偏见的同情；无论它们多么自私、自以为是或自我毁灭。

所以…我们应该担心吗？

这取决于你问谁。

如果你对当今世界最聪明的两位技术工程师和数学家进行调查，你会得到四个不同的答案，而且即使你在记分牌上加的人越多，这些数字也不会从死亡中动摇。不管怎样，我们应该解决的核心问题不是“人工智能来了吗？“因为是这样，我们谁也阻止不了。纵观这么多不同的观点，没有人愿意用太多的勇气回答的真正问题是：“这会是仁慈的吗？”

即使在一些世界上最伟大的智者参与了这一问题的讨论之后，机器智能在20年、30年或50年后的前景仍然相当模糊。因为每当新的计算机芯片被**出来或晶体管材料被开发出来时，人工智能领域都在不断地转变成其他的东西，所以声称对可能发生或不发生的事情拥有最终的权威，就有点像说你“知道”骰子在下一次掷骰子时肯定会出现蛇眼。

我们可以自信地报告的一件事是，如果你担心下周从你的电脑收银机上收到一张粉红色的纸条，那就不要太纠结了。塔可钟在周二仍然开放，一个人肯定会在窗口为你点菜（而且忘了绿色的酱汁）。根据詹姆斯·巴拉特在去年魁北克AGI峰会上进行的一项研究，人工智能的硬性时间表还没有定论。不到半数的与会者表示，他们相信我们将在2025年前实现真正的AGI，而超过60%的人表示，如果不是下一个世纪或更久，至少要到2050年。

在我们与“数字命运”的约会上安排一个艰难的日期，有点像说你知道34年后的今天会下雨。一个真正的AGI和一个先进的人工超级智能之间的差距是如此之小，以至于事情要么会变得非常正确，要么会非常、非常迅速地出现可怕的错误。尽管量子计算机刚刚出现，我们口袋里都有联网的智能**，可以将信号发射到太空，但我们仍然只是勉强触及理解“为什么”的表面，即为什么我们以这样的方式思考事情，甚至意识从何而来。

想象一下，在我们还不知道是什么造就了我们自己之前，我们可能会意外地创造出一个充斥着我们自己所有错误和进化失误的人造思维，这就是人类自我失控的本质。

最终，尽管我们一直渴望决定谁将在即将到来的人类与机器之间的战争和/或和平条约中脱颖而出，但这是一场有限期望与无限可能性的竞赛，我们所做的只是在两者之间争论语义。当然，如果你刚从高中毕业，想获得出租车***，优步的首席执行官有50万个理由让你考虑在其他地方找工作。

但是，如果你在为《人工智能启示录》储备武器和罐装豆子，你最好花点时间学习如何作画、编码或写下一部伟大的美国小说。即使是最保守的估计，任何一台机器学习如何成为莫奈，或自学C#和Java，也需要几十年的时间，因为人类充满了创造力、创造力和表达内心深处自我的能力，这是任何一台自动咖啡机都无法做到的。

是的，我们有时可能会有点情绪化，工作时感冒了，或者需要在中午小睡一会儿，但也许正是因为我们是人，在机器里**比我们更伟大的东西的威胁还有很长很长的路要走。

图片来源：迪士尼皮克斯、派拉蒙影业、博世、Youtube/TopGear、Flickr/LWP Communicati*** Flickr/BagoGames、Wikimedia基金会、Twitter、WaitButWhy 1、2