研究人员想要一个“大红色按钮”来关闭一个流氓人工智能 - tl80互动问答网

研究人员想要一个“大红色按钮”来关闭一个流氓人工智能

如果人工智能出轨（许多哲学家和科技企业家似乎认为这是可能的），它可能会导致人类无法控制的猖獗活动。因此，一些研究人员认为，开发“中断”人工智能程序的系统非常重要，并确保人工智能无法开发出防止这些中断的方法。谷歌旗下的人工智能实验室DeepMind和牛津大学（University of Oxford）在2014年进行了一项研究，试图创建一个框架，将人工智能程序的控制权移交给人类。换句话说，一个“大红...

如果人工智能出轨（许多哲学家和科技企业家似乎认为这是可能的），它可能会导致人类无法控制的猖獗活动。因此，一些研究人员认为，开发“中断”人工智能程序的系统非常重要，并确保人工智能无法开发出防止这些中断的方法。谷歌旗下的人工智能实验室DeepMind和牛津大学（University of Oxford）在2014年进行了一项研究，试图创建一个框架，将人工智能程序的控制权移交给人类。换句话说，一个“大红色按钮”来控制软件。

研究小组的论文写道：“如果这样一个代理在人类的监督下实时运行，那么人类操作员可能需要不时按下红色的大按钮，以防止代理继续一系列有害的行动——对代理或环境有害——并将代理引入一个更安全的境地。”，标题为“安全可中断代理”，并与机器智能研究所在线发布。这里的一个常见情况可能是工厂机器人需要被覆盖，以防止人身伤害或机器损坏。

人工智能特工可能会“从长远来看学会避免这种干扰。。。这是一个不理想的结果。”

“然而，如果学习代理希望从这个序列中获得回报，它可能会在长期学习中避免这种中断，例如禁用红色按钮，这是一种不希望的结果，”该报补充道。用“不希望的结果”来描述人工智能禁用其自身关闭机制的情况，这句话是轻描淡写的。这篇论文详细讨论了这个中断系统如何工作。研究人员似乎认为，这可以通过操纵用于发展自我学习智能的奖励系统来实现。

随着越来越多的科技公司涉足人工智能，人工智能的突破也开始以更快的速度出现。DeepMind的研究科学家劳伦特·奥索（Laurent Orseau）与人合著了上述论文，负责开发AlphaGo。这套人工智能系统能够玩中国古代棋盘游戏，其水平超过了游戏中最熟练的人类玩家。与此同时，每一家在云计算领域投资巨大的大型科技公司都在致力于开发各种能力的人工智能，包括Facebook、亚马逊、谷歌和微软。

研究人员正联合起来防止人工智能的失误

随着这项技术的日益普及，许多组织和非营利组织已经站起来研究它的影响，并确保人工智能具有积极的影响。其中包括机器智能研究所和哲学家尼克博斯特罗姆的未来人类研究所。就连特斯拉和SpaceX首席执行官埃隆•马斯克（Elon Musk）也注意到了有关人工智能的警告。马斯克去年与人共同创立了开放人工智能，这是一家非盈利组织，致力于防止恶意软件，确保这项技术对人类有益。在本周雷科德的代码会议上，马斯克暗示说，在自学软件方面，谷歌这家科技公司比其他任何公司都更让他担心。

发表于 2021-05-05 06:40
阅读 ( 86 )
分类：互联网

你可能感兴趣的文章

google play protect如何让你的android设备更安全

... 更有趣的是谷歌如何扫描应用程序。谷歌正在利用它的人工智能能力汇集来自数百万台设备的应用程序内扫描数据。根据谷歌的数据，每天有500亿个应用程序被扫描。由于处理的数据量巨大，谷歌知道哪些应用程序表现异常。...

发布于 2021-03-13 04:20
阅读 ( 414 )

你真的能加速你的智能手机吗（还是全是谎言？）

...可以尝试在iOS或Android上实现自动化。如果你没有得到你想要的结果，那么你可能是计划淘汰的受害者。那样的话，也许是时候买部新**了。 ...

发布于 2021-03-13 05:12
阅读 ( 257 )

如何设置和使用三星smartthings系统

... 准确地弄清楚你想要自动化什么实际上是最困难的部分，因此请访问SmartThings Uses网站并回答几个问题—然后它将向你展示一些关于其他人已经设置的自动化场景的有用建议。 ...

发布于 2021-03-13 07:19
阅读 ( 422 )

wi-fi如何在世界各地追踪你

... 然而，在2016年的BlackHat Europe大会上，牛津大学的两位研究人员展示了如何将公共Wi-Fi接入点变成黄貂鱼。大多数智能**都能自动连接到某些Wi-Fi网络。这既可以是一个常规的Wi-Fi网络，如您的家庭Wi-Fi，也可以是一个公共热点...

发布于 2021-03-16 16:55
阅读 ( 183 )

智能插头的12个创意用途，会让你想要一个

... 想要更多的理由尝试智能插头吗？以下是使用智能插头如何让你的生活更轻松、更安全。 ...

发布于 2021-03-18 14:27
阅读 ( 242 )

如何在Windows10上排除不一致的按键通话

...”设置选项卡的底部，然后选择显示“重置语音设置”的大红色按钮导航回“语音和视频”设置选项卡以重新选择按键通话的键绑定。选择按键通话键绑定后，与朋友进行音频通话，查看此方法是否有效。联系discord支持如...

发布于 2021-04-02 03:06
阅读 ( 174 )

我的iphone或ipad会感染病毒吗？

...件。 safari可能是iphone的弱点 2019年8月，谷歌零号项目的研究人员透露，iPhone恶意软件正通过少数几个受损网站传播。总共发现了14个漏洞，其中7个影响了Safari。其中两个允许恶意软件逃离应用程序沙盒，并获得对iOS的不受阻碍...

发布于 2021-04-02 21:11
阅读 ( 276 )

想要更好的smarthome语音控制吗？使用组

如果您的googlehome或amazoneecho在控制一个房间中的多个灯光或设备时遇到问题，那么您可能没有正确设置组。为每个项目指定一个唯一的名称，然后对这些项目进行分组，可以使您的语音助手工作得更好。命名设备很快就会变得...

发布于 2021-04-03 23:56
阅读 ( 194 )

如何静音你的天铃高清门铃

...。相关：如何安装和设置天铃高清视频门铃无论你是有一个婴儿打盹或只是在深夜，你不希望流氓按你的门铃，而你正试图睡觉，这是一个伟大的功能有一个智能门铃。要使SkyBell HD静音，首先打开智能**上的SkyBell应用程序。 ...

发布于 2021-04-09 00:11
阅读 ( 161 )

如何删除互联网安全2010和其他流氓/假冒杀毒恶意软件

...来删除它们。注意：如果你只是想让指令摆脱它，你会想要向下滚动一点。感染解剖通常情况下，这些感染是从这样一个弹出消息开始的，来自一个流氓网站或恶意网站，它们通常是从****提供的，尽管这些病毒并不完全来自...

发布于 2021-04-14 00:14
阅读 ( 119 )