研究人員想要一個“大紅色按鈕”來關閉一個流氓人工智慧

如果人工智慧出軌(許多哲學家和科技企業家似乎認為這是可能的),它可能會導致人類無法控制的猖獗活動。因此,一些研究人員認為,開發“中斷”人工智慧程式的系統非常重要,並確保人工智慧無法開發出防止這些中斷的方法。谷歌旗下的人工智慧實驗室DeepMind和牛津大學(University of Oxford)在2014年進行了一項研究,試圖建立一個框架,將人工智慧程式的控制權移交給人類。換句話說,一個“大紅...

如果人工智慧出軌(許多哲學家和科技企業家似乎認為這是可能的),它可能會導致人類無法控制的猖獗活動。因此,一些研究人員認為,開發“中斷”人工智慧程式的系統非常重要,並確保人工智慧無法開發出防止這些中斷的方法。谷歌旗下的人工智慧實驗室DeepMind和牛津大學(University of Oxford)在2014年進行了一項研究,試圖建立一個框架,將人工智慧程式的控制權移交給人類。換句話說,一個“大紅色按鈕”來控制軟體。

研究小組的論文寫道:“如果這樣一個代理在人類的監督下實時執行,那麼人類操作員可能需要不時按下紅色的大按鈕,以防止代理繼續一系列有害的行動——對代理或環境有害——並將代理引入一個更安全的境地。”,標題為“安全可中斷代理”,並與機器智慧研究所線上釋出。這裡的一個常見情況可能是工廠機器人需要被覆蓋,以防止人身傷害或機器損壞。

人工智慧特工可能會“從長遠來看學會避免這種幹擾。。。這是一個不理想的結果。”

“然而,如果學習代理希望從這個序列中獲得回報,它可能會在長期學習中避免這種中斷,例如禁用紅色按鈕,這是一種不希望的結果,”該報補充道。用“不希望的結果”來描述人工智慧禁用其自身關閉機制的情況,這句話是輕描淡寫的。這篇論文詳細討論了這個中斷系統如何工作。研究人員似乎認為,這可以透過操縱用於發展自我學習智慧的獎勵系統來實現。

隨著越來越多的科技公司涉足人工智慧,人工智慧的突破也開始以更快的速度出現。DeepMind的研究科學家勞倫特·奧索(Laurent Orseau)與人合著了上述論文,負責開發AlphaGo。這套人工智慧系統能夠玩中國古代棋盤遊戲,其水平超過了遊戲中最熟練的人類玩家。與此同時,每一家在雲端計算領域投資巨大的大型科技公司都在致力於開發各種能力的人工智慧,包括Facebook、亞馬遜、谷歌和微軟。

研究人員正聯合起來防止人工智慧的失誤

隨著這項技術的日益普及,許多組織和非營利組織已經站起來研究它的影響,並確保人工智慧具有積極的影響。其中包括機器智慧研究所和哲學家尼克博斯特羅姆的未來人類研究所。就連特斯拉和SpaceX執行長埃隆•馬斯克(Elon Musk)也註意到了有關人工智慧的警告。馬斯克去年與人共同創立了開放人工智慧,這是一家非盈利組織,致力於防止惡意軟體,確保這項技術對人類有益。在本週雷科德的程式碼會議上,馬斯克暗示說,在自學軟體方面,谷歌這家科技公司比其他任何公司都更讓他擔心。

  • 發表於 2021-05-05 06:40
  • 閱讀 ( 27 )
  • 分類:網際網路

你可能感興趣的文章

人工智慧將如何塑造惡意軟體的未來

...用“人工智慧驅動的惡意軟體”這個術語時,很容易想象一個終結者式的人工智慧“流氓”案例會造成大破壞。實際上,一個惡意的人工智慧控制程式不會把機器人送回過去;它會比這更鬼鬼祟祟。 ...

  • 發佈於 2021-03-19 04:54
  • 閲讀 ( 47 )

華為2019年的產品會不會刺探美國人?

... 2013年,安全研究人員Eloi Benoist Vanderbeken發現並報告了Linksys、Cisco、Diamond和Netgear路由器的24種型號中的一個巨大安全漏洞。儘管承諾修補安全漏洞,但每家公司都只是偽裝。直到研究...

  • 發佈於 2021-03-19 12:19
  • 閲讀 ( 47 )

谷歌的deepmind人工智慧已經可以做的5件驚人的事情

...是能夠從無到有地建立自己的原始、真實的影象。為此,研究人員使用ImageNet作為資料庫,提供真實世界的樣本影象,供人工智慧學習。 ...

  • 發佈於 2021-03-22 20:45
  • 閲讀 ( 53 )

這4個防病毒工具使用人工智慧來保護你的系統

...智慧。人工智慧技術是世界上發展最快的領域之一,安全研究人員正在不斷地評估並將其整合到他們的消費產品中。 ...

  • 發佈於 2021-03-24 02:54
  • 閲讀 ( 80 )

如何強制退出windows 10上的應用程式

...indows10上的應用程式。 嘗試鍵盤快捷鍵 當你正在使用的一個應用程式突然凍結時,這是令人沮喪的。我們都做過,令人惱火的點選“X”按鈕至少20次關閉凍結程式。有更好的辦法。 當凍結的應用程式處於焦點時,按鍵盤上的Al...

  • 發佈於 2021-04-01 22:38
  • 閲讀 ( 45 )

如何在Windows10上排除不一致的按鍵通話

...可笑,但重新選擇麥克風通常可以解決這個問題。 作為一個額外的措施,如果您選擇的輸入裝置沒有檢測到來自麥克風的音訊,您可以選擇讓Discord通知您。向下滾動到選項卡底部以找到切換。 在windows中仔細檢查您的預設耳機...

  • 發佈於 2021-04-02 03:06
  • 閲讀 ( 54 )

如何在macos中一次關閉所有應用程式開啟的視窗

如果你的Mac桌面上有很多開啟的視窗,那麼你需要一個好方法來快速關閉它們,而不必逐個單擊每個紅色的x按鈕。讓我們簡要回顧一下您的不同選擇。 不幸的是,沒有快捷方式可以一次關閉所有開啟的視窗,但是你可以一次關...

  • 發佈於 2021-04-08 07:14
  • 閲讀 ( 31 )

是的,可以用電源按鈕關閉你的電腦

...不透過按下桌面電腦外殼上的電源按鈕來關閉電腦。在上一個千年中,這曾經會引起問題,但現在用電源按鈕關閉是完全安全的。 這在windows8上尤其有用,在windows8中沒有明顯的電源按鈕,除非您知道如何檢視魅力欄或隱藏的wind...

  • 發佈於 2021-04-11 11:53
  • 閲讀 ( 44 )

斯臺普斯的簡易按鈕是一個廉價的玩具,設想一個完美的按鈕

...像史泰博的“簡易按鈕”這樣廣為人知的按鈕了——這是一個明亮的史泰博紅色按鈕,從2005年開始在一系列廣告活動中出現。這些廣告如此受歡迎,以至於史泰博在推出後不久就開始銷售真正的“易”按鈕複製品,而且從那以...

  • 發佈於 2021-04-16 20:53
  • 閲讀 ( 43 )

據報道,谷歌要求員工在研究論文中“語氣積極”

...一層審查。一位高階經理也在今年夏天的一篇論文中指示研究人員“保持積極的態度”。路透社首先報道了這一訊息。 “技術的進步和我們日益複雜的外部環境正越來越多地導致看似無害的專案引發道德、聲譽、監...

  • 發佈於 2021-04-17 05:01
  • 閲讀 ( 44 )
evl2513
evl2513

0 篇文章

作家榜

  1. admin 0 文章
  2. 孫小欽 0 文章
  3. JVhby0 0 文章
  4. fvpvzrr 0 文章
  5. 0sus8kksc 0 文章
  6. zsfn1903 0 文章
  7. w91395898 0 文章
  8. SuperQueen123 0 文章

相關推薦