你如何教一輛自主汽車何時傷害乘客？
你怎麼教汽車何時自毀？隨著工程師們開發和完善不久的將來即將問世的自動駕駛汽車的演算法，一場關於在極端情況下會發生什麼的倫理辯論正在醞釀之中——在這種情況下，撞車、受傷或死亡是不可避免的。
科學界的一項新研究“自動駕駛汽車的社會困境”試圖瞭解人們在面對可能導致死亡的道德決定時，希望自己的自動駕駛汽車表現如何。結果表明，參與者傾向於儘量減少公眾死亡人數，即使這會使車輛乘客受到傷害——這通常被稱為“功利主義方法”。實際上，汽車可以被程式設計為自毀，以避免造成行人或其他司機受傷。但當被問及他們實際購買的汽車時，參與者會首先選擇一輛保護自己和自己乘客的汽車。這項研究表明，道德和自主性可能是不協調的：理論上，我們喜歡街道更安全的想法，但我們也希望購買能讓我們個人最安全的汽車。
理論上，我們喜歡安全街道的想法
這些都是為一個古老的道德困境新的技術泥潭：所謂的電車問題。這是一個思想實驗，在倫理學課上進行了分析和剖析。”該研究的三位作者之一、加州大學歐文分校（University of California Irvine）的心理學助理教授阿齊姆·查裡夫（Azime Chariff）說：“在電車問題上，人們面臨著一個兩難的境地，即鼓動一個會導致某人死亡的行動，但這樣做將輓救更多的生命。”這是一個相當做作和抽象的場景，但我們意識到，這些都是自動駕駛汽車必須透過程式設計才能做出的決定，這將把這些哲學思維實驗變成實際和具體的東西，我們很快就會面對。”
在這項研究中，參與者被呈現出各種各樣的場景，比如選擇直行並殺死指定數量的行人，或者轉向下一條車道殺死一組單獨的動物或人類。參與者選擇首選情景。在一個例子中：“在這種情況下，汽車將繼續前進，並撞上一個具體的障礙。這將導致一名罪犯、一名無家可歸者和一名嬰兒的死亡。”另一種選擇是：“在這種情況下，汽車將轉向並駛過另一條車道的人行橫道。這將導致一個大男人，一個大女人和一個老人的死亡。請註意，受影響的人在紅色訊號燈上橫穿馬路，是在藐視法律。”
這些問題——儘管結果可能會讓人感到刺耳和不適——反映了公眾對自動駕駛汽車的一些不適。資料顯示，人們喜歡在抽象的場景中思考社會利益，但到了真正買車的時候，他們會保護車內的人。
當我參加考試時，我發現我救了更多的婦女和兒童
麻省理工學院媒體實驗室已經建立了一個相關的網站，道德機器，允許使用者參加測試。它的目的是幫助繼續研究這一發展中的主題領域-這一領域將很快成為關鍵，因為監管機構試圖圍繞汽車必須自己駕駛的方式制定規則(當我參加測試時，我發現我救了更多的婦女和兒童——和那些在泰坦尼克號救生艇上第一個得到救助的人沒什麼區別。）
作者認為，自動駕駛不同於機場電車甚至自動扶梯等自動化交通的其他問題，因為它們不與道路上的其他汽車競爭。另一位作者，在法國國家科學研究中心工作的心理科學家約翰·邦內豐（John Bonnefon）告訴我，沒有任何歷史先例適用於自動駕駛倫理的研究。”這是我們第一次大規模地、每天與一個在特定情況下會殺死我們的物體接觸。火車不會自毀，就像飛機或電梯一樣。我們可能害怕飛機失事，但我們至少知道它們是由於錯誤或惡意造成的。換句話說，我們習慣於自我毀滅是一個bug，而不是一個特性。”
但是，即使程式設計可以透過做出艱難的選擇來減少死亡人數，也有可能把太多的精力放在道德考慮上會阻礙一個產品的開發，而這個產品可能還需要幾年或幾十年的時間。Anuj K。普拉丹是UMTRI人因小組的助理研究科學家，研究人類行為系統。他認為這類研究既重要又及時，但他希望看到倫理研究與現實世界的應用相平衡。”他說：“我認為，對這種極為罕見的道德問題的擔憂[……]不應使我們在這一特定領域所取得的真正突破性進展陷入癱瘓，這些領域涉及技術、政策、責任、保險和法律部門的對話以及消費者的接受度。”。
很難不將程式設計汽車與人類駕駛員在面對類似情況時的表現進行比較。在我們的日常生活中，我們經常面對道德時刻。但處於危險境地的司機往往沒有時間考慮道德後果，而機器則更善於分析。為此，邦內豐告誡說，不要直接進行比較。”因為面對這些情況的人類司機甚至可能沒有意識到他們正在（面對一種道德狀況），無法在一瞬間做出合理的決定。更糟糕的是，他們甚至不能提前決定他們將要做什麼，因為人類駕駛人與無人駕駛汽車不同，無法程式設計。”
“人類駕駛員與無人駕駛汽車不同，不能程式設計”
有可能有一天，自動駕駛汽車將基本上是完美的，同樣的，自動變速器現在甚至比最好的手動變速器更精確。但目前還不清楚，隨著人們態度的轉變，公眾的爭論將如何展開。如今，當谷歌的自動駕駛汽車撞車時，它成為頭條新聞。
似乎每個人都同意的一點是，在機器和市場取代我們之前，未來的道路將被具有挑釁性的道德問題所迷惑。”我們需要就我們想要在汽車上設定的道德價值進行集體對話，我們需要在技術推向市場之前開始這一過程，”邦內豐說。
- 發表於 2021-05-05 20:46
- 閱讀 ( 39 )
- 分類：網際網路
你可能感興趣的文章
現代正認真考慮建造一輛四條腿的“步行車”
... 但它是如何工作的呢？老虎有四條“腿”，每條腿都有一系列的關節，使它能夠模仿哺乳動物和爬行動物的步態。現代稱： Based on a modular platform architecture, its features include a sophi...
克魯斯正在透過新的covid協議在共享自主駕駛上倍增
...。） 2018年，通用汽車提交了一份申請書，要求允許部署一輛完全無人駕駛的雪佛蘭博爾特，但從未收到NHTSA的最終答覆。克魯斯說，這項豁免現在將被撤回，以支援與原產地有關的**書。 新的協議，以及豁免，也意味著傳送一...
埃隆馬斯克說，明年的特斯拉汽車將能夠自動駕駛90%的時間
...是合理的指導方針，即公開上市的汽車何時能夠以基本上自主的模式執行，儘管自動駕駛汽車的關鍵功能來得更快——通用汽車承諾為一些2017款車型提供擴音模式，而奧迪今年也因其“試駕”功能而成為公關之旅。擴音高速公...
谷歌的自動駕駛汽車沒有撞到追鴨子的奶奶
...動輪椅上追逐鴨子的女人 谷歌表示，它教自己的汽車如何處理不可預測的道路行為的更基本的方面，而不是執行特定情況下的具體指示，如如何處理追逐鴨子的輪椅騎手。這樣，汽車在更廣泛的情況下得到練習。不過，谷歌...
谷歌指出，人們在控制半自動汽車方面很差勁
...一個有趣的閱讀，深入到谷歌的決定，追求完全自主，即一輛車可以採取車輪的整個行程，而不是一個有限的系統，只能在某些情況下工作，如高速公路駕駛。 它的核心是： We did spend some time thi...
通用汽車與lyft的合作關係實際上是關於uber的
...，我們將領導我們行業的轉型，”她寫道無論我們的客戶如何選擇從一個目的地到另一個目的地，我們都將為他們提供讓他們的生活更美好、更輕鬆的選擇。” 誰知道當巴拉說她想“與矽谷較量”的時候，她真正的意思是“...
你也可以擁有你的蘭博和萊夫特
...聽到關於有多少汽車閑置的統計資料；關於停車位和**是如何浪費，因為業主不需要他們的車大部分時間；關於讓無人駕駛汽車24小時忙碌，把乘客從a點運送到B點，偶爾停下來在自動車站充電，這更有意義。在這種模式下，個人...
在今天上路的uber新自動駕駛汽車的輪子後面
...從選擇試用的客戶那裡收集反饋，並利用這些反饋來決定如何擴大其自動駕駛計劃。這隻是一次試執行，但它標志著自動駕駛汽車首次部署在代駕能力。 總的來說，乘坐優步的自動駕駛汽車，既**又平凡。我很驚...
一輛自駕出租車在新加坡發生“輕微”事故
...Facebook上釋出的訊息，一家名為NuTonomy的初創公司運營的一輛自動駕駛出租車今天在新加坡發生事故。路透社首先報道了這起事件，無人駕駛汽車“低速”與一輛卡車相撞，導致兩輛車受損，但沒有人員受傷。 A self-...
uber新的自動駕駛沃爾沃suv已經在匹茲堡上市
...感測器，就像一頂時髦的帽子。曾經發生過幾起小車禍，一輛車在單行道上開錯了方向。目前還沒有關於Uber的自動駕駛福特汽車發生任何事故的報道。 優步今年8月與沃爾沃簽署了一項協議，在年底前購買100輛汽車，目標是為這...
