人工智能如何進行道德決策——以自動駕駛汽車為例

人工智能如何進行道德決策——以自動駕駛汽車為例

2017-09-11 08:16:21光明日報孫保學

作者:孫保學(湖南師范大學人工智能道德決策研究所)

當智能機器可以像人類一樣自主決策斟览,我們就需要考慮以下問題:它們能夠作出哪些類型的決策愈涩?它們是基于什么作出這些決策的?誰來設定它們的決策參數(shù)?如何實現(xiàn)人工智能作出符合社會倫理道德的決策做鹰?

人工智能機器與自動化機器設備相比,有兩個顯著不同:第一,它們被賦予了更多的決策權,不再是有限決策或完全被預先設定路線或程式的功能機器遭商;第二,它們被要求在更加復雜捅伤、充滿不確定性的環(huán)境中運行劫流,不僅要和其他各種類型的機器互動,更要和人類或動物產生互動暑认。這是一種從量變到質變的飛躍困介。在醫(yī)療、交通蘸际、新聞、軍事等領域徒扶,人工智能已經被廣泛應用粮彤,由此所產生的倫理問題也會逐漸增多。當下姜骡,涉及道德決策問題的討論导坟,最典型的當屬自動駕駛汽車。它們被要求具備作出“正確”道德決策的能力圈澈,而且是在沒有人為干預和指導的情況下惫周。

關于自動駕駛汽車道德決策的討論集中在與“電車困境”類似的極端場景。這一困境背后隱藏著亟待解答的問題是康栈,究竟該由誰(制造者递递、使用者喷橙、集體和其他智能機器)來決定智能機器的道德決策的參數(shù)設定?通過類似的案例研究人工智能道德決策具有啟發(fā)性登舞,也具有一定的誤導性贰逾。根據(jù)美國交通部門2013年的一項統(tǒng)計,每1億英里只有77次受傷和1.09次意外死亡事故菠秒,而且每一起事故的發(fā)生情境都具有明顯的差異性疙剑。上述案例中,殺死或傷害誰的道德困境的確可能發(fā)生践叠,但出現(xiàn)的概率很小言缤。這類研究之所以備受關注,很大程度上是因為它關乎人們的生死抉擇禁灼。但是管挟,自動駕駛汽車不可能做到百分之百正確的決策,當前工作的重點是確保它們被設計成在車禍情形中風險最小匾二。

安全問題應當被最優(yōu)先考慮哮独,但它不是問題的全部。要拓寬道德算法的范圍察藐,涵蓋其他一些次要的因素皮璧。我們可以將自動駕駛過程將會面臨的各種決策情形劃分為不同的等級,用一個金字塔來表示:“電車難題”情形下的決策處于最頂端分飞,數(shù)量相對少見悴务;道路使用者是否遵守交通規(guī)則的抉擇處于中部,占據(jù)主體部分譬猫;各種并不違反交通規(guī)則但可能影響其他道路使用者的決策情況占據(jù)金字塔的最低端讯檐。對于這些道德決策情形的研究,可以接受思想實驗方法的啟發(fā)性指導染服,但更多地應該通過實證研究進行别洪。

目前,對于人工智能道德決策的研究有“自上而下”和“自下而上”兩種研究進路柳刮。自上而下的研究是將倫理原則或某種道德理論進行編碼挖垛,植入智能機器的制導系統(tǒng)當中,自動駕駛汽車基于被嵌入的道德哲學程序做出道德選擇秉颗。不過痢毒,正如批評者們所指出的:一方面,適用于某些人的道德標準可能并不適用于其他人蚕甥;另一方面哪替,如何在互相競爭的道德系統(tǒng)之間進行選擇存在困難,這些爭論在傳統(tǒng)的倫理學討論中尚且沒有定論菇怀。

自下而上的進路主張凭舶,是指智能機器不需要被嵌入任何道德規(guī)則或道德哲學晌块,它只需要“觀察”并分析大量的實際情境中人類的行為數(shù)據(jù),就能學會如何做道德決策库快。這種依托大數(shù)據(jù)和機器學習的進路已經在自動駕駛汽車的非倫理方面被廣泛采用摸袁。例如,自動駕駛汽車能夠通過對幾十個小時的手動駕駛數(shù)據(jù)進行分析實現(xiàn)自動駕駛义屏。不過靠汁,批評者也指出,智能機器在學會道德行為的同時也會學會一些不道德行為闽铐。在面臨突發(fā)情況時蝶怔,司機因緊張做出的條件反射式動作可能成為機器學習的對抗樣本,而不是審慎的和值得提倡的道德決策兄墅。這樣踢星,智能汽車學會的只是常見的處理方式,而不是什么是道德的隙咸。

兩種研究進路都面臨種種困難沐悦,這主要源于人類所使用的道德哲學的內在結構,而不來自技術本身五督。當我們考慮把某種道德規(guī)范或價值標準植入智能機器時藏否,共同體的道德一致性和智能機器使用者的個人偏好,究竟應該優(yōu)先考慮哪一個充包?2016年副签,《科學》雜志刊發(fā)的一項研究揭示,大多數(shù)人都支持智能機器保護更多的人基矮。但是淆储,當涉及自身或家人的生命安危時,人們可能轉向相反的道德標準家浇。

至此本砰,我們應該認識到對人工智能的道德決策實施監(jiān)管是必要的。這種監(jiān)管要通過兩種途徑同時著手:一是外部制約钢悲。隨著機器學習的不斷增強灌具,人工智能的道德決策可能會偏離初始設置,因此監(jiān)管機構要定期審查其道德算法是否還能通過道德水平測試譬巫;二是內部監(jiān)控。從算法上設置一種二階程序實時地監(jiān)控人工智能系統(tǒng)的運行督笆,即用人工智能監(jiān)管人工智能芦昔。

《光明日報》( 2017年09月11日 08版)

責編:鄭芳芳

推薦閱讀

時速1000公里?“超級高鐵”研發(fā)要遵循市場機制

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末娃肿,一起剝皮案震驚了整個濱河市咕缎,隨后出現(xiàn)的幾起案子珠十,更是在濱河造成了極大的恐慌,老刑警劉巖凭豪,帶你破解...
    沈念sama閱讀 222,378評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件焙蹭,死亡現(xiàn)場離奇詭異,居然都是意外死亡嫂伞,警方通過查閱死者的電腦和手機孔厉,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,970評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來帖努,“玉大人撰豺,你說我怎么就攤上這事∑从啵” “怎么了污桦?”我有些...
    開封第一講書人閱讀 168,983評論 0 362
  • 文/不壞的土叔 我叫張陵,是天一觀的道長匙监。 經常有香客問我凡橱,道長,這世上最難降的妖魔是什么亭姥? 我笑而不...
    開封第一講書人閱讀 59,938評論 1 299
  • 正文 為了忘掉前任稼钩,我火速辦了婚禮,結果婚禮上致份,老公的妹妹穿的比我還像新娘变抽。我一直安慰自己,他們只是感情好氮块,可當我...
    茶點故事閱讀 68,955評論 6 398
  • 文/花漫 我一把揭開白布绍载。 她就那樣靜靜地躺著,像睡著了一般滔蝉。 火紅的嫁衣襯著肌膚如雪击儡。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,549評論 1 312
  • 那天蝠引,我揣著相機與錄音阳谍,去河邊找鬼。 笑死螃概,一個胖子當著我的面吹牛矫夯,可吹牛的內容都是我干的。 我是一名探鬼主播吊洼,決...
    沈念sama閱讀 41,063評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼训貌,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起递沪,我...
    開封第一講書人閱讀 39,991評論 0 277
  • 序言:老撾萬榮一對情侶失蹤豺鼻,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后款慨,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體儒飒,經...
    沈念sama閱讀 46,522評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,604評論 3 342
  • 正文 我和宋清朗相戀三年檩奠,在試婚紗的時候發(fā)現(xiàn)自己被綠了桩了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,742評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡笆凌,死狀恐怖圣猎,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情乞而,我是刑警寧澤送悔,帶...
    沈念sama閱讀 36,413評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站爪模,受9級特大地震影響欠啤,放射性物質發(fā)生泄漏。R本人自食惡果不足惜屋灌,卻給世界環(huán)境...
    茶點故事閱讀 42,094評論 3 335
  • 文/蒙蒙 一洁段、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧共郭,春花似錦祠丝、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,572評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至尉咕,卻和暖如春叠蝇,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背年缎。 一陣腳步聲響...
    開封第一講書人閱讀 33,671評論 1 274
  • 我被黑心中介騙來泰國打工悔捶, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人单芜。 一個月前我還...
    沈念sama閱讀 49,159評論 3 378
  • 正文 我出身青樓蜕该,卻偏偏與公主長得像,于是被迫代替她去往敵國和親洲鸠。 傳聞我的和親對象是個殘疾皇子蛇损,可洞房花燭夜當晚...
    茶點故事閱讀 45,747評論 2 361

推薦閱讀更多精彩內容

  • 人工智能熱潮仍在延續(xù)淤齐,大眾對人工智能的關注也順勢延伸到各個細分領域。其中袜匿,被廣泛認為“最有可能被實現(xiàn)的人工智能”的...
    luckystar2017閱讀 412評論 0 0
  • 線程是操作系統(tǒng)中獨立的個體更啄,但這些個體如果不經過特殊的處理就不能成為一個整體。線程間的通信就是成為整體的必用方案之...
    小人物灌籃閱讀 334評論 0 2
  • 那天晚上居灯,你抱著我睡覺祭务。 跟你在一起練習口語,真的很開心怪嫌。 不知道為什么义锥,不管是買衣服,還是學習岩灭,運動拌倍,跟你在一起...
    減肥的女孩閱讀 173評論 0 0
  • 認識這么多年,突然轉為戀人噪径,聽起來有點新瓶裝舊酒柱恤,沒有曲徑通幽的神秘和新鮮。但沈逸程和朱歆卻出乎意料的把這段戀愛談...
    琥琥妞閱讀 244評論 0 0
  • 昨天又收到了一封拒信找爱。怎么說呢梗顺,不順利得已經有些麻木了。 沒有一個月莫名其妙瘦過5斤车摄,還真不知道壓力能減肥寺谤。 拋開...
    828815e40fc4閱讀 98評論 0 0