人工智能如何進行道德決策——以自動駕駛汽車為例
2017-09-11 08:16:21光明日報孫保學
作者：孫保學（湖南師范大學人工智能道德決策研究所）
當智能機器可以像人類一樣自主決策斟览，我們就需要考慮以下問題：它們能夠作出哪些類型的決策愈涩？它們是基于什么作出這些決策的？誰來設定它們的決策參數(shù)？如何實現(xiàn)人工智能作出符合社會倫理道德的決策做鹰？
人工智能機器與自動化機器設備相比，有兩個顯著不同：第一，它們被賦予了更多的決策權，不再是有限決策或完全被預先設定路線或程式的功能機器遭商；第二，它們被要求在更加復雜捅伤、充滿不確定性的環(huán)境中運行劫流，不僅要和其他各種類型的機器互動，更要和人類或動物產生互動暑认。這是一種從量變到質變的飛躍困介。在醫(yī)療、交通蘸际、新聞、軍事等領域徒扶，人工智能已經被廣泛應用粮彤，由此所產生的倫理問題也會逐漸增多。當下姜骡，涉及道德決策問題的討論导坟，最典型的當屬自動駕駛汽車。它們被要求具備作出“正確”道德決策的能力圈澈，而且是在沒有人為干預和指導的情況下惫周。
關于自動駕駛汽車道德決策的討論集中在與“電車困境”類似的極端場景。這一困境背后隱藏著亟待解答的問題是康栈，究竟該由誰（制造者递递、使用者喷橙、集體和其他智能機器）來決定智能機器的道德決策的參數(shù)設定？通過類似的案例研究人工智能道德決策具有啟發(fā)性登舞，也具有一定的誤導性贰逾。根據(jù)美國交通部門2013年的一項統(tǒng)計，每1億英里只有77次受傷和1.09次意外死亡事故菠秒，而且每一起事故的發(fā)生情境都具有明顯的差異性疙剑。上述案例中，殺死或傷害誰的道德困境的確可能發(fā)生践叠，但出現(xiàn)的概率很小言缤。這類研究之所以備受關注，很大程度上是因為它關乎人們的生死抉擇禁灼。但是管挟，自動駕駛汽車不可能做到百分之百正確的決策，當前工作的重點是確保它們被設計成在車禍情形中風險最小匾二。
安全問題應當被最優(yōu)先考慮哮独，但它不是問題的全部。要拓寬道德算法的范圍察藐，涵蓋其他一些次要的因素皮璧。我們可以將自動駕駛過程將會面臨的各種決策情形劃分為不同的等級，用一個金字塔來表示：“電車難題”情形下的決策處于最頂端分飞，數(shù)量相對少見悴务；道路使用者是否遵守交通規(guī)則的抉擇處于中部，占據(jù)主體部分譬猫；各種并不違反交通規(guī)則但可能影響其他道路使用者的決策情況占據(jù)金字塔的最低端讯檐。對于這些道德決策情形的研究，可以接受思想實驗方法的啟發(fā)性指導染服，但更多地應該通過實證研究進行别洪。
目前，對于人工智能道德決策的研究有“自上而下”和“自下而上”兩種研究進路柳刮。自上而下的研究是將倫理原則或某種道德理論進行編碼挖垛，植入智能機器的制導系統(tǒng)當中，自動駕駛汽車基于被嵌入的道德哲學程序做出道德選擇秉颗。不過痢毒，正如批評者們所指出的：一方面，適用于某些人的道德標準可能并不適用于其他人蚕甥；另一方面哪替，如何在互相競爭的道德系統(tǒng)之間進行選擇存在困難，這些爭論在傳統(tǒng)的倫理學討論中尚且沒有定論菇怀。
自下而上的進路主張凭舶，是指智能機器不需要被嵌入任何道德規(guī)則或道德哲學晌块，它只需要“觀察”并分析大量的實際情境中人類的行為數(shù)據(jù)，就能學會如何做道德決策库快。這種依托大數(shù)據(jù)和機器學習的進路已經在自動駕駛汽車的非倫理方面被廣泛采用摸袁。例如，自動駕駛汽車能夠通過對幾十個小時的手動駕駛數(shù)據(jù)進行分析實現(xiàn)自動駕駛义屏。不過靠汁，批評者也指出，智能機器在學會道德行為的同時也會學會一些不道德行為闽铐。在面臨突發(fā)情況時蝶怔，司機因緊張做出的條件反射式動作可能成為機器學習的對抗樣本，而不是審慎的和值得提倡的道德決策兄墅。這樣踢星，智能汽車學會的只是常見的處理方式，而不是什么是道德的隙咸。
兩種研究進路都面臨種種困難沐悦，這主要源于人類所使用的道德哲學的內在結構，而不來自技術本身五督。當我們考慮把某種道德規(guī)范或價值標準植入智能機器時藏否，共同體的道德一致性和智能機器使用者的個人偏好，究竟應該優(yōu)先考慮哪一個充包？2016年副签，《科學》雜志刊發(fā)的一項研究揭示，大多數(shù)人都支持智能機器保護更多的人基矮。但是淆储，當涉及自身或家人的生命安危時，人們可能轉向相反的道德標準家浇。
至此本砰，我們應該認識到對人工智能的道德決策實施監(jiān)管是必要的。這種監(jiān)管要通過兩種途徑同時著手：一是外部制約钢悲。隨著機器學習的不斷增強灌具，人工智能的道德決策可能會偏離初始設置，因此監(jiān)管機構要定期審查其道德算法是否還能通過道德水平測試譬巫；二是內部監(jiān)控。從算法上設置一種二階程序實時地監(jiān)控人工智能系統(tǒng)的運行督笆，即用人工智能監(jiān)管人工智能芦昔。
《光明日報》（ 2017年09月11日 08版）
責編：鄭芳芳
推薦閱讀
時速1000公里？“超級高鐵”研發(fā)要遵循市場機制
