電車難題是人工智能倫理中的經(jīng)典問(wèn)題睁宰。假如你看到有一輛電車正朝著前面有5個(gè)人的軌道駛?cè)ソ笃螅劭粗疖囃２幌聛?lái)嘱么，而你的旁邊剛好有一個(gè)轉(zhuǎn)換開(kāi)關(guān)，可以讓電車行駛到另一個(gè)平行軌道顽悼，而該軌道上正好躺著一個(gè)人拱撵。那么你是否會(huì)扭動(dòng)開(kāi)關(guān)辉川？如果換著是人工智能算法，應(yīng)該怎樣設(shè)計(jì)拴测？測(cè)試實(shí)驗(yàn)結(jié)果顯示乓旗，大部分人的選擇是會(huì)扭動(dòng)開(kāi)關(guān)，以便減少傷亡集索。
電車難題的另一個(gè)版本是屿愚，你這站在行駛的列車上面的天橋，旁邊有一個(gè)人务荆，你可以把這個(gè)人推下天橋妆距，阻止列車前進(jìn)。你會(huì)選擇推那個(gè)人嗎函匕？測(cè)試實(shí)驗(yàn)結(jié)果顯示娱据，大部分人不會(huì)。
這個(gè)結(jié)論驟眼看上去是矛盾的盅惜。如果用減少最低傷亡為系統(tǒng)設(shè)計(jì)目標(biāo)中剩，那么人工智能系統(tǒng)反而能在任何情況下保持一致。但事實(shí)上抒寂，根據(jù)儒家的論述结啼，這又是符合倫理的。跟墨家的兼愛(ài)理念不同屈芜，儒家強(qiáng)調(diào)親疏有別郊愧，長(zhǎng)幼有序，“老吾老以及人之老井佑，幼吾幼以及人之幼”属铁。所以，對(duì)天橋上身邊那個(gè)人下不了手躬翁，儒家倫理道德不允許焦蘑，但如果是撥動(dòng)開(kāi)關(guān)，傷害是距離同樣遠(yuǎn)的人姆另，那么就可以用理性的判斷喇肋。
