機器人三定律提出以來吏恭,倍受人工智能愛好者的推崇。其背后矛盾的地方重罪,似乎被忽視了樱哼。
機器人三定律是軟約束,而不是硬約束剿配。這就像法律條文規(guī)定搅幅,官員不能貪污,但還是會有人貪污呼胚。機器人若擁有了智能茄唐,其思想行為是自主的,我們無法對其信息系統(tǒng)設置硬性約束砸讳, 更大的可能也是設置法律規(guī)則和懲治條款琢融,對違反規(guī)則的個體加以懲罰。
需要強調的是簿寂,當前的計算機還沒有實現(xiàn)真正的智能漾抬,僅僅是半自主,沒有偶發(fā)信令常遂,這樣的計算機是可以通過代碼把程序寫死纳令,成為硬約束。未來如果實現(xiàn)了真正的智能克胳,計算機能夠產生偶發(fā)信令平绩,那么它會有更好的創(chuàng)造力,也會變的不那么聽話漠另,就像家中小孩或者小貓小狗那樣捏雌,既會有奇奇怪怪的想法、行為笆搓,也會有不聽話的時候性湿。這是大腦的基本特性,人工智能為什么不呢满败。
另外很重要一點肤频,是否會對人或者機器人帶來傷害,本身就是模糊的算墨。是否有傷害宵荒,對哪些個體有利,對哪些個體有害往往是不明晰的,更多時候面臨的選擇是對一些個體有利而另外一些個體是傷害报咳。對于人來說侠讯,在于選擇,對于機器人也是如此少孝。
未來若出現(xiàn)人機共存的社會继低,機器人三定律背后更應該是一整套法律制度,軟約束根本無法避免機器人傷害人稍走,懲戒制度是必要的袁翁。能做到的是降低傷害,而無法做到完全避免傷害婿脸。
只是將來粱胜,機器人能夠傷害人這個事實,人們如何接受會是個問題狐树。