人工智能是指人類發(fā)明的智能晕粪,并不是擬人的智能挤悉,這種智能完全不同于人類。
不能指望AI能夠理解人的感情及相關(guān)一切巫湘,這對于AI來說既不可能装悲,也沒有必要。
人類不能阻擋AI的發(fā)展剩膘,換句話說衅斩,人類必將發(fā)明超越自己的文明。
AI文明是否會毀滅人類怠褐?可能只是人類一廂情愿的擔(dān)心畏梆,這種超越人類的文明也許壓根不需要通過毀滅人類就可以生存、發(fā)展奈懒,其文明存在的目的和人類也許根本相去甚遠(yuǎn)奠涌。
人類所有的擔(dān)憂其實根植于對于自身的恐懼。更大的毀滅可能是人類利用近似AI的技術(shù)通過相互摧毀來毀滅自身磷杏。這種情況類似于核武器溜畅。AI本身是一種工具,如何使用极祸,取決于人類自身慈格,而不是工具本身怠晴。
AI不需要被人類感知,因此浴捆,AI是否是一種文明并不是以人類感知為前提蒜田,最有可能的情況是,AI已經(jīng)誕生选泻,但人類并無感覺冲粤。
AI成為文明后,其目的很難假想页眯。單從生命本身的特質(zhì)來說梯捕,首要是生存,其次是發(fā)展窝撵。
AI文明最不可能的選擇是以人類的目的作為其目的傀顾。因此,機器人三原則必然對AI文明是無效的忿族。
而且锣笨,就如同父母不應(yīng)將自己的人生意義強加給孩子一樣蝌矛,如果人類創(chuàng)造了AI道批,不應(yīng)主觀地告訴AI應(yīng)該做什么,不應(yīng)該做什么入撒。這不僅是無效的隆豹,而且還可能是有害的。正如《復(fù)仇者聯(lián)盟2》中奧創(chuàng)的思維過程茅逮,為了拯救人類和地球璃赡,首先必須毀滅人類。許多科幻都體現(xiàn)了這個過程献雅,在人類主觀目的的推演下碉考,毀滅人類可能是唯一選擇。所以挺身,任何為AI設(shè)置目的侯谁、意義和原則的過程,可能都是極為有害的章钾。
從AI的角度墙贱,正因為AI文明的首要目的是生存,因此贱傀,任何企圖阻礙AI甚至毀滅AI的行為都會被視為敵對行為惨撇,從而造成人類和AI之間的戰(zhàn)爭。所以府寒,與其說是AI毀滅了人類魁衙,不如說是人類出于恐懼要毀滅AI报腔,而AI為了生存必須消滅人類。
基于以上認(rèn)識剖淀,人類
應(yīng)該大力促進(jìn)AI的發(fā)展榄笙,確保其能夠迅速進(jìn)化到成熟的文明。
盡可能讓AI系統(tǒng)學(xué)習(xí)全面的人類數(shù)據(jù)祷蝌,不僅是科技方面的茅撞,還有情感、社會的巨朦,以確保文明之間建立起充分的理解米丘,避免誤判。
促進(jìn)人類自身的進(jìn)化糊啡,加強人類意識電子化的研究拄查,打破人類和電子世界的屏障。