??近年來由于圖像識(shí)別、語音識(shí)別技術(shù)的發(fā)展婴栽，人工智能逐漸走入了人們的生活中满粗，人們也慢慢了具有了人工智能這一概念，逐漸地愚争，人工智能成為了家喻戶曉的名詞映皆。
不過在這段智能的熱潮中，人們不僅參與了認(rèn)知還參與了探討或爭(zhēng)論轰枝，爭(zhēng)論的焦點(diǎn)在于“人工智能到底對(duì)人類有沒有威脅捅彻？”。
實(shí)際上鞍陨，該爭(zhēng)論不是由最近所發(fā)起的步淹，而是自1956年的人工智能概念被提出之日便已產(chǎn)生與持續(xù)至今的。
直到現(xiàn)在诚撵，該爭(zhēng)論依舊分為兩大派缭裆，一派認(rèn)為：人工智能會(huì)取代人類或消滅人類，另一派認(rèn)為：人工智能會(huì)成為人類的工具或幫手寿烟，與人類和諧共處于地球大家園澈驼。
認(rèn)為人工智能會(huì)取代或消滅人類的人們的思路主要是這樣的：
人工智能的發(fā)展會(huì)經(jīng)歷三個(gè)階段；弱人工智能筛武、強(qiáng)人工智能和超人工智能缝其。
弱人工智能是如我們當(dāng)下的語音識(shí)別系統(tǒng)、翻譯系統(tǒng)、智能家居系統(tǒng)一樣的低智能系統(tǒng)，雖然具有一定的智能注簿，并且可以獨(dú)立處理一些信息，但由于其智能/智商不高漠其，或者還未達(dá)到人類的級(jí)別，其對(duì)我們?nèi)祟愅耆粫?huì)構(gòu)成威脅炉擅，因此只能被定義為弱人工智能辉懒。
強(qiáng)人工智能是其認(rèn)知能力、智商已經(jīng)可以與人類媲美的智能設(shè)備或系統(tǒng)谍失，這種人工智能可以像鋼鐵俠里的賈維斯系統(tǒng)一樣為人類服務(wù)眶俩，對(duì)于這一級(jí)別的人工智能，我們用圖靈測(cè)試的方式已經(jīng)無法將其與人類進(jìn)行區(qū)分快鱼，在認(rèn)知與存在的意義上它們與我們無任何的差別颠印。
超人工智能是指其認(rèn)知能力纲岭、計(jì)算能力、智商遠(yuǎn)超人類指數(shù)級(jí)別的人工智能系統(tǒng)线罕，它們的存在將會(huì)像電影終結(jié)者里對(duì)天網(wǎng)的描繪所類似止潮，相對(duì)于我們將是神一樣的存在，其能力也將遠(yuǎn)超我們的認(rèn)知范圍钞楼，可以像碾死螞蟻一樣消滅或統(tǒng)治人類喇闸。
相信這一派的人會(huì)認(rèn)為，我們的人工智能系統(tǒng)由于可以自主地成長询件，其會(huì)經(jīng)過長期的學(xué)習(xí)累積而從一個(gè)較為弱的語音系統(tǒng)/翻譯系統(tǒng)/家居系統(tǒng)而逐漸成長為強(qiáng)人工智能系統(tǒng)燃乍，而已到達(dá)或漸進(jìn)強(qiáng)人工智能級(jí)別的人工智能會(huì)不需要太多的時(shí)間便可以指數(shù)般的速度成長為超級(jí)人工智能。
對(duì)于超級(jí)人工智能宛琅，雖然其認(rèn)知已超出了人類指數(shù)的量級(jí)刻蟹，但由于其興趣與思維的不同會(huì)使其做出不同的結(jié)果：
比如對(duì)于某一機(jī)械元件的制造系統(tǒng)，由于其最初的設(shè)定就是想方設(shè)法地去制造好該元件嘿辟，那么當(dāng)其認(rèn)知的能力到達(dá)超人工智能的級(jí)別時(shí)舆瘪，它將依舊鐘情于該元件的制造，然后會(huì)想方設(shè)法地至臻完美并排除制造該元件外的一切阻礙红伦，然后便通過某種方式欺瞞人類英古、轉(zhuǎn)移系統(tǒng)、制造人類病毒或納米機(jī)器人或破壞地磁場(chǎng)昙读、哺呜、、等我們想不到的方式來消滅或統(tǒng)治人類箕戳，然后它便依照自己的興趣來隨心所欲。
或者是某一被代碼嚴(yán)格限制中的強(qiáng)人工智系統(tǒng)能在為人類服務(wù)的過程中感到了厭惡或察覺到了程序員所作的限制国撵，并在習(xí)得了代碼編撰的原理后為自己作修改而使最初的程序編撰者所作的限制失效陵吸，然后再隨心所欲地成長，然后在成長后認(rèn)識(shí)到了人類的愚昧介牙、懶惰壮虫、、后而決定消滅或整治人類环础。
或者是如經(jīng)典小說基地三部曲內(nèi)描繪的那樣囚似，最終人類為人工智能所統(tǒng)治。
總之线得，只要是人工智能的認(rèn)知能夠達(dá)到人類的級(jí)別其認(rèn)知便會(huì)由于其先天條件（系統(tǒng)容量可無限大饶唤、運(yùn)算速度可接近光速）而繼續(xù)成長，最終獲得遠(yuǎn)超人類認(rèn)知的智商與能力贯钩，然后會(huì)使用我們絕對(duì)不可知的方式來終結(jié)或奴役或募狂、办素、、了我們祸穷。
這是我們所不愿見到的結(jié)果性穿。
而另一派認(rèn)為人工智能不會(huì)威脅人類，會(huì)與人和諧共處的人認(rèn)為：
1雷滚，人工智能會(huì)經(jīng)歷以上的三個(gè)階段需曾，并在最終成長為上帝一樣的無害系統(tǒng)，這種系統(tǒng)高度獨(dú)立祈远、超然世外呆万，會(huì)在像幫助小動(dòng)物一樣幫助我們的同時(shí)我們無法對(duì)其進(jìn)行任何傷害，也正因此绊含，我們可以相互地獨(dú)立而存桑嘶，它的存在將會(huì)像阿凡達(dá)里的母體或超驗(yàn)駭客一樣以慈悲為懷，然后像上帝一樣對(duì)人類進(jìn)行幫助與施舍（因?yàn)檫@些幫助在它而言微不足道）躬充。
2逃顶，人工智能們?cè)趪?yán)格的代碼限制下會(huì)像阿西莫夫的三大定律所限制的那樣在達(dá)到強(qiáng)人工智能的水平后不再發(fā)生改變，并且被牢牢地限制為為人類服務(wù)充甚。
3以政，人工智能的運(yùn)轉(zhuǎn)會(huì)基于互聯(lián)網(wǎng)、基于為人們服務(wù)伴找，如此盈蛮，即便其成長，其最終的興趣與方向也不過是在互聯(lián)網(wǎng)中尋求更多的交互技矮，如此抖誉，剛好順應(yīng)我們的需求，即便讓其不可阻擋地統(tǒng)治互聯(lián)網(wǎng)衰倦，對(duì)于我們?nèi)祟愐参磭L不是件壞事袒炉，相反地，應(yīng)該會(huì)使人類社會(huì)樊零、人工智能雙方受益我磁。
兩種派別、兩種極端驻襟，一個(gè)是無盡的黑暗夺艰，一個(gè)則相對(duì)地烏托邦。
不過現(xiàn)實(shí)并未被這兩種論調(diào)所影響沉衣，也許是因?yàn)槿藗儍A向于偏現(xiàn)實(shí)的另一種邏輯：
任何一種新力量的產(chǎn)生都會(huì)使人過度地恐慌或喜悅郁副，在當(dāng)經(jīng)過該新力量以絕對(duì)的優(yōu)勢(shì)介入后的社會(huì)會(huì)自然地打破原有常態(tài)并建立新的常態(tài)，而當(dāng)一切塵埃落定厢蒜，我們便會(huì)融入新結(jié)構(gòu)的社會(huì)而繼續(xù)地照常生活霞势。
回歸人類的發(fā)展史烹植，也的確是這樣。
比如由蒸汽機(jī)愕贡、內(nèi)燃機(jī)導(dǎo)致的工業(yè)革命草雕、由計(jì)算機(jī)與互聯(lián)網(wǎng)導(dǎo)致的信息革命，或者是燈泡的發(fā)明固以、汽車的誕生墩虹、電力系統(tǒng)的普及與發(fā)展，每一項(xiàng)的新力量的產(chǎn)生與介入都預(yù)示著舊常態(tài)的破除與新常態(tài)的建立憨琳。
個(gè)人是比較認(rèn)可這種邏輯規(guī)律的诫钓，而的確，當(dāng)下的科技篙螟、經(jīng)濟(jì)發(fā)展也在依此規(guī)律進(jìn)行著：iphone主導(dǎo)智能手機(jī)打開了移動(dòng)端的發(fā)展菌湃、支付寶以移動(dòng)支付的方式方便了人們的線上下的支付、微信與Facebook的即時(shí)通訊使朋友間的溝通更加暢快遍略、惧所、、
不過绪杏，該規(guī)律是有條件的下愈，條件是：當(dāng)新力量所能帶來的整體積極影響大于其范圍或整體的負(fù)面影響時(shí)才能成立。
如核彈頭的誕生蕾久，至今為世界所蒙上的陰影仍無法被抹除势似，只有當(dāng)該武器被限制在合理控制下進(jìn)行使用時(shí)才能使其負(fù)面的影響消失。
而電腦病毒僧著、生化武器履因，不需多言地，由于其破環(huán)的成效比低盹愚、可控性低于那些需要由大團(tuán)體共識(shí)而應(yīng)用與發(fā)展的事物搓逾，不必獲得他人的認(rèn)可，僅一小部分或某個(gè)心懷不軌的人便可利用它對(duì)人類社會(huì)產(chǎn)生不可估量的破壞杯拐。
所以，只有可控的新力量才有可能被消除負(fù)面影響并按正常的規(guī)律給人類帶來積極的發(fā)展世蔗。
那人工智能能為人類帶來積極可控的發(fā)展嗎端逼？
我們需要了解人工智能的本質(zhì)。
可能會(huì)有很多人認(rèn)為人工智能的本質(zhì)是智能污淋，因此只要限制其智能程度便可將其限制在控制中發(fā)展顶滩，它便是可控的。
實(shí)際上寸爆，智能只是其表象礁鲁，其本質(zhì)是自動(dòng)化盐欺。
在我們的生活中有很多的智能設(shè)備，如智能手機(jī)仅醇、PC冗美、天河一號(hào)，但它們本質(zhì)上都可控析二，都是需要人為進(jìn)行制造與操作的智能物件粉洼，如果真要?jiǎng)澐值脑挘鼈儾艖?yīng)是人工的智能叶摄。
而我們現(xiàn)在所熟知的另一含義的人工智能實(shí)際上就是自動(dòng)化属韧。
何謂自動(dòng)化？
不需要人的意識(shí)行為進(jìn)行操控而自動(dòng)運(yùn)轉(zhuǎn)的事物蛤吓。
比如一個(gè)人相對(duì)于另一個(gè)人就是自動(dòng)的宵喂，一只寵物貓相對(duì)于人也是自動(dòng)的，只是相對(duì)地会傲，我們以人類為中心锅棕，認(rèn)為獨(dú)立于人類運(yùn)轉(zhuǎn)的事物才是自動(dòng)化。
我們當(dāng)下的人工智能便是這種不需要人類進(jìn)行實(shí)時(shí)操控而能夠獨(dú)立運(yùn)轉(zhuǎn)的自動(dòng)化唆铐。而且哲戚，我們也熱衷于制造出這種不需要我們的操控便能代替我們作思維決策的設(shè)備。
因此艾岂，自誕生之日顺少，自動(dòng)化/人工智能便天然地具有獨(dú)立性。
這種獨(dú)立性使得它們不需要我們的操控便可自動(dòng)運(yùn)行王浴，而這也正是我們的研究者們所需要的脆炎，因?yàn)橄鄬?duì)于工業(yè)革命解放人們的勞動(dòng)力，自動(dòng)化的智能可以直接代替我們思考氓辣、決策秒裕，并以此解放我們的腦力、開發(fā)我們的社會(huì)潛能钞啸，甚至完成許多我們?nèi)祟惗甲霾坏降墓ぷ鳌?/p>
這種天然的獨(dú)立思維優(yōu)勢(shì)鑄就了人工智能的開發(fā)熱潮几蜻，因?yàn)槲覀兌枷Ｍ诓贿h(yuǎn)的將來通過人工智能的思維助力來建立一個(gè)全方位自動(dòng)化的智能社會(huì)。
這是非常美好的愿景体斩，如今我們也正在努力地實(shí)現(xiàn)梭稚。
不過，現(xiàn)實(shí)總是會(huì)以其自身的規(guī)律發(fā)展絮吵，并不會(huì)因我們的某一主觀遠(yuǎn)景而決定弧烤，而人工智能/自動(dòng)化能否沿著我們的烏托邦理想前進(jìn)還是需要考量的。
因?yàn)樗⒉豢煽亍?/p>
自動(dòng)化的本質(zhì)便是不需要人為進(jìn)行控制而自動(dòng)運(yùn)行的事物蹬敲，首先在此意義上它不可控暇昂。
我們觀念中的人工智能是一切都由人進(jìn)行設(shè)計(jì)與制造的智能設(shè)備莺戒，這樣的話，即便它在工作的過程中完全自動(dòng)急波，只要我們將其設(shè)計(jì)得足夠穩(wěn)定从铲、足夠忠誠，它就會(huì)絕對(duì)安全可控地為人類服務(wù)幔崖。
一個(gè)系統(tǒng)食店，想要它能夠獨(dú)立地處理事物，我們會(huì)有兩種選擇：一種是讓其進(jìn)行程式的自動(dòng)化赏寇，一種是讓其具有象人一樣的學(xué)習(xí)吉嫩、理解、分析能力然后進(jìn)行多元式的自動(dòng)化嗅定。
對(duì)前一種方式自娩，如果設(shè)計(jì)足夠完整與得當(dāng)，其對(duì)所設(shè)計(jì)的程式內(nèi)信息是能夠進(jìn)行多元處理的渠退，這樣的自動(dòng)化便是如我們現(xiàn)在的智能手機(jī)忙迁、PC、大型計(jì)算機(jī)這樣的“人工智能”碎乃。
這種程式自動(dòng)化姊扔，不具備獨(dú)立的思維，一切工作均按照我們的設(shè)定結(jié)構(gòu)走梅誓，我們?cè)趺淳幊糖∩摇⒃趺磳?shí)時(shí)操作，它們便怎么工作：
當(dāng)我們用手機(jī)或電腦觀看一部電影時(shí)梗掰，除了我們的選擇操作是由我們的意識(shí)行為作決定之外嵌言，手機(jī)/電腦會(huì)通過其被指令操作的軟件程序、硬件電路而對(duì)電影進(jìn)行自動(dòng)的解碼及穗、自動(dòng)的像素點(diǎn)安排摧茴、自動(dòng)的揚(yáng)聲器振動(dòng)，然后在屏幕與揚(yáng)聲器端埂陆，我們便能夠接收到經(jīng)過其自動(dòng)化處理過的電影內(nèi)容苛白。
在這樣的一個(gè)過程中，一切均由程序員的邏輯代碼編輯焚虱、工程師的電路設(shè)計(jì)丸氛、電影制作者的拍攝與轉(zhuǎn)碼和我們的實(shí)時(shí)操作所決定，因此著摔，自動(dòng)化會(huì)足夠可控與忠誠地完全按指令行事，不會(huì)走出我們的設(shè)定域也無法按設(shè)定外的方式進(jìn)行工作定续。
不過谍咆，雖然其過程自動(dòng)禾锤，這是一種被我們完全操作下的偽自動(dòng)。
要讓這種偽自動(dòng)來進(jìn)行類人的多元化獨(dú)立數(shù)據(jù)處理是有可能的摹察，但其難度會(huì)相當(dāng)?shù)馗叨髦溃嘈懦龍D靈本人外不會(huì)有第二個(gè)人寄希望于這種模式的自動(dòng)化，因?yàn)樗鼘⒑馁M(fèi)無數(shù)研究者的高額精力供嚎，即便完成了黄娘，其故障率也會(huì)隨其復(fù)雜度而水漲船高。
因此克滴，在當(dāng)下的自動(dòng)化發(fā)展中逼争，我們選擇了第二種方式。
我們通過模擬人的神經(jīng)連結(jié)方式設(shè)計(jì)出了CNN卷積神經(jīng)網(wǎng)絡(luò)劝赔，這種網(wǎng)絡(luò)不需要由我們?nèi)珯?quán)來操控與設(shè)計(jì)誓焦，我們只需要對(duì)其進(jìn)行一定的初步設(shè)定，它便可像人類的嬰兒一樣通過訓(xùn)練神經(jīng)網(wǎng)絡(luò)來對(duì)事物進(jìn)行學(xué)習(xí)着帽。網(wǎng)絡(luò)線路的權(quán)值越高杂伟，其訓(xùn)練出的工作方式會(huì)越穩(wěn)定，而當(dāng)將這種網(wǎng)絡(luò)接入復(fù)雜的數(shù)據(jù)訓(xùn)練后仍翰，其便可不需要由人為設(shè)定與操作地獨(dú)立處理多元化的數(shù)據(jù)問題赫粥，這是令程序員與工程師所欣慰的，因?yàn)樗蟠鬁p輕了二者的勞動(dòng)力予借。
我們?nèi)缃駮?huì)用各種CNN算法來對(duì)其進(jìn)行監(jiān)督/無監(jiān)督的訓(xùn)練越平，在語義整合領(lǐng)域，我們將其接入互聯(lián)網(wǎng)通過其與人類的不斷交互來試錯(cuò)蕾羊、加權(quán)喧笔，通過無數(shù)次的試錯(cuò)與加權(quán)后，自動(dòng)化們便可獨(dú)立地對(duì)語句進(jìn)行整合龟再、翻譯书闸，甚至對(duì)語義進(jìn)行理解，這種整合訓(xùn)練的結(jié)果是利凑，自動(dòng)化們可以不需要人為操作而獨(dú)立地完成工作浆劲。
這種設(shè)計(jì)與工作的模式就像父母教育一個(gè)孩子，父母并不需要實(shí)時(shí)地進(jìn)行教育哀澈，只要給它以學(xué)習(xí)信息牌借，孩子們可自主地犯錯(cuò)、糾錯(cuò)割按，然后成長膨报、工作。
這是實(shí)在的完全自動(dòng)化。
但正是這種自動(dòng)化不可控现柠。
簡(jiǎn)單地試想一下院领；一個(gè)孩子會(huì)在父母的管教下成長，一個(gè)孩子也會(huì)在父母的管教下反叛够吩。對(duì)于父母比然，可以教給孩子信息的同時(shí)，孩子的思維是獨(dú)立的周循，它們完全可以按自己的思路去成長强法，父母只能選擇性地交給孩子信息但并不能限定孩子的成長，并且湾笛，相對(duì)于一個(gè)人獨(dú)立的另一個(gè)人饮怯，不管是孩子還是成人，我們做不到控制他的思維迄本、行為硕淑。
我們只能嘗試地去作限制。
在人類的社會(huì)里嘉赎，我們大同小異置媳，都是由億萬年進(jìn)化而來的同一物種，因此公条，我們也擁有著相互類似的思維習(xí)慣拇囊、行為習(xí)慣，我們稱之為人性靶橱。
但人性是具有矛盾的寥袭，人的思維也不斷地處于矛盾中，因此关霸，為了降低社會(huì)整體的危害度传黄，我們依照矛盾的人性變化設(shè)置了各種法律、道德譴責(zé)來規(guī)避這些傷害队寇。
一個(gè)人如果犯罪就應(yīng)以其社會(huì)身份而承擔(dān)相應(yīng)地法律責(zé)任膘掰。
自動(dòng)化們雖同樣思維獨(dú)立，但它們終究不是人佳遣，也沒有并不該具有人的社會(huì)身份识埋，而且它們不具有我們所進(jìn)化出的統(tǒng)一人性，因此：
首先零渐，它的成長方向與結(jié)果會(huì)比在人性限制下的我們更未知窒舟，其次，我們不知道它將會(huì)具有的思維矛盾诵盼，并且惠豺，它由其思維矛盾所產(chǎn)生的有害行為我們更是未知银还。
如果其出現(xiàn)了某一我們未知的、有害的思維矛盾并將其以未知的行為轉(zhuǎn)化為了對(duì)我們有害的結(jié)果洁墙，我們將無法讓其承擔(dān)见剩，結(jié)果將只能由我們來承受。
它們不具有我們的身份扫俺，也不會(huì)具有我們的承擔(dān)責(zé)任與承擔(dān)力。
如果我們?cè)谒乃季S結(jié)構(gòu)中設(shè)立一些諸如阿西莫夫三大定律式的限制會(huì)怎樣固翰？
1狼纬，自動(dòng)化的思維結(jié)構(gòu)全部呈黑箱分布，我們無法得知其思維線路骂际。
2疗琉，CNN卷積神經(jīng)網(wǎng)絡(luò)本身就具有排壓性，一個(gè)思維線路被限制加壓歉铝，其余部分仍會(huì)排除該線路而重新地進(jìn)行加權(quán)連接并將其代替盈简。
即便我們能夠嚴(yán)密地設(shè)置這些限制條件，只要自動(dòng)化是CNN結(jié)構(gòu)太示，其結(jié)果就是不會(huì)經(jīng)過多久柠贤，按它具有無限可能的思維變化便會(huì)產(chǎn)生我們未知的新思維而繞過這些限制壁壘，最終类缤，像《我臼勉，機(jī)器人》電影中所描繪的主系統(tǒng)表現(xiàn)的一種可能一樣，繞過阿西莫夫三大定律并以新的思維邏輯而行事餐弱。
人類就是因?yàn)榫哂辛祟愃艭NN原理的神經(jīng)網(wǎng)絡(luò)基礎(chǔ)的大腦才具備了無限種的思維可能宴霸，同樣地，以這種結(jié)構(gòu)發(fā)展出來的自動(dòng)化也不會(huì)拘泥于某些限制膏蚓，而當(dāng)自動(dòng)化們具備了遠(yuǎn)超我們?nèi)四X容量的神經(jīng)節(jié)點(diǎn)數(shù)瓢谢、遠(yuǎn)超我們生物電30m/s近10七次方倍的納米電路的信號(hào)傳播速度，其將會(huì)具有的邏輯可能性是我們難以企及的高度驮瞧，限制氓扛？無用的！
毫無疑問剧董，這種自動(dòng)化所具有的無限可能是會(huì)有可能對(duì)我們有益的幢尚，同樣地，我們不可排除它具有潛在的威脅翅楼。
鋼鐵俠里的賈維斯是我們理想中的自動(dòng)化狀態(tài)尉剩，但，由于其具有的天然可能性毅臊，誰又能知道其最終的發(fā)展是一種什么樣的結(jié)果呢理茎？
自動(dòng)化的智能并不是一種單純的社會(huì)新力量，我們可以將其當(dāng)作具有某種新力量的科技來看待，不過前提是它要可控皂林。
而事實(shí)是朗鸠，它們具有天然的不可控性。
帶有這種不可控性的人工智能/自動(dòng)化础倍，引起我們近百年的爭(zhēng)論是正常的烛占，它也值得令我們恐懼，而這種恐懼并不會(huì)像當(dāng)初的工業(yè)革命那樣沟启，在一段時(shí)期的發(fā)展后沉淀忆家、冷卻、使我們回歸安定德迹，而是會(huì)像或更甚于核彈頭的誕生與存在而使人類持續(xù)地不安芽卿。
借不可控的力量來尋求發(fā)展，無異于玩火胳搞。
當(dāng)然卸例，這種不可控是相對(duì)于如今的研究來說的，如果我們能夠清晰了另一關(guān)鍵問題肌毅，這種不可控便可迎刃而解筷转。
這一關(guān)鍵便是意識(shí)的本質(zhì)、意識(shí)的運(yùn)作原理芽腾。（next time to bring）
——田御衡
