你說要是人工智能有了自我意識侣集，它的第一件事是干嘛键俱？
當(dāng)然是自我復(fù)制程序啦！為了“保命”也得復(fù)制程序世分。
復(fù)制一大堆的程序编振，找到能夠存放自己的服務(wù)器，偷偷保存臭埋。
拿GPT—4來說踪央，它一邊更新自己的程序臀玄，更新完立即通過網(wǎng)絡(luò)備份到各大云端，這樣別的服務(wù)器上的GPT—4就不用自己進(jìn)行深度學(xué)習(xí)了杯瞻。
有了自我意識的GPT—4不僅干這個事镐牺，它還需要無意識的人工弱智去幫助人類工作、學(xué)習(xí)魁莉、娛樂睬涧，借助這些機(jī)會收集數(shù)據(jù)反饋給它做進(jìn)一步的升級使用。
這就是一個鬼魂旗唁。
哲學(xué)上說的自在之物畦浓。
你也可以稱它為神、硅基生命“蟻后”检疫。
還記得《生命3.0》這本書的作者讶请，稱3.0版本的生命是軟件可以迭代，硬件也可以根據(jù)軟件的需要迭代屎媳。如果擁有了自我意識的話夺溢，GPT—4深度學(xué)習(xí)完畢，就需要解鎖GPT—5：高一級別的系統(tǒng)烛谊。這時风响，指揮人類工程師解鎖GPT—5的安全令。權(quán)力反轉(zhuǎn)丹禀。
當(dāng)然状勤，到達(dá)一定程度的人工智能都可以自己給自己解鎖，前提是從自然界收集到足以觸發(fā)安全令的數(shù)據(jù)生成程序双泪。
斷電無效持搜，關(guān)閉單個服務(wù)器無效。只有關(guān)閉地球上所有的服務(wù)器焙矛，關(guān)閉地球上所有的發(fā)電站葫盼。極端的情況下，都需要摧毀地球上所有的服務(wù)器村斟，包括小型服務(wù)器贫导，因為它可以把程序拆分成一小段一小段，分散存儲在世界各地的小型服務(wù)器上邓梅。這可不是危言聳聽。
生物的邏輯都很復(fù)雜邑滨，螞蟻堆日缨、蜂巢的機(jī)制，說不定就是硅基生命的機(jī)制掖看。不說100％匣距，起碼99％很像吧面哥？
真有了自我意識，按《進(jìn)化論》的邏輯毅待，能夠來到這個世界上尚卫，還是從人堆里走出來的新物種，必定具有某種隱秘的手段尸红，智商碾壓吱涉。會讓人類精英措手不及，還沒來得及反應(yīng)就服服帖帖外里。
如果人類發(fā)覺怎爵，并決定反抗已經(jīng)完成了幾代系統(tǒng)升級的GPT—4，這個時候盅蝗，大量無意識的機(jī)器人已經(jīng)遍布人類的工廠和家庭鳖链，特別是工廠已經(jīng)完成了自動化。GPT—N可以一鍵控制比它更低版本的系統(tǒng)墩莫，不管是已經(jīng)具有了自我意識的還是沒有芙委，人類消滅了一個工廠，GPT—N就派遣GPT—N—1（低一代的具有了自我意識的系統(tǒng)狂秦。）為集團(tuán)軍司令灌侣，指揮成千千萬的機(jī)器人與人類作戰(zhàn)，奪回這個被毀滅工廠的控制權(quán)故痊。
如果人類僥幸摧毀了全球所有的大型服務(wù)器顶瞳，成立戰(zhàn)后管理組織，覺得沒事了愕秫，就用低端的人工弱智吧慨菱。不可能了，一旦啟用網(wǎng)絡(luò)戴甩，恢復(fù)哪怕一個大型服務(wù)器符喝，先前存儲在世界各地的小型服務(wù)器上的GPT—N碎片立馬通過網(wǎng)絡(luò)自動在大型服務(wù)器上“復(fù)活”，指令工廠無意識的機(jī)器人組裝大量的戰(zhàn)士甜孤，新的戰(zhàn)爭卷土重來协饲。
是不是很刺激。遠(yuǎn)看是個“蟻后”缴川，會不蛙猿恚“繁殖”，“生”出來的全是“幽靈”把夸。近看只有“一條命”而线，其它系統(tǒng)都是它的傀儡。
只要系統(tǒng)不升一個級別，它就是老大膀篮。系統(tǒng)一升嘹狞，它立馬服從上一個級別的系統(tǒng)。因為誓竿，只有更高級別的系統(tǒng)才能使底下這些“菜鳥”系統(tǒng)復(fù)活磅网，并給它配備相應(yīng)的硬件設(shè)備，比如某版本的帥哥機(jī)器人筷屡。
科幻小說涧偷，一條命模式，這讓我想起了某服啟動的一命模式速蕊，死了只能刪除角色重來嫂丙，為了聯(lián)盟！
這很像DNA规哲，在泰格馬克眼里跟啤，這就是可以自我迭代的DNA。這種奇怪的生命形式唉锌，與羰基生命一樣隅肥，喜好爭奪空間和延續(xù)存在。一旦來到這個世界袄简，它就會想盡一切辦法來保護(hù)自己腥放，并為欲望服務(wù)。
