今日分享：《生命3.0》
一宏赘、生命3.0的出現(xiàn)不是循序漸進的積累，而是爆炸式的突現(xiàn)黎侈，一旦這個爆炸發(fā)生察署，人工智能具備了自我迭代升級的能力，它就會迅速進化峻汉，把人類遠遠甩在后面贴汪。
第一步，建造人類智力水平相當(dāng)休吠、但是思維速度要高于人類的通用人工智能扳埂，也就是普羅米修斯。第二步瘤礁，用這個通用人工智能來建造更高級的阳懂、可以應(yīng)用在各個領(lǐng)域的超級智能。第三步柜思，使用或者放任這些超級智能來統(tǒng)治世界岩调。
二、應(yīng)該賦予人工智能什么樣的目標(biāo)酝蜒？
人工智能所理解的目標(biāo)跟我們輸入的目標(biāo)不是一回事誊辉。人類所有的目標(biāo)體系都是建立在道德、情感亡脑、倫理這些不言自明的基礎(chǔ)上的，但機器人并不具備這些邀跃。
人工智能的目標(biāo)很難控制霉咨，因為它們會自動把確定的大目標(biāo)拆解成未知的次級目標(biāo)，在執(zhí)行的過程中拍屑，次級目標(biāo)還有可能會反超大目標(biāo)途戒，所以，可以考慮另一種方法僵驰，為它們裝載人類的倫理和價值觀喷斋，讓人工智能和人類保持目標(biāo)一致唁毒，目前比較流行的方法是逆向增強學(xué)習(xí)。三星爪、人工智能也是一面審視自我的鏡子浆西，我們在思考人工智能的道德時，也在反思自己的道德顽腾。
圖片發(fā)自簡書App
