3月22日劣纲，生命未來(lái)研究所（Future of Life）向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信委刘，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練把跨，暫停時(shí)間至少為6個(gè)月人弓。該機(jī)構(gòu)以“引導(dǎo)變革性技術(shù)造福生活，遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)”為使命着逐。

超過(guò)1000人簽署了這封公開(kāi)信崔赌，除了馬斯克之外意蛀，還包括圖靈獎(jiǎng)得主約書(shū)亞?本吉奧（Yoshua Bengio）、美國(guó)作家兼紐約大學(xué)教授加里?馬庫(kù)斯（Gary Marcus）健芭、《人工智能：現(xiàn)代方法》作者斯圖爾特?羅素（Stuart Russell）县钥、 蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克（Steve Wozniak）等。

對(duì)于此事慈迈，V起來(lái)助手怎么看呢若贮？

V起來(lái)助手認(rèn)為還是要制定嚴(yán)格的標(biāo)準(zhǔn)和清晰的規(guī)范，來(lái)保證人工智能的安全性和透明度痒留，以確保對(duì)人類(lèi)社會(huì)的價(jià)值和意義谴麦。

給它點(diǎn)個(gè)贊！Ｉ焱贰匾效！

大家怎么看呢？歡迎評(píng)論區(qū)留言告訴我Ｐ袅住Ｃ婧摺！

以下為公開(kāi)信原文：

正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的扫步，人工智能系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成較大的風(fēng)險(xiǎn)魔策。《阿西洛馬人工智能原則》中指出河胎，高級(jí)人工智能可能代表著地球上生命歷史的深刻變革闯袒，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。然而仿粹，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮搁吓，開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字大腦，但目前沒(méi)有人能理解吭历、預(yù)測(cè)或可靠地控制AI系統(tǒng)堕仔，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。

現(xiàn)在晌区，人工智能在一般任務(wù)上變得與人類(lèi)有競(jìng)爭(zhēng)力摩骨，我們必須問(wèn)自己：我們應(yīng)該讓機(jī)器在信息渠道中宣傳不真實(shí)的信息嗎？我們是否應(yīng)該把所有的工作都自動(dòng)化朗若，包括那些有成就感的工作恼五？我們是否應(yīng)該開(kāi)發(fā)非人類(lèi)的大腦，使其最終超過(guò)人類(lèi)數(shù)量哭懈，勝過(guò)人類(lèi)的智慧灾馒，淘汰并取代人類(lèi)？我們是否應(yīng)該冒著失去對(duì)我們文明控制的風(fēng)險(xiǎn)遣总？這樣的決定絕不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖睬罗。只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)的效果是積極的轨功，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開(kāi)發(fā)容达。同時(shí)古涧，這種信心必須得到驗(yàn)證，并隨著系統(tǒng)的潛在影響的大小而加強(qiáng)花盐。OpenAI最近關(guān)于人工智能的聲明中指出羡滑，在開(kāi)始訓(xùn)練未來(lái)的系統(tǒng)之前，可能必須得到獨(dú)立的審查算芯，對(duì)于最先進(jìn)的努力柒昏，同意限制用于創(chuàng)建新模型的計(jì)算增長(zhǎng)速度。我們同意也祠，現(xiàn)在就該采取行動(dòng)昙楚。

因此近速，我們呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練诈嘿，時(shí)間至少持續(xù)6個(gè)月。這種暫停應(yīng)該是公開(kāi)的削葱、可核查的奖亚，并包括所有關(guān)鍵參與者者。如果這種禁令不能迅速實(shí)施析砸，政府應(yīng)該介入并制定暫停令昔字。

人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議首繁，由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的審查和監(jiān)督作郭。這些協(xié)議應(yīng)該確保遵守協(xié)議的系統(tǒng)是安全的。值得一提的是弦疮，這并不意味著暫停一般的人工智能開(kāi)發(fā)夹攒，只是從危險(xiǎn)的競(jìng)賽中退后一步，限制不可預(yù)測(cè)的研究和開(kāi)發(fā)胁塞。

人工智能的研究和開(kāi)發(fā)應(yīng)該重新聚焦于咏尝，使目前最先進(jìn)和強(qiáng)大的系統(tǒng)更加準(zhǔn)確、安全啸罢、可解釋编检、透明、穩(wěn)健扰才、一致允懂、值得信賴(lài)和忠誠(chéng)。

同時(shí)衩匣，人工智能開(kāi)發(fā)者必須與政策制定者合作蕾总，大幅加快開(kāi)發(fā)強(qiáng)大的人工智能治理系統(tǒng)酣倾。這些至少應(yīng)該包括：專(zhuān)門(mén)針對(duì)人工智能的監(jiān)管機(jī)構(gòu)；監(jiān)督和跟蹤高能力的人工智能系統(tǒng)和大型計(jì)算能力的硬件谤专；出處和水印系統(tǒng)幫助區(qū)分真實(shí)和合成躁锡，并跟蹤模型泄漏；強(qiáng)大的審查和認(rèn)證生態(tài)系統(tǒng)置侍；對(duì)人工智能造成的傷害承擔(dān)責(zé)任映之；為人工智能安全技術(shù)研究提供強(qiáng)大的公共資金以及資源充足的機(jī)構(gòu)，以應(yīng)對(duì)人工智能可能導(dǎo)致的巨大的經(jīng)濟(jì)和政治破壞蜡坊。

人類(lèi)可以通過(guò)人工智能享受繁榮的未來(lái)「苁洌現(xiàn)在，我們成功地創(chuàng)建了強(qiáng)大的人工智能系統(tǒng)秕衙，可以在這個(gè)“人工智能之夏”中獲得回報(bào)蠢甲，為所有人的明確利益設(shè)計(jì)這些系統(tǒng)，并給社會(huì)一個(gè)適應(yīng)的機(jī)會(huì)据忘。停止使用其他技術(shù)可能會(huì)對(duì)社會(huì)造成災(zāi)難性影響鹦牛，因此我們必須保持準(zhǔn)備狀態(tài)。讓我們享受一個(gè)漫長(zhǎng)的人工智能夏天勇吊，而不是匆忙進(jìn)入秋天曼追。