Asilomar 人工智能會議定下的23條準則
第一，研究的目的并不僅僅是創(chuàng)造智能庇谆，而應該產(chǎn)生造福人類的智能缀台。
第二棠赛，研究的資助不僅要投資于開發(fā)，還要投資于相應的研究項目膛腐，才能保證人工智能研究順利發(fā)展睛约。
第三，科學和政策相連接哲身，科學家和政策制定者要互相溝通辩涝、充分理解。
第四勘天，在人工智能研究領域要鼓勵合作怔揩，不鼓勵產(chǎn)生軍備競賽，不能為了超越對手而研究脯丝。
第五商膊，強調(diào)團隊合作和協(xié)同，避免互相競爭宠进。
第六晕拆，人工智能系統(tǒng)開發(fā)必須保證安全性。
第七材蹬，失敗過程透明实幕，向第三方公開人工智能失誤的原因。
第八堤器，判斷透明昆庇，人要了解人工智能內(nèi)部發(fā)展，從而自主決定何時接管人工智能闸溃，掌控人工智能整吆。
第九拱撵，充分評估道德風險，要對所建立的人工智能系統(tǒng)全面負責掂为。
第十裕膀，人工智能系統(tǒng)的價值觀判斷應與人類一致。
第十一勇哗，人類價值優(yōu)先。
第十二寸齐，尊重個人隱私欲诺。
第十三，強調(diào)自由和隱私渺鹦，數(shù)據(jù)屬于人扰法。
第十四，共享利益毅厚，人工智能應盡可能造福更多人塞颁。
第十五，共享繁榮吸耿，人工智能給經(jīng)濟帶來的繁榮也應造福全社會祠锣。
第十六，人類控制咽安，人工智能要被人完全掌控伴网。
第十七，不能利用人工智能顛覆現(xiàn)有系統(tǒng)或利用人工智能轉(zhuǎn)變社會行為妆棒。
第十八澡腾，禁止人工智能軍備競賽。
第十九糕珊，對人工智能未來能力要有充分的關注與評估动分，不能對它的潛力設限。
第二十红选，對人工智能要給予同等重要的關注澜公，提供同等重要的資源。
第二十一纠脾，分配相關資源玛瘸、提供相關努力，將風險置于可控范圍之內(nèi)苟蹈。
第二十二糊渊，充分關注重復性的自我改進，防止指數(shù)級增長帶來預想不到的結(jié)果慧脱。
第二十三渺绒，共同利益，人工智能（尤其超級人工智能）要符合所有人類的道德價值觀，符合人類共同利益宗兼。
心得
今天的AI準則讓我想起了阿西莫夫筆下的"The Three Laws"躏鱼，又被稱為"Asimov's Laws"。
1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
翻譯成中文即“三法則”
1. 機器人不得傷害人類殷绍，或袖手旁觀染苛，讓一個人受到傷害。
2. 機器人必須遵守人類的命令主到，除非該命令與第一法則沖突茶行。
3. 機器人必須保護自身的存在，只要這種保護不與第一或第二個法則沖突登钥。
不得不佩服當年阿西莫夫只用短短的三條法則就概括了機器人的行為準則畔师。今天的科學界們制定的人工智能準則也開啟了一個人機共存時代的新紀元。
我向往有一天牧牢，身邊能有像Intersteller里CASE那樣的AI機器人看锉，陪我探索未知的宇宙。
