姓名:鄒宇翔
轉(zhuǎn)載自http://3g.163.com/dy/article/CVU2RM300519N4EJ.html
【嵌牛導(dǎo)讀】:隨著人工智能時(shí)代的逐漸到來缭黔，我們許多人還往往關(guān)注著人工智能對于生產(chǎn)力提升所帶來的好處與壞處，卻很少有人發(fā)現(xiàn)偏見在人工智能當(dāng)中會(huì)產(chǎn)生巨大的危險(xiǎn)。
【嵌牛鼻子】:偏見、數(shù)據(jù)厢拭、風(fēng)險(xiǎn)筋栋、階級(jí)分化
【嵌牛提問】:偏見的產(chǎn)生原因？偏見會(huì)附在人工智能中給人類社會(huì)帶來什么影響疆柔？如何去減少偏見帶來的影響？
【嵌牛正文】:
John Giannandrea在谷歌領(lǐng)導(dǎo)人工智能系統(tǒng)镶柱，他擔(dān)心智能系統(tǒng)會(huì)學(xué)習(xí)人類的偏見旷档。
谷歌的人工智能負(fù)責(zé)人并不擔(dān)心超級(jí)智能的殺手機(jī)器人。相反歇拆，John Giannandrea擔(dān)心的是可能潛伏在機(jī)器學(xué)習(xí)算法中的危險(xiǎn)鞋屈，這些算法用于每分鐘做出數(shù)百萬個(gè)決策。
“真正的安全問題查吊，如果你想這么說谐区，那就是，如果我們給這些系統(tǒng)有偏見的數(shù)據(jù)逻卖，他們就會(huì)有偏見宋列，”Giannandrea在最近的一次關(guān)于人類和人工智能系統(tǒng)關(guān)系的谷歌會(huì)議之前說。
隨著技術(shù)向醫(yī)學(xué)和法律等關(guān)鍵領(lǐng)域擴(kuò)散评也，機(jī)器學(xué)習(xí)中的偏見問題可能會(huì)變得更加嚴(yán)重炼杖，而且越來越多沒有深入技術(shù)理解的人被要求部署這種技術(shù)灭返。一些專家警告說，算法偏見已經(jīng)在許多行業(yè)中普遍存在坤邪，而且?guī)缀鯖]有人在努力識(shí)別或糾正它（見“到處都是有偏差的算法熙含，似乎沒有人關(guān)心”）。
Giannandrea補(bǔ)充說：“重要的是艇纺，我們要透明地了解我們正在使用的培訓(xùn)數(shù)據(jù)怎静，并在尋找隱藏的偏見，否則我們將建立有偏見的系統(tǒng)黔衡◎酒福”“如果有人試圖向你推銷一個(gè)用于醫(yī)療決策支持的黑盒系統(tǒng)，而你不知道它是如何工作的盟劫，或者是什么數(shù)據(jù)被用來訓(xùn)練它夜牡，那我就不會(huì)相信它了÷虑”
黑箱機(jī)器學(xué)習(xí)模式已經(jīng)對一些人的生活產(chǎn)生了重大影響塘装。一個(gè)名為“COMPAS”的系統(tǒng)是由一家名為“Northpointe”的公司制造的，它可以預(yù)測被告是否有再次犯罪的可能性影所，并被一些法官用來判定一個(gè)囚犯是否被假釋蹦肴。COMPAS的運(yùn)作方式是保密的，但ProPublica的調(diào)查發(fā)現(xiàn)型檀，這種模式可能會(huì)對少數(shù)群體產(chǎn)生偏見冗尤。
然而，它可能并不總是像公布數(shù)據(jù)的細(xì)節(jié)或使用的算法那樣簡單胀溺。許多最強(qiáng)大的新興機(jī)器學(xué)習(xí)技術(shù)在工作中是如此的復(fù)雜和不透明，以至于他們不顧仔細(xì)的檢查（見“人工智能核心的黑暗秘密”）皆看。為了解決這個(gè)問題仓坞，研究人員正在探索如何讓這些系統(tǒng)向工程師和終端用戶提供一些近似的工作方式。
Giannandrea有充分的理由強(qiáng)調(diào)可能會(huì)有偏見滲透到人工智能中腰吟。谷歌是向各類企業(yè)兜售其云計(jì)算平臺(tái)的人工智能能力的幾家大公司之一无埃。這些基于云的機(jī)器學(xué)習(xí)系統(tǒng)的設(shè)計(jì)要比底層算法簡單得多。這將有助于提高這項(xiàng)技術(shù)的可訪問性毛雇，但也可以讓偏見更容易潛入嫉称。此外，提供教程和工具也很重要灵疮，幫助那些經(jīng)驗(yàn)不足的數(shù)據(jù)科學(xué)家和工程師識(shí)別并消除他們訓(xùn)練數(shù)據(jù)中的偏見织阅。
受邀參加由谷歌組織的會(huì)議的幾位演講者也強(qiáng)調(diào)了偏見的問題。谷歌研究人員瑪雅古普塔稱震捣，她努力開發(fā)更不透明的算法荔棉，這是一個(gè)內(nèi)部被稱為“GlassBox”的團(tuán)隊(duì)的一部分闹炉。Karrie Karahalios是伊利諾伊大學(xué)計(jì)算機(jī)科學(xué)教授，他提出了一項(xiàng)研究润樱，強(qiáng)調(diào)在最常見的算法中發(fā)現(xiàn)偏見是多么棘手渣触。Karahalios指出，用戶通常不理解Facebook如何過濾新聞流中顯示的帖子壹若。雖然這看起來無傷大雅嗅钻，但卻很好地說明了詢問一個(gè)算法是多么困難。
Facebook的動(dòng)態(tài)消息算法肯定會(huì)影響公眾對社交互動(dòng)的看法店展，甚至?xí)绊懼卮笮侣勈录∪Ｆ渌乃惴赡芤呀?jīng)在微妙地扭曲了人們接受的醫(yī)療護(hù)理，或者在刑事司法系統(tǒng)中如何得到治療壁查。這肯定比殺手級(jí)機(jī)器人重要得多觉至，至少目前如此。
近年來睡腿，Giannandrea無疑是一個(gè)理性的聲音语御，在一些關(guān)于人工智能帶來風(fēng)險(xiǎn)的更異想天開的警告中。尤其值得一提的是席怪，Elon Musk最近警告說应闯，人工智能比朝鮮更大的威脅，可能會(huì)導(dǎo)致“世界第三”挂捻。
Giannandrea說：“我反對的是碉纺，我們將會(huì)飛躍到某種超級(jí)智能的系統(tǒng)，然后讓人類變得過時(shí)刻撒」翘铮”“我理解人們?yōu)槭裁磿?huì)擔(dān)心這個(gè)問題，但我認(rèn)為它的時(shí)間太長了声怔√停”我只是看不出有什么技術(shù)依據(jù)來解釋為什么會(huì)這樣〈谆穑”
