各位書友大家好，這里是《小謙聊好書》，今天我們繼續(xù)聊凱文·魯斯的《智能時(shí)代的九大生存法則》痊硕。
上期節(jié)目我們聊了智能時(shí)代的第五大生存法則，也就是不要成為端點(diǎn)押框。
今天我們來聊聊智能時(shí)代的第六大生存法則岔绸，那就是像對(duì)待一群黑猩猩一樣對(duì)待人工智能。
我們先來開一個(gè)腦洞。
如果有一天盒揉，1 000只黑猩猩組成的大軍出現(xiàn)在你的辦公室找工作晋被，那么你會(huì)怎么做？在實(shí)際的情況下刚盈，你可能會(huì)鎖上門羡洛，并打電話給動(dòng)物控制中心。但是藕漱，讓我們暫時(shí)擱置現(xiàn)實(shí)欲侮，想象一下，如果你沒有驚慌失措肋联，而是威蕉，試圖找一項(xiàng)任務(wù)給它們完成呢？畢竟橄仍，在合適的環(huán)境下韧涨，黑猩猩可以成為優(yōu)秀的工作者。它們強(qiáng)壯沙兰、敏捷氓奈、相當(dāng)聰明。經(jīng)過訓(xùn)練鼎天，它們可以識(shí)別人臉舀奶、拿起和搬運(yùn)物品，甚至對(duì)簡(jiǎn)單的命令做出反應(yīng)斋射。你可以想象育勺，一群訓(xùn)練有素的辦公室黑猩猩裝卸倉庫貨物或補(bǔ)充激光打印機(jī)庫存。
當(dāng)然罗岖，在你做出任何承諾之前涧至，你當(dāng)然想更多地了解黑猩猩。它們過去表現(xiàn)得有多好桑包？它們有攻擊史嗎南蓬？它們需要多少培訓(xùn)和監(jiān)督？最終哑了，即使你真的決定邀請(qǐng)一群黑猩猩進(jìn)入你的辦公室赘方，你也不會(huì)立刻這么做。你可能會(huì)進(jìn)行一次“黑猩猩安全審計(jì)”或召集一個(gè)“黑猩猩監(jiān)督工作組”弱左。你可能會(huì)將少量的黑猩猩放在一個(gè)房間里進(jìn)行嚴(yán)密監(jiān)督窄陡，訓(xùn)練它們完成一些簡(jiǎn)單的任務(wù)，并評(píng)估結(jié)果拆火，然后再給它們分配更重要的任務(wù)跳夭。但是涂圆，不管你的風(fēng)險(xiǎn)承受能力如何，我都相當(dāng)肯定币叹，你不會(huì)直接邀請(qǐng)黑猩猩進(jìn)來润歉，給它們工牌和掛繩，然后說“好了套硼，開始工作吧”卡辰，而且你肯定不會(huì)讓它們對(duì)結(jié)果負(fù)責(zé)。
上期節(jié)目我們討論了如果人變成端點(diǎn)（當(dāng)一個(gè)流程還不能完全自動(dòng)化時(shí)邪意，人被召集來填補(bǔ)空白）會(huì)發(fā)生什么，但相反的問題同樣存在反砌。很多組織都犯了過度自動(dòng)化的錯(cuò)誤雾鬼，即賦予機(jī)器確實(shí)沒有能力處理的任務(wù)和權(quán)限，并在事情出現(xiàn)嚴(yán)重錯(cuò)誤時(shí)感到驚訝宴树。
事實(shí)上策菜，現(xiàn)在大多數(shù)人工智能都類似于一群黑猩猩。它們很聰明酒贬，但不如人類聰明又憨。如果經(jīng)過適當(dāng)?shù)挠?xùn)練和監(jiān)督，那么它們可以遵循指示锭吨，否則它們可能會(huì)出現(xiàn)不穩(wěn)定性和破壞性蠢莺。經(jīng)過多年的訓(xùn)練和發(fā)展，人工智能可以做一些超人的事情了零如，比如從10億個(gè)電子郵件收件箱中過濾垃圾郵件或創(chuàng)建100萬份個(gè)性化音樂播放列表躏将，但人工智能并不特別擅長(zhǎng)被扔進(jìn)全新的、高風(fēng)險(xiǎn)的環(huán)境之中考蕾。
2012年8月1日祸憋，一家名為騎士資本（Knight Capital）的股票經(jīng)紀(jì)公司在45分鐘內(nèi)損失了4.4億美元，因?yàn)榇饲耙粋€(gè)安裝不當(dāng)?shù)淖詣?dòng)交易系統(tǒng)迅速買賣了數(shù)百萬股股票肖卧，推高了股票的價(jià)格蚯窥，并在股票必須轉(zhuǎn)售時(shí)造成了巨大損失。虧損幾乎令騎士資本破產(chǎn)塞帐，該公司不得不接受數(shù)億美元的緊急融資拦赠，以維持下去。
連特斯拉首席執(zhí)行官埃隆·馬斯克這種深信人工智能潛力的人也經(jīng)歷過賦予自動(dòng)化系統(tǒng)太多權(quán)力的危險(xiǎn)壁榕。2018年矛紫，特斯拉在完成其Model 3轎車生產(chǎn)目標(biāo)方面遇到了困難，部分原因是該公司工廠里依賴自動(dòng)傳送帶系統(tǒng)的機(jī)械一直出現(xiàn)故障牌里。在經(jīng)歷了幾次令人沮喪的生產(chǎn)放緩后颊咬，馬斯克停止了傳送帶务甥，并引進(jìn)人工來代替機(jī)器。結(jié)果你猜怎么著喳篇？生產(chǎn)速度加快了敞临，公司回到了實(shí)現(xiàn)目標(biāo)的軌道上。馬斯克后來承認(rèn)麸澜，將如此多的權(quán)力交給機(jī)器是錯(cuò)誤的做法挺尿。請(qǐng)記住，他認(rèn)為超級(jí)智能最終將對(duì)人類文明構(gòu)成威脅炊邦。他在Twitter上寫道：“特斯拉的過度自動(dòng)化是一個(gè)錯(cuò)誤编矾，人類被低估了∧俸Γ”
如果你是一名員工窄俏，在缺乏適當(dāng)預(yù)防措施的情況下，你的組織正在實(shí)施人工智能和自動(dòng)化碘菜，那么你可以大聲疾呼凹蜈。你要確保你的經(jīng)理了解不可預(yù)見的錯(cuò)誤背后隱含的潛在成本（財(cái)務(wù)、法律和聲譽(yù)）忍啸，并提出讓員工參與關(guān)鍵流程的理由仰坦。你可以建議進(jìn)行一次假想敵練習(xí)，讓你和你的同事們?cè)囍胂蠛湍M自動(dòng)化系統(tǒng)可能出錯(cuò)或被誤用的所有情況计雌∏幕危或者，就像一些制造業(yè)企業(yè)在20世紀(jì)七八十年代所做的那樣白粉，企業(yè)可以成立一個(gè)“自動(dòng)化委員會(huì)”传泊，委員會(huì)由不同部門的員工組成，他們可以就自動(dòng)化系統(tǒng)如何工作交換意見鸭巴，并將他們的發(fā)現(xiàn)提交給企業(yè)的管理層眷细。
如果你生活在一個(gè)社區(qū)，那里使用的人工智能和自動(dòng)化系統(tǒng)侵犯了人們的隱私鹃祖、懲罰了弱勢(shì)群體溪椎，或者對(duì)政府福利和住房等問題做出了高風(fēng)險(xiǎn)決策，請(qǐng)敦促當(dāng)?shù)氐恼賳T展示這些系統(tǒng)的運(yùn)作情況恬口。如果你不能確定這些工具是否產(chǎn)生了負(fù)面影響校读，或者無法取得相關(guān)數(shù)據(jù)，那么你可以研究一下其他社區(qū)是否存在類似工具的問題祖能，必要時(shí)你還可以與公民自由組織合作歉秫。諸如此類的干預(yù)可能是有效的。
如果你是組織里決定是否采用人工智能和自動(dòng)化的領(lǐng)導(dǎo)者养铸，請(qǐng)你確保你的算法不會(huì)因?yàn)榇嬖谌毕莸脑O(shè)計(jì)或有偏差的訓(xùn)練數(shù)據(jù)集而引發(fā)錯(cuò)誤或延續(xù)偏差雁芙。（現(xiàn)在有“人工智能審計(jì)師”可以幫助評(píng)估算法轧膘，以發(fā)現(xiàn)此類問題的跡象。）你要謹(jǐn)慎對(duì)待第三方供應(yīng)商兔甘，并對(duì)圓滑的推銷持懷疑態(tài)度谎碍，盡可能在這個(gè)過程中讓人類員工參與。老板們洞焙，請(qǐng)你們記住蟆淀，有缺陷的或過早的人工智能部署所帶來的后果將由人類決策者而非機(jī)器人來承擔(dān)。打個(gè)比方澡匪，如果一群黑猩猩摧毀了你的辦公室熔任，那么沒人會(huì)對(duì)黑猩猩生氣。
說到這兒仙蛉，智能時(shí)代的第六大生存法則我們就聊完了笋敞，這個(gè)法則是像對(duì)待一群黑猩猩一樣對(duì)待人工智能。
下期節(jié)目我將為你介紹智能時(shí)代的第七大生存法則荠瘪，下期見！
本期書單：
《智能時(shí)代的九大生存法則》赛惩，凱文·魯斯著.
