2018年1月20日 Lee公子 摘自《混亂》（英）蒂姆·哈福德

雖然我自己也是一枚科技的擁躉陵且，但是我清醒意識到科技對我自身能力的“殘化”效應悦污，以及科技本身的缺陷會給我?guī)砗芏嗟娘L險和麻煩虏冻。
我自己遭遇過的科技風險有以下這些：

第一個風險是科技載體失靈亚隙。

例如設(shè)備沒電，硬件損壞，軟件沖突谷异，接口不識別等庸疾。遇到這種情況，基本上只能束手無策两嘴。很多時候丛楚，這種設(shè)備的失靈常常會讓你陷入尷尬境地，甚至火冒三丈憔辫。

第二個風險是初始數(shù)據(jù)錄入錯誤趣些。

一旦初始化的時候，數(shù)據(jù)錄入錯誤了贰您，這個數(shù)據(jù)就隱藏到數(shù)據(jù)的海洋中了坏平，后面你將很難有機會發(fā)現(xiàn)這種錯誤，然后不知道什么時候锦亦，這個錯誤就會冒出來給你的結(jié)論或者結(jié)果將上一軍舶替，甚至會對決策產(chǎn)生誤導。
而數(shù)據(jù)初始化中存在錯誤杠园，基本上是大概率事件顾瞪。

第三個風險是設(shè)備無法人力維修。

現(xiàn)在的電子設(shè)備非常精細，面對失靈的電子設(shè)備人工幾乎無能為力陈醒，這也意味著惕橙，設(shè)備一壞，不太可能在現(xiàn)場通過維修好設(shè)備繼續(xù)你的工作孵延，你的重要工作就會被迫中斷吕漂。

第四個風險是底層算法錯誤。

雖然科技產(chǎn)品可以精準計算結(jié)果尘应，但是一旦初始算法就有缺陷的話惶凝，得到的結(jié)論是不合邏輯的，結(jié)論就是錯誤的犬钢。

第五個風險是制造大麻煩苍鲜。

一旦科技產(chǎn)品遇到不能解決的問題，基本上都是非常規(guī)的大問題玷犹，這類問題一般人也很難在瞬間解決混滔，需要足夠多的專業(yè)經(jīng)驗和更多的專業(yè)工具才能協(xié)助解決。這種問題如果是在緊急情況下遇到歹颓，很可能就是致命性的坯屿。

意識到科技有以上風險之后，盡管你依然不能擺脫科技產(chǎn)品巍扛，但是你會加強風險意識领跛，準備冗余的設(shè)備作為備用，并提高個人經(jīng)驗和邏輯得到的判斷在決策中的占比（就是做你要更加相信自己撤奸，而不是盲目相信數(shù)據(jù)）吠昭。

2013年去世的厄爾維納（ Earl Wiener）在航空安全方面有著極大聲望，他提出了關(guān)于航空和人為錯誤的“維納法則”胧瓜。其中一條是矢棚，電子設(shè)備解決了小麻煩卻制造了大麻煩。維納的意思是：雖然自動化能糾正常見的人為錯誤府喳，但它會時不時地制造大麻煩蒲肋。維納很有遠見，維納法則的適用范圍已經(jīng)超越了航空業(yè)钝满。

幾年前肉津，位于加州奧克蘭附近的圣萊安德羅警察局在未經(jīng)車主允許的情況下給兩輛小汽車拍攝了至少112張照片，車主名叫邁克爾卡茨拉卡比（ Michael Katz－ Lacabe）舱沧，是當?shù)鼐用衩蒙场＿@些照片最終出現(xiàn)在了法庭上，倒不是因為卡茨拉卡比是一個恐怖分子或黑社會組織成員熟吏，而是因為卡茨拉卡比向法院申請了公開這些照片距糖。警察局猛拍卡茨拉卡比的車子玄窝，并非懷疑他涉嫌犯罪。其實車子附近有一個監(jiān)控悍引，每一輛經(jīng)過的汽車都會被拍下來恩脂，卡茨拉卡比的車也一樣。之后趣斤，電腦會讀取車輛的電子信息俩块，記錄牌照號碼，并附注拍攝時間和地點浓领∮窨卡茨拉卡比先生的女兒也被拍了下來，她們一個8歲联贩，另一個5歲漫仆，拍照的時候她們就在車子旁邊。

警察局將卡茨拉卡比先生的汽車和孩子的照片泪幌，連同其他數(shù)百萬張照片一起盲厌，送到了由美國聯(lián)邦政府管理的北加州地區(qū)情報中心。這里的工作人員將使用硅谷魔法球科技有限公司開發(fā)的一款軟件一秒鐘能夠搜索上億張牌照祸泪。這樣一個具有強大識別和分析能力的數(shù)據(jù)庫在打擊犯罪領(lǐng)域潛力無限但是與此同時它的潛力也被用在了見不得光的地方吗浩。卡茨拉卡比告訴《福布斯》（ Forbes）的記者安迪·格林伯格（ Andy Greenbery）：政府工作人員可能會回放數(shù)據(jù)庫里的照片没隘，窺探各種隱私懂扼，比如有人下班后沒回家，他的車子卻出現(xiàn)在別人老婆的房子前升略，有人去過醫(yī)用大麻診所，有人去了計劃生育中心屡限，有人參加了游行抗議品嚣。

近年來，人們對這種強大科技的優(yōu)勢和風險存在明顯爭議钧大，也展開了不少討論翰撑。然而，從維納法則出發(fā)啊央，有一個風險卻被廣泛忽略了：科技失效雖然罕見但確實存在眶诈，當它真的發(fā)生，我們又該怎么辦呢瓜饥？

圣誕節(jié)期間逝撬，英國公民維克多漢金斯（ Victor Hankins）收到一件不太友好的“禮物”：一張罰單。通常情況下乓土，你是這樣收到罰單的：你回到停車的地方宪潮，發(fā)現(xiàn)一張票據(jù)壓在擋風玻璃的雨刮器底下作為對你亂停亂放的懲罰溯警。漢金斯先生不是這樣，他是在門墊上發(fā)現(xiàn)了一封來自當?shù)卣男沤葡唷Ｐ胖酗@示梯轻，2013年12月20日下午8點8分14秒，他的車在約克郡的布拉德福市堵塞了公交車站尽棕，他的違規(guī)行為被一輛剛好路過喳挑、裝有攝像頭的交通執(zhí)法車拍了下來。計算機自動識別了汽車牌照滔悉，在數(shù)據(jù)庫中找到了漢金斯先生的地址伊诵，然后一個“證據(jù)包”自動生成，其中包括場景視頻氧敢、違規(guī)時間和地點日戈。在信中，布拉德福市議會要求漢金斯先生支付罰款孙乖，否則將會面臨法庭訴訟浙炼。這封信同樣是由計算機程序自動生成、打印并寄出的唯袄。似乎一切都很完美弯屈，然而漢金斯先生的車并沒有非法停放，只是被困在了堵塞的道路中恋拷。漢金斯向當?shù)氐氖凶h會發(fā)起了投訴资厉。

按理說這種高科技的存在目的是解放人類的雙手，讓我們有時間做更有趣的事蔬顾，比如檢查異常情況——給漢金斯先生開的錯誤罰單就是一種異常宴偿。但是，官僚主義者和法航的飛行員一樣诀豁，他們很相信這些高科技窄刘，覺得高科技不會出錯。布拉德福的市議會一開始就駁回了漢金斯先生的投訴舷胜，漢金斯先生以打官司相威脅娩践，市議會才禮貌性地承認錯誤并道歉。這不由得使人想起一個老笑話：人非圣賢孰能無過烹骨，但人類犯錯很多情況下還有救翻伺，高科技犯錯可能就沒救了。

就在漢金斯先生的汽車被拍照的同一天沮焕，谷歌公布了一個中樞網(wǎng)絡系統(tǒng)吨岭，可以識別由谷歌街景車拍攝的門牌照片。谷歌的研究小組稱峦树，該系統(tǒng)只需一個小時便可以讀取法國每個門牌號的信息未妹，準確率96％簿废，這令人嘖嘖稱奇。然而4％可不是一個小數(shù)字络它，法國有2500萬戶家庭族檬，換句話說，一小時內(nèi)錯誤識別的門牌號高達百萬戶化戳。

換個角度想单料，4％的錯誤率也有一定積極作用，這意味著人們不敢百分之百仰賴高科技和自動化物流巨頭UPS（聯(lián)合包裹速遞服務公司）和聯(lián)邦快遞公司絕不會希望25個包裹當中就有一個送到了錯誤地址点楼，這會砸了它們的金字招牌扫尖。如果警察經(jīng)常因為錯誤判斷而嚇到戰(zhàn)戰(zhàn)兢兢的無辜者，那么警務督察就會嚴肅對待來自無辜市民的投訴掠廓。要是警務督察發(fā)現(xiàn)某位警察參與的每25個案件中就有一件被搞砸换怖，這位警察就必須出席聽證會為自己辯護。

要是谷歌中樞網(wǎng)絡系統(tǒng)的準確率提高到百萬分之四呢蟀瞧？如此一來沉颂，法國2500萬戶家庭的門牌號，就只會出現(xiàn)一個識別錯誤悦污。從百分之四到百萬分之四铸屉，隨著準確率提高了一百萬倍，人們對高科技的信任也達到了百分之百切端。系統(tǒng)出錯的可能性越小彻坛，比如飛機上的電傳操縱系統(tǒng)，我們處理突發(fā)情況的能力就越弱踏枣。計算機怎么會錯呢昌屉？所以當有人指出計算機出了錯，旁人會認為是那個人搞錯了或者他在撒謊茵瀑。除非我們自己成為高科技的受害者间驮，否則我們會一直把高科技奉為真理。假如購物中心的電腦將你誤認成了慣偷瘾婿，保安因此把你趕了出去蜻牢，你還會相信高科技嗎烤咧？（這種技術(shù)已經(jīng)存在偏陪，不過仍在調(diào)試修改中。它能為商場識別持笙樱客笛谦，以便為他們提供特別優(yōu)惠。）一旦你上了購物中心的黑名單昌阿，要自證清白可不是一件容易的事饥脑。

自動化系統(tǒng)本來可以很美好恳邀，但如果人們過分信任它、依賴它灶轰，我們當中的一些人就會遭殃谣沸。39歲的拉辛納易卜拉辛（ Rahimah Ibrahim）是一名大學講師，同時也是一名建筑師笋颤，正在美國斯坦福大學攻讀博士學位乳附。2005年1月2日，她打算從舊金山飛往夏威夷去參加一個學術(shù)研討會伴澄。當時拉辛納剛做完手術(shù)赋除，身體還沒恢復，必須坐在輪椅上非凌，這趟旅途注定艱難举农，然而后來發(fā)生的事卻把她帶進深淵。易卜拉辛剛辦理完登機敞嗡，警方當著她未成年女兒的面逮捕了她颁糟，給她戴上了手銬，把她押到一個拘留室秸妥。幾小時之后滚停，警方才告知易卜拉辛可以坐次日的航班離開。

兩個月后粥惧，在家鄉(xiāng)馬來西亞探親完畢的易卜拉辛打算回美國键畴，卻在機場被告知其美國學生簽證在沒有任何通知的情況下被撤銷了。盡管易卜拉辛的女兒是美國公民突雪，她卻永遠回不了美國了維克多漢克斯先生用官司相威脅起惕，就讓布拉德福議會撤銷了停車罰單。易卜拉辛卻花了9年時間和價值400萬美元的法律援助咏删。直到美國地方法官威廉阿爾蘇普（ Wiliam Alsup）宣判之前惹想，美國政府一直在不斷地干涉訴訟程序。原來督函，易卜拉辛被錯誤地列入了禁飛名單嘀粱，原因可能是伊斯蘭祈禱團與馬來西亞雅馬哈伊斯蘭教英文名稱極其相似，前者（英文名 Jemaah Islamiyah）是一個恐怖組織辰狡，2002年在巴厘島用汽車炸彈致死202人锋叨，后者（英文名 Jemaah IslahMalaysia）則是馬來西亞海外留學生的專業(yè)協(xié)會，易卜拉辛加入了馬來西亞海外留學生協(xié)會宛篇，而非恐怖組織娃磺。

一旦錯誤的數(shù)據(jù)被錄入電腦數(shù)據(jù)庫，它便成了鐵律叫倍，因為人們傾向于認為計算機是不會出錯的正如主審易卜拉辛一案的法官所寫的那樣：“一旦誹謗信息被錄入TSDB（恐怖主義數(shù)據(jù)庫）偷卧，它便通過政府的連鎖數(shù)據(jù)庫廣泛傳播豺瘤，像一個永不消失的不良信用記錄√睿”初始的錯誤像病毒一樣傳播開來坐求，卻沒有官方機構(gòu)愿意去糾正它。

世界是一個凌亂的存在晌梨。那個數(shù)字到底是1還是7瞻赶，那個字母是小寫的L還是大寫的i？一輛不動的汽車派任，到底是亂停亂放還是只是因為堵車砸逊？那個人是小偷還是小偷的孿生弟兄？是恐怖組織還是留學生協(xié)會掌逛？在一個凌亂的世界里师逸，錯誤在所難免。自動化系統(tǒng)卻要一切井然有序豆混。一旦計算機程序或者數(shù)據(jù)庫將你置于特定的分類中篓像，非黑即白的數(shù)據(jù)便會否定任何外界質(zhì)疑和不確定。你是小偷皿伺；你的車停在了公交車站员辩；你在禁飛名單里一反正電腦是這么說的，這也成了多年以來政府捍衛(wèi)自己權(quán)威的武器鸵鸥。計算機也好奠滑，政府也罷，誰也不會承認錯誤妒穴。

這是一個前所未有的名單時代宋税，我們的名字出現(xiàn)在各種名單上：嫌犯名單、土豪名單讼油、經(jīng)常在加利福尼亞州圣萊安德羅附近出沒的司機名單杰赛，甚至強奸幸存者名單。計算機將這些原本待在文件柜里的一摞摞的文件矮台，轉(zhuǎn)換成了可以即時搜索乏屯、即時生效的數(shù)據(jù)。這樣的數(shù)據(jù)庫還在不斷擴大瘦赫，進入這些名單的人不僅沒有被事先告知辰晕，甚至根本不知道名單的存在。因此耸彪，一旦名單出錯伞芹，受牽連者根本沒有機會提出質(zhì)疑忘苛，錯誤就一直存在蝉娜。

盡管這些高科技數(shù)據(jù)庫功能強大唱较、著實有用，但我們恐怕沒有意識到召川，整潔有序的數(shù)據(jù)庫很難反映出這個世界的本來面目一凌亂南缓。我們同樣沒有意識到，在電腦的準確率比人腦高一百倍荧呐、工作效率高一百萬倍的同時汉形，它出錯的概率也在成倍增加。這令人想到貝克曼的“科學造林”—我們小看了這些科技的威力倍阐，它哪里只是將世界分門別類概疆，它分明是在改變這個世界。

但這并不是說我們就該徹底擯棄高科技峰搪。一方面岔冀，我們都能理解卡茨拉卡比先生，他的車子和孩子無緣無故被拍了100多次概耻，換了我們也不樂意使套；另一方面，我們也不得不承認高科技在執(zhí)法過程中扮演的重要角色鞠柄，比如調(diào)查嫌疑犯侦高，指揮交通和阻止恐怖分子登機。但不管怎么說厌杜，科技應該幫助人類做出更好的決定奉呛，而不是代替人類做決定。飛機自動駕駛系統(tǒng)應該給飛行員提供支持和幫助夯尽，而不是代替飛行員駕駛飛機侧馅。如果我們總是依賴電腦，就等著大禍臨頭吧呐萌。

科技失靈帶來的無奈有時讓人哭笑不得馁痴。2012年3月，三名在澳大利亞旅游的日本學生用GPS（全球定位系統(tǒng)）導航開車到北斯特拉布魯克觀光肺孤。不知為什么罗晕，GPS沒有檢測出行駛路線被太平洋的海水淹沒了14.5千米。旅行途中有意外發(fā)生也是常情赠堵，不過三名學生的反應卻非承≡ǎ滑稽。他們沿著已經(jīng)失靈的GPS導航的路線茫叭，把車開到了海邊酬屉，跨過一片泥灘，朝著大海開去。海浪拍打著他們駕駛的“現(xiàn)代”汽車呐萨，情況不妙杀饵。終于，他們尷尬地發(fā)現(xiàn)自己被困了谬擦。路過的渡船上切距，乘客們驚訝地看著佇立在水中的車和人。學生們棄車上岸惨远。車是報廢了谜悟。“我們還想再來一次澳大利亞北秽，”一名學生說葡幸，“這里的人都很友好，即便是今天贺氓。

這幾個人的經(jīng)歷的確好笑礼患。但值得思考的是，三個具有行為思考能力的人掠归，怎么可能跟著GPS的荒誕指示開進太平洋缅叠？自動化系統(tǒng)往往使我們陷入被動，我們不經(jīng)大腦地接受任何指示虏冻。舉例來說肤粱，在有些國家，器官捐贈是默認的厨相，也就是說领曼，每個人都是初始的器官捐獻者，除非他們在注冊表單上打鉤蛮穿，選擇退出庶骄，于是幾乎所有人都默認了這一設(shè)定。而在另一些國家践磅，公民則須通過在注冊表單上打鉤來選擇成為器官捐贈者单刁，所以登記率要低得多。規(guī)定不同府适，我們的決定就會完全不同羔飞，公司養(yǎng)老金政策也是同樣的道理。有時候這些決定至關(guān)重要檐春，甚至能夠改變我們的生活逻淌。

一旦計算機給出相應的建議，人們便會不假思索地接受疟暖，心理學家將這種現(xiàn)象稱為“自動化偏差”卡儒。不管是布拉德福的移動執(zhí)法車田柔，還是美國的禁飛名單，都存在自動化偏差骨望。

把汽車開進海里是自動化偏差的一個極端例子硬爆，而大多數(shù)GPS使用者是通過更加溫和的方式感受到自身存在的自動化偏差。第一次使用GPS的時候锦募，你會小心謹慎。你會檢查地圖邻遏，可能還會將行駛路線打印出來糠亩，上路之前會盡量了解地形，估算著旅程需要多長時間准验。不過赎线，有了幾次成功出行的經(jīng)歷，你就被GPS降服了糊饱。既然GPS能找到更迅捷垂寥、可靠的路線，自己還費那么大勁干嗎呢另锋。

GPS很少讓用戶失望滞项，但是一旦讓你失望了，那必定是刻骨銘心的夭坪。這種悲劇第一次發(fā)生在我身上的時候文判，我正驅(qū)車前往約克市中心的一個酒店。約克市是一個美麗的中世紀風格的城市室梅，它被古老的城墻包圍戏仓，因此交通流量受到了管制。我到達的時候已是深夜亡鼠，然后發(fā)現(xiàn)前方道路因為施工禁行了赏殃。GPS沒有得到實時更新，指示我繼續(xù)往前開间涵。幸運的是仁热，我沒有聽從GPS的指示，朝一輛向我駛來的蒸汽壓路機開過去勾哩。在那一刻股耽，我意識到：我太依賴GPS了，連一個備用計劃也沒準備钳幅。我既不知道自己在哪兒物蝙，也不知道酒店在哪兒，我感到自己走投無路敢艰。那時候還沒有智能手機诬乞，我也沒帶地圖。最后，我只好漫無目的地駕駛震嫉，希望GPS能重新規(guī)劃出一條新路線森瘪。

后來經(jīng)過了幾次順暢的旅行，GPS又重新獲得了我的信任票堵。連續(xù)幾年它都不負所望扼睬，出色地完成了任務，直到最近悴势，就在我打算去鄉(xiāng)下參加一場婚禮的時候窗宇，它又傷了我的心。我不知道目的地的具體位置特纤，只知道大致方向和郵編军俊。可當我把郵編輸入GPS系統(tǒng)捧存，它沒有任何反應粪躬。就這樣，GPS又一次辜負了我昔穴。我不知道它究竟出了什么問題镰官，也無法預測何時它會再次失靈。從事直覺決策研究的心理學家加里克萊因（ Gary Kein）總結(jié)道：“當計算機程序為你做出決策時吗货，人們往往拒絕思考朋魔，不會想怎么去改善它。但GPS之類的計算機程序很難進行自我診斷卿操，也就是說很難找到自己失誤的原因警检。隨著人們對它的依賴程度越來越大，人們自身的判斷力就會減弱害淤，這反過來又加強了他們的依賴性扇雕。這個過程形成了一個惡性循環(huán)。如果總是計算機程序來做決定窥摄，人就會變得被動镶奉，不再懷疑，失去警惕崭放。

克萊因等研究決策的專家們認為哨苛，許多軟件工程師開發(fā)的應用程序總是想代替我們做決定，這讓問題進一步惡化币砂。如果我們打開軟件的目的只是希望得到一些信息和幫助建峭，我們就得費一番功夫阻止應用程序為我們做決定。什么意思呢决摧？例如亿蒸，我們不想被導航牽著鼻子走凑兰，想自己尋找最佳路線，于是我們打開導航軟件边锁，想查看一下地圖或者看看有哪些路線可供選擇姑食。但是這些功能藏得太深，要花費一番工夫才能找到茅坛。相反音半，“開始導航”的字樣卻總是那么顯眼，迫不及待地想替我們做決定贡蓖，想牽著我們的鼻子走曹鸠。

類似的軟件隨處可見。我們擔心未來某一天機器人會搶走我們的飯碗摩梧，卻沒有意識到機器人已經(jīng)在一步一步搶走我們的決定權(quán)物延。在如今的經(jīng)濟環(huán)境下宣旱，超級大倉庫已經(jīng)很常見仅父。在那里，工人必須快速地將貨品從貨架上取走浑吟，搬到包裝和發(fā)貨的地方笙纤。他們頭戴一種特殊的頭盔，頭盔里裝有軟件组力，通過頭盔他們可以接收一位名叫“詹妮弗”的虛擬指揮官的指令省容。詹妮弗會告訴他們?nèi)ツ睦铮鍪裁凑材莞フ乒苤鴤}庫的一切燎字，再微不足道的細節(jié)也不放過腥椒。詹妮弗能將一個大的指令分成若干個更小的，以便盡量減少失誤候衍。比如笼蛛，如果工人需要從貨架上取下18本書，詹妮弗會指揮工人分4次完成：5本蛉鹿、5本滨砍、5本、3本妖异。在這樣的條件下工作惋戏，工人淪為了長著肉身的機器。詹妮弗剝奪了工人的思考權(quán)他膳，在它眼里响逢，工人只不過是一雙雙廉價且麻利的手。

2007—2008年那場使世界經(jīng)濟陷入衰退的金融危機棕孙，其實就好比一位心不在焉的司機將車開進了太平洋龄句。危機爆發(fā)的原因之一是一種叫作債務抵押債券（CDO）的金融產(chǎn)品回论。這種金融產(chǎn)品結(jié)構(gòu)復雜，其價值和美國房地產(chǎn)市場的健康程度成正比分歇。華爾街的金融天才在金融風暴來臨之前傀蓉，或許已經(jīng)看到房價飛漲背后的房地產(chǎn)泡沫，即使美國歷史上還沒有出現(xiàn)過全國范圍內(nèi)的同步崩潰职抡。要是這些金融天才能夠?qū)⒆约旱念A測告訴電腦葬燎，也許電腦就能近一步估算房地產(chǎn)泡沫破裂對CDO價值造成的災難性影響，不過這一切都只是事后的幻想罷了缚甩。電腦并沒有這些天才所獨有的金融智慧谱净，它不知道金融風暴即將席卷全球。

如何合理利用計算機程序擅威，同時降低它出錯的風險呢壕探？心理學家麗貝卡·普里西克（ Rebecca Pliske）發(fā)現(xiàn)，經(jīng)驗豐富的氣象學家會在分析數(shù)據(jù)郊丛、做出專業(yè)預測后李请，再對比計算機的預測，看看自己是否有什么疏忽厉熟。（通常情況下导盅，氣象學家和電腦的預測一樣。）與空客A330的飛行員不一樣這些資深的氣象學家更愿意利用自己的專業(yè)知識預測天氣揍瑟，而不是全部依靠電腦白翻，所以他們能一直保持高水準。但是绢片，年青一代的氣象學家和老一輩不同滤馍，他們更相信電腦而不是自己。一旦老一輩退休底循，人類將永遠失去其在專業(yè)領(lǐng)域的寶貴經(jīng)驗巢株，電腦出錯時也將束手無策。

我們已經(jīng)討論過汽車的GPS系統(tǒng)和飛機的自動駕駛系統(tǒng)存在的問題此叠，將這兩點考慮在一起纯续，你就會明白自動駕駛汽車的缺點。

克里斯·厄姆森（ Chris Urmson）是谷歌自動駕駛汽車的項目負責人灭袁，他希望自動駕駛汽車能盡快批量生產(chǎn)猬错，這樣他的兒子就不用考駕照了。2020年茸歧，他的大兒子就滿16歲了倦炒，厄姆森覺得不能再等了。和飛機的自動駕駛系統(tǒng)不同软瞎，自動駕駛汽車不需要駕駛員逢唤。這種汽車沒有方向盤拉讯，不少人擔心如果哪一天它們也往海里跑，可得找個方法及時從車里跳出去氨钆骸魔慷！

自動駕駛汽車遭遇的反對聲音不少，小厄姆森想開上自動駕駛汽車恐怕還得等一段時間著恩≡憾卡內(nèi)基梅隆大學的自動駕駛專家拉杰拉杰庫馬爾（ Raj Rajkumar）認為，要研發(fā)出可靠的自動駕駛汽車至少還要一二十年喉誊。在此之前邀摆，我們可以嘗試讓自動駕駛程序負責簡單的路況，而復雜的路況還是交給司機吧伍茄。

自動駕駛程序會不斷改進栋盹，能夠處理的路況也會越來越復雜，直到有一天完全不需要司機敷矫。最后一步將是一個由量變到質(zhì)變的微小飛躍例获，它的出現(xiàn)幾乎很難察覺』龋”拉杰庫馬爾在一個廣播節(jié)目中說躏敢，“即便如此闷愤，意外還是有可能發(fā)生整葡。”這聽上去可不怎么吉利讥脐，卻在情理之中遭居。當路況變得復雜時，汽車便將駕駛權(quán)交給司機旬渠。乍一聽俱萍，沒毛病啊告丢！可是枪蘑，如果我們期待汽車能夠判斷何時交出控制權(quán)，就等于說岖免，我們期待它能清楚地判斷自己的局限岳颇，知道自己什么時候搞得定，什么時候搞不定這些問題即便是人類自己都弄不清楚颅湘，你還指望電腦话侧！

退一步講，即便電腦準確判斷出何時交出駕駛權(quán)闯参，這時候駕駛員又該如何處理呢瞻鹏？連法航訓練有素的飛行員在自動駕駛系統(tǒng)關(guān)閉時都不能正確應對突發(fā)情況悲立，更別說普通人了。密歇根大學的安·普拉丹（ Anuj K. Pradhan）說：“人類還沒有習慣自動駕駛汽車新博，需要我們上的時候薪夕，可能真反應不過來查近。

當自動駕駛系統(tǒng)把控制權(quán)交給司機的時候蛛碌，多半是在極具挑戰(zhàn)的突發(fā)情況下。當空客A330的自動駕駛系統(tǒng)關(guān)閉時呛牲，三名法航的飛行員只有兩到三分鐘的時間來弄清楚他們應該如何應對涩蜘。想象一下嚼贡，我們坐在自動駕駛汽車里玩手機，突然汽車發(fā)出“自動駕駛模式退出”的警報同诫，我們立刻丟下手機準備接手粤策，卻看見一輛公交車迎面開來，越來越近误窖、越來越近叮盘。

安普拉丹提出只有那些已有多年駕駛經(jīng)驗的司機，才有資格駕駛自動汽車霹俺。不過柔吼，這很難從根本上解決問題。無論駕駛員有多少年的經(jīng)驗丙唧，一旦退居二線讓電腦接手愈魏，他的技能就會逐漸退化。普拉丹的提議細想起來讓人不寒而栗：我們先讓新手在其最容易發(fā)生事故的階段駕駛手動車想际，等他們積累了一定的駕駛經(jīng)驗培漏，再把他們放進自動駕駛汽車，然后過不了多久胡本，疏于練習的他們又會退化成新手牌柄。

厄爾維納說：“電子設(shè)備解決了小麻煩卻制造了大麻煩〔喔Γ”了解了飛機的自動駕駛系統(tǒng)和谷歌的自動駕駛汽車之后珊佣，我們還可以補充說：正是因為電子設(shè)備逐一排除了所有小錯誤，反而給大錯誤可乘之機披粟。為何如此咒锻？科技在解放雙手的同時，剝奪了我們練習專業(yè)技能的機會僻爽，一旦真正的危機到來虫碉，我們便會因為專業(yè)技能的退化而無計可施。

維納清楚地權(quán)衡了自動化的利弊胸梆。有了GPS敦捧，我不需要在旅行前規(guī)劃駕駛路線须板，確實節(jié)省了一些時間。但是兢卵，對GPS的依賴也讓我付出了代價习瑰，就比如那次鄉(xiāng)村婚禮，當我最終趕到教堂的時候秽荤，新郎已經(jīng)入場正在等候新娘甜奄，我滿是歉意∏钥睿“GPS給我節(jié)省的時間真的能彌補它給我造成的失望嗎课兄？我問自己。鑒于后來我又開始信任GPS晨继，我當時的答案應該是肯定的烟阐。

數(shù)據(jù)庫的使用同樣涉及利弊的權(quán)衡。雖然它能幫助交警查處違規(guī)停車紊扬，幫助警察阻止?jié)撛诳植婪肿拥菣C蜒茄，但是它也會“誣陷”好人，被誤會的受害者還得努力證明自己的清白：“我沒有違規(guī)停車當時正在堵車餐屎√锤穑”“這不是一個恐怖組織，這只是一個留學生校友會腹缩∮炝”而他們的解釋卻顯得那么蒼白、沒有可信度庆聘。自動化給大多數(shù)人帶來的便利能彌補它給少數(shù)人制造的麻煩嗎胜臊？這個問題雖然沒有簡單的答案勺卢，但它至少可以提醒我們?nèi)A聽這少部分受害者伙判，同時找到改進辦法。

相關(guān)閱讀
反思信息科技對人腦負面影響的好書《數(shù)字癡呆化》摘錄分享
反思信息科技工具負面影響的三大痛點