回顧諾伯特·維納（Norbert Wiener）1950年出版的開創(chuàng)性著作《人有人的用處》（The Human Use of Human being）浩嫌。

《人有人的用處》溶其，諾伯特·維納（Norbert Wiener）在1950年出版了影響深遠(yuǎn)的著作《控制論：或關(guān)于在動物和機(jī)器中控制和通訊的科學(xué)》（1948）束铭，在一個(gè)機(jī)器變得越來越具有計(jì)算能力和強(qiáng)大的世界里带猴，研究人類和機(jī)器之間的相互作用会通。這是一本非常有先見之明的書沪停，但卻大錯(cuò)特錯(cuò)。這本書寫于冷戰(zhàn)高峰時(shí)期，提醒人們極權(quán)主義組織和社會的危險(xiǎn)浮声，以及當(dāng)它試圖用極權(quán)主義的武器來對抗極權(quán)主義時(shí)，提醒民主的危險(xiǎn)剧浸。

維納的控制論通過反饋對控制過程進(jìn)行了詳細(xì)的科學(xué)研究吨艇。因?yàn)樗两诳刂频膯栴}中冯吓，維納把世界看作是一組復(fù)雜的凸舵、連鎖的反饋回路，其中傳感器增热、信號和執(zhí)行器（如發(fā)動機(jī)）通過復(fù)雜的信號和信息交換相互作用。控制論的工程應(yīng)用產(chǎn)生了巨大的影響和效果，產(chǎn)生了火箭、機(jī)器人步做、自動化裝配線和大量精密工程技術(shù)——換句話說将鸵，為當(dāng)代工業(yè)社會奠定了基礎(chǔ)一喘。

維納對控制論概念有更大的野心，然而，在《人有人的用處》中，他詳細(xì)闡述了自己的思想，并將其應(yīng)用于各種各樣的主題，包括麥克斯韋妖（Maxwell’s demon）、人類語言砂轻、大腦、昆蟲新陳代謝庄呈、法律體系傀广、技術(shù)創(chuàng)新在政府中的作用，以及宗教。控制論的這些更廣泛的應(yīng)用幾乎毫無疑問是失敗的。從20世紀(jì)40年代末到60年代初梢杭，控制論被大肆宣傳——某種程度上類似于計(jì)算機(jī)和通信技術(shù)的大肆宣傳武契，這導(dǎo)致了2000年至2001年互聯(lián)網(wǎng)泡沫的破滅——它提供了衛(wèi)星和電話交換系統(tǒng)，但在社會組織和整個(gè)社會中幾乎沒有產(chǎn)生任何有用的發(fā)展钧排。

然而恨溜，將近70年后躺盛，《人有人的用處》比第一次有更多的東西要教給我們?nèi)祟悺Ｒ苍S這本書最顯著的特點(diǎn)是各薇，它介紹了大量有關(guān)人機(jī)交互的主題，這些主題仍然具有相當(dāng)大的相關(guān)性。這本書基調(diào)陰暗贝润，對20世紀(jì)下半葉將發(fā)生的災(zāi)難做了幾次預(yù)測，其中許多預(yù)測與今天對21世紀(jì)下半葉的預(yù)測幾乎相同侣夷。

例如百拓，維納預(yù)見了1950年不久的將來地回，人類將把對社會的控制拱手讓給具有控制能力的人工智能皮获，然后它將對人類造成巨大的破壞制恍。維納預(yù)測，制造業(yè)的自動化將會大大提高生產(chǎn)率溉委，使許多工人失業(yè)——在接下來的幾十年里確實(shí)發(fā)生了一系列事件鹃唯。維納警告說，除非社會能為這些流離失所的工人找到生產(chǎn)性的職業(yè)瓣喊，否則反抗就會接踵而至坡慌。

但是維納沒有預(yù)見到關(guān)鍵的技術(shù)發(fā)展。與上世紀(jì)50年代的幾乎所有技術(shù)專家一樣型宝，他未能預(yù)測到計(jì)算機(jī)革命八匠。他認(rèn)為，計(jì)算機(jī)的價(jià)格最終會從幾十萬美元（上世紀(jì)50年代）降到幾萬美元趴酣；他和他的同事們都沒有預(yù)料到隨著晶體管和集成電路的發(fā)展梨树，計(jì)算機(jī)能力會有巨大的爆炸。最后岖寞，由于他對控制的強(qiáng)調(diào)抡四，維納無法預(yù)見一個(gè)創(chuàng)新和自組織是自下而上，而不是自上而下的技術(shù)世界仗谆。

著眼于極權(quán)主義（政治指巡、科學(xué)和宗教)的邪惡，維納對世界的看法極為悲觀隶垮。他的書警告說藻雪，如果我們不盡快改過自新，等待我們的將是一場災(zāi)難狸吞。這本書出版后的半個(gè)多世紀(jì)勉耀，當(dāng)今的人類和機(jī)器世界比他所能想象的要復(fù)雜得多指煎、豐富得多，包含的政治便斥、社會和科學(xué)體系也要廣泛得多至壤。然而，如果我們做錯(cuò)了枢纠，將會發(fā)生什么的警告——例如像街，全球極權(quán)主義政權(quán)對整個(gè)互聯(lián)網(wǎng)的控制——今天仍然和1950年一樣重要和緊迫。

維納做對了什么

維納最著名的數(shù)學(xué)著作集中在信號分析和噪聲影響的問題上晋渺。在第二次世界大戰(zhàn)期間镰绎，他開發(fā)了瞄準(zhǔn)防空火力的技術(shù)，通過建立模型木西，通過推斷飛機(jī)過去的行為來預(yù)測飛機(jī)未來的軌跡跟狱。在《控制論》和《人有人的用處》中，維納指出户魏，過去的行為包括人類飛行員的怪癖和習(xí)慣驶臊；因此，一個(gè)機(jī)械裝置可以預(yù)測人類的行為叼丑。艾倫·圖靈（Alan Turing）的圖靈測試表明关翎，計(jì)算機(jī)可以回答那些與人類的回答難以區(qū)分的問題，和艾倫一樣鸠信，維納著迷于用數(shù)學(xué)描述來捕捉人類行為的概念纵寝。20世紀(jì)40年代，他將控制和反饋回路的知識應(yīng)用到生物系統(tǒng)的神經(jīng)肌肉反饋中星立，并負(fù)責(zé)將沃倫·麥卡洛克（Warren McCulloch）和沃爾特·皮茨（Walter Pitts）帶到麻省理工學(xué)院爽茴，在那里他們進(jìn)行了人工神經(jīng)網(wǎng)絡(luò)的開創(chuàng)性工作。

維納的核心觀點(diǎn)是绰垂，世界應(yīng)該用信息來理解室奏。復(fù)雜的系統(tǒng)，如有機(jī)體劲装、大腦和人類社會胧沫，由環(huán)環(huán)相扣的反饋回路組成，子系統(tǒng)之間的信號交換導(dǎo)致復(fù)雜而穩(wěn)定的行為占业。當(dāng)反饋回路崩潰時(shí)绒怨，系統(tǒng)就不穩(wěn)定了。他構(gòu)建了一幅令人信服的關(guān)于復(fù)雜生物系統(tǒng)如何運(yùn)作的畫面谦疾，這幅畫面在今天基本上被普遍接受南蹂。

維納將信息視為控制復(fù)雜系統(tǒng)行為的核心量的觀點(diǎn)在當(dāng)時(shí)是很了不起的。如今念恍，當(dāng)汽車和冰箱塞滿了微處理器六剥，而人類社會的大部分都圍繞著由互聯(lián)網(wǎng)連接起來的電腦和手機(jī)佑附，強(qiáng)調(diào)信息、計(jì)算和通信的中心地位似乎是平淡無奇的仗考。然而，在維納的時(shí)代词爬，第一臺數(shù)字計(jì)算機(jī)才剛剛出現(xiàn)秃嗜，互聯(lián)網(wǎng)在技術(shù)專家眼中甚至還沒有出現(xiàn)。

維納不僅設(shè)計(jì)了復(fù)雜系統(tǒng)顿膨，而且把所有復(fù)雜系統(tǒng)都看作是圍繞信號和計(jì)算的循環(huán)锅锨，這一強(qiáng)有力的概念為復(fù)雜人工系統(tǒng)的發(fā)展做出了巨大貢獻(xiàn)。例如恋沃，他和其他人開發(fā)的控制導(dǎo)彈的方法必搞，后來被用于建造土星五號月球火箭，這是20世紀(jì)最偉大的工程成就之一囊咏。尤其是恕洲，維納將控制論概念應(yīng)用于大腦和計(jì)算機(jī)化感知，是當(dāng)今基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)回路和人工智能本身的直接前身梅割。但目前這些領(lǐng)域的發(fā)展已經(jīng)偏離了他的設(shè)想霜第，它們未來的發(fā)展很可能會影響人類和機(jī)器的使用。

維納弄錯(cuò)了什么

正是在將控制論的概念擴(kuò)展到人類的過程中户辞，維納的概念沒有達(dá)到其目的泌类。暫且把他對語言、法律和人類社會的思考放在一邊底燎，讓我們來看看1950年他認(rèn)為即將出現(xiàn)的一項(xiàng)更不起眼但可能有用的創(chuàng)新刃榨。維納指出，如果假肢的佩戴者能夠通過自己的神經(jīng)信號直接與假肢進(jìn)行交流双仍，從假肢接收壓力和位置信息枢希，并指導(dǎo)假肢的后續(xù)運(yùn)動，假肢將會更加有效朱沃。事實(shí)證明晴玖，這個(gè)問題比維納設(shè)想的要困難得多：七十年后，包含神經(jīng)反饋的假肢仍處于非常早期的階段为流。維納的概念非常好——只是神經(jīng)信號與機(jī)電設(shè)備的接口問題很難解決呕屎。

更重要的是，維納（以及1950年的幾乎所有人）大大低估了數(shù)字計(jì)算的潛力敬察。如前所述秀睛，維納的數(shù)學(xué)貢獻(xiàn)在于對信號和噪聲的分析，而他的分析方法適用于連續(xù)變化或模擬信號莲祸。雖然他參與了戰(zhàn)時(shí)數(shù)字計(jì)算的發(fā)展蹂安，但他從未預(yù)見到半導(dǎo)體電路的引入和逐步微型化所帶來的計(jì)算能力的指數(shù)級增長椭迎。這絕不是維納的錯(cuò)：當(dāng)時(shí)晶體管還沒有發(fā)明出來，而他所熟悉的數(shù)字計(jì)算機(jī)的真空管技術(shù)笨重田盈、不可靠畜号，而且無法擴(kuò)展到更大的設(shè)備上。在1948年版《控制論》的附錄中允瞧，他預(yù)測了會下國際象棋的計(jì)算機(jī)简软，并預(yù)測它們能夠預(yù)測兩三步。他可能會驚訝地發(fā)現(xiàn)述暂，在半個(gè)世紀(jì)內(nèi)痹升，一臺電腦將在國際象棋比賽中擊敗人類世界冠軍。

技術(shù)過度刺激與奇點(diǎn)存在的風(fēng)險(xiǎn)

當(dāng)維納寫書時(shí)畦韭，一個(gè)技術(shù)高估的重要例子即將發(fā)生疼蛾。20世紀(jì)50年代，赫伯特·西蒙（Herbert Simon）艺配、約翰·麥卡錫（John McCarthy）和馬文·明斯基（Marvin Minsky）等研究人員首次嘗試開發(fā)人工智能察郁，他們開始編寫計(jì)算機(jī)程序來執(zhí)行簡單的任務(wù)和構(gòu)造基本的機(jī)器人。這些最初努力的成功激勵(lì)西蒙宣稱“在20年內(nèi)转唉，機(jī)器將能夠做任何人類能做的工作绳锅。”事實(shí)證明酝掩，這種預(yù)測大錯(cuò)特錯(cuò)鳞芙。隨著計(jì)算機(jī)變得越來越強(qiáng)大，它們在下棋方面變得越來越好期虾，因?yàn)樗鼈兛梢韵到y(tǒng)地生成和評估大量未來可能的移動選擇原朝。但是人工智能的大部分預(yù)測，例如機(jī)器人女仆镶苞，都是虛幻的喳坠。1997年，當(dāng)深藍(lán)在國際象棋比賽中擊敗加里·卡斯帕羅夫時(shí)茂蚓，最強(qiáng)大的房間清潔機(jī)器人是Roomba壕鹉，它可以隨意地四處吸塵，當(dāng)它被夾在沙發(fā)下面時(shí)會發(fā)出吱吱的聲音聋涨。

技術(shù)預(yù)測尤其不可靠晾浴，因?yàn)榧夹g(shù)是通過一系列的改進(jìn)來進(jìn)步的，因障礙而停滯牍白，通過創(chuàng)新來克服脊凰。許多障礙和一些創(chuàng)新是可以預(yù)見的，但更多的是不能預(yù)見的茂腥。在我自己與實(shí)驗(yàn)員一起構(gòu)建量子計(jì)算機(jī)的過程中狸涌，我通常會發(fā)現(xiàn)切省，我認(rèn)為容易的一些技術(shù)步驟實(shí)際上是不可能的，而我認(rèn)為不可能的一些任務(wù)實(shí)際上是容易的帕胆。你不嘗試就不知道朝捆。

20世紀(jì)50年代，約翰·馮·諾伊曼（John von Neumann）在與維納的談話中受到了一定的啟發(fā)懒豹，提出了“技術(shù)奇點(diǎn)”（technological singularity）的概念芙盘。技術(shù)往往呈指數(shù)級發(fā)展，在一定的時(shí)間間隔內(nèi)歼捐，能力或靈敏度會翻倍。馮·諾伊曼從所觀察到的技術(shù)進(jìn)步指數(shù)中推斷晨汹，在不遠(yuǎn)的將來豹储，“技術(shù)進(jìn)步將變得不可思議地迅速和復(fù)雜”（technological progress will become incomprehensively rapid and complicated），超越人類的能力淘这。事實(shí)上剥扣，如果以目前的速度來推斷原始計(jì)算能力的增長，在未來的二铝穷、四十年里钠怯，計(jì)算機(jī)將與人腦匹敵（這取決于人們?nèi)绾喂烙?jì)人腦的信息處理能力）。

人工智能最初過于樂觀的預(yù)測失敗了曙聂，這讓關(guān)于技術(shù)奇點(diǎn)的討論沉寂了幾十年晦炊，但自從雷·庫茲韋爾（Ray Kurzweil）的《奇點(diǎn)臨近》于2005年出版以來，技術(shù)進(jìn)步將帶來超級智能的觀點(diǎn)又重新流行起來宁脊。包括庫茲韋爾在內(nèi)的一些信徒認(rèn)為断国，這個(gè)奇點(diǎn)是一個(gè)機(jī)會：人類可以將他們的大腦與超級智能融合，從而永生榆苞。其他人稳衬，如斯蒂芬·霍金和埃隆·馬斯克，擔(dān)心這種超級智能會被證明是有害的坐漏，并認(rèn)為它是對人類文明現(xiàn)存的最大威脅薄疚。還有一些人認(rèn)為這種說法言過其實(shí)。

維納一生的工作和他未能預(yù)測其后果赊琳，與即將到來的技術(shù)奇點(diǎn)的想法密切相關(guān)街夭。他在神經(jīng)科學(xué)方面的工作，以及他最初對麥卡洛克（McCulloch）和皮茨（Pitts）的支持躏筏，預(yù)示了當(dāng)今驚人有效的深度學(xué)習(xí)方法莱坎。在過去的十年里，尤其是在過去的五年里寸士，這種深度學(xué)習(xí)技巧最終展示出了維納喜歡稱之為格式塔（Gestalt）的東西——例如檐什，識別一個(gè)圓是圓的能力碴卧，即使當(dāng)它向一邊傾斜時(shí)看起來像橢圓。他在控制方面的工作乃正，加上他在神經(jīng)肌肉反饋方面的工作住册，對機(jī)器人技術(shù)的發(fā)展具有重要意義，也是基于神經(jīng)的人機(jī)界面的靈感來源瓮具。然而荧飞，他在技術(shù)預(yù)測方面的失誤表明，我們應(yīng)該對技術(shù)奇點(diǎn)的概念持懷疑態(tài)度名党。技術(shù)預(yù)測的一般困難和發(fā)展超級智能的具體問題應(yīng)該警告我們不要高估信息處理的能力和效率叹阔。

奇點(diǎn)懷疑論的論據(jù)

指數(shù)增長不會永遠(yuǎn)持續(xù)下去。核爆炸會呈指數(shù)級增長传睹，但直到燃料耗盡耳幢。同樣，摩爾定律的指數(shù)進(jìn)步也開始受到基礎(chǔ)物理學(xué)的限制欧啤。15年前睛藻，計(jì)算機(jī)的時(shí)鐘速度達(dá)到了幾十億赫茲，僅僅是因?yàn)樾酒_始融化邢隧。由于隧道效應(yīng)和泄漏電流店印，晶體管的小型化已經(jīng)遇到了量子力學(xué)問題。最終倒慧，在摩爾定律的驅(qū)動下按摘，內(nèi)存和處理方面的各種指數(shù)級改進(jìn)將逐漸停止。然而纫谅，再過幾十年院峡，計(jì)算機(jī)的原始信息處理能力可能會趕上大腦——至少以比特?cái)?shù)和每秒比特翻轉(zhuǎn)數(shù)的粗略衡量是這樣的。

人類的大腦是復(fù)雜構(gòu)造的系宜，是數(shù)百萬年的自然選擇過程照激。在維納時(shí)代，我們對大腦結(jié)構(gòu)的理解是原始而簡單的盹牧。從那以后俩垃，越來越靈敏的儀器和成像技術(shù)顯示，我們的大腦在結(jié)構(gòu)和功能上比維納想象的要復(fù)雜得多汰寓。我最近問現(xiàn)代神經(jīng)科學(xué)的先驅(qū)之一托馬斯·波吉?dú)W（Tomaso Poggio）口柳，他是否擔(dān)心隨著計(jì)算機(jī)處理能力的迅速增強(qiáng)，它們很快就會模仿人腦的功能有滑≡灸郑“不可能，”他回答。

深度學(xué)習(xí)和神經(jīng)形態(tài)計(jì)算的最新進(jìn)展非常擅長復(fù)制人類智力的一個(gè)特定方面望艺，這個(gè)方面主要關(guān)注大腦皮層的運(yùn)作苛秕，在那里模式被處理和識別。這些進(jìn)步使得計(jì)算機(jī)不僅能打敗國際象棋世界冠軍找默，還能打敗圍棋世界冠軍艇劫，這是一個(gè)令人印象深刻的壯舉，但它們還遠(yuǎn)遠(yuǎn)不能讓計(jì)算機(jī)控制的機(jī)器人整理房間惩激。

原始的信息處理能力并不意味著復(fù)雜的信息處理能力店煞。雖然計(jì)算機(jī)的能力呈指數(shù)級增長，但計(jì)算機(jī)運(yùn)行的程序卻常常毫無進(jìn)展风钻。軟件公司對提高處理能力的主要反應(yīng)之一是增加“有用的”特性顷蟀，這通常會使軟件更難使用。微軟Word在1995年達(dá)到頂峰骡技，從那以后鸣个，在新增功能的重壓下，它一直在緩慢下滑哮兰。一旦摩爾定律開始放緩毛萌，軟件開發(fā)人員將面臨效率苟弛、速度和功能之間的艱難選擇喝滞。

奇點(diǎn)主義者的一個(gè)主要擔(dān)憂是，隨著計(jì)算機(jī)越來越多地參與到設(shè)計(jì)自己的軟件中膏秫，它們將很快引導(dǎo)自己獲得超人的計(jì)算能力右遭。但是機(jī)器學(xué)習(xí)的證據(jù)指向相反的方向。隨著機(jī)器變得越來越強(qiáng)大缤削，越來越有學(xué)習(xí)能力窘哈，它們也會像人類一樣學(xué)習(xí)越來越多的東西。教育對計(jì)算機(jī)來說就像對青少年一樣艱難而緩慢亭敢。因此滚婉，基于深度學(xué)習(xí)的系統(tǒng)變得越來越人性化。它們給學(xué)習(xí)帶來的技能不是“優(yōu)于”而是“補(bǔ)充”人類學(xué)習(xí)：計(jì)算機(jī)學(xué)習(xí)系統(tǒng)可以識別人類不能識別的模式——反之亦然帅刀。世界上最好的棋手既不是計(jì)算機(jī)也不是人類让腹，而是與計(jì)算機(jī)一起工作的人。網(wǎng)絡(luò)空間確實(shí)充斥著有害的程序扣溺，但這些程序主要以惡意軟件的形式存在——病毒以其惡意的盲目而聞名骇窍，而不是其超級智能。

維納指出锥余，指數(shù)式的技術(shù)進(jìn)步是一種相對現(xiàn)代的現(xiàn)象腹纳，并不是所有的技術(shù)進(jìn)步都是好的。他認(rèn)為原子武器和帶有核彈頭的導(dǎo)彈的發(fā)展是導(dǎo)致人類物種滅亡的原因。他將地球資源的輕率開發(fā)比作《愛麗絲夢游仙境》中的瘋狂茶會：在破壞了一個(gè)地方的環(huán)境之后嘲恍，我們只要繼續(xù)破壞下一個(gè)地方的環(huán)境就能取得進(jìn)步足画。維納對計(jì)算機(jī)和神經(jīng)機(jī)械系統(tǒng)的發(fā)展持樂觀態(tài)度，但他對專制政府對這些系統(tǒng)的利用持悲觀態(tài)度蛔钙，比如蘇聯(lián)锌云，以及民主國家，比如美國吁脱，在面對獨(dú)裁主義的威脅時(shí)變得更加專制桑涎。

維納會如何看待目前人的用處？他會對計(jì)算機(jī)和互聯(lián)網(wǎng)的力量感到驚訝兼贡。他會很高興攻冷，他所扮演的早期神經(jīng)網(wǎng)絡(luò)已經(jīng)產(chǎn)生了強(qiáng)大的深度學(xué)習(xí)系統(tǒng)，這些系統(tǒng)展示了他所要求的感知能力——盡管他可能不會對這種計(jì)算機(jī)格式塔最突出的例子之一印象深刻遍希，那就是在萬維網(wǎng)上識別小貓照片的能力等曼。我懷疑他不會將機(jī)器智能視為一種威脅，而是將其視為一種獨(dú)立的現(xiàn)象凿蒜，與我們?nèi)祟惖闹悄懿煌⑴c之共同進(jìn)化。

對于全球變暖——我們這個(gè)時(shí)代的瘋狂茶黨——維納并不感到意外废封，他將為替代能源技術(shù)的指數(shù)級進(jìn)步而歡呼州泊，并將運(yùn)用他的控制論專長來開發(fā)一套復(fù)雜的反饋回路，將這些技術(shù)整合到即將到來的智能電網(wǎng)中漂洋。盡管如此遥皂，認(rèn)識到氣候變化問題的解決至少是政治上的，同時(shí)也是技術(shù)上的刽漂，他無疑會對我們及時(shí)解決這個(gè)威脅文明的問題感到悲觀演训。維納討厭叫賣者——最討厭的是政治叫賣者——但他承認(rèn)叫賣者將永遠(yuǎn)和我們在一起。

人們很容易忘記維納的世界有多可怕贝咙。美國和蘇聯(lián)正在全面展開軍備競賽样悟，在導(dǎo)航系統(tǒng)的洲際彈道導(dǎo)彈的核彈頭上安裝氫彈，維納本人——令他沮喪的是——也作出了貢獻(xiàn)庭猩。維納死的時(shí)候我才四歲窟她。1964年，我所在的幼兒園班級正在課桌下練習(xí)躲避和掩護(hù)眯娱，為核攻擊做準(zhǔn)備礁苗。考慮到人類在他那個(gè)時(shí)代的用途徙缴，如果維納能看到我們目前的狀態(tài)试伙，他的第一反應(yīng)將是慶幸我們還活著嘁信。

編譯自：What Would the Father of Cybernetics Think About A.I. Today?

相關(guān)閱讀：

論社會主義控制論、加速主義（Accelerationist）夢想和堤昆（Tiqqun）噩夢

控制論如何將計(jì)算疏叨、反主流文化和設(shè)計(jì)聯(lián)系起來

《人有人的用處》：控制論先驅(qū)諾伯特·維納（Norbert Wiener）談通信潘靖，控制和我們機(jī)器的道德