讀AI未來(lái)進(jìn)行式筆記02深度偽造.png

1. 計(jì)算機(jī)視覺(jué)

1.1. 在人的六感之中介粘，視覺(jué)是最重要的

1.1.1. 人類只要看上一眼視頻务嫡，就能瞬間在腦海中抓取并消化內(nèi)容和信息

1.1.2. 人類能夠?qū)κ挛镞M(jìn)行廣義的理解和抽象的認(rèn)知，即使同一物體在不同的角度、光線阻荒、距離下存在視覺(jué)上的差異金吗，甚至有時(shí)會(huì)被其他物體遮擋住，人類也能通過(guò)推理產(chǎn)生相應(yīng)的視覺(jué)認(rèn)知

1.1.3. 在“看”的時(shí)候餐济，調(diào)用了許多過(guò)去積累的有關(guān)這個(gè)世界的知識(shí)耘擂，包括透視現(xiàn)象、幾何學(xué)絮姆、常識(shí)醉冤，以及之前看過(guò)、學(xué)過(guò)的所有東西

1.2. Computer Vision篙悯，CV

1.2.1. 目前的計(jì)算機(jī)視覺(jué)技術(shù)已經(jīng)具備了實(shí)時(shí)處理能力

1.3. 計(jì)算機(jī)視覺(jué)是AI的一個(gè)主要分支蚁阳，它的目標(biāo)是教會(huì)電腦“看懂”世界

1.3.1. 主要研究如何讓計(jì)算機(jī)擁有“看”的能力

1.3.2. “看”不僅意味著看到并捕捉一段視頻或圖片，而且意味著能夠分析并理解圖像序列的內(nèi)容和含義

1.4. 自深度學(xué)習(xí)發(fā)明以來(lái)鸽照，我們?cè)谟?jì)算機(jī)視覺(jué)領(lǐng)域所取得的種種突破螺捐，一方面使得AI感知技術(shù)達(dá)到了空前的水平，另一方面也引起了世人對(duì)AI的重視

1.5. 避免走入所有視覺(jué)影像都真假難分的死胡同

1.5.1. 真理與早晨隨著時(shí)間的流逝變得光明

1.5.1.1. 非洲諺語(yǔ)

1.6. 功能

1.6.1. 圖像采集和處理

1.6.1.1. 使用攝像頭及其他類型的傳感器采集真實(shí)世界中的三維場(chǎng)景，將其轉(zhuǎn)化為視頻

1.6.1.2. 每段視頻就是一系列的圖像定血，而每個(gè)圖像都是一個(gè)二維矩陣赔癌，矩陣?yán)锏拿總€(gè)點(diǎn)都代表人所能看到的顏色

1.6.1.3. 點(diǎn)也就是所謂的“像素”

1.6.2. 目標(biāo)檢測(cè)和圖像分割

1.6.2.1. 把圖像劃分為若干個(gè)不同區(qū)域和物體

1.6.3. 目標(biāo)識(shí)別

1.6.3.1. 對(duì)物體進(jìn)行識(shí)別，并在此基礎(chǔ)上掌握更多的細(xì)節(jié)特征

1.6.4. 目標(biāo)追蹤

1.6.4.1. 在視頻中定位和跟蹤物體

1.6.5. 動(dòng)作識(shí)別

1.6.5.1. 對(duì)動(dòng)作和手勢(shì)進(jìn)行識(shí)別

1.6.6. 場(chǎng)景理解

1.6.6.1. 對(duì)一個(gè)完整的場(chǎng)景進(jìn)行分析并理解澜沟，掌握其中復(fù)雜而微妙的關(guān)系

1.7. 應(yīng)用

1.7.1. 化身汽車上的“助理駕駛員”届榄，監(jiān)測(cè)人類駕駛員是否疲勞駕駛

1.7.2. 進(jìn)駐無(wú)人超市（如天貓無(wú)人超市），通過(guò)攝像頭自動(dòng)識(shí)別顧客把商品放進(jìn)購(gòu)物車的過(guò)程

1.7.3. 為機(jī)場(chǎng)提供安全保障倔喂，用于清點(diǎn)人數(shù)铝条，識(shí)別是否有恐怖分子出沒(méi)

1.7.4. 姿態(tài)識(shí)別，開發(fā)Xbox舞蹈游戲席噩，為用戶的動(dòng)作打分

1.7.5. 人臉識(shí)別班缰，讓用戶“刷臉”解鎖手機(jī)

1.7.6. 智能相機(jī)，iPhone的人像模式可以識(shí)別并提取前景中的人物悼枢，巧妙地讓背景虛化埠忘，效果堪比單反相機(jī)

1.7.7. 應(yīng)用于軍事領(lǐng)域，將敵方士兵與平民區(qū)分開馒索，或打造無(wú)人機(jī)和自動(dòng)駕駛汽車

1.7.8. 對(duì)照片和視頻進(jìn)行智能編輯莹妒，在計(jì)算機(jī)視覺(jué)技術(shù)的支持下，可以實(shí)現(xiàn)優(yōu)化摳圖绰上、去紅眼旨怠、美化自拍等功能

1.7.9. 醫(yī)學(xué)圖像分析，比如檢查判斷肺部CT中是否有惡性腫瘤

1.7.10. ⑩內(nèi)容過(guò)濾蜈块，監(jiān)測(cè)社交媒體上是否出現(xiàn)色情鉴腻、暴力等內(nèi)容

1.7.11. ⑾根據(jù)一段視頻內(nèi)容搭配相關(guān)廣告

1.7.12. ⑿實(shí)現(xiàn)智能圖像搜索，根據(jù)關(guān)鍵字或圖像線索查找目標(biāo)圖像

1.7.13. ⒀實(shí)現(xiàn)換臉術(shù)百揭，把原視頻中A的臉替換為B的臉

2. 卷積神經(jīng)網(wǎng)絡(luò)

2.1. CNN

2.2. 在20世紀(jì)80年代首次提出了“卷積神經(jīng)網(wǎng)絡(luò)”這個(gè)概念

2.2.1. 當(dāng)時(shí)并沒(méi)有足夠的數(shù)據(jù)和算力讓卷積神經(jīng)網(wǎng)絡(luò)發(fā)揮應(yīng)有的作用

2.3. 直到2012年前后爽哎，人們才清楚地意識(shí)到這項(xiàng)技術(shù)有潛力擊敗所有傳統(tǒng)的計(jì)算機(jī)視覺(jué)技術(shù)

2.3.1. 在2012年前后，人們用開始流行起來(lái)的智能手機(jī)拍攝了海量的圖像及視頻器一，然后把它們分享到社交網(wǎng)絡(luò)上课锌，深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練才有了充足的數(shù)據(jù)

2.3.2. 高速計(jì)算機(jī)和大容量存儲(chǔ)設(shè)備的價(jià)格大幅下降，為計(jì)算機(jī)視覺(jué)技術(shù)提供了算力支持

2.3.3. 這些要素匯合到一起祈秕，共同促進(jìn)了計(jì)算機(jī)視覺(jué)技術(shù)的發(fā)展和成熟

2.4. 基于標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)并非易事

2.4.1. 卷積神經(jīng)網(wǎng)絡(luò)是為計(jì)算機(jī)視覺(jué)而生的一種改良版深度學(xué)習(xí)模型架構(gòu)渺贤，而且有不同版本的變體，適用于處理不同類型的圖像和視頻

2.5. 卷積神經(jīng)網(wǎng)絡(luò)（CNN）就是受人類視覺(jué)工作機(jī)制的啟發(fā)而產(chǎn)生的

2.5.1. 每個(gè)卷積神經(jīng)網(wǎng)絡(luò)中都有大量類似于人腦感受野的濾波器

2.5.2. 每個(gè)濾波器的輸出踢步，都是它所檢測(cè)的特征的置信度

2.6. 深度學(xué)習(xí)的原理癣亚，就是通過(guò)不斷向模型“投喂”大量的圖像實(shí)現(xiàn)模型的優(yōu)化丑掺，在這個(gè)過(guò)程中获印，卷積神經(jīng)網(wǎng)絡(luò)的所有濾波器都將自主學(xué)會(huì)應(yīng)該提取哪一個(gè)特征

2.7. 在實(shí)際訓(xùn)練中，卷積神經(jīng)網(wǎng)絡(luò)將以最大化目標(biāo)函數(shù)為前提，自主決策每一層濾波器會(huì)提取哪些特征兼丰，也許是條紋玻孟、耳朵，但更可能是一些超出人類理解范疇的特征

3. 生成式對(duì)抗網(wǎng)絡(luò)

3.1. 第一篇有關(guān)GAN的論文發(fā)表于2014年

3.1.1. GAN技術(shù)已經(jīng)被應(yīng)用于視頻鳍征、演講和許多其他形式的內(nèi)容之中

3.2. GAN

3.2.1. GAN是由一對(duì)互相對(duì)抗（博弈）的網(wǎng)絡(luò)組成的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)

3.2.1.1. 經(jīng)過(guò)數(shù)百萬(wàn)次這樣的“對(duì)抗”之后黍翎，生成式網(wǎng)絡(luò)和判別式網(wǎng)絡(luò)的能力會(huì)不斷提升，直至最終達(dá)到平衡

3.2.2. 其中的一個(gè)網(wǎng)絡(luò)名為生成式網(wǎng)絡(luò)艳丛，負(fù)責(zé)嘗試生成一些看起來(lái)很真實(shí)的東西匣掸，例如基于數(shù)百萬(wàn)張狗的圖片，合成一張?zhí)摌?gòu)的狗的圖片

3.2.2.1. 生成式網(wǎng)絡(luò)會(huì)根據(jù)判別式網(wǎng)絡(luò)的反饋氮双，重新進(jìn)行自我訓(xùn)練碰酝，努力讓損失函數(shù)最小化，即縮小真實(shí)圖片與合成圖片之間的差異戴差，朝著下一次能夠成功愚弄判別式網(wǎng)絡(luò)的目標(biāo)邁進(jìn)

3.2.3. 另一個(gè)網(wǎng)絡(luò)名為判別式網(wǎng)絡(luò)送爸，它會(huì)把生成式網(wǎng)絡(luò)所合成的狗的圖片與真實(shí)的狗的圖片進(jìn)行比較，確定生成式網(wǎng)絡(luò)的輸出是真是假

3.2.3.1. 判別式網(wǎng)絡(luò)也會(huì)重新進(jìn)行自我調(diào)整暖释，努力讓損失函數(shù)最大化袭厂，希望練就火眼金睛，不被生成式網(wǎng)絡(luò)蒙騙

3.3. 超對(duì)抗性生成網(wǎng)絡(luò)

3.3.1. Hyper-Generative Adversarial Network球匕，H-GAN

3.4. 更有建設(shè)性的工作

3.4.1. 讓照片中的人物變年輕或者變老

3.4.2. 為黑白電影及照片上色

3.4.3. 讓靜態(tài)的畫作（如《蒙娜麗莎》）動(dòng)起來(lái)

3.4.4. 提高分辨率

3.4.5. 檢測(cè)青光眼

3.4.6. 預(yù)測(cè)氣候變化帶來(lái)的影響

3.4.7. 發(fā)現(xiàn)新藥

3.5. 不能把GAN和Deepfake畫上等號(hào)纹磺，因?yàn)檫@項(xiàng)技術(shù)的積極影響將遠(yuǎn)遠(yuǎn)超過(guò)其負(fù)面影響，絕大多數(shù)新出現(xiàn)的突破性技術(shù)也都是如此

4. Deepfake

4.1. 一切都關(guān)乎成本亮曹，無(wú)論是造假還是打假

4.1.1. 如果不考慮所耗費(fèi)的時(shí)間與算力資源爽航，理論上，任何人都可以偽造出完美的圖像或視頻乾忱，可以騙過(guò)所有的防偽檢測(cè)器讥珍，直到對(duì)方訓(xùn)練出下一個(gè)更強(qiáng)大的版本

4.1.2. 這是一場(chǎng)永無(wú)休止的矛與盾之戰(zhàn)，因此聰明的策略就變得尤其重要

4.2. 深度偽造

4.2.1. 難題是窄瘟，如何讓假的變得更假

4.3. 深度偽造（Deepfake）攻守雙方的拉鋸戰(zhàn)就將演變成一場(chǎng)軍備競(jìng)賽——擁有更多算力的一方會(huì)獲得最終的勝利

4.3.1. 發(fā)達(dá)國(guó)家在大約10年內(nèi)就能部署昂貴的計(jì)算機(jī)來(lái)防御Deepfake衷佃，也有足夠好的復(fù)雜工具和AI專家來(lái)進(jìn)行防御，進(jìn)而率先實(shí)施相關(guān)的反Deepfake法案

4.4. 偽造者和鑒別者之間高精尖版“貓抓老鼠”的博弈史無(wú)前例地上演著

4.4.1. 利用技術(shù)手段欺騙人類視覺(jué)

4.4.2. 如果AI不僅可以看見蹄葱、識(shí)別物體氏义，還能對(duì)其加以理解及合成，那么就可以巧妙利用這些能力图云，創(chuàng)造出讓人們無(wú)法分辨真?zhèn)蔚膱D像和視頻

4.4.3. 人們?cè)僖矡o(wú)法單純依靠肉眼來(lái)辨別一段視頻究竟是實(shí)地拍攝的惯悠，還是利用技術(shù)手段偽造的

4.4.4. 一旦知道了漁網(wǎng)是如何織成的，也就知道了如何利用縱橫交錯(cuò)的網(wǎng)線中間的空隙

4.4.4.1. 無(wú)論空間多么狹小竣况，漏網(wǎng)之魚都能找到機(jī)會(huì)

4.5. DeepMask模型

4.5.1. 算法“面具”應(yīng)用在任何以阿瑪卡或那位富家小姐為主角的視頻上克婶，便可以實(shí)現(xiàn)肉眼無(wú)法分辨的換臉效果

4.5.2. 如果網(wǎng)速足夠快，還可以實(shí)時(shí)換臉，樂(lè)趣更多情萤，但也需要付出更多的額外勞動(dòng)

4.5.3. 用TransVoice和Lipsync開源工具包合成語(yǔ)音和與之相匹配的嘴唇動(dòng)作鸭蛙，替換視頻中相應(yīng)的部分

4.6. 用在有益的方面

4.6.1. 給醫(yī)療AI的訓(xùn)練數(shù)據(jù)集換臉以保護(hù)隱私，同時(shí)保留患者的面部病征

4.6.2. 給老舊的黑白影片上色筋岛、提高分辨率娶视，甚至修改演員嘴形以配合不同的語(yǔ)言

4.6.3. 通過(guò)圖像快速評(píng)估水果和農(nóng)產(chǎn)品質(zhì)量

4.6.4. 拍一部真正的電影

4.7. 在我們的世界里，未來(lái)的所有數(shù)字信息都有被偽造的可能

4.7.1. 通過(guò)制造謊言來(lái)消除謊言

4.7.2. 無(wú)論是線上的視頻睁宰、錄音肪获，還是安保攝像頭拍攝的畫面，甚至法庭上的視頻證據(jù)柒傻，都有可能是假的

4.7.3. 除了偽造傳播性極廣的謠言或假新聞贪磺，Deepfake還可能被有心之人用于偽造證據(jù)、敲詐勒索诅愚、騷擾寒锚、誹謗，更嚴(yán)重的還會(huì)操縱選舉

4.8. 目前大多數(shù)Deepfake視頻都可以被算法檢測(cè)到违孝，有時(shí)甚至用人眼就可以辨別出來(lái)刹前，原因在于，這些視頻在制作時(shí)使用的算法還不夠完善雌桑，而且沒(méi)有足夠的算力做支撐

4.8.1. 為了以AI制AI喇喉，F(xiàn)acebook和谷歌都曾發(fā)起過(guò)Deepfake視頻鑒別挑戰(zhàn)賽

4.8.2. 嚴(yán)苛的防偽檢測(cè)器消耗的算力非常大，如果一個(gè)網(wǎng)站每天都會(huì)收到數(shù)百萬(wàn)段用戶上傳的視頻校坑，那么防偽檢測(cè)器的有效性就將大打折扣

4.8.3. 長(zhǎng)遠(yuǎn)來(lái)看拣技，阻止Deepfake的最大難點(diǎn)其實(shí)在于GAN的內(nèi)在機(jī)制——生成式網(wǎng)絡(luò)和判別式網(wǎng)絡(luò)會(huì)在一次次“博弈”之后攜手升級(jí)

4.9. 針對(duì)Deepfake視頻的防偽軟件將成為類似于殺毒軟件的存在

5. 防偽檢測(cè)

5.1. 過(guò)于嚴(yán)苛的防偽檢測(cè)器設(shè)置會(huì)消耗大量算力成本，同時(shí)讓視頻加載速度變得緩慢耍目，影響用戶體驗(yàn)

5.2. 政府網(wǎng)站和官方新聞網(wǎng)站數(shù)據(jù)流量有限膏斤，其防偽檢測(cè)器會(huì)采用最高級(jí)別的設(shè)置

5.2.1. 會(huì)設(shè)置強(qiáng)度最高的防偽檢測(cè)器，以甄別網(wǎng)站上是否有由強(qiáng)大算力訓(xùn)練而成的GAN生成的高質(zhì)量偽造視頻

5.3. 一般的社交網(wǎng)站和視頻平臺(tái)邪驮，則會(huì)針對(duì)當(dāng)下最流行的偽造算法進(jìn)行精確打擊莫辨，其防偽級(jí)別會(huì)根據(jù)內(nèi)容傳播的數(shù)據(jù)量動(dòng)態(tài)調(diào)整，數(shù)據(jù)量越大毅访，檢測(cè)越嚴(yán)苛

5.4. 防偽檢測(cè)器的所有檢測(cè)沮榜，包括色彩失真、噪點(diǎn)模式喻粹、壓縮率變化蟆融、眨眼頻率、生物信號(hào)等

5.5. VIP檢測(cè)器

5.5.1. 針對(duì)的正是那些流量最大的意見領(lǐng)袖

5.5.1.1. 政要守呜、官員型酥、明星山憨、運(yùn)動(dòng)員、知名作家等

5.5.2. 為了防止這些賽博空間里的超級(jí)節(jié)點(diǎn)遭到仿冒冕末，對(duì)現(xiàn)實(shí)秩序造成巨大破壞萍歉，網(wǎng)站不得不采用融合了多種信號(hào)的檢測(cè)器算法

5.5.3. 算法包括但不局限于超高分辨率的面部識(shí)別侣颂，結(jié)合傳感器和人體工程學(xué)的步態(tài)識(shí)別档桃、手/指幾何學(xué)識(shí)別和體態(tài)識(shí)別，涉及語(yǔ)音憔晒、語(yǔ)義及情感計(jì)算的說(shuō)者識(shí)別藻肄，從真實(shí)視頻中采集生物信號(hào)進(jìn)行脈搏識(shí)別，等等

5.5.4. 所有這些數(shù)據(jù)均來(lái)自真實(shí)的名人拒担，交給H-GAN進(jìn)行深度學(xué)習(xí)嘹屯，在不斷與偽造者升級(jí)對(duì)抗后得到近乎完美的模型，再融入一個(gè)更大的監(jiān)測(cè)系統(tǒng)以發(fā)揮作用

5.5.5. VIP檢測(cè)器甚至?xí)⒁粋€(gè)人的病史檔案作為數(shù)據(jù)參照从撼，前提是這個(gè)人足夠重要

5.6. 檢測(cè)準(zhǔn)確率能夠達(dá)到100%的防偽檢測(cè)器

5.6.1. 這在未來(lái)并非無(wú)法實(shí)現(xiàn)州弟，只不過(guò)可能需要采用一種完全不同的檢測(cè)方法

5.6.1.1. 每臺(tái)設(shè)備在捕捉視頻或照片時(shí)，就對(duì)每段視頻和每張照片進(jìn)行認(rèn)證低零，用區(qū)塊鏈保證它是原版的婆翔，絕對(duì)沒(méi)有經(jīng)過(guò)篡改

5.6.1.2. 每個(gè)網(wǎng)站在用戶上傳內(nèi)容時(shí)，只要確認(rèn)該內(nèi)容是原版的掏婶，就不存在偽造的可能了

5.6.1.3. 這種方法落地的前提之一是啃奴，讓所有電子設(shè)備都部署上區(qū)塊鏈技術(shù)（就像如今的AV播放器全部帶有杜比音效)

5.7. 需要出臺(tái)相應(yīng)的法律，對(duì)惡意制造Deepfake的人采取嚴(yán)厲的處罰措施雄妥，以威懾潛在的犯罪者

6. 三維建模

6.1. 這種方法與3D動(dòng)畫片《玩具總動(dòng)員》的制作過(guò)程類似

6.2. 屬于計(jì)算機(jī)科學(xué)分支之一——計(jì)算機(jī)圖形學(xué)的研究范疇最蕾，這是一門使用數(shù)學(xué)算法對(duì)一切事物進(jìn)行建模的學(xué)科，哪怕是像頭發(fā)老厌、微風(fēng)瘟则、陽(yáng)光、陰影一樣細(xì)微的事物枝秤，也要有相應(yīng)的數(shù)學(xué)模型

6.3. 三維建模方法的優(yōu)點(diǎn)在于壹粟，人們的創(chuàng)作自由度較高，可以隨心所欲地創(chuàng)建各種物體宿百，并操縱這個(gè)物體去做各種事情

6.4. 這種方法的缺點(diǎn)是計(jì)算復(fù)雜程度更高趁仙，對(duì)算力的要求也更大

7. 生物特征識(shí)別

7.1. 主要用于實(shí)時(shí)的身份鑒定

7.2. 實(shí)時(shí)的身份鑒定可以更精確，因?yàn)榭梢杂玫綌z像頭之外的傳感器垦页，比如可以實(shí)時(shí)捕捉虹膜和指紋的傳感器

7.2.1. 這兩種數(shù)據(jù)都是獨(dú)一無(wú)二的雀费，非常適合用于身份鑒定

7.2.2. 虹膜識(shí)別是被大眾認(rèn)可的最為精準(zhǔn)的生物特征識(shí)別方法

7.2.2.1. 虹膜識(shí)別是在紅外線的照射下捕捉并記錄一個(gè)人的虹膜信息，然后將其與預(yù)先存儲(chǔ)的虹膜特征進(jìn)行比對(duì)

7.2.3. 指紋識(shí)別的準(zhǔn)確率也非常高

7.2.4. 虹膜識(shí)別和指紋識(shí)別都離不開特定的近場(chǎng)傳感器裝置的輔助與配合

7.3. 在識(shí)別及鑒定任何單一維度的生物特征（例如人臉識(shí)別或語(yǔ)者聲音識(shí)別）方面痊焊，AI的準(zhǔn)確率已經(jīng)超過(guò)了人類的平均水平

7.4. 在綜合考量多維度生物特征的情況下盏袄，AI的識(shí)別準(zhǔn)確度已經(jīng)趨于完美

7.5. 智能生物特征識(shí)別技術(shù)將更廣泛地應(yīng)用于刑事調(diào)查和取證忿峻，可以解決更多的犯罪問(wèn)題，甚至有助于降低人類的犯罪率

8. AI安全

8.1. 隨著技術(shù)的不斷進(jìn)步辕羽，任何計(jì)算平臺(tái)都可能出現(xiàn)漏洞及安全隱患

8.2. 隨著AI的普及逛尚，AI本身也將暴露出各種漏洞并遭到各方的攻擊，Deepfake反映出的只是其中的一個(gè)漏洞而已

8.3. 專門設(shè)計(jì)的對(duì)抗性輸入是針對(duì)AI系統(tǒng)的攻擊方法之一

8.3.1. 設(shè)計(jì)了一副新款太陽(yáng)鏡刁愿，讓AI系統(tǒng)把戴上眼鏡的他錯(cuò)認(rèn)成了女演員米拉·喬沃維奇

8.3.2. 在路面上貼了一些貼紙绰寞，成功愚弄了特斯拉Model S型車上的自動(dòng)駕駛系統(tǒng)，讓其決定轉(zhuǎn)換車道铣口，直接開向迎面駛來(lái)的車輛

8.4. 一種攻擊AI系統(tǒng)的方法是對(duì)數(shù)據(jù)“下毒”

8.4.1. 攻擊者通過(guò)“污染”訓(xùn)練數(shù)據(jù)滤钱、訓(xùn)練模型或訓(xùn)練過(guò)程，來(lái)破壞AI系統(tǒng)的學(xué)習(xí)過(guò)程

8.4.2. 這可能導(dǎo)致整個(gè)AI系統(tǒng)徹底崩潰脑题，或者被犯罪者控制

8.4.3. 對(duì)數(shù)據(jù)“下毒”的攻擊手段更難被人類察覺(jué)

8.4.3.1. 模型中的復(fù)雜運(yùn)算全部在成千上萬(wàn)層的神經(jīng)網(wǎng)絡(luò)中自主進(jìn)行件缸，而不是按照確切代碼的指引進(jìn)行的，所以AI系統(tǒng)先天就具有不可解釋性叔遂，也不容易被“調(diào)試”

8.5. 加強(qiáng)模型訓(xùn)練及執(zhí)行環(huán)境的安全性他炊，創(chuàng)建自動(dòng)檢查“中毒”跡象的工具，以及開發(fā)專門用于防止篡改數(shù)據(jù)或與其類似的規(guī)避手段的技術(shù)

8.6. 過(guò)去通過(guò)技術(shù)創(chuàng)新攻克了垃圾郵件已艰、電腦病毒等一道道關(guān)卡一樣

8.6.1. 技術(shù)創(chuàng)新也能大大提高未來(lái)AI技術(shù)的安全性痊末，盡量減少給人類帶來(lái)的困擾

8.6.2. 技術(shù)創(chuàng)新所帶來(lái)的問(wèn)題，最終還是要依靠新的技術(shù)創(chuàng)新來(lái)進(jìn)行改善或徹底解決