姓名：呂海森

學(xué)號(hào)：17011210545

轉(zhuǎn)載自：https://www.huxiu.com/article/225176.html

【嵌牛導(dǎo)讀】：我們都知道，許多以訛傳訛状共，引起過輿論轟動(dòng)的假照片都是PS過的套耕，不光看起來非常不真實(shí)，而且經(jīng)過一些技術(shù)手段是可以檢測(cè)的峡继。但是如果AI介入到圖像冯袍、視頻造假當(dāng)中呢？如果逼真到檢測(cè)設(shè)備都無法分辨碾牌，那被混淆視聽的我們又該如何分辨真假康愤？

【嵌牛鼻子】：AI造假、生成式對(duì)抗網(wǎng)絡(luò)

【嵌牛提問】：AI也會(huì)成為雙刃劍小染？有沒有可能打造良善 AI 專門對(duì)抗邪惡 AI翘瓮？

【嵌牛正文】：

一直以來，人類想要判斷事件真假裤翩、是非對(duì)錯(cuò)资盅，常常會(huì)說“眼見為憑”调榄、“有圖有真相”，但這些準(zhǔn)則很有可能即將失靈呵扛，因?yàn)橐豁?xiàng)被譽(yù)為近十年來機(jī)器學(xué)習(xí)領(lǐng)域最有趣的突破——生成式對(duì)抗網(wǎng)絡(luò)（GAN每庆，Generative Adversarial Networks），很有可能因?yàn)檎`用而擾亂我們的認(rèn)知今穿。

Google Brain 研究科學(xué)家 Ian Goodfellow 上個(gè)月在《麻省理工科技評(píng)論》舉辦的 EmTech 大會(huì)上警告：“未來我們可能會(huì)不得不退回到 100 年前閱讀新聞的方式”缤灵。他也是生成式對(duì)抗網(wǎng)絡(luò)的發(fā)明人，并因?yàn)榘l(fā)明 GAN 這項(xiàng)革命性技術(shù)而被評(píng)為本年度《麻省理工科技評(píng)論》35 歲以下 35 名科技創(chuàng)新先鋒之一蓝晒。

過去腮出，我們可以將一段視頻視為是某件事情發(fā)生的證據(jù)，但像 GAN 這樣的人工智能技術(shù)出現(xiàn)之后芝薇，可以創(chuàng)造出更容易讓人信以為真的假圖片胚嘲、假視頻。“從歷史的角度來看洛二，我們依靠視頻來證明事情真的發(fā)生過馋劈，這其實(shí)有點(diǎn)僥幸的意味×浪唬”?他承認(rèn)妓雾，在未來，研究人員或俄羅斯特務(wù)將有可能創(chuàng)造出政客們說出各種言論的視頻垒迂，這種情況將與GAN相關(guān)械姻。“我們正在讓可能發(fā)生的事情加速發(fā)生”。

“未來面對(duì)新聞娇斑，我們只能更加小心策添，時(shí)時(shí)刻刻保持懷疑的態(tài)度。也許要習(xí)慣不相信你在網(wǎng)上看到的大多數(shù)影音或圖像毫缆，就像回到 100 年前那個(gè)不通過照片唯竹、影像來傳遞信息的時(shí)代】喽。”

身為 GAN 發(fā)明人的Ian Goodfellow浸颓，說出這番話顯得有些諷刺，GAN 可能對(duì)信息傳播旺拉、輿論造成巨大影響产上、甚至是一種危機(jī)，恐怕這也是他始料未及的蛾狗。“在這種情況下晋涣，人工智能正在關(guān)上某些大門，而我們這一代早已習(xí)慣了這些大門處于敞開的狀態(tài)沉桌⌒蝗担”

2014 年算吩，Ian Goodfellow 還在蒙特利爾大學(xué)（Université de Montréal）念博士時(shí)，某日他在酒吧與朋友討論該如何解決訓(xùn)練 AI 需要大量標(biāo)注數(shù)據(jù)的問題佃扼，給了他開發(fā)出 GAN 的靈感偎巢。

想要建立一個(gè)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)識(shí)別人、貓兼耀、狗压昼，方法就是把每張圖像上的人、貓瘤运、狗仔細(xì)的標(biāo)注（labeling）起來窍霞，再讓系統(tǒng)分析這些成千上萬張的照片，但如果沒有做好標(biāo)注尽超，這些照片就無法用來訓(xùn)練網(wǎng)絡(luò)官撼，要不然就是訓(xùn)練出來的網(wǎng)絡(luò)的識(shí)別力很差，因此發(fā)展深度學(xué)習(xí)往往需要大量的人力及時(shí)間似谁。

GAN 能利用現(xiàn)有的數(shù)據(jù)來建立已經(jīng)帶有標(biāo)注的圖像，如此就能減少上述提及需要大量人力來標(biāo)注數(shù)據(jù)的麻煩掠哥。因此巩踏，被人工智能先驅(qū)、Facebook 人工智能研究院（FAIR）院長 Yann LeCun 贊許是“機(jī)器學(xué)習(xí)最近 10 年來最有趣的想法”续搀，NVIDIA 創(chuàng)始人黃仁勛口中的“一項(xiàng)突破性的發(fā)展”塞琼。

GAN 獨(dú)到之處在于同時(shí)訓(xùn)練兩個(gè)網(wǎng)絡(luò)，一個(gè)是生成網(wǎng)絡(luò)（generator network）禁舷，又稱生成器（generator）彪杉，另一個(gè)是判別網(wǎng)絡(luò)（discriminator network），又稱判別器（discriminator）牵咙，而且讓這兩個(gè)網(wǎng)絡(luò)相互對(duì)抗派近、彼此競爭卻又互相學(xué)習(xí)。

生成器想的是騙過判別器洁桌，或是讓判別器覺得它做的東西是好的渴丸，而判別器的任務(wù)就是去抓什么是真實(shí)的，什么是生成器做的另凌∑坠欤可以想象成是一個(gè)是罪犯，另一個(gè)是警察吠谢，互相斗智土童，誰也不讓誰。而你想要變得超強(qiáng)工坊，就是要有一個(gè)神一般的對(duì)手献汗，就是 GAN 的核心精神错沃。

在 GAN 的訓(xùn)練過程，會(huì)先有一個(gè)生成器 V1雀瓢，產(chǎn)生影像枢析，判別器 V1 看了這個(gè)影像之后，分辨究竟這是一個(gè)假的影像還是真實(shí)的刃麸，有了判別器 V1 的回饋后醒叁，生成器進(jìn)化成 V2，再產(chǎn)生新的影像泊业，如果成功騙過判別器 V1把沼，判別器 V1 就會(huì)更新其參數(shù)，制造一個(gè)進(jìn)化版的判別器 V2吁伺，但如果沒有騙過判別器 V1饮睬，生成器 V2 就會(huì)更新其參數(shù)以生成更逼真的影像，繼續(xù)詐欺判別器...... 此過程不斷循環(huán)篮奄、更新捆愁，生成器或及判別器一代比一代厲害。

而 GAN 與另一項(xiàng)技術(shù)強(qiáng)化學(xué)習(xí)（RL窟却，Reinforcement Learning）昼丑，聽起來有點(diǎn)異曲同工，不過夸赫，兩者還是有所差異菩帝。GAN 有一個(gè)生成器、一個(gè)判別器茬腿。在強(qiáng)化學(xué)習(xí)里則是有一個(gè) Agent呼奢，一個(gè)環(huán)境，兩者會(huì)不斷互動(dòng)切平，環(huán)境會(huì)給 Agent 獎(jiǎng)懲分?jǐn)?shù)（reward）握础，Agent 會(huì)不斷更新參數(shù)，以爭取環(huán)境給它的分?jǐn)?shù)值越大越好揭绑。所以弓候，Agent 的角色類似生成器，環(huán)境就象是判別器他匪，但環(huán)境的參數(shù)是固定的菇存，判別器的參數(shù)是會(huì)不斷更新，這就是 RL 和 GAN 的最大差異邦蜜。

“GAN 做的事很像‘演化’”依鸥，專門研究 GAN 的臺(tái)灣大學(xué)電機(jī)工程學(xué)系教授李宏毅道出重點(diǎn)，他解釋悼沈，演化是突變跟自然選擇的結(jié)果贱迟，例如眼睛是怎么產(chǎn)生的呢姐扮？復(fù)雜的器官并不會(huì)憑空出現(xiàn)，可能會(huì)先出現(xiàn)一個(gè)例如感光細(xì)胞的簡單版本衣吠，通過很多步驟慢慢演變成眼睛茶敏，GAN 也是如此。剛開始 GAN 生成出來的東西可能不太好缚俏，但經(jīng)過多次更新之后惊搏，就可能創(chuàng)造出非常逼真的東西。

李宏毅進(jìn)一步指出：“GAN 有利于 AI 在結(jié)構(gòu)學(xué)習(xí)（structured learning）研究的突破忧换，當(dāng)你今天想要機(jī)器輸出的東西（output）是具有結(jié)構(gòu)性恬惯，也就是由許多零件構(gòu)成的，例如句子亚茬、音樂酪耳、圖片，使用 GAN 會(huì)比其他技術(shù)得到更好的結(jié)果刹缝⊥氚担”

專以程序、 AI 進(jìn)行藝術(shù)創(chuàng)作的德國藝術(shù)家 Mario Klingemann 在 YouTube 上發(fā)了一段名為“替代臉孔 v1.1”（Alternative Face v1.1）的視頻赞草，內(nèi)容是法國音樂家 Fran?oise Hardy 評(píng)論美國總統(tǒng)特朗普的言論讹堤，但在現(xiàn)實(shí)世界 Fran?oise Hardy 根本沒說過這些話。

原來是 Mario Klingemann 只花了幾天時(shí)間利用 GAN 就完成了這一個(gè)把 Fran?oise Hardy 的臉配上了特朗普顧問 Kellyanne Conway 聲音的假視頻厨疙，但由于視頻的品質(zhì)不太好，很容易讓人發(fā)現(xiàn)破綻疑务，不過 Mario Klingemann 只是想借此表達(dá)“當(dāng)代即時(shí)新聞抄襲沾凄、截取、杜撰知允，正在摧毀世界”撒蟀，而不是真的要讓人誤以為真。

但事實(shí)上温鸽，一個(gè)訓(xùn)練良好的 GAN 再配上豐富的計(jì)算資源保屯，想要制造出以假亂真的圖片或影像，已經(jīng)是可以實(shí)現(xiàn)的事了涤垫。

NVIDIA 研究人員以真實(shí)名人的照片作為訓(xùn)練數(shù)據(jù)集姑尺，利用 GAN 創(chuàng)造出極為逼真、分辨率 1024 X 1024 的假社交名人照蝠猬，“這個(gè)研究最讓人驚艷的是切蟋，可以生成很高分辨率的圖片，大幅提升假人物的細(xì)膩度榆芦，突破了過去 GAN 的瓶頸”柄粹，李宏毅說喘鸟。

為什么這件事會(huì)讓人感到毛骨悚然？研究機(jī)器人或 AI 的人驻右，都會(huì)聽過恐怖谷（uncanny valley）理論什黑，是一個(gè)探討人類對(duì)于機(jī)器人和非人類物體有何感覺的假設(shè)理論。

日本機(jī)器人專家森政弘認(rèn)為堪夭，由于機(jī)器人與人類在外表愕把、動(dòng)作上相似，所以人類會(huì)對(duì)機(jī)器人產(chǎn)生正面的情感茵瘾，但若這個(gè)相似程度超過了某一個(gè)水準(zhǔn)礼华，人類的反應(yīng)就會(huì)變得極為負(fù)面，會(huì)認(rèn)為機(jī)器人僵硬拗秘、恐怖圣絮、令人頭皮發(fā)麻，例如先前獲得沙烏地阿拉伯公民權(quán)身份的女性機(jī)器人索菲亞（Sophia）雕旨，曾說了一句“我想摧毀人類”扮匠，就引起不小的話題，人類無法知道它究竟是開玩笑凡涩、機(jī)器有 bug棒搜，還是它真的有此打算。

但是活箕，如果利用 GAN 來制造假新聞力麸，或是把假圖像、假視頻發(fā)布在社交媒體上育韩，恐怖程度就不只是恐怖谷講的情感面的厭惡而已克蚂，很可能成為別有用心者操弄人民跟社會(huì)的工具，甚至是造成群體對(duì)立筋讨，上升為一種外交沖突埃叭、國家安全等級(jí)的問題。

這幾年外國的社交媒體如 Facebook 一直深受假新聞悉罕、假信息的散布所苦惱赤屋，特別是先前美國大選期間，更是將此問題推到了頂點(diǎn)壁袄，日前 Google类早、Facebook、微軟然想、Twitter 等科技公司宣布加入由曾經(jīng)獲得美國專業(yè)新聞?dòng)浾邊f(xié)會(huì)（SPJ）莺奔、皮博迪獎(jiǎng)（Peabody Award）等獎(jiǎng)項(xiàng)的記者 Sally Lehrman 及圣塔克拉拉大學(xué)（SCU）應(yīng)用倫理中心主導(dǎo)的“信任專案”（The Trust Project），希望辨別“可信”新聞來源，打擊網(wǎng)絡(luò)不實(shí)信息令哟。

回想一下恼琼，過去出現(xiàn)的假新聞多利用似是而非的圖片配上錯(cuò)誤的文字內(nèi)容，或是利用現(xiàn)有的 Photoshop 或合成技術(shù)屏富，就已經(jīng)造成嚴(yán)重影響晴竞。而今，GAN 之類的 AI 技術(shù) 將使得這件事變得愈加復(fù)雜狠半，讓人更難以分辨真假噩死。

“生成 YouTube 假影片有可能在三年內(nèi)實(shí)現(xiàn)……AI 會(huì)改變我們所信賴的證據(jù)——圖像和音頻”，Ian Goodfellow 被媒體詢問如果要預(yù)估用 AI 制作假影片時(shí)這么回答神年。不過已维，他也表示，GAN 還需要更多研究做進(jìn)一步突破已日，目前 GAN 在生成“單一”圖像時(shí)可以表現(xiàn)得很好垛耳，但無法同時(shí)畫貓、狗又會(huì)畫其他影像飘千，它距離制造復(fù)雜的數(shù)據(jù)還有很長的路堂鲜。

李宏毅也提出類似看法，利用 GAN 或 AI 來造假圖片护奈、假影像以影響新聞或輿論缔莲，“是有這個(gè)可能，但是霉旗，在當(dāng)下這個(gè)時(shí)間痴奏，機(jī)器充其量只能做到騙過機(jī)器，應(yīng)該還無法騙過人類”厌秒，他說抛虫。

他進(jìn)一步解釋，單看一兩張照片或許可以騙過人简僧，但如果你要機(jī)器產(chǎn)生大量圖片，例如幾百張雕欺，就會(huì)發(fā)現(xiàn)它生成的圖片看來看去就是那個(gè)樣子岛马，背后還是有固定的模式。如果是生成影片屠列，目前還是很困難啦逆，畫面通常很模糊。但這些問題會(huì)隨著時(shí)間而被突破笛洛。