當(dāng)前卦羡，AI醫(yī)療、智慧家庭麦到、自動(dòng)駕駛绿饵、智能交易等人工智能的發(fā)展不斷顛覆企業(yè)的商業(yè)模式，也在改變我們的生活方式瓶颠。中國(guó)科學(xué)院院士拟赊、上海交通大學(xué)副校長(zhǎng)毛軍發(fā)表示，人工智能作為“加速器”已涉及醫(yī)療粹淋、金融吸祟、交通、新聞等各行各業(yè)桃移，可以有效解決傳統(tǒng)行業(yè)面臨的問題屋匕，發(fā)揮大量數(shù)據(jù)的價(jià)值，賦能傳統(tǒng)產(chǎn)業(yè)發(fā)展借杰。

“人工智能發(fā)展的本質(zhì)是通過算法炒瘟、算力和數(shù)據(jù)去解決完全信息和結(jié)構(gòu)化環(huán)境下的確定性問題〉诓剑”毛軍發(fā)認(rèn)為，隨著算法缘琅、算力和數(shù)據(jù)的進(jìn)一步發(fā)展粘都，勢(shì)必加速萬(wàn)物智能時(shí)代到來(lái)，為人工智能賦能各種場(chǎng)景打通重要通道刷袍，實(shí)現(xiàn)萬(wàn)物互聯(lián)翩隧。

但不可否認(rèn)的是，人工智能在服務(wù)和賦能人類生產(chǎn)生活同時(shí)呻纹，也帶來(lái)了難以忽視的安全風(fēng)險(xiǎn)堆生。

【人工智能安全問題分類】

一专缠、數(shù)據(jù)風(fēng)險(xiǎn)

1.“數(shù)據(jù)投毒”

所謂的“數(shù)據(jù)投毒”指人工智能訓(xùn)練數(shù)據(jù)污染導(dǎo)致人工智能決策錯(cuò)誤。通過在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)淑仆、惡意樣本等涝婉，破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差蔗怠。

“數(shù)據(jù)投毒”主要有兩種攻擊方式：

一種是采用模型偏斜方式墩弯，攻擊目標(biāo)是訓(xùn)練數(shù)據(jù)樣本，通過污染訓(xùn)練數(shù)據(jù)達(dá)到改變分類器分類邊界的目的寞射；

另一種則是采用反饋誤導(dǎo)方式渔工，攻擊目標(biāo)是人工智能的學(xué)習(xí)模型本身，利用模型的用戶反饋機(jī)制發(fā)起攻擊桥温，直接向模型“注入”偽裝的數(shù)據(jù)或信息引矩，誤導(dǎo)人工智能做出錯(cuò)誤判斷。

"數(shù)據(jù)投毒"危害性十分巨大侵浸，特別是在自動(dòng)駕駛領(lǐng)域旺韭，可導(dǎo)致車輛違反交通規(guī)則甚至造成交通事故。

2.數(shù)據(jù)泄露

一方面逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露通惫；

另一方面茂翔，人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，加大隱私泄露風(fēng)險(xiǎn)履腋。比如各類智能設(shè)備（如智能手環(huán)珊燎、智能音箱）和智能系統(tǒng)（如生物特征識(shí)別系統(tǒng)、智能醫(yī)療系統(tǒng)）遵湖，人工智能設(shè)備和系統(tǒng)對(duì)個(gè)人信息采集更加直接與全面悔政。人工智能應(yīng)用采集的信息包括了人臉、指紋延旧、聲紋谋国、虹膜、心跳迁沫、基因等芦瘾，具有很強(qiáng)的個(gè)人屬性。這些信息具有唯一性和不變性集畅，一旦泄露或者濫用將產(chǎn)生嚴(yán)重后果近弟。

3.數(shù)據(jù)異常

運(yùn)行階段的數(shù)據(jù)異常可導(dǎo)致智能系統(tǒng)運(yùn)行錯(cuò)誤挺智，同時(shí)模型竊取攻擊可對(duì)算法模型的數(shù)據(jù)進(jìn)行逆向還原祷愉。此外，開源學(xué)習(xí)框架存在安全風(fēng)險(xiǎn)，也可導(dǎo)致人工智能系統(tǒng)數(shù)據(jù)泄露二鳄。

二赴涵、算法風(fēng)險(xiǎn)

1.圖像識(shí)別、圖像欺騙等會(huì)導(dǎo)致算法出問題订讼，比如自動(dòng)駕駛髓窜，谷歌也做了一些研究，如果模型文件被黑客控制惡意修改躯嫉，并且給它學(xué)習(xí)纱烘，會(huì)產(chǎn)生完全不一樣的結(jié)果；

2.算法設(shè)計(jì)或?qū)嵤┯姓`可產(chǎn)生與預(yù)期不符甚至傷害性結(jié)果祈餐；

3.算法潛藏偏見和歧視擂啥，導(dǎo)致決策結(jié)果可能存在不公；

4.算法黑箱導(dǎo)致人工智能決策不可解釋帆阳，引發(fā)監(jiān)督審查困境哺壶；

5.含有噪聲或偏差的訓(xùn)練數(shù)據(jù)可影響算法模型準(zhǔn)確性。

三蜒谤、網(wǎng)絡(luò)風(fēng)險(xiǎn)

1.人工智能不可避免的會(huì)引入網(wǎng)絡(luò)連接山宾，網(wǎng)絡(luò)本身的安全風(fēng)險(xiǎn)也會(huì)將AI帶入風(fēng)險(xiǎn)的深坑；

2.人工智能技術(shù)本身也能夠提升網(wǎng)絡(luò)攻擊的智能化水平鳍徽，進(jìn)而進(jìn)行數(shù)據(jù)智能竊茸拭獭；

3.人工智能可用來(lái)自動(dòng)鎖定目標(biāo)阶祭，進(jìn)行數(shù)據(jù)勒索攻擊绷杜。人工智能技術(shù)通過對(duì)特征庫(kù)學(xué)習(xí)自動(dòng)查找系統(tǒng)漏洞和識(shí)別關(guān)鍵目標(biāo)，提高攻擊效率濒募；

4.人工智能可自動(dòng)生成大量虛假威脅情報(bào)鞭盟，對(duì)分析系統(tǒng)實(shí)施攻擊。人工智能通過使用機(jī)器學(xué)習(xí)瑰剃、數(shù)據(jù)挖掘和自然語(yǔ)言處理等技術(shù)處理安全大數(shù)據(jù)齿诉，能自動(dòng)生產(chǎn)威脅性情報(bào)，攻擊者也可利用相關(guān)技術(shù)生成大量錯(cuò)誤情報(bào)以混淆判斷晌姚；

5.人工智能可自動(dòng)識(shí)別圖像驗(yàn)證碼粤剧，竊取系統(tǒng)數(shù)據(jù)。圖像驗(yàn)證碼是一種防止機(jī)器人賬戶濫用網(wǎng)站或服務(wù)的常用驗(yàn)證措施挥唠，但人工智能通過學(xué)習(xí)可以讓這一驗(yàn)證措施失效俊扳。

四、其他風(fēng)險(xiǎn)

第三方組件問題也會(huì)存在問題猛遍，包括對(duì)文件、網(wǎng)絡(luò)協(xié)議、各種外部輸入?yún)f(xié)議的處理都會(huì)出問題懊烤。被黑客利用梯醒，帶來(lái)的是災(zāi)難性的毀滅。