【AI世代編者按】請想象一下你要與客戶開會剧浸。在你動身的不久前，他們向你發(fā)來了確認信矗钟，以及會議地點的地圖。這看起來很正常嫌变，但實際上吨艇，整個消息或許來自于模擬客戶郵件風格的智能惡意軟件，而地圖中將會捆綁病毒腾啥。
這聽起來有些不可思議东涡，至少目前來說如此。然而倘待，這就是信息安全公司Darktrace技術(shù)總監(jiān)戴夫·帕爾默（Dave?Palmer）設想中疮跑，未來黑客和信息安全公司軍備競賽的方向。
今年9月凸舵，帕爾默在金融時報信息安全峰會上表示祖娘，隨著人工智能變得越來越復雜，惡意軟件也將開始集成人工智能啊奄。這可能會給黑客瞄準的企業(yè)和個人帶來災難性后果渐苏。
需要指出的是，帕爾默是信息安全行業(yè)的內(nèi)部人士菇夸。他的工作就是宣傳信息安全威脅（包括當前的威脅和未來的威脅）琼富，并說服客戶Darktrace是唯一能解決他們問題的公司。這是一家估值5億美元的英國公司庄新，開發(fā)由人工智能驅(qū)動的安全防御網(wǎng)絡鞠眉。該公司向客戶提供的“免疫系統(tǒng)”能夠?qū)W習企業(yè)的運行方式薯鼠，隨后監(jiān)控潛在的異常。
不過械蹋，帕爾默的觀點仍代表了信息安全行業(yè)最火爆的年輕公司之一對未來信息安全的看法出皇。
智能病毒將劫持工業(yè)設備，勒索贖金
近期朝蜘，勒索軟件正越來越常見恶迈。這種惡意軟件能將受害者計算機或網(wǎng)絡上的所有一切加密，隨后要求受害者支付贖金去解密谱醇。如果受害者在一段時間里沒有支付贖金暇仲，那么數(shù)據(jù)就將徹底丟失。
集成人工智能技術(shù)的勒索軟件將帶來更大的風險：通過自組織去造成最大程度的破壞副渴，以及自動瞄準更具吸引力的新目標奈附。
帕爾默表示：“我們將看到相互協(xié)調(diào)的行動≈缶纾可以想象斥滤，未來勒索軟件將會首先感染網(wǎng)絡中的大塊區(qū)域，隨后才突然發(fā)動勉盅∮悠模”
他表示：“我相信，我們將會看到針對財產(chǎn)和數(shù)據(jù)的勒索草娜。工廠設備挑胸、核磁共振儀，以及零售設備都可能受到影響宰闰。你需要支付贖金茬贵，讓這些設備重新聯(lián)網(wǎng)，因為企業(yè)的運行不能沒有這些設備移袍。數(shù)據(jù)是一方面解藻，你可以備份數(shù)據(jù)。然而葡盗，如果你的機器停止工作螟左，那么就無法獲得任何收入∶俟唬”
惡意軟件將學會模仿你的熟人
利用神經(jīng)網(wǎng)絡路狮，我們已經(jīng)可以教會人工智能軟件去模仿某種寫作風格，無論是能快速傳播的有趣文案蔚约，還是《衛(wèi)報》上的嚴肅專欄奄妨。帕爾默認為，未來惡意軟件將可以分析你的通信苹祟，學習你的溝通方式并加以模仿砸抛，隨后感染其他目標评雌。
他表示：“納迪亞筆記本上的惡意軟件能讀取她的所有電子郵件、消息和日程表直焙，隨后以同樣的風格與聯(lián)系人溝通景东。因此，你可能會收到納迪亞發(fā)來的會面地點地圖奔誓，因為惡意軟件能了解我們的會面時間斤吐。由于信息很重要，你將會打開地圖厨喂，但地圖中將會包含惡意軟件和措。”
這看起來像是高級版的“老板來信”或“信任攻擊”蜕煌。在這類攻擊中派阱，詐騙者會發(fā)郵件給目標，要求他們轉(zhuǎn)賬斜纪。美國聯(lián)邦調(diào)查局（FBI）估計贫母，過去3年中，這類攻擊給企業(yè)造成了23億美元的損失盒刚。
最厲害的黑客將會隱藏自己
2015年12月腺劣，烏克蘭一處發(fā)電廠由于前所未有的黑客攻擊而被迫脫網(wǎng)，導致了8萬人停電因块。由俄羅斯政府支持的黑客被認為應當對此事件負責誓酒。這是個典型案例，表明當代世界在應對黑客攻擊時非常脆弱贮聂。不過帕爾默認為，未來最具破壞性的黑客攻擊將不太容易被發(fā)現(xiàn)寨辩。
“如果你關(guān)閉一根輸油管吓懈，那么很容易就會被發(fā)現(xiàn)。所有人都會嘗試去進行修復靡狞。如果你真的希望摧毀一家石油天然氣公司耻警，那么我認為你應當嘗試自主追蹤、自主瞄準的惡意軟件甸怕。這些軟件可以篡改地質(zhì)勘探數(shù)據(jù)甘穿，而這些數(shù)據(jù)是公司決定購買采礦權(quán)的基礎。你可以誘騙這些公司在錯誤的地點購買采礦權(quán)梢杭，這將對它們的業(yè)務造成巨大的破壞温兼。它們不太容易注意到這樣的攻擊，也很難做出應對武契∧寂校”
他同時表示：“你可能會認為荡含，‘這是個好主意，我們應當去關(guān)心數(shù)據(jù)庫届垫，看看其中是否有奇怪的軟件释液。’然而装处，未來的攻擊很可能會直接針對收集數(shù)據(jù)的物聯(lián)網(wǎng)傳感器和掃描設備误债。只有期待好運才能發(fā)現(xiàn)這些攻擊⊥ǎ”
人工智能發(fā)展的陰暗面
我們?nèi)蕴幱谌斯ぶ悄芨锩脑缙谇薜浮＿@類技術(shù)被用于了所有一切，無論是無人駕駛汽車還是癌癥的治療判族，而我們才剛剛揭開幕布一角躺盛。然而，隨著人工智能越來越發(fā)達形帮，越來越普及槽惫，不可避免地這也將被用于惡意目的。
那么目前能否預計到時間表辩撑？帕爾默表示：“我估計界斜，你可以在未來12個月中訓練一個神經(jīng)網(wǎng)絡，使其智能到以基本的方式去發(fā)動信任攻擊合冀。如果你看看谷歌DeepMind等公司在自然語言方面的進展各薇，那么這就是未來幾年的事【桑”
未來正在到來峭判，對此你或許無能為力。
