蘋果對(duì) AI 技術(shù)的重視已經(jīng)變得人盡皆知模软，所以在今年的 WWDC 大會(huì)上它推出了所謂的 Core ML伟骨。然而即便只是這樣的新特性，還是吸引了懷疑的目光燃异。
簡(jiǎn)單來(lái)說(shuō)携狭，Core ML 是蘋果在今年的 WWDC 開發(fā)者大會(huì)上推出的機(jī)器學(xué)習(xí)框架。它能夠讓開發(fā)者以盡可能簡(jiǎn)單的方式將 AI（人工智能）模型以各種不同的格式回俐，集成到自己的應(yīng)用中去暑中，讓它們實(shí)現(xiàn)計(jì)算機(jī)視覺(jué)、自然語(yǔ)言識(shí)別鲫剿、圖案識(shí)別等高級(jí)功能鳄逾，而開發(fā)者本人不需要很多的 AI 相關(guān)知識(shí)。
分享之前我還是要推薦下我自己建的iOS開發(fā)學(xué)習(xí)群：680565220灵莲，群里都是學(xué)ios開發(fā)的雕凹，如果你正在學(xué)習(xí)ios ，小編歡迎你加入，今天分享的這個(gè)案例已經(jīng)上傳到群文件枚抵，大家都是軟件開發(fā)黨线欲，不定期分享干貨（只有iOS軟件開發(fā)相關(guān)的），包括我自己整理的一份2017最新的iOS進(jìn)階資料和高級(jí)開發(fā)教程汽摹，歡迎進(jìn)階中和進(jìn)想深入iOS的小伙伴李丰。
為了保證用戶的隱私能夠得到保護(hù)，Core ML 的一切處理都是在本地進(jìn)行的逼泣，這意味著你的數(shù)據(jù)不會(huì)被強(qiáng)制發(fā)送至云網(wǎng)絡(luò)中趴泌，被蘋果或是其他第三方收集。不過(guò)就算是這樣拉庶，仍然會(huì)出現(xiàn)懷疑的聲音嗜憔。
哥倫比亞大學(xué)一位名叫 Suman Jana 的安全隱私研究員近日質(zhì)疑 Core ML，認(rèn)為它的存在會(huì)導(dǎo)致用戶更多的隱私暴露氏仗。他表示吉捶，大多數(shù)機(jī)器學(xué)習(xí)模型都是無(wú)法人為解析的，而且很難對(duì)它們進(jìn)行各種極端狀況下的測(cè)試皆尔。所以呐舔，App Store 在審核應(yīng)用時(shí)，比起那些不使用 Core ML 的應(yīng)用慷蠕，它更難“看穿”Core ML 應(yīng)用滋早。如果一個(gè)通過(guò) Core ML 建立的模型有意或無(wú)意去泄露隱私信息，App Store 很難發(fā)現(xiàn)將它攔下砌们。
這位專家舉了一個(gè)例子：“像是那種照片濾鏡或編輯的應(yīng)用杆麸，它會(huì)向你請(qǐng)求訪問(wèn)相冊(cè)的權(quán)限。一旦獲得許可浪感，如果該應(yīng)用的開發(fā)者不懷好意昔头，那么它就能夠利用 Core ML 來(lái)探明你照片的內(nèi)容，并試圖提取重要的信息影兽，比如你使用的產(chǎn)品揭斧，你喜歡的活動(dòng)等等【撸”他認(rèn)為讹开，即使開發(fā)者沒(méi)有很大的惡意，他也會(huì)根據(jù)這些信息向你投放對(duì)應(yīng)的廣告捐名。
問(wèn)題就在于旦万，發(fā)生這樣的事情，你很難說(shuō)這鍋就應(yīng)該由 Core ML 來(lái)背镶蹋。在沒(méi)有 Core ML 的時(shí)候成艘，任何第三方應(yīng)用要訪問(wèn)用戶的相冊(cè)時(shí)赏半，也仍然需要請(qǐng)求權(quán)限。高明的惡意軟件能夠說(shuō)服許多用戶開放這些權(quán)限淆两。即使沒(méi)有基于本地的 Core ML断箫，在用戶主動(dòng)開放權(quán)限，系統(tǒng)安全實(shí)質(zhì)上變得更脆弱的時(shí)候秋冰，攻擊者能很輕松地利用服務(wù)器端的機(jī)器學(xué)習(xí)模型來(lái)獲取用戶信息仲义。這些都不是很新鮮的技術(shù)了。
很重要的一點(diǎn)在于剑勾，那些 Core ML 本來(lái)就不能直接訪問(wèn)的數(shù)據(jù)埃撵，任何應(yīng)用也都不能訪問(wèn)。
在這一點(diǎn)上甥材，一位名叫 Will Strafach 的 iOS 安全專家說(shuō)得更明白：“Core ML 可能會(huì)被濫用，但那也是在應(yīng)用已經(jīng)獲得完全的照片權(quán)限之后的事情性含。所以如果它們想要竊取你的照片或照片數(shù)據(jù)洲赵，那就意味著你已經(jīng)同意了這些應(yīng)用所有的權(quán)限請(qǐng)求∩淘蹋”
換句話說(shuō)叠萍，無(wú)論 Core ML 的有無(wú)，類似的技術(shù)都已經(jīng)存在绪商，并不是說(shuō) Core ML 的出現(xiàn)才會(huì)導(dǎo)致類似的隱私信息泄露苛谷。很多時(shí)候人們的質(zhì)疑，更多是因?yàn)楸灸艿膶?duì)新技術(shù)的不信任格郁。如果說(shuō)在過(guò)去這樣的隱患都沒(méi)有鬧出大問(wèn)題腹殿，Core ML 時(shí)代也不大可能會(huì)因此出事。當(dāng)然最重要的例书，還是我們自己要注意那些可疑的跡象锣尉。
