iOS的機(jī)器學(xué)習(xí)存在隱患辣恋?大家不要緊張!

蘋果對(duì) AI 技術(shù)的重視已經(jīng)變得人盡皆知模软,所以在今年的 WWDC 大會(huì)上它推出了所謂的 Core ML伟骨。然而即便只是這樣的新特性,還是吸引了懷疑的目光燃异。

簡(jiǎn)單來(lái)說(shuō)携狭,Core ML 是蘋果在今年的 WWDC 開發(fā)者大會(huì)上推出的機(jī)器學(xué)習(xí)框架。它能夠讓開發(fā)者以盡可能簡(jiǎn)單的方式將 AI(人工智能)模型以各種不同的格式回俐,集成到自己的應(yīng)用中去暑中,讓它們實(shí)現(xiàn)計(jì)算機(jī)視覺(jué)、自然語(yǔ)言識(shí)別鲫剿、圖案識(shí)別等高級(jí)功能鳄逾,而開發(fā)者本人不需要很多的 AI 相關(guān)知識(shí)。

分享之前我還是要推薦下我自己建的iOS開發(fā)學(xué)習(xí)群:680565220灵莲,群里都是學(xué)ios開發(fā)的雕凹,如果你正在學(xué)習(xí)ios ,小編歡迎你加入,今天分享的這個(gè)案例已經(jīng)上傳到群文件枚抵,大家都是軟件開發(fā)黨线欲,不定期分享干貨(只有iOS軟件開發(fā)相關(guān)的),包括我自己整理的一份2017最新的iOS進(jìn)階資料和高級(jí)開發(fā)教程汽摹,歡迎進(jìn)階中和進(jìn)想深入iOS的小伙伴李丰。

為了保證用戶的隱私能夠得到保護(hù),Core ML 的一切處理都是在本地進(jìn)行的逼泣,這意味著你的數(shù)據(jù)不會(huì)被強(qiáng)制發(fā)送至云網(wǎng)絡(luò)中趴泌,被蘋果或是其他第三方收集。不過(guò)就算是這樣拉庶,仍然會(huì)出現(xiàn)懷疑的聲音嗜憔。

哥倫比亞大學(xué)一位名叫 Suman Jana 的安全隱私研究員近日質(zhì)疑 Core ML,認(rèn)為它的存在會(huì)導(dǎo)致用戶更多的隱私暴露氏仗。他表示吉捶,大多數(shù)機(jī)器學(xué)習(xí)模型都是無(wú)法人為解析的,而且很難對(duì)它們進(jìn)行各種極端狀況下的測(cè)試皆尔。所以呐舔,App Store 在審核應(yīng)用時(shí),比起那些不使用 Core ML 的應(yīng)用慷蠕,它更難“看穿”Core ML 應(yīng)用滋早。如果一個(gè)通過(guò) Core ML 建立的模型有意或無(wú)意去泄露隱私信息,App Store 很難發(fā)現(xiàn)將它攔下砌们。

這位專家舉了一個(gè)例子:“像是那種照片濾鏡或編輯的應(yīng)用杆麸,它會(huì)向你請(qǐng)求訪問(wèn)相冊(cè)的權(quán)限。一旦獲得許可浪感,如果該應(yīng)用的開發(fā)者不懷好意昔头,那么它就能夠利用 Core ML 來(lái)探明你照片的內(nèi)容,并試圖提取重要的信息影兽,比如你使用的產(chǎn)品揭斧,你喜歡的活動(dòng)等等【撸”他認(rèn)為讹开,即使開發(fā)者沒(méi)有很大的惡意,他也會(huì)根據(jù)這些信息向你投放對(duì)應(yīng)的廣告捐名。

問(wèn)題就在于旦万,發(fā)生這樣的事情,你很難說(shuō)這鍋就應(yīng)該由 Core ML 來(lái)背镶蹋。在沒(méi)有 Core ML 的時(shí)候成艘,任何第三方應(yīng)用要訪問(wèn)用戶的相冊(cè)時(shí)赏半,也仍然需要請(qǐng)求權(quán)限。高明的惡意軟件能夠說(shuō)服許多用戶開放這些權(quán)限淆两。即使沒(méi)有基于本地的 Core ML断箫,在用戶主動(dòng)開放權(quán)限,系統(tǒng)安全實(shí)質(zhì)上變得更脆弱的時(shí)候秋冰,攻擊者能很輕松地利用服務(wù)器端的機(jī)器學(xué)習(xí)模型來(lái)獲取用戶信息仲义。這些都不是很新鮮的技術(shù)了。

很重要的一點(diǎn)在于剑勾,那些 Core ML 本來(lái)就不能直接訪問(wèn)的數(shù)據(jù)埃撵,任何應(yīng)用也都不能訪問(wèn)。

在這一點(diǎn)上甥材,一位名叫 Will Strafach 的 iOS 安全專家說(shuō)得更明白:“Core ML 可能會(huì)被濫用,但那也是在應(yīng)用已經(jīng)獲得完全的照片權(quán)限之后的事情性含。所以如果它們想要竊取你的照片或照片數(shù)據(jù)洲赵,那就意味著你已經(jīng)同意了這些應(yīng)用所有的權(quán)限請(qǐng)求∩淘蹋”

換句話說(shuō)叠萍,無(wú)論 Core ML 的有無(wú),類似的技術(shù)都已經(jīng)存在绪商,并不是說(shuō) Core ML 的出現(xiàn)才會(huì)導(dǎo)致類似的隱私信息泄露苛谷。很多時(shí)候人們的質(zhì)疑,更多是因?yàn)楸灸艿膶?duì)新技術(shù)的不信任格郁。如果說(shuō)在過(guò)去這樣的隱患都沒(méi)有鬧出大問(wèn)題腹殿,Core ML 時(shí)代也不大可能會(huì)因此出事。當(dāng)然最重要的例书,還是我們自己要注意那些可疑的跡象锣尉。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市决采,隨后出現(xiàn)的幾起案子自沧,更是在濱河造成了極大的恐慌,老刑警劉巖树瞭,帶你破解...
    沈念sama閱讀 222,807評(píng)論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件拇厢,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡晒喷,警方通過(guò)查閱死者的電腦和手機(jī)孝偎,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,284評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)凉敲,“玉大人邪媳,你說(shuō)我怎么就攤上這事捐顷。” “怎么了雨效?”我有些...
    開封第一講書人閱讀 169,589評(píng)論 0 363
  • 文/不壞的土叔 我叫張陵迅涮,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我徽龟,道長(zhǎng)叮姑,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 60,188評(píng)論 1 300
  • 正文 為了忘掉前任据悔,我火速辦了婚禮传透,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘极颓。我一直安慰自己朱盐,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,185評(píng)論 6 398
  • 文/花漫 我一把揭開白布菠隆。 她就那樣靜靜地躺著兵琳,像睡著了一般。 火紅的嫁衣襯著肌膚如雪骇径。 梳的紋絲不亂的頭發(fā)上躯肌,一...
    開封第一講書人閱讀 52,785評(píng)論 1 314
  • 那天,我揣著相機(jī)與錄音破衔,去河邊找鬼清女。 笑死,一個(gè)胖子當(dāng)著我的面吹牛晰筛,可吹牛的內(nèi)容都是我干的嫡丙。 我是一名探鬼主播,決...
    沈念sama閱讀 41,220評(píng)論 3 423
  • 文/蒼蘭香墨 我猛地睜開眼读第,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼迄沫!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起卦方,我...
    開封第一講書人閱讀 40,167評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤羊瘩,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后盼砍,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體尘吗,經(jīng)...
    沈念sama閱讀 46,698評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,767評(píng)論 3 343
  • 正文 我和宋清朗相戀三年浇坐,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了睬捶。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,912評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡近刘,死狀恐怖擒贸,靈堂內(nèi)的尸體忽然破棺而出臀晃,到底是詐尸還是另有隱情,我是刑警寧澤介劫,帶...
    沈念sama閱讀 36,572評(píng)論 5 351
  • 正文 年R本政府宣布徽惋,位于F島的核電站,受9級(jí)特大地震影響座韵,放射性物質(zhì)發(fā)生泄漏险绘。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,254評(píng)論 3 336
  • 文/蒙蒙 一誉碴、第九天 我趴在偏房一處隱蔽的房頂上張望宦棺。 院中可真熱鬧,春花似錦黔帕、人聲如沸代咸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,746評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)呐芥。三九已至,卻和暖如春慨默,著一層夾襖步出監(jiān)牢的瞬間贩耐,已是汗流浹背弧腥。 一陣腳步聲響...
    開封第一講書人閱讀 33,859評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工厦取, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人管搪。 一個(gè)月前我還...
    沈念sama閱讀 49,359評(píng)論 3 379
  • 正文 我出身青樓虾攻,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親更鲁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子霎箍,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,922評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容