一棋嘲、李進(jìn)-廣州大學(xué)-AI安全
1县爬、信息系統(tǒng)安全三個屬性：完整性、可用性软族、機(jī)密性
AI攻擊主要考慮兩方面工作：逃逸攻擊刷喜、投毒攻擊（數(shù)據(jù)中毒攻擊）。使模型不能正常的預(yù)測
AI機(jī)密性：參數(shù)和數(shù)據(jù)的機(jī)密性
訓(xùn)練數(shù)據(jù)會不會被人偷走（inferred attack）
（1）逃逸攻擊 Evasion attack
沒有改變機(jī)器學(xué)習(xí)算法互订，構(gòu)建一些特定的輸入來欺騙吱肌，得到錯誤的結(jié)果痘拆。因?yàn)闄C(jī)器學(xué)習(xí)學(xué)不到完美的判別仰禽，所以逃逸攻擊很難對抗。
（2）后門攻擊 Backdoor?attack
（3）模型竊取攻擊 Model extraction?attack
系統(tǒng)放網(wǎng)上給大家用纺蛆，會提供一些輸入輸出樣本給大家看吐葵，這就會泄露一些信息，雖然可能只是01桥氏。類似密碼領(lǐng)域
2温峭、AI防御
（1）數(shù)據(jù)清洗時，發(fā)現(xiàn)一些異常數(shù)據(jù)字支。但只能用在訓(xùn)練階段
（2）算法魯棒性：在訓(xùn)練時凤藏，讓他學(xué)一學(xué)哪些是壞樣本。將對抗樣本加入到訓(xùn)練樣本中堕伪。.但找的對抗樣本不可能窮舉完揖庄，所以也無法抵抗所有攻擊，只能相對來說還行欠雌。
（3）設(shè)置合理門限來抵抗對抗樣本
二蹄梢、劉哲理-南開大學(xué)-密碼應(yīng)用背后隱藏的風(fēng)險
1、可搜索加密
可搜索加密介紹：https://blog.csdn.net/qq_57098278/article/details/121390807
比如存郵件富俄，有時候要找的時候禁炒，就是搜索關(guān)鍵字。如果郵件存儲的服務(wù)器不可信霍比，我需要存加密的郵件幕袱，防止泄露。
將郵件拆分關(guān)鍵詞悠瞬，每個關(guān)鍵詞分別加密
