1丑瞧、什么是可解釋人工智能搞乏？
2季惯、有什么用？
可解釋分析是機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘的通用挖掘研究方法蕴轨。
3、本身可解釋性好的機(jī)器學(xué)習(xí)模型
從Machine Learning 到Machine Teaching 人工智能教人類(lèi)學(xué)習(xí)骇吭，如：AI自動(dòng)補(bǔ)齊富春山居圖尺棋。
細(xì)粒度圖像分類(lèi)：輸入一張圖像，算法給出不同類(lèi)別的概率绵跷。如：AI高亮顯示（熱力圖）病灶區(qū)域從而輔助判讀胸片膘螟。
KNN（K最近0）想知道K是什么類(lèi)別，看與他最近幾（K個(gè)）個(gè)樣本是什么類(lèi)別即可碾局。
邏輯回歸：X1（權(quán)重w）荆残、X2......→sum→sigmoid→probability
線性回歸
決策樹(shù)（If else）
4、傳統(tǒng)機(jī)器學(xué)習(xí)算法的可解釋性分析
算法自帶的可視化
算法自帶的特征權(quán)重
Permutation Importance置換重要度
PDP圖（一個(gè)樣本）净当、ICE圖（多個(gè)樣本）
Shapley值（每個(gè)樣本的每個(gè)特征對(duì)結(jié)果的貢獻(xiàn)）
Lime
5内斯、深度學(xué)習(xí)（CV、NLP）可解釋性分析
6像啼、卷積神經(jīng)網(wǎng)絡(luò)的可解釋性分析
卷積神經(jīng)網(wǎng)絡(luò)
每個(gè)卷積核提取不同的特征俘闯，每個(gè)卷積核對(duì)輸入進(jìn)行卷積，生成一個(gè)feature map忽冻，這個(gè)feature map即體現(xiàn)了該軍級(jí)和從輸入中提取的特征真朗，不同的feature map 顯示了圖像中不同的特征
淺層卷積核提取：邊緣僧诚、顏色遮婶、斑塊等底層像素特征
中層卷積核提然人椤：條紋、紋路旗扑、形狀等中層紋理特征
高層卷積核提缺钠铩：眼睛、輪胎臀防、文字等高層語(yǔ)義特征
最后的分類(lèi)輸出層輸出最抽象的分類(lèi)結(jié)果
7眠菇、基于類(lèi)激活熱力圖（CAM）的可視化
AI認(rèn)為對(duì)某個(gè)類(lèi)別的重要區(qū)域高亮顯示
