近幾年AI場景越來越多的落地，但受限于AI技術(shù)發(fā)展程度和社會(huì)倫理問題源祈，AI并沒有干掉所有場景的工作崗位煎源，而是進(jìn)入一種人機(jī)協(xié)同的狀態(tài)。在人機(jī)協(xié)同的大時(shí)代背景下新博，AI的可解釋性問題變得越來越尖銳薪夕。本篇聊聊關(guān)于AI產(chǎn)品可解釋性的問題。
可解釋需求
雖然AI行業(yè)燒錢的問題被詬病很多赫悄，但相比5年前原献，如今AI確實(shí)越來越多的在社會(huì)各個(gè)層面落地馏慨。
之前文章《人工智能大會(huì)后，談?wù)剬?duì)智能汽車的認(rèn)知》談到過未來會(huì)進(jìn)入自動(dòng)駕駛時(shí)代姑隅，無論是L4以下還是L4以上的自動(dòng)駕駛写隶，都需要自動(dòng)駕駛系統(tǒng)替代人類做部分或全部的駕駛決策。而自動(dòng)駕駛能夠被大眾和社會(huì)接受讲仰，前提需要在出現(xiàn)問題或人類想了解決策邏輯時(shí)慕趴，自動(dòng)駕駛系統(tǒng)能給出合理解釋，而非完全把命運(yùn)交給不可解釋的黑盒算法鄙陡。
其他場景也存在類似問題冕房。例如前幾年做智能推薦產(chǎn)品，主要聚焦給B端客戶提供推薦系統(tǒng)服務(wù)趁矾，交付以CTR或CVR指標(biāo)提升為準(zhǔn)耙册。而在實(shí)際交付中，指標(biāo)雖然提升了毫捣，但客戶側(cè)會(huì)反饋到單個(gè)客戶上推薦結(jié)果不合理详拙。
在當(dāng)時(shí)的話語體系下，更多是給客戶講看總指標(biāo)蔓同，追求全局最優(yōu)解饶辙，而非每個(gè)客戶最優(yōu)解。顯然站在C端用戶的視角斑粱，這種解釋是不夠的弃揽。而且在推薦系統(tǒng)實(shí)現(xiàn)過程中，確實(shí)會(huì)存在一些策略不那么個(gè)性化珊佣，或者存在少數(shù)服從多數(shù)的建模邏輯蹋宦，行為少的用戶推薦結(jié)果會(huì)被行為多的用戶影響。
客戶或用戶需要知道算法到底如何做出決策咒锻，無論是向上匯報(bào)還是對(duì)終端用戶解釋，都不算過分的要求守屉。并且隨著AI落地場景越來越多惑艇，可解釋性問題會(huì)越來越尖銳。
可解釋性難點(diǎn)
AI可解釋性需求現(xiàn)實(shí)存在拇泛，在解決AI可解釋性的方案里卻存在一定的難點(diǎn)滨巴。
近年來深度學(xué)習(xí)被廣泛應(yīng)用，算法工程師可以無腦使用深度學(xué)習(xí)追求一個(gè)好的指標(biāo)俺叭，但卻使結(jié)果變得不可解釋恭取。為什么效果好，沒有人知道熄守。
另外的是有些可解釋的模型蜈垮，即便將決策原因暴露給客戶或用戶耗跛，用戶也不一定買帳，因?yàn)楝F(xiàn)在AI終究還是逃不過統(tǒng)計(jì)學(xué)邏輯攒发，即按照過去數(shù)據(jù)對(duì)未來做預(yù)測调塌，預(yù)測的準(zhǔn)確性是有概率的，并非能百分百準(zhǔn)確惠猿。這種情況下羔砾，可解釋性只是直接的目標(biāo)，準(zhǔn)才是根本的目標(biāo)偶妖。
解決方案
解決可解釋性問題姜凄，可能有三個(gè)解決問題的方向。
方向之一是趾访，回到最初的問題檀葛，場景是否真的適合采用AI查刻，是否可以直接上規(guī)則虾宇。在之前工作中，遇到一些銀行和券商客戶臭墨，數(shù)據(jù)量有限藏鹊，同時(shí)關(guān)注可解釋性润讥，也想做推薦，但不適合傳統(tǒng)的AI推薦盘寡。于是構(gòu)建了一款規(guī)則引擎產(chǎn)品楚殿，可手動(dòng)給不同人群配置不同推薦規(guī)則，于是兩全其美優(yōu)雅的解決了問題竿痰。
方向之二是脆粥，將需要解釋的內(nèi)容，適當(dāng)做產(chǎn)品化影涉。例如之前做新聞客戶端時(shí)变隔，將召回策略中基于內(nèi)容標(biāo)簽、作者等召回源蟹倾，作為推薦緣由直接展示在用戶端匣缘，用戶可以選擇對(duì)某標(biāo)簽的不感興趣。同時(shí)解決推薦原因和提升推薦效果的問題鲜棠。
方向之三是肌厨，對(duì)于那些不可解釋的模型，需要推進(jìn)技術(shù)上尋求挖掘可解釋性的方案豁陆，黑盒模型可解釋性目前也是業(yè)界比較前沿的領(lǐng)域柑爸，如果能有一些突破，再去做產(chǎn)品化便能將AI落地速度推進(jìn)一大步盒音。
關(guān)于作者：
小樂帝表鳍，一線AI產(chǎn)品經(jīng)理馅而、簡書科技優(yōu)秀作者、產(chǎn)品經(jīng)理讀書會(huì)創(chuàng)始人进胯。
「產(chǎn)品經(jīng)理讀書會(huì)」
專注于愛讀書愛思考的產(chǎn)品人提供讀書推薦用爪、產(chǎn)品思考、以書會(huì)友的環(huán)境
