一、主動學(xué)習(xí)算法(Active Learning)適用的情景
風(fēng)險控制工作中常常陷入的窘境:風(fēng)險數(shù)據(jù)量太少纳账!當(dāng)風(fēng)控領(lǐng)域中的分析師或者分析師訓(xùn)練模型的時候,他們常常會因可以真實確定的風(fēng)險樣本數(shù)量之稀少而感到無力航揉。為了得到更多的風(fēng)險樣本塞祈,我們可以進(jìn)一步地人工查看、打標(biāo)攔截數(shù)據(jù)帅涂。然而如果我們把所有攔截都人工的審核议薪、打標(biāo)一遍的話,成本將會非常高媳友。但是如果我們應(yīng)用主動學(xué)習(xí)算法的話斯议,我們就可以以相對小的人工成本完成這個任務(wù)。
欲對大量無標(biāo)記數(shù)據(jù)進(jìn)行分類醇锚,但沒有任何可用的已標(biāo)記數(shù)據(jù)訓(xùn)練分類器哼御,且因成本所限,難以大量標(biāo)記數(shù)據(jù)集以訓(xùn)練分類器焊唬。
在主動學(xué)習(xí)中恋昼,一個學(xué)習(xí)算法可以交互式的詢問用戶來獲得在新的數(shù)據(jù)點所期望的輸出。
二赶促、算法原理與優(yōu)勢
? 核心思想:“主動學(xué)習(xí)”會抽取那些比較“難”分類的樣本液肌,即每次都挑選當(dāng)前分類器分類效果不理想的那些樣本進(jìn)行訓(xùn)練。而不是從樣本總體中隨機地抽取樣本進(jìn)行學(xué)習(xí)鸥滨。
算法描述:
1. 從無標(biāo)記的數(shù)據(jù)集中隨機抽樣嗦哆,并人工分類這些樣本谤祖;
2. 在標(biāo)記過的數(shù)據(jù)集上訓(xùn)練分類器,得到預(yù)測值老速;
3. 挑出來那些“信息量大(預(yù)測值接近0.5)的”樣本粥喜,人工對這批樣本進(jìn)行分類;
4. 重復(fù)步驟2和步驟3橘券,直到(1)沒有更多資源對數(shù)據(jù)集進(jìn)行標(biāo)記额湘;(2)當(dāng)前分類器對選出來的數(shù)據(jù)分類正確;(3)選出來的數(shù)據(jù)人工也無法進(jìn)行分類约郁。
三缩挑、算法應(yīng)用舉例
個性化垃圾郵件分類器訓(xùn)練:每個人對于垃圾郵件的定義是不一樣的,有的人覺得只有詐騙郵件是垃圾郵件鬓梅,有的人認(rèn)為推銷郵件也是垃圾郵件供置。為了尋找個人對垃圾與非垃圾郵件的分類界限,算法需要去詢問用戶的選擇來得到這個邊界绽快。效率最高的方式應(yīng)當(dāng)是沿著你的分類界限提問芥丧,而不是問那些答案極其明顯的問題。開始訓(xùn)練時坊罢,算法將用一個簡單的分類器初步地對用戶歷史上所有的郵件進(jìn)行分類续担,找出此時分類器不能確定用戶態(tài)度的一部分郵件讓用戶進(jìn)行判斷,之后分類器再從新在用戶本人分類好的樣本中進(jìn)行訓(xùn)練活孩,之后再對用戶未手工分類過的郵件進(jìn)行分類物遇,不確定的那部分繼續(xù)詢問用戶的判斷,直到用戶不再想繼續(xù)判斷了憾儒,或用戶的分類和分類器分類吻合询兴,或用戶對分類也開始猶豫不決。(注:主動學(xué)習(xí)算法在自然語言識別領(lǐng)域應(yīng)用廣泛起趾。)
四诗舰、應(yīng)用效果
過往實驗顯示,若對獲得同等分類準(zhǔn)確率的隨機抽樣學(xué)習(xí)算法和主動學(xué)習(xí)抽樣算法進(jìn)行比較训裆,主動學(xué)習(xí)抽樣算法可節(jié)約高達(dá)44%的人工標(biāo)記成本眶根。[2]
[1] Active Learning for Natural Language Parsing and Information Extraction http://www.cs.utexas.edu/~ml/papers/active-nll-ml99.pdf