sklearn之OneClassSVM

1.簡介:

(1)無監(jiān)督異常值檢測

(2)解決非平衡樣本分類


2.函數(shù)定義

class?sklearn.svm.OneClassSVM(kernel=’rbf’,?degree=3,?gamma=’auto’,?coef0=0.0,?tol=0.001,?nu=0.5,?shrinking=True,?cache_size=200,?verbose=False,?max_iter=-1,?random_state=None)


3.參數(shù)含義:

kernel:


4.OneClass與2分類代乃,多分類的區(qū)別

? ? 典型的2類問題:識別郵件是否是垃圾郵件,一類“是”,另一類“不是”

? ? 典型的多類問題:人臉識別,每個人對應(yīng)的臉就是一個類锰瘸,然后把待識別的臉分到對應(yīng)的類中去

? ? 而OneClassClassification,它只有一個類贡耽,屬于該類就返回結(jié)果“是”鲁捏,不屬于就返回結(jié)果“不是”,乍一聽感覺與2分類沒什么區(qū)別硼端,其實他們的思想有很大差異并淋。在2分類問題中,訓(xùn)練集中就由兩個類的樣本組成珍昨,訓(xùn)練出的模型是一個2分類模型县耽;而OneClassClassification中的訓(xùn)練樣本只有一類,因此訓(xùn)練出的分類器將不屬于該類的所有其他樣本判別為“不是”即可镣典,而不是由于屬于另一類才返回的“不是”結(jié)果兔毙。

? ? 現(xiàn)實場景中的OneClassClassification例子:現(xiàn)在有一堆某商品的歷史銷售數(shù)據(jù),記錄著買該產(chǎn)品的用戶信息兄春,此外還有一些沒有購買過該產(chǎn)品的用戶信息澎剥,想通過2分類來預(yù)測他們是否會買該產(chǎn)品,也就是弄兩個類赶舆,一類是“買”哑姚,一類是“不買”祭饭。當(dāng)我們要開始訓(xùn)練2分類器的時候問題來了,一般來說沒買的用戶數(shù)會遠(yuǎn)遠(yuǎn)大于已經(jīng)買了的用戶數(shù)叙量,當(dāng)將數(shù)量不均衡的正負(fù)樣本投入訓(xùn)練時倡蝙,訓(xùn)練出的分類器會有較大的bias(偏向值)。因此宛乃,這時可以使用OneCLassClassification方法來解決悠咱,即訓(xùn)練集中只有已經(jīng)買過該產(chǎn)品的用戶數(shù)據(jù)蒸辆,在識別一個新用戶是否會買該產(chǎn)品時征炼,識別結(jié)果就是“會”或者“不會”。


5.OneClassCLassification的具體實現(xiàn)

多類Classification方法有很多躬贡,比如SVM尋找一個最優(yōu)超平面把正負(fù)樣本分開谆奥,總之都涉及到不止一個類的樣本,相當(dāng)于告訴算法“這種東西長什么樣拂玻,那種東西長什么樣”酸些。于是訓(xùn)練出一個模型能夠區(qū)分這些東西。

問題在于檐蚜,OneCLassClassification只有一個類魄懂,該怎么辦?

介紹一個方法:SVDD(support vector domain description)闯第,中文翻譯為“支持向量域描述”

其基本思想是:既然只有一個class市栗,那么我就訓(xùn)練出一個最小的超球面(超球面是指3維以上的空間中的球面,對應(yīng)的2維空間中就是曲線咳短,3維空間中就是球面)填帽,將這堆數(shù)據(jù)全部“包起來”,識別一個新的數(shù)據(jù)點時咙好,如果這個數(shù)據(jù)點落在超球面內(nèi)篡腌,就屬于這個類,否則不是勾效。

下面是在2維空間(實際情況中嘹悼,如果提取的特征多,維數(shù)就高)中的例子层宫,

更多原理公式推導(dǎo)杨伙,詳見 http://blog.sina.com.cn/s/blog_4ff49c7e0102vlbv.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市卒密,隨后出現(xiàn)的幾起案子缀台,更是在濱河造成了極大的恐慌,老刑警劉巖哮奇,帶你破解...
    沈念sama閱讀 212,383評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件膛腐,死亡現(xiàn)場離奇詭異睛约,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)哲身,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,522評論 3 385
  • 文/潘曉璐 我一進(jìn)店門辩涝,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人勘天,你說我怎么就攤上這事怔揩。” “怎么了脯丝?”我有些...
    開封第一講書人閱讀 157,852評論 0 348
  • 文/不壞的土叔 我叫張陵商膊,是天一觀的道長。 經(jīng)常有香客問我宠进,道長晕拆,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,621評論 1 284
  • 正文 為了忘掉前任材蹬,我火速辦了婚禮实幕,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘堤器。我一直安慰自己昆庇,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 65,741評論 6 386
  • 文/花漫 我一把揭開白布闸溃。 她就那樣靜靜地躺著整吆,像睡著了一般。 火紅的嫁衣襯著肌膚如雪圈暗。 梳的紋絲不亂的頭發(fā)上掂为,一...
    開封第一講書人閱讀 49,929評論 1 290
  • 那天,我揣著相機(jī)與錄音员串,去河邊找鬼勇哗。 笑死,一個胖子當(dāng)著我的面吹牛寸齐,可吹牛的內(nèi)容都是我干的欲诺。 我是一名探鬼主播,決...
    沈念sama閱讀 39,076評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼渺鹦,長吁一口氣:“原來是場噩夢啊……” “哼扰法!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起毅厚,我...
    開封第一講書人閱讀 37,803評論 0 268
  • 序言:老撾萬榮一對情侶失蹤塞颁,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體祠锣,經(jīng)...
    沈念sama閱讀 44,265評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡酷窥,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,582評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了伴网。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蓬推。...
    茶點故事閱讀 38,716評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖澡腾,靈堂內(nèi)的尸體忽然破棺而出沸伏,到底是詐尸還是另有隱情,我是刑警寧澤动分,帶...
    沈念sama閱讀 34,395評論 4 333
  • 正文 年R本政府宣布毅糟,位于F島的核電站,受9級特大地震影響刺啦,放射性物質(zhì)發(fā)生泄漏留特。R本人自食惡果不足惜纠脾,卻給世界環(huán)境...
    茶點故事閱讀 40,039評論 3 316
  • 文/蒙蒙 一玛瘸、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧苟蹈,春花似錦糊渊、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,798評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至菱鸥,卻和暖如春宗兼,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背氮采。 一陣腳步聲響...
    開封第一講書人閱讀 32,027評論 1 266
  • 我被黑心中介騙來泰國打工殷绍, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人鹊漠。 一個月前我還...
    沈念sama閱讀 46,488評論 2 361
  • 正文 我出身青樓主到,卻偏偏與公主長得像,于是被迫代替她去往敵國和親躯概。 傳聞我的和親對象是個殘疾皇子登钥,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,612評論 2 350

推薦閱讀更多精彩內(nèi)容