松弛因子和懲罰因子

對(duì)于一個(gè)分類問題,其樣本集中往往存在一些模糊不清的樣本,直觀上告丢,考慮SVM分類器,這些樣本往往處于超平面的附近损谦。這些樣本對(duì)于分類器的設(shè)計(jì)具有很大的影響岖免。一種常用的方法為引入松弛因子到約束條件中,同時(shí)需要將這種松弛所導(dǎo)致的懲罰因子加入到目標(biāo)函數(shù)中照捡。

引入松弛因子和懲罰函數(shù)后的優(yōu)化模型

實(shí)際模型中颅湘,我們并不關(guān)心松弛因子,其數(shù)值是根據(jù)樣本點(diǎn)到假設(shè)超平面的距離給出的栗精,所以闯参,我們只需要設(shè)定懲罰因子C的數(shù)值即可。C的值可以為固定的一個(gè)值悲立,也可以是一個(gè)向量鹿寨。這里可以引申出分類中不均衡的問題,即薪夕,樣本中正分類和負(fù)分類的數(shù)量具有較大差異释移。這時(shí)我們可以通過引入兩種懲罰因子C,人為的增加對(duì)較少樣本數(shù)量類別的重視程度寥殖,進(jìn)而改善不均衡問題玩讳。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市嚼贡,隨后出現(xiàn)的幾起案子熏纯,更是在濱河造成了極大的恐慌,老刑警劉巖粤策,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件樟澜,死亡現(xiàn)場離奇詭異,居然都是意外死亡叮盘,警方通過查閱死者的電腦和手機(jī)秩贰,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來柔吼,“玉大人毒费,你說我怎么就攤上這事∮海” “怎么了觅玻?”我有些...
    開封第一講書人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵想际,是天一觀的道長。 經(jīng)常有香客問我溪厘,道長胡本,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任畸悬,我火速辦了婚禮侧甫,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘蹋宦。我一直安慰自己披粟,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開白布妆档。 她就那樣靜靜地躺著僻爽,像睡著了一般虫碉。 火紅的嫁衣襯著肌膚如雪贾惦。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,007評(píng)論 1 284
  • 那天敦捧,我揣著相機(jī)與錄音须板,去河邊找鬼。 笑死兢卵,一個(gè)胖子當(dāng)著我的面吹牛习瑰,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播秽荤,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼甜奄,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了窃款?” 一聲冷哼從身側(cè)響起课兄,我...
    開封第一講書人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎晨继,沒想到半個(gè)月后烟阐,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡紊扬,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年蜒茄,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片餐屎。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡檀葛,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出腹缩,到底是詐尸還是另有隱情驻谆,我是刑警寧澤卵凑,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站胜臊,受9級(jí)特大地震影響勺卢,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜象对,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一黑忱、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧勒魔,春花似錦甫煞、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至弟胀,卻和暖如春楷力,著一層夾襖步出監(jiān)牢的瞬間谎倔,已是汗流浹背趁蕊。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留鹿蜀,地道東北人夏哭。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓检柬,卻偏偏與公主長得像,于是被迫代替她去往敵國和親竖配。 傳聞我的和親對(duì)象是個(gè)殘疾皇子何址,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 這篇文章主要參考了如下兩篇博文,并加入了自己的理解进胯。 SVM入門(八)松弛變量 SVM入門(九)松弛變量(續(xù)) 前...
    就是楊宗閱讀 14,180評(píng)論 4 6
  • 機(jī)器學(xué)習(xí)是做NLP和計(jì)算機(jī)視覺這類應(yīng)用算法的基礎(chǔ)用爪,雖然現(xiàn)在深度學(xué)習(xí)模型大行其道,但是懂一些傳統(tǒng)算法的原理和它們之間...
    在河之簡閱讀 20,482評(píng)論 4 65
  • 注:題中所指的『機(jī)器學(xué)習(xí)』不包括『深度學(xué)習(xí)』龄减。本篇文章以理論推導(dǎo)為主项钮,不涉及代碼實(shí)現(xiàn)。 前些日子定下了未來三年左右...
    我偏笑_NSNirvana閱讀 39,911評(píng)論 12 145
  • 本章涉及到的知識(shí)點(diǎn)清單:1希停、決策面方程2烁巫、函數(shù)間隔和幾何間隔3、不等式約束條件4宠能、SVM最優(yōu)化模型的數(shù)學(xué)描述(凸二...
    PrivateEye_zzy閱讀 13,186評(píng)論 3 10
  • 8年前违崇,我剛大學(xué)畢業(yè)阿弃,一個(gè)人在Z城市中飄蕩诊霹。 與學(xué)長合租一套兩室兩廳的房子,一個(gè)月僅需支付300元的房租即可渣淳。生活...
    2017想象的力量hui閱讀 306評(píng)論 0 1