BCEWithLogitsLoss參數(shù)pos_weight樣本不均衡問(wèn)題

下面是具體的參數(shù):

1. pos_weight:
  • 處理樣本不均衡問(wèn)題
    torch.nn.BCEWithLogitsLoss(weight=None, size_average=None, reduce=None, reduction='mean', pos_weight=None)


  • 其中* pos_weight (Tensor*, *optional) – a weight of positive examples. Must be a vector with length equal to the number of classes.
  • pos_weight里是一個(gè)tensor列表,需要和標(biāo)簽個(gè)數(shù)相同,比如現(xiàn)在有一個(gè)多標(biāo)簽分類肄鸽,類別有200個(gè),那么 pos_weight 就是為每個(gè)類別賦予的權(quán)重值逼龟,長(zhǎng)度為200,官方給出的例子是:
target = torch.ones([10, 64], dtype=torch.float32)  # 64 classes, batch size = 10
output = torch.full([10, 64], 1.5)  # A prediction (logit)
pos_weight = torch.ones([64])  # All weights are equal to 1
criterion = torch.nn.BCEWithLogitsLoss(pos_weight=pos_weight)
criterion(output, target)  # -log(sigmoid(1.5))
  • 如果現(xiàn)在是二分類追葡,只需要將正樣本loss的權(quán)重寫上即可腺律,比如我們有正負(fù)兩類樣本,正樣本數(shù)量為100個(gè)宜肉,負(fù)樣本為400個(gè)匀钧,我們想要對(duì)正負(fù)樣本的loss進(jìn)行加權(quán)處理,將正樣本的loss權(quán)重放大4倍谬返,通過(guò)這樣的方式緩解樣本不均衡問(wèn)題:
criterion = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([4]))

-- pos_weight (Tensor, optional): a weight of positive examples.
--Must be a vector with length equal to the number of classes.

參考:
BCEWithLogitsLoss樣本不均衡的處理

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末之斯,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子遣铝,更是在濱河造成了極大的恐慌佑刷,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,743評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件酿炸,死亡現(xiàn)場(chǎng)離奇詭異瘫絮,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)填硕,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門檀何,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人廷支,你說(shuō)我怎么就攤上這事∷ü迹” “怎么了恋拍?”我有些...
    開封第一講書人閱讀 157,285評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)藕甩。 經(jīng)常有香客問(wèn)我施敢,道長(zhǎng)周荐,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,485評(píng)論 1 283
  • 正文 為了忘掉前任僵娃,我火速辦了婚禮概作,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘默怨。我一直安慰自己讯榕,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,581評(píng)論 6 386
  • 文/花漫 我一把揭開白布匙睹。 她就那樣靜靜地躺著愚屁,像睡著了一般。 火紅的嫁衣襯著肌膚如雪痕檬。 梳的紋絲不亂的頭發(fā)上霎槐,一...
    開封第一講書人閱讀 49,821評(píng)論 1 290
  • 那天,我揣著相機(jī)與錄音梦谜,去河邊找鬼丘跌。 笑死,一個(gè)胖子當(dāng)著我的面吹牛唁桩,可吹牛的內(nèi)容都是我干的闭树。 我是一名探鬼主播,決...
    沈念sama閱讀 38,960評(píng)論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼朵夏,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蔼啦!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起仰猖,我...
    開封第一講書人閱讀 37,719評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤捏肢,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后饥侵,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體鸵赫,經(jīng)...
    沈念sama閱讀 44,186評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,516評(píng)論 2 327
  • 正文 我和宋清朗相戀三年躏升,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了辩棒。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,650評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡膨疏,死狀恐怖一睁,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情佃却,我是刑警寧澤者吁,帶...
    沈念sama閱讀 34,329評(píng)論 4 330
  • 正文 年R本政府宣布,位于F島的核電站饲帅,受9級(jí)特大地震影響复凳,放射性物質(zhì)發(fā)生泄漏瘤泪。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,936評(píng)論 3 313
  • 文/蒙蒙 一育八、第九天 我趴在偏房一處隱蔽的房頂上張望对途。 院中可真熱鬧,春花似錦髓棋、人聲如沸实檀。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)劲妙。三九已至,卻和暖如春儒喊,著一層夾襖步出監(jiān)牢的瞬間镣奋,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工怀愧, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留侨颈,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,370評(píng)論 2 360
  • 正文 我出身青樓芯义,卻偏偏與公主長(zhǎng)得像哈垢,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子扛拨,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,527評(píng)論 2 349

推薦閱讀更多精彩內(nèi)容