信息論2(自信息摹蘑、信息熵筹燕、聯(lián)合熵、條件熵衅鹿、交叉熵撒踪、相對熵(KL散度)、互信息大渤、最大互信息系數(shù))

1制妄、前言

??在研究機器學(xué)習(xí)一些算法原理時,經(jīng)常會出現(xiàn)各種有關(guān)信息論的概念(自信息泵三、互信息等)忍捡,此前已分享過一篇文章,但是相對簡單了一些切黔,本次將再進(jìn)一步分析各種相關(guān)概念。

2具篇、相關(guān)概念

2.1 自信息(信息量)

??“信息就是用來消除隨機不確定性的東西”----香農(nóng)纬霞。
??信息量是用來衡量一條消息(一個事件)發(fā)生后所帶來的信息大小,例如:太陽從東邊升起(一定會發(fā)生的事情驱显,所以信息量非常小诗芜,基本沒什么信息量),某地發(fā)生了地震(該事件發(fā)生的概率極小埃疫,所以其信息量很大)伏恐。
??一條消息(一個事件)所包含的信息量與這條消息(這個事件)能夠?qū)φ麄€系統(tǒng)消除的不確定性是正相關(guān)的。通俗說栓霜,一條消息的信息量越大翠桦,則對整個系統(tǒng)所消除的不確定性越大。信息量計算公式為:
I(x)=-\log _{2} p(x)
注:公式中的負(fù)號是要保證信息為正,隨便一條消息一定不會有負(fù)的信息量销凑。

信息量有以下特性:

  • (1)隨著事件發(fā)生概率的增加丛晌,其信息量在較少;
  • (2)多個獨立事件同事發(fā)生斗幼,其總信息量等于各個信息量的和澎蛛。
2.2 熵(信息熵)

?? 熵用來描述一個事件的不確定性大小,表示某事件所有可能發(fā)生的情況的信息量的期望值(可以簡單理解為:所有可能情況信息量的均值)蜕窿,計算公式如下:
\mathbf{H}(\mathbf{x})=-\sum_{i=1}^{n} \boldsymbol{p}\left(\boldsymbol{x}_{i}\right) \log \left(\boldsymbol{p}\left(\boldsymbol{x}_{i}\right)\right)
基本性質(zhì):

  • (1)非負(fù)性:H(X) \geq 0谋逻,當(dāng)某事件是確定發(fā)生的事情,則其熵為0(太陽從東邊升起的信息熵為0)桐经;
  • (2)某隨機變量每次發(fā)生的情況越不確定( 不確定性越大)毁兆,則其熵值越大,此時次询,該變量的分布也約混亂荧恍;
  • (3)當(dāng)某事件對每種可能發(fā)生情況的概率是相等時,則其熵值最大屯吊;

例(來自周志華老師《機器學(xué)習(xí)》一書):
已知信息如下圖(Y表示好瓜或壞瓜):

聯(lián)合熵計算案例

則可得到以下熵值(以下公式中送巡,是確定X為某種顏色的情況下Y的熵值,并非條件熵):


2.3 聯(lián)合熵

??表示事件X與Y都發(fā)生時的熵值大泻行丁(本人理解:事件X與Y都發(fā)生能夠帶來多少信息量骗爆。如果理解有誤,希望留言指出蔽介,先謝過各位摘投。),計算公式如下:
H(X, Y)=-\sum_{x, y} P(x, y) \log P(x, y)

2.4 條件熵

??表示在某事件發(fā)生的情況下虹蓄,另外一事件發(fā)生的熵值大小犀呼,(本人理解:某事件發(fā)生后,另外一事件發(fā)生可以帶來多少信息量薇组。如果理解有誤外臂,希望留言指出,先謝過各位律胀。)計算公式如下:
H(Y|X)=\sum_{x \in X} p(x) H(y | X=x)=-\sum_{x, y} P(x, y) \log P(y|x)
性質(zhì)1:
H(Y | X)=H(X, Y)-H(X)
證明:
???H(X, Y)-H(X)

=-\sum_{x, y} p(x, y) \log p(x, y)+\sum_{x} p(x) \log p(x)
=-\sum_{\boldsymbol{x}, \boldsymbol{y}} p(x, y) \log p(x, y)+\sum_{x}\left(\sum_{y} p(x, y)\right) \log p(x)
=-\sum_{x, y} p(x, y) \log p(x, y)+\sum_{x, y} p(x, y) \log p(x)
=-\sum_{x, y} p(x, y) \log \frac{p(x, y)}{p(y)}
=-\sum_{x, y} p(x, y) \log p(y | x)
=H(Y | X)

性質(zhì)2:
\begin{array}{l}{H(X | Y) \leq H(X)} \\ {H(X, Y) \leq H(X)+H(Y)}\end{array}
??下面借助網(wǎng)上一張圖锉屈,來說明聯(lián)合熵與條件熵的關(guān)系晃择。

聯(lián)合熵與條件熵關(guān)系圖

左邊圓表示事件X發(fā)生時可以帶來的信息量H(X)秘通;
右邊圓表示事件Y發(fā)生時可以帶來的信息量H(Y)却舀;
兩個圓總面積就是聯(lián)合分布,兩事件都發(fā)生可以帶來的信息H(X, Y)黑低;
左邊圓減去兩個圓的交集部分赘艳,表示事件Y發(fā)生后事件X發(fā)生時可以帶來的信息量,也就是條件熵H(X|Y),右邊同理第练;
兩個圓交集部分是互信息(下文將詳細(xì)介紹)I(X;Y)

2.5 交叉熵

??在機器學(xué)習(xí)或深度學(xué)習(xí)中阔馋,經(jīng)常用交叉熵表示預(yù)測結(jié)果相對真實結(jié)果的錯誤程度,所以在模型訓(xùn)練時常作為損失函數(shù)娇掏。計算公式如下:
H(X, q)=-\sum_{x \in X} p(x) \log q(x)
其中呕寝,p(x)表示隨機變量X的真實分布,q(x)是預(yù)測結(jié)果的分布婴梧。結(jié)果越小下梢,則說明預(yù)測結(jié)果越接近真實結(jié)果。
這里引用網(wǎng)上一句概括:交叉熵塞蹭,用來高衡量在給定的真實分布下孽江,使用非真實分布指定的策略消除系統(tǒng)的不確定性所需要付出努力的大小。

2.6 相對熵(KL散度)

??相對熵用來衡量兩個概率分布之間的差異番电,計算公式如下:
D_{K L}(p \| q)=\sum_{k=1}^{K} p_{k} \log \frac{p_{k}}{q_{k}} = \sum_{k} p_{k} \log p_{k}-\sum_{k} p_{k} \log q_{k}=-H(p)+H(p, q)
從公式中可以看出岗屏,當(dāng)p_{k}q_{k}相等時,相對熵(KL散度)為0漱办。在深度學(xué)習(xí)訓(xùn)練(或者其他方法訓(xùn)練)過程中这刷,該值在不斷減小,多以也可將該值的減小作為訓(xùn)練的一個目標(biāo)娩井。

2.7 互信息

??互信息是指已知一個隨機變量后暇屋,另外一個變量信息量減少的程度,表示兩個分布之間的距離洞辣,計算公式如下:
\begin{aligned} I(X ; Y) &=H(X)-H(X | Y)=H(Y)-H(Y | X) \\ &=H(X)+H(Y)-H(X, Y) \\ &=H(X, Y)-H(X | Y)-H(Y | X) \end{aligned}
所以咐刨,如果兩個變量的相關(guān)性(不一定是線性相關(guān)系)越大,則其互信息值越大扬霜,當(dāng)兩個變量完全獨立時定鸟,則其互信息為0

2.8 最大互信息系數(shù)(MIC)

??上面提到的互信息是針對離散變量,最大互信息系數(shù)則時對于連續(xù)變量著瓶,用于衡量兩個變量的線性或非線性的強度仔粥,計算公式為:
I(X, Y)=D_{K L}(p(X, Y) \| p(X) p(Y))=-\int_{x} \int_{y} p(x, y) \log \frac{p(x, y)}{p(x) p(y)} d x d y
關(guān)于這部分內(nèi)容,這里推薦一篇好的博文

以上內(nèi)容如有理解不當(dāng)蟹但,請指出,謝謝谭羔!另华糖,文章中有些內(nèi)容來源于一些書籍或其他博客,這里就不一一列舉瘟裸,如有侵權(quán)客叉,請與我聯(lián)系刪除。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市兼搏,隨后出現(xiàn)的幾起案子卵慰,更是在濱河造成了極大的恐慌,老刑警劉巖佛呻,帶你破解...
    沈念sama閱讀 222,946評論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件裳朋,死亡現(xiàn)場離奇詭異,居然都是意外死亡吓著,警方通過查閱死者的電腦和手機鲤嫡,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,336評論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來绑莺,“玉大人暖眼,你說我怎么就攤上這事》牟茫” “怎么了诫肠?”我有些...
    開封第一講書人閱讀 169,716評論 0 364
  • 文/不壞的土叔 我叫張陵,是天一觀的道長欺缘。 經(jīng)常有香客問我栋豫,道長,這世上最難降的妖魔是什么浪南? 我笑而不...
    開封第一講書人閱讀 60,222評論 1 300
  • 正文 為了忘掉前任笼才,我火速辦了婚禮,結(jié)果婚禮上络凿,老公的妹妹穿的比我還像新娘骡送。我一直安慰自己,他們只是感情好絮记,可當(dāng)我...
    茶點故事閱讀 69,223評論 6 398
  • 文/花漫 我一把揭開白布摔踱。 她就那樣靜靜地躺著,像睡著了一般怨愤。 火紅的嫁衣襯著肌膚如雪派敷。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,807評論 1 314
  • 那天撰洗,我揣著相機與錄音篮愉,去河邊找鬼。 笑死差导,一個胖子當(dāng)著我的面吹牛试躏,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播设褐,決...
    沈念sama閱讀 41,235評論 3 424
  • 文/蒼蘭香墨 我猛地睜開眼颠蕴,長吁一口氣:“原來是場噩夢啊……” “哼泣刹!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起犀被,我...
    開封第一講書人閱讀 40,189評論 0 277
  • 序言:老撾萬榮一對情侶失蹤椅您,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后寡键,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體掀泳,經(jīng)...
    沈念sama閱讀 46,712評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,775評論 3 343
  • 正文 我和宋清朗相戀三年昌腰,在試婚紗的時候發(fā)現(xiàn)自己被綠了开伏。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,926評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡遭商,死狀恐怖固灵,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情劫流,我是刑警寧澤巫玻,帶...
    沈念sama閱讀 36,580評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站祠汇,受9級特大地震影響仍秤,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜可很,卻給世界環(huán)境...
    茶點故事閱讀 42,259評論 3 336
  • 文/蒙蒙 一诗力、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧我抠,春花似錦苇本、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,750評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至纳鼎,卻和暖如春俺夕,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背贱鄙。 一陣腳步聲響...
    開封第一講書人閱讀 33,867評論 1 274
  • 我被黑心中介騙來泰國打工劝贸, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人逗宁。 一個月前我還...
    沈念sama閱讀 49,368評論 3 379
  • 正文 我出身青樓映九,卻偏偏與公主長得像,于是被迫代替她去往敵國和親疙剑。 傳聞我的和親對象是個殘疾皇子氯迂,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,930評論 2 361