信息的度量
克服不確定性（混亂狀態(tài)）的多少。
應(yīng)用
克服的不確定性越多，信息量越大纺非。反過來講只酥，狀態(tài)越混亂，需要的信息量越大。
信源熵：
H(X) ={x1,? ? x2,? ? x3
- p(x1),p(x2),p(x3)
- }
遇到任何問題，先進(jìn)行模型抽象。
x1 的自信息量是 I（x1）=log p(x1)
H(X) = p(x1)logp(x1) +? p(x2)logp(x2) + p(x3)logp(x3)
應(yīng)用：
為什么劉強(qiáng)東在美國嫖娼被捕這條消息的信息量會很大滓窍？
正常來講，劉強(qiáng)東在人們的眼中是優(yōu)秀企業(yè)家形象巩那，嫖娼被捕的概率極低吏夯。
H（劉強(qiáng)東的狀態(tài)）{ 正常，嫖娼被捕
- p(正常）=90%即横，p(嫖娼被捕）=10%
- }
雖然H（劉強(qiáng)東的狀態(tài)）的信源熵很小噪生，但是I（嫖娼被捕）這個事件的自信息量巨大，所以一旦發(fā)生給接受者的信息量就越大东囚。
這也是新聞從業(yè)者或者自媒體喜歡報道 新奇獨立小概率新聞的原因跺嗽。
給我們工作生活有哪些啟發(fā)？
我們要做的工作，應(yīng)該傾向于做哪些難而正確的事情桨嫁，這也是鏈家網(wǎng)左暉先生在生前創(chuàng)業(yè)的理念植兰。
從信息論的角度來講，難而正確的事情璃吧，發(fā)生的概率比較低楣导，但是一旦發(fā)生，帶來的信息量很大畜挨。
我們和人交流筒繁，以及做演講，一定要講對聽眾來說是信息增量的事情巴元，講聽眾已知的事情毡咏，信息量為0。
