信息辐真，對于我們來說應(yīng)該是最不陌生的糕珊，不管是工作還是生活都離不開信息磷斧，倘若微信和抖音突然消失了振愿，一些人是會寂寞致死的。
我們常常會用信息量大或者小來評價接觸的信息弛饭，但一條新聞或一本書到底包含了多少信息量冕末，卻是普通人很難說清楚的。如何量化信息量的度量呢孩哑？在1948年栓霜，32歲的香農(nóng)博士在他著名的論文“通信的數(shù)學(xué)原理”中提出了“信息熵”的概念，才解決了信息的度量問題横蜒，并且量化出信息的作用胳蛮。
如果要徹底理解“信息熵”的概念，必須要用到一些數(shù)學(xué)公式丛晌，不過不理解這些數(shù)學(xué)公式也沒關(guān)系仅炊，只要能夠理解信息熵的基本概念和作用就可以了，所以這里就不引用數(shù)學(xué)公式了澎蛛。
5句話筆記：
1.信息量就等于不確定性的多少抚垄。
2.信息熵是對一個信息系統(tǒng)不確定性的度量。（在這一點上，它和熱力學(xué)中熵的概念有相似之處呆馁，因為后者就是一個系統(tǒng)無須的度量桐经，從另一個角度講也是對一種不確定性的度量。）
3.信息的作用在于消除不確定性浙滤，幾乎所有的自然語言處理阴挣、信息與信號處理的應(yīng)用都是一個消除不確定性的過程。
4.冗余度是指最大信息量和實際信息量之間的差距纺腊。
5.信息熵不僅是對信息的量化度量畔咧，而且是整個信息論的基礎(chǔ)，它對于通信揖膜、數(shù)據(jù)壓縮誓沸、自然語言處理都有很大的知道意義。
總結(jié)一下壹粟，就是：一個東西的信息量的大小拜隧，在于它克服了多少“不確定性”。明白了這一點煮寡，我們就很容易發(fā)現(xiàn)虹蓄，平時看到的很多東西，其實都沒有什么信息量幸撕，比如你正在刷的抖音薇组。
關(guān)于信息論我在萬維鋼的《精英日課》中看到了更深刻的洞見。分享與你：
1.可供選擇的范圍越廣坐儿，選擇的信息量就越大律胀。
2.信息，在于你從多大的不確定性中作出選擇貌矿。信息炭菌，在于你制造了多少意外。信息逛漫，在于你有多大的自由度黑低。所以信息論的價值觀是要求選擇權(quán)、多樣性酌毡、不確定性和自由度克握。我們不只想老老實實地活著，我們還想活出“信息”來枷踏。我們想在這個世界留下自己的痕跡菩暗。
3.和別人溝通時，想要讓別人充分理解你的意思旭蠕，最好的辦法不是用更大的聲音對他喊停团，而是多給他講幾遍旷坦。
4.信息就是意外。從“信息論”這個維度出發(fā)佑稠，有兩種事情特別值得我們?nèi)プ龅模篴.出乎別人意料的事秒梅；b.給自己增加選項的事。
現(xiàn)在是越來越期待吳軍老師的信息論課程了讶坯。
祝夏安番电。
