一瓤摧、信息量:用來消除信息熵竿裂,也就是不確定性≌彰郑——試著消減語句中的不必要成分腻异,不影響意思的理解。最終的結(jié)果是信息量最大的这揣。
二悔常、冗余度:對信息是否“密集”的描述。冗余度大就是廢話多给赞』颍——沒有冗余度,就難以理解片迅。因此口語中重復(fù)多姐帚,方便聽的人從多方收集信息確定內(nèi)容。
三障涯、哈夫曼編碼:為保證傳遞的信息最短罐旗,在對信息編碼時(shí),要把最短的符號給出現(xiàn)概率最大的信息唯蝶【判悖——語言中,越是常用字越簡單粘我。專有名詞都較長鼓蜒、復(fù)雜。本質(zhì)就是把最寶貴的資源給最容易成功的項(xiàng)目征字。
四都弹、信息“正交”——同一維度的信息重合度高,用起來沒有效果匙姜。而相互垂直的正交信息更有用畅厢。——兼聽則明氮昧,偏聽則暗框杜。
五、結(jié)論要交叉驗(yàn)證:利用不同維度的正交信息交叉驗(yàn)證袖肥,可以有效降低不確定性咪辱。——單一信息源不可信椎组。詐騙電話就是讓你不能從別處獲得信息來驗(yàn)證油狂。
六、置信度:足夠的數(shù)據(jù)量才能保證足夠高的置信度∽辏——要向適合領(lǐng)域的高手請教他熟悉領(lǐng)域的問題弱贼。
七、互信息:衡量信息間的強(qiáng)相關(guān)仁堪∠ⅲ——共同點(diǎn)越多,越容易建立信任弦聂,交易成本約低鸟辅。
八、信道:超過容量就會出錯莺葫》肆梗——和道路一樣,有最合適的流量捺檬。堵車更慢再层。
九、抗噪能力:噪音是固有的堡纬,在有噪音的情況下聂受,能把有用信息找出來、處理好烤镐〉凹茫——成功的企業(yè)似乎總能走在正確的道路上∨谝叮看似簡單碗旅,其實(shí)很難。
十镜悉、最大熵模型:把已知信息全部用掉祟辟,在沒有得到新的信息前,不要做任何主觀假設(shè)侣肄【衫В——克服主觀,單純效益最大茫孔。