當(dāng)我們想要購買一個(gè)電腦時(shí)权纤，我們不會(huì)僅僅聽信銷售員的一面之詞就購買国章，因?yàn)橐粋€(gè)人的意見是比較主觀的灭忠，但是如果詢問5個(gè)人区拳，例如同事或者你的朋友渐苏，甚至更...

前面的信息論已經(jīng)簡單介紹了信息熵的概念。在決策樹算法中防嗡，也使用到了信息增益來構(gòu)建決策樹。下面會(huì)通過一個(gè)通俗的例子理解信息增益與信息增益率侠坎。 信息...

1. 矩陣求逆引理 Matrix inversion lemma 矩陣 , 都是 m x n（m行 n列） 矩陣是 n x n 若 ...

基本思想 基本思想：一個(gè)不太可能發(fā)生的事件發(fā)生了蚁趁，比一個(gè)非常可能發(fā)生的事件包含的信息更多实胸。比如他嫡，“今天太陽升起了”沒有必要告訴別人，但是“今天有...