熵:度量隨機(jī)變量的不確定性妹沙,熵越大,越混亂熟吏。熵為0的話距糖,隨機(jī)事件完全確定,一定會(huì)發(fā)生牵寺。決策樹:自頂向下悍引,做一個(gè)熵下降最快的樹。(使得事件越來(lái)越確定)