《機器學習實戰(zhàn)》筆記(十二):Ch12 - 使用FP-growth算法來高效發(fā)現(xiàn)頻繁項集

第12章 使用FP-growth算法來高效發(fā)現(xiàn)頻繁項集(代碼)

  • FP

    • 優(yōu)點

      • 因為 FP-growth 算法只需要對數(shù)據(jù)集遍歷兩次足淆,所以速度更快尝胆。

      • FP樹將集合按照支持度降序排序丧裁,不同路徑如果有相同前綴路徑共用存儲空間,使得數(shù)據(jù)得到了壓縮含衔。

      • 不需要生成候選集煎娇。

      • 比Apriori更快。

    • 缺點

      • FP-Tree第二次遍歷會存儲很多中間過程的值抱慌,會占用很多內存逊桦。

      • 構建FP-Tree是比較昂貴的。

    • 適用數(shù)據(jù)類型

      • 標稱型數(shù)據(jù)(離散型數(shù)據(jù))抑进。

    FP-Tree算法全稱是FrequentPattern Tree算法强经,就是頻繁模式樹算法,他與Apriori算法一樣也是用來挖掘頻繁項集的寺渗,不過不同的是匿情,F(xiàn)P-Tree算法是Apriori算法的優(yōu)化處理兰迫,他解決了Apriori算法在過程中會產生大量的候選集的問題,而FP-Tree算法則是發(fā)現(xiàn)頻繁模式而不產生候選集炬称。但是頻繁模式挖掘出來后汁果,產生關聯(lián)規(guī)則的步驟還是和Apriori是一樣的。

    • 創(chuàng)建FP樹步驟

      • 創(chuàng)建根節(jié)點玲躯,用NULL標記据德。

      • 統(tǒng)計所有的事務數(shù)據(jù),統(tǒng)計事務中各個類型項的總支持度(在下面的例子中就是各個商品ID的總個數(shù))

      • 依次讀取每條事務跷车,比如T1棘利, 1, 2朽缴, 5善玫,因為按照總支持度計數(shù)數(shù)量降序排列,輸入的數(shù)據(jù)順序就是2密强, 1茅郎, 5,然后掛到根節(jié)點上或渤。

      -依次讀取后面的事務系冗,并以同樣的方式加入的FP樹中,順著根節(jié)點路徑添加薪鹦,并更新節(jié)點上的支持度計數(shù)毕谴。

  • Fp樹的數(shù)據(jù)挖掘

    • 由長度為1 的頻繁模式開始,構造他的條件模式基(一個“子數(shù)據(jù)庫”距芬,由FP樹中與后綴模式一起出現(xiàn)的前綴路徑集組成)。

    • 構造該初始后綴模式的條件FP樹循帐,并遞歸的在該樹上實現(xiàn)挖掘框仔。模式增長通過后綴模式與條件FP樹產生的頻繁模式連接實現(xiàn)。

  • Fp樹性質

    • (結點鏈性質)對于任何頻繁項ia拄养,從FP-tree的頭表對應ia項的頭指針(headof node_link)開始离斩,通過遍歷ia的結點鏈(node_link)可以挖掘出所有包含ia的頻繁模式。

    • (前綴路徑性質)為了計算以ia為后綴的頻繁模式瘪匿,僅僅需要在FP-tree中計算ia結點的前綴路徑跛梗,并且前綴路徑中每個結點的頻繁計數(shù)等于ia結點的頻繁計數(shù)。

    • (分段增長)設α為事務數(shù)據(jù)庫D中的一個項集棋弥,B是α的條件模式基核偿,而β是B中的一個項集,那么在D中α∪β的支持度等于B中β的支持度顽染。

    • (模式增長)設項α為事務數(shù)據(jù)D中的一個項集漾岳,B是α的條件模式基轰绵,13而β是B中的一個項集,那么α∪β為頻繁項集的充分必要條件是β也為頻繁項集尼荆。

    • (單路徑頻繁項集產生)如果FP-treeT包含一條單路徑P左腔,那么T包含的所有頻繁項集的集合可以通過枚舉路徑P中結點的所有可能組合得到,其支持度計數(shù)為組合中結點的支持度計數(shù)的最小值捅儒。

    • 給定一個事務數(shù)據(jù)庫D,最小支持度閾值minσ和頻繁項頭表=<……>nLi,i,,i12液样。挖掘頻繁閉項集的問題可以分解為n個子問題:第j(1≤j≤n)個子問題是找到所有包含ijn+1?但不包含i(n1jkn)k+?<≤的頻繁閉項集。
      可以看出巧还,后挖掘到的頻繁閉項集不可能包含先前找到的頻繁閉項集鞭莽,但是它可能被已有的一個頻繁閉項集所包含,因此在挖掘過程中要對新挖掘的候選頻繁閉項集進行檢驗狞悲。如果剛得到的候選頻繁閉項集X不是已有的一個頻繁閉項集的子集或者兩者的支持度不同撮抓,那么就說X通過了FCI超集檢測,是一個頻繁閉項集摇锋。

    • 如果X是一個頻繁閉項集丹拯,那么在X的條件模式基中不存在任何一個項i出現(xiàn)在每一個事務中。

    • 如果Y是一個最大項集合(Y滿足:出現(xiàn)在X的條件模式基的每一個事務中荸恕,但Y的直接超集不滿足這一性質)乖酬,并且X∪Y通過了FCI超集檢測,那么X∪Y是一個頻繁閉項集融求。

    • 單路徑候選頻繁閉項集:設i是X的條件模式基中的一個頻繁項目咬像,如果X的條件模式樹中只有一個結點N標記為i,并且N的所有祖先結點只有一個子女生宛,N若滿足下列三個條件之一:

      • N沒有子女县昂。

      • N有兩個以上的子女。

      • N有一個子女陷舅,它的支持度計數(shù)小于N的倒彰。

        那么單路徑候選頻繁閉項集就是X∪Z,Z包含N和N的祖先(除根結點)莱睁。如果條件模式X的條件FP-tree存在單路徑待讳,在單路徑中提取候選頻繁閉項集的個數(shù)為單路徑中具有不等的頻度個數(shù)。

    • 對單路徑候選頻繁閉項集Y仰剿,如果Y通過了FCI超集檢測创淡,則Y是一個頻繁閉項集。

    • X和Y是兩個頻繁項集且具有相同的支持度南吮。如果X?Y且Y是閉項集琳彩,那么不存在只包含X不包含Y?X的頻繁閉項集。

  • 小節(jié)

    FP算法是一種用于發(fā)現(xiàn)數(shù)據(jù)集中頻繁模式有效的辦法

    FP樹構建完成之后,可以通過查找元素項的條件基于及構建條件FP樹來發(fā)現(xiàn)頻繁項集

    該過程不斷以更多元素作為條件重復執(zhí)行汁针,直到FP樹中只包含了一個元素為止


代碼托管見Github

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末术辐,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子施无,更是在濱河造成了極大的恐慌辉词,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,509評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件猾骡,死亡現(xiàn)場離奇詭異瑞躺,居然都是意外死亡,警方通過查閱死者的電腦和手機兴想,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評論 3 394
  • 文/潘曉璐 我一進店門幢哨,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人嫂便,你說我怎么就攤上這事捞镰。” “怎么了毙替?”我有些...
    開封第一講書人閱讀 163,875評論 0 354
  • 文/不壞的土叔 我叫張陵岸售,是天一觀的道長。 經常有香客問我厂画,道長凸丸,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,441評論 1 293
  • 正文 為了忘掉前任袱院,我火速辦了婚禮屎慢,結果婚禮上,老公的妹妹穿的比我還像新娘忽洛。我一直安慰自己腻惠,他們只是感情好,可當我...
    茶點故事閱讀 67,488評論 6 392
  • 文/花漫 我一把揭開白布欲虚。 她就那樣靜靜地躺著妖枚,像睡著了一般。 火紅的嫁衣襯著肌膚如雪苍在。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,365評論 1 302
  • 那天荠商,我揣著相機與錄音寂恬,去河邊找鬼。 笑死莱没,一個胖子當著我的面吹牛初肉,可吹牛的內容都是我干的。 我是一名探鬼主播饰躲,決...
    沈念sama閱讀 40,190評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼牙咏,長吁一口氣:“原來是場噩夢啊……” “哼臼隔!你這毒婦竟也來了?” 一聲冷哼從身側響起妄壶,我...
    開封第一講書人閱讀 39,062評論 0 276
  • 序言:老撾萬榮一對情侶失蹤摔握,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后丁寄,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體氨淌,經...
    沈念sama閱讀 45,500評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,706評論 3 335
  • 正文 我和宋清朗相戀三年伊磺,在試婚紗的時候發(fā)現(xiàn)自己被綠了盛正。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,834評論 1 347
  • 序言:一個原本活蹦亂跳的男人離奇死亡屑埋,死狀恐怖豪筝,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情摘能,我是刑警寧澤续崖,帶...
    沈念sama閱讀 35,559評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站徊哑,受9級特大地震影響袜刷,放射性物質發(fā)生泄漏。R本人自食惡果不足惜莺丑,卻給世界環(huán)境...
    茶點故事閱讀 41,167評論 3 328
  • 文/蒙蒙 一著蟹、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧梢莽,春花似錦萧豆、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,779評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至轻局,卻和暖如春洪鸭,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背仑扑。 一陣腳步聲響...
    開封第一講書人閱讀 32,912評論 1 269
  • 我被黑心中介騙來泰國打工览爵, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人镇饮。 一個月前我還...
    沈念sama閱讀 47,958評論 2 370
  • 正文 我出身青樓蜓竹,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子俱济,可洞房花燭夜當晚...
    茶點故事閱讀 44,779評論 2 354

推薦閱讀更多精彩內容