01 聚類算法 - 大綱

本章開始進入聚類算法(Cluster)的講解唐片。 之前講過的內(nèi)容都是針對有監(jiān)督學(xué)習(xí)的模型,即我們在分類之前知道最終分類的目標宵溅。而聚類算法是面向無監(jiān)督學(xué)習(xí)的一種建模思想度硝。

聚類就是對大量未知標注的數(shù)據(jù)集肿轨,按照數(shù)據(jù)內(nèi)部存在的數(shù)據(jù)特征將數(shù)據(jù)集劃分為多個不同的類別,使類別內(nèi)的數(shù)據(jù)比較相似蕊程,類別之間的數(shù)據(jù)相似度比較小椒袍;屬于無監(jiān)督學(xué)習(xí)。

聚類算法的重點是計算樣本項之間的相似度藻茂,有時候也稱為樣本間的距離驹暑。

和分類算法的區(qū)別:
分類算法是有監(jiān)督學(xué)習(xí),基于有標注的歷史數(shù)據(jù)進行算法模型構(gòu)建辨赐;
聚類算法是無監(jiān)督學(xué)習(xí)优俘,數(shù)據(jù)集中的數(shù)據(jù)是沒有標注的;

在進入聚類算法學(xué)習(xí)之前掀序,需要對以下知識點進行說明帆焕,大綱如下:

● Jaccard相似度、Pearson相似度
● K-means聚類
● 聚類算法效果評估(準確率不恭、召回率等)
● 層次聚類算法
● 密度聚類算法
● 譜聚類算法

1叶雹、Jaccard相似度、Pearson相似度

聚類算法基于特征與特征之間的相似程度對數(shù)據(jù)進行歸類换吧。當數(shù)據(jù)沒有一個明確的分類準則時折晦,我們通過某種規(guī)律性的東西,對數(shù)據(jù)進行歸納和總結(jié)沾瓦,最終得到數(shù)據(jù)之間的相似性程度满着。

這章會介紹一些相似度計算的公式。我們在選擇了某種相似度的度量公式后贯莺,可以基于這種相似度對數(shù)據(jù)進行聚合风喇,達到分類的效果。

02 聚類算法 - 相似度距離公式乖篷、維度災(zāi)難

2响驴、K-means聚類

K-means是聚類中最常用的方法。在日常工作中撕蔼,因為聚類沒有明確的標簽Y豁鲤,所以對數(shù)據(jù)進行歸類劃分之后,我們也要根據(jù)經(jīng)驗主觀得對劃分后數(shù)據(jù)的分類進行定義鲸沮。

在統(tǒng)計分析中琳骡,聚類算法是一種探索性分析的工作。拿到數(shù)據(jù)后讼溺,我們可能沒有一個明確的目標楣号,不知道要做什么。我想先對數(shù)據(jù)做一個概要的分析,此時使用聚類分析可以達到這種效果炫狱。

本章最后會介紹K-means聚類的優(yōu)缺點藻懒。針對這些缺點,我們可以通過哪些改進的方法视译,來對數(shù)據(jù)進一步聚類嬉荆。

03 聚類算法 - K-means聚類
04 聚類算法 - 代碼案例一 - K-means聚類
05 聚類算法 - 二分K-Means、K-Means++酷含、K-Means||鄙早、Canopy、Mini Batch K-Means算法
06 聚類算法 - 代碼案例二 - K-Means算法和Mini Batch K-Means算法比較

3椅亚、聚類算法效果評估(準確率限番、召回率等)

聚類算法沒有目標值Y,那么如何去度量準確率和召回率呢呀舔?
如果所有的數(shù)據(jù)都沒有目標值標簽弥虐,那么無論怎么計算都不可能算出準確率和召回率的。
因此别威,我們可以將一些存在目標值Y的數(shù)據(jù)放到數(shù)據(jù)集中一起計算躯舔,從而得到準確率和召回率驴剔。這個思路本質(zhì)上還是有監(jiān)督的算法思想省古。

面試時可能會問:如何去評價一個聚類算法模型的好壞呢?
首先我根據(jù)人為的經(jīng)驗對一些數(shù)據(jù)進行劃分丧失,然后將這些數(shù)據(jù)放入我們的模型中進行分類豺妓。如果最終的分類結(jié)果和我認為預(yù)測的結(jié)果相似度高,那么認為這個聚類算法模型是優(yōu)秀的布讹。畢竟聚類分析是結(jié)合了實際業(yè)務(wù)的琳拭,作為數(shù)據(jù)分析師不可能對業(yè)務(wù)數(shù)據(jù)完全不敏感。

07 聚類算法 - 代碼案例三 - K-Means算法和Mini Batch K-Means算法效果評估
08 聚類算法 - 聚類算法的衡量指標

4描验、層次聚類算法

層次聚類算法的基本思想是:通過某種相似性測度計算節(jié)點之間的相似性白嘁,并按相似度由高到低排序,逐步重新連接個節(jié)點膘流。該方法的優(yōu)點是可隨時停止劃分絮缅。

09 聚類算法 - 層次聚類 - CF-Tree、BIRCH呼股、CURE
10 聚類算法 - 代碼案例四 - 層次聚類(BIRCH)算法參數(shù)比較

5耕魄、密度聚類算法

密度聚類算法的基本思想是:假定類別可以通過樣本分布的緊密程度決定。同一類別的樣本彭谁,他們之間的緊密相連的吸奴,也就是說,在該類別任意樣本周圍不遠處一定有同類別的樣本存在。通過將緊密相連的樣本劃為一類则奥,這樣就得到了一個聚類類別考润。通過將所有各組緊密相連的樣本劃為各個不同的類別,則我們就得到了最終的所有聚類類別結(jié)果读处。

11 聚類算法 - 密度聚類 - DBSCAN额划、MDCA
12 聚類算法 - 代碼案例五 - 密度聚類(DBSCAN)算法案例

6、譜聚類算法

譜聚類算法是建立在譜圖理論基礎(chǔ)上的档泽。與傳統(tǒng)的聚類算法相比俊戳,它具有能在任意形狀的樣本空間上聚類且收斂于全局最優(yōu)解的優(yōu)點。譜聚類算法建立在圖論中的譜圖理論基礎(chǔ)上馆匿,其本質(zhì)是將聚類問題轉(zhuǎn)化為圖的最優(yōu)劃分問題抑胎,是一種點對聚類算法,對數(shù)據(jù)聚類具有很好的應(yīng)用前景渐北。

圖論的這個算法一般在自然語言處理中用得比較多阿逃。

13 聚類算法 - 譜聚類
14 聚類算法 - 代碼案例六- 譜聚類(SC)算法案例

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市赃蛛,隨后出現(xiàn)的幾起案子恃锉,更是在濱河造成了極大的恐慌,老刑警劉巖呕臂,帶你破解...
    沈念sama閱讀 211,948評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件破托,死亡現(xiàn)場離奇詭異,居然都是意外死亡歧蒋,警方通過查閱死者的電腦和手機土砂,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,371評論 3 385
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來谜洽,“玉大人萝映,你說我怎么就攤上這事〔椋” “怎么了序臂?”我有些...
    開封第一講書人閱讀 157,490評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長实束。 經(jīng)常有香客問我奥秆,道長,這世上最難降的妖魔是什么磕洪? 我笑而不...
    開封第一講書人閱讀 56,521評論 1 284
  • 正文 為了忘掉前任吭练,我火速辦了婚禮,結(jié)果婚禮上析显,老公的妹妹穿的比我還像新娘鲫咽。我一直安慰自己签赃,他們只是感情好,可當我...
    茶點故事閱讀 65,627評論 6 386
  • 文/花漫 我一把揭開白布分尸。 她就那樣靜靜地躺著锦聊,像睡著了一般。 火紅的嫁衣襯著肌膚如雪箩绍。 梳的紋絲不亂的頭發(fā)上孔庭,一...
    開封第一講書人閱讀 49,842評論 1 290
  • 那天,我揣著相機與錄音材蛛,去河邊找鬼圆到。 笑死,一個胖子當著我的面吹牛卑吭,可吹牛的內(nèi)容都是我干的芽淡。 我是一名探鬼主播,決...
    沈念sama閱讀 38,997評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼豆赏,長吁一口氣:“原來是場噩夢啊……” “哼挣菲!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起掷邦,我...
    開封第一講書人閱讀 37,741評論 0 268
  • 序言:老撾萬榮一對情侶失蹤白胀,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后抚岗,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體或杠,經(jīng)...
    沈念sama閱讀 44,203評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,534評論 2 327
  • 正文 我和宋清朗相戀三年苟跪,在試婚紗的時候發(fā)現(xiàn)自己被綠了廷痘。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蔓涧。...
    茶點故事閱讀 38,673評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡件已,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出元暴,到底是詐尸還是另有隱情篷扩,我是刑警寧澤,帶...
    沈念sama閱讀 34,339評論 4 330
  • 正文 年R本政府宣布茉盏,位于F島的核電站鉴未,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏鸠姨。R本人自食惡果不足惜铜秆,卻給世界環(huán)境...
    茶點故事閱讀 39,955評論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望讶迁。 院中可真熱鬧连茧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,770評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至罚斗,卻和暖如春徙鱼,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背针姿。 一陣腳步聲響...
    開封第一講書人閱讀 32,000評論 1 266
  • 我被黑心中介騙來泰國打工袱吆, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人距淫。 一個月前我還...
    沈念sama閱讀 46,394評論 2 360
  • 正文 我出身青樓杆故,卻偏偏與公主長得像,于是被迫代替她去往敵國和親溉愁。 傳聞我的和親對象是個殘疾皇子处铛,可洞房花燭夜當晚...
    茶點故事閱讀 43,562評論 2 349