無監(jiān)督學習K-means聚類算法筆記-scikit-learn

大家早安陵霉、午安汁展、晚安啦猎提,今天繼續(xù)學習scikit-learn中K-means聚類模型。在scikit-learn 中聚類的模型很多寸五,可以見下面截圖:

圖1

而上述這些算法的差異性見下圖:

圖2

感覺好復雜的樣子梳凛,辣么,先學K-means好啦梳杏,貌似是最簡單的聚類韧拒。

在scikit-learn中,k-means算法是基于KMeans模型來實現(xiàn)秘狞,其基本的思想還是利用上一篇無監(jiān)督學習K-means聚類算法筆記-Python中提到的最小化SSE(誤差平方和)來逐步迭代求解質(zhì)心叭莫,將數(shù)據(jù)分為不同的簇。

圖3

上面提到的Inertia就是SSE烁试。K-means方法的主要缺陷如下:

1)Inertia(SSE)其實是假設簇是具有凸的且同極性的(因為他是最小化與質(zhì)心的距離)雇初,但是事實不一定是這樣的,因此减响,當遇到分布式狹長的或者具有很多小分支的不規(guī)則分布的數(shù)據(jù)(It responds poorly to elongated clusters, or manifolds with irregular shapes.)時靖诗,該聚類方法的錯誤率就提高了,比如下圖中的分類

圖4

2)Inertia(SSE)并不是一個標準化的指標支示,我們只知道這個數(shù)值是越小越好且如果為0是最優(yōu)的刊橘,但是在高維度特征值的數(shù)據(jù)集中,在計算歐式距離時颂鸿,因為維度很高促绵,導致距離公式急速膨脹,出現(xiàn)所謂的高維災難。此時败晴,就需要先用一些方法降維拆檬,然后再采用Kmeans算法贮竟。

具體來看看KMeans模型

class sklearn.cluster.KMeans(n_clusters=8, init='k-means++', n_init=10, max_iter=300, tol=0.0001, precompute_distances='auto', verbose=0, random_state=None, copy_x=True, n_jobs=1, algorithm='auto')

n_clusters->最終要形成的簇的個數(shù)

init: {‘k-means++’, ‘random’ or an ndarray}->獲取初始化質(zhì)心的方法

Method for initialization, defaults to ‘k-means++’:

‘k-means++’ : selects initial cluster centers for k-mean clustering in a smart way to speed up convergence. See section Notes in k_init for more details.

‘random’: choose k observations (rows) at random from data for the initial centroids.

If an ndarray is passed, it should be of shape (n_clusters, n_features) and gives the initial centers.

在scikit-learn中,有個栗子是對比‘init: {‘k-means++’, ‘random’ or an ndarray}’中,不同的獲取初始質(zhì)心的方法將會影響K-means方法的聚類效果沃琅。

圖5
圖6
圖7

圖6中代碼的仿真圖:

圖8

圖7中代碼仿真圖:

圖9

scikit-learn中KMeans模型基本介紹到這里宣羊,希望對大家有所幫助澈蚌,也請大牛不吝賜教盔几!

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市纯路,隨后出現(xiàn)的幾起案子或油,更是在濱河造成了極大的恐慌,老刑警劉巖驰唬,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件装哆,死亡現(xiàn)場離奇詭異,居然都是意外死亡定嗓,警方通過查閱死者的電腦和手機蜕琴,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來宵溅,“玉大人凌简,你說我怎么就攤上這事∈崖撸” “怎么了雏搂?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長寇损。 經(jīng)常有香客問我凸郑,道長,這世上最難降的妖魔是什么矛市? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任芙沥,我火速辦了婚禮,結果婚禮上浊吏,老公的妹妹穿的比我還像新娘而昨。我一直安慰自己,他們只是感情好找田,可當我...
    茶點故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布歌憨。 她就那樣靜靜地躺著,像睡著了一般墩衙。 火紅的嫁衣襯著肌膚如雪务嫡。 梳的紋絲不亂的頭發(fā)上甲抖,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天,我揣著相機與錄音心铃,去河邊找鬼惧眠。 笑死,一個胖子當著我的面吹牛于个,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播暮顺,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼厅篓,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了捶码?” 一聲冷哼從身側響起羽氮,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎惫恼,沒想到半個月后档押,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡祈纯,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年令宿,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片腕窥。...
    茶點故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡粒没,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出簇爆,到底是詐尸還是另有隱情癞松,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布入蛆,位于F島的核電站响蓉,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏哨毁。R本人自食惡果不足惜枫甲,卻給世界環(huán)境...
    茶點故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望扼褪。 院中可真熱鬧言秸,春花似錦、人聲如沸迎捺。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽凳枝。三九已至抄沮,卻和暖如春跋核,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背叛买。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工砂代, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人率挣。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓刻伊,卻偏偏與公主長得像,于是被迫代替她去往敵國和親椒功。 傳聞我的和親對象是個殘疾皇子捶箱,可洞房花燭夜當晚...
    茶點故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內(nèi)容