Design of computationally efficient density-based clustering algorithms

Efficent density-based clustering algorightms

title: Design of computationally efficient density-based clustering algorithms ---- pdf download

code: None

abstract

本文針對基于密度的聚類方法劫瞳,提出了優(yōu)化策略格带,能夠大幅度降低計算復雜度雪情。針對DBSCAN聚類策略,首先通過快速融合策略來降低初始化階段的計算復雜度糊秆,然后考慮到相似性度量時候的相關系數(shù)虐秋,通過相關性來判斷兩個點是否屬于同一個類摊唇。

proposed algorithm

DBSCAN算法一共分為兩步:初始化核心對象合并小的類兩個步驟,該方法和傳統(tǒng)的DBSCAN的方法有所不同授帕,傳統(tǒng)的DBSCAN中提到的兩階段方法如下:

  • 第一步,計算所有的核心對象浮梢,得到核心對象集合
  • 第二步跛十,隨機從核心對象集合中間取一個樣本,計算該核心對象所有密度直達的點秕硝,依次判斷這些點是否是核心對象芥映,如果是的話,就加入到該核心對象的cluster中远豺,否則(邊界點)跳過該點奈偏。其中每個點只能被訪問一次,也就是說每個點一旦被某個cluster吸收進去了躯护,就不會在被其他cluster進行吸收惊来,因此DBSCAN的最終分類的結果和樣本的訪問順序是有關的,即DBSCAN是一種不穩(wěn)定的聚類方法榛做。

針對DBSCAN的方法唁盏,本文在第二步的時候,沒有依次判斷核心對象的所有密度直達的點是否是核心對象检眯,而是在第一步計算完所有的核心對象之后厘擂,得到每個核心對象的small cluster之后,對這些small cluster進行合并锰瘸,并且采用了一種很巧妙的方法極大的降低了計算復雜度刽严。

合并策略如下

(1)基于距離度量的快速合并算法

對于兩個cluster A 和 B,兩個cluster的距離計算如下:

d(C_1, C_2) = min\{d(y,z)\} ----(1)

其中y和z分別是C_1C_2 的邊界點避凝,因此(1)的計算復雜度應為N(C_1) * N(C_2)

image.png

加速策略:

但是考慮到每個cluster在高維空間是一個球形舞萄,因此我們先計算cluster A 和 cluster B的點,分別為A_0B_0管削,如果A_0B_0之前的距離大于3*\epsilon倒脓, 則A和B的最小點的距離必然大于\epsilon,根據(jù)這個條件含思,我們可以判斷兩個類是否進行合并崎弃。

image.png
image.png

(2)基于相關系數(shù)的度量

對于兩個cluster A 和 B甘晤,兩個cluster的距離通過皮爾遜相關系數(shù)來確定,相關系數(shù)的值為-1到1之間饲做,計算如下:

image.png

\rho(x,y)的值具有如下兩個特性:

  • 對稱性:\rho(x,y) = \rho(y,x)
  • 位置和尺度不變性:\rho(a + b*y, c + d*z) = \rho(y,z)

該種方法要求在DBSCAN的第一步的尋找核心對象的時候线婚,采用相關系數(shù)來判斷一個類是否為核心對象:

image.png

因此,兩個cluster是否合并盆均,取決于兩個cluster的最大相關系數(shù)是否大于給定的閾值塞弊,公式如下:

image.png

加速策略:

采用相關系數(shù)來替代空間密度的方法,最后聚的類不能采用球形那種判斷策略泪姨,因此采用兩個cluster的均值來代替游沿。

image.png

experiment

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市驴娃,隨后出現(xiàn)的幾起案子奏候,更是在濱河造成了極大的恐慌,老刑警劉巖唇敞,帶你破解...
    沈念sama閱讀 216,744評論 6 502
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件蔗草,死亡現(xiàn)場離奇詭異,居然都是意外死亡疆柔,警方通過查閱死者的電腦和手機咒精,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,505評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來旷档,“玉大人模叙,你說我怎么就攤上這事⌒” “怎么了范咨?”我有些...
    開封第一講書人閱讀 163,105評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長厂庇。 經(jīng)常有香客問我渠啊,道長,這世上最難降的妖魔是什么权旷? 我笑而不...
    開封第一講書人閱讀 58,242評論 1 292
  • 正文 為了忘掉前任替蛉,我火速辦了婚禮,結果婚禮上拄氯,老公的妹妹穿的比我還像新娘躲查。我一直安慰自己,他們只是感情好译柏,可當我...
    茶點故事閱讀 67,269評論 6 389
  • 文/花漫 我一把揭開白布镣煮。 她就那樣靜靜地躺著,像睡著了一般鄙麦。 火紅的嫁衣襯著肌膚如雪怎静。 梳的紋絲不亂的頭發(fā)上邮弹,一...
    開封第一講書人閱讀 51,215評論 1 299
  • 那天,我揣著相機與錄音蚓聘,去河邊找鬼。 笑死盟劫,一個胖子當著我的面吹牛夜牡,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播侣签,決...
    沈念sama閱讀 40,096評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼塘装,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了影所?” 一聲冷哼從身側響起蹦肴,我...
    開封第一講書人閱讀 38,939評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎猴娩,沒想到半個月后阴幌,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,354評論 1 311
  • 正文 獨居荒郊野嶺守林人離奇死亡卷中,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,573評論 2 333
  • 正文 我和宋清朗相戀三年矛双,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蟆豫。...
    茶點故事閱讀 39,745評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡议忽,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出十减,到底是詐尸還是另有隱情栈幸,我是刑警寧澤,帶...
    沈念sama閱讀 35,448評論 5 344
  • 正文 年R本政府宣布帮辟,位于F島的核電站速址,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏织阅。R本人自食惡果不足惜壳繁,卻給世界環(huán)境...
    茶點故事閱讀 41,048評論 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望荔棉。 院中可真熱鬧闹炉,春花似錦、人聲如沸润樱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,683評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽壹若。三九已至嗅钻,卻和暖如春皂冰,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背养篓。 一陣腳步聲響...
    開封第一講書人閱讀 32,838評論 1 269
  • 我被黑心中介騙來泰國打工秃流, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人柳弄。 一個月前我還...
    沈念sama閱讀 47,776評論 2 369
  • 正文 我出身青樓舶胀,卻偏偏與公主長得像,于是被迫代替她去往敵國和親碧注。 傳聞我的和親對象是個殘疾皇子嚣伐,可洞房花燭夜當晚...
    茶點故事閱讀 44,652評論 2 354

推薦閱讀更多精彩內(nèi)容