Rebasing Ceilometer storage on Gnocchi

再來一篇Eoghan Glynn關(guān)于Gnocchi的slides。

What's the problem we're trying to solve here?

  • 現(xiàn)有的Ceilometer samples model是free-form metadata的依许,這就導(dǎo)致了雖然很靈活逸嘀,但是太heavy了。

  • 導(dǎo)致了一系列影響Ceilometer調(diào)優(yōu)的問題:

    • 大量的storage footprint溃肪。
    • 數(shù)據(jù)攝入是次優(yōu)的。
    • query API是non-scaling的。
  • API的表達是弱類型的削葱。

Key approaches taken by Gnocchi

  • 記錄強類型的resource attributes。
  • 依靠events來重構(gòu)resource state timeline淳梦。
  • Eager pre-aggregate metric data析砸。
  • 支持受限的cross-metric aggregation。

Compare and contrast ...

classic Ceilometer Gnocchi
按需的aggregation Eager pre-aggregation
resources和samples在storage中是纏繞在一起的 resources和time-series data擁有獨立的storage和data models

Gnocchi basics

  1. Resource : cloud resource (instance, volume, etc)爆袍。
  2. Metric : 你想搜集的任何data首繁,靠UUID來辨別,或者name和resourceId的組合螃宙。
  3. Measure:(timestamp, value) 時序的數(shù)據(jù)點蛮瞄。
  4. Archive policy: admin定義的數(shù)據(jù)存儲policy。
  • 1 second resolution over a day, 1 hour resolution over a year, etc
  • 由間隔(in seconds)和保留時間(retention time-span)組成谆扎。
  1. Aggregation:用來匯聚數(shù)據(jù)的功能(sum, avg, etc)挂捅。
  2. Retention: 不會永久儲存源數(shù)據(jù),而是儲存根據(jù)archive policy匯聚后的數(shù)據(jù)堂湖。

Gnocchi aggregation mechanism

Goncchi aggregation mechanism.png

Gnocchi Indexer concept

  • Gnocchi的主要概念是獲取不同metrics的數(shù)據(jù)點闲先。
  • 盡管脫離了resource聯(lián)系状土,metrics沒有任何實際用途。
  • Resources是強類型的attributes伺糠。
  • Metric用name來做聯(lián)系蒙谓。(e.g. "cpu_util")
  • 和resources做松散聯(lián)系的metrics可以用來做cross-aggregate。
  • Gnocchi indexer負責(zé)來indexing entities, resources和將它們關(guān)聯(lián)起來训桶。
  • Resources和它們的attributes是well-defined, typed和indexed累驮。如果resource type對于Gnocchi是未知的,可以使用generic type舵揭。

Covering existing ceilometer use-cases

  • Alarming to drive Heat autoscaling:依賴跨所有instances的aggregating samples with matching meta-data谤专。
    • 使用跨metric的aggregation,基于強類型的resource attributes午绳,而不是free-form的metadata置侍。
  • 根據(jù)per-sample的resource metadata,重構(gòu)resource state timeline拦焚。
    • 使用針對相對罕見的events的queries來獲取state的變化蜡坊。

We're not re-inventing TSDB here

  • Gnocchi的可插入式drive model可以利用已有的專業(yè)以metrics為導(dǎo)向的DB (InfluxDB and OpenTSDB)。
  • Gnocchi自己基于Pandas和Swift赎败,提供了規(guī)范的存儲驅(qū)動秕衙。
  • 在專業(yè)TSDB use-case中,Gnoccchi管理resource-metrics關(guān)系和抽象的archive policy概念螟够。

Ref

Eoghan Glynn http://www.slideshare.net/EoghanGlynn/rdo-hangout-on-gnocchi

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末灾梦,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子妓笙,更是在濱河造成了極大的恐慌若河,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,627評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件寞宫,死亡現(xiàn)場離奇詭異萧福,居然都是意外死亡,警方通過查閱死者的電腦和手機辈赋,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,180評論 3 399
  • 文/潘曉璐 我一進店門鲫忍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人钥屈,你說我怎么就攤上這事悟民。” “怎么了篷就?”我有些...
    開封第一講書人閱讀 169,346評論 0 362
  • 文/不壞的土叔 我叫張陵射亏,是天一觀的道長。 經(jīng)常有香客問我,道長智润,這世上最難降的妖魔是什么及舍? 我笑而不...
    開封第一講書人閱讀 60,097評論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮窟绷,結(jié)果婚禮上锯玛,老公的妹妹穿的比我還像新娘。我一直安慰自己兼蜈,他們只是感情好攘残,可當我...
    茶點故事閱讀 69,100評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著为狸,像睡著了一般肯腕。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上钥平,一...
    開封第一講書人閱讀 52,696評論 1 312
  • 那天,我揣著相機與錄音姊途,去河邊找鬼涉瘾。 笑死,一個胖子當著我的面吹牛捷兰,可吹牛的內(nèi)容都是我干的立叛。 我是一名探鬼主播,決...
    沈念sama閱讀 41,165評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼贡茅,長吁一口氣:“原來是場噩夢啊……” “哼秘蛇!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起顶考,我...
    開封第一講書人閱讀 40,108評論 0 277
  • 序言:老撾萬榮一對情侶失蹤赁还,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后驹沿,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體艘策,經(jīng)...
    沈念sama閱讀 46,646評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,709評論 3 342
  • 正文 我和宋清朗相戀三年渊季,在試婚紗的時候發(fā)現(xiàn)自己被綠了朋蔫。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,861評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡却汉,死狀恐怖驯妄,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情合砂,我是刑警寧澤青扔,帶...
    沈念sama閱讀 36,527評論 5 351
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響赎懦,放射性物質(zhì)發(fā)生泄漏雀鹃。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,196評論 3 336
  • 文/蒙蒙 一励两、第九天 我趴在偏房一處隱蔽的房頂上張望黎茎。 院中可真熱鬧,春花似錦当悔、人聲如沸傅瞻。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,698評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽嗅骄。三九已至,卻和暖如春饼疙,著一層夾襖步出監(jiān)牢的瞬間溺森,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,804評論 1 274
  • 我被黑心中介騙來泰國打工窑眯, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留屏积,地道東北人。 一個月前我還...
    沈念sama閱讀 49,287評論 3 379
  • 正文 我出身青樓磅甩,卻偏偏與公主長得像炊林,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子卷要,可洞房花燭夜當晚...
    茶點故事閱讀 45,860評論 2 361

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理渣聚,服務(wù)發(fā)現(xiàn),斷路器僧叉,智...
    卡卡羅2017閱讀 134,716評論 18 139
  • 聊聊兩部最新的韓劇彪标,第一次在空間里面發(fā)這個倍权,以前喜歡說給不認識的人聽,現(xiàn)在突然給認識的人看捞烟,還真有點不習(xí)慣薄声。不過,...
    狐貍角閱讀 846評論 0 6
  • 我是一名高一學(xué)生 成績嘛 初中還是不錯的 一到高中啊 好像就諸事不順了 尤其是數(shù)學(xué)题画。 我想寫寫上高中以后的感受默辨。 ...
    馬珊珊閱讀 187評論 0 0
  • 在閱讀本文時,如果出現(xiàn)情緒上的波動苍息,請停止閱讀 (?????????? ?)? 我想讓一些患者身邊的人看到缩幸,讓他們...
    請酒閱讀 1,765評論 5 33
  • 在冰淇淋工作結(jié)束之后我們便正式的開始了開青口工作壹置。 報道的第一天,先從前臺拿工服表谊、去更衣室穿衣服钞护、去鞋柜取掛有自己...
    我是長今閱讀 736評論 5 1