TDengine+Telegraf+Grafana搭建監(jiān)控系統(tǒng)

簡介:

? ? ??TDengine是一個高效的存儲唤殴、查詢、分析時序大數(shù)據(jù)的平臺到腥,專為物聯(lián)網(wǎng)朵逝、車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)乡范、運維監(jiān)測等優(yōu)化而設(shè)計配名。而作為服務(wù)于一家車聯(lián)網(wǎng)公司且有著鉆研精神的大數(shù)據(jù)工程師,自然會摸索一番晋辆。
? ? ??在安裝好TDengine后渠脉,根據(jù)官方給出的TDengine+Telegraf+Grafana組合,搭建監(jiān)控平臺栈拖。

Telegraf--數(shù)據(jù)采集
TDengine--數(shù)據(jù)存儲
Grafana--數(shù)據(jù)展示

利用官方博客給出的c程序向TDengine插入數(shù)據(jù)连舍,并通過監(jiān)控平臺觀測CPU、內(nèi)存和磁盤利用率如下圖:

注意事項:

TDengine官方文檔顯示:
目前涩哟,TDengine只支持在使用`systemd`做進程服務(wù)管理的linux系統(tǒng)上安裝索赏。其他linux系統(tǒng)的支持正在開發(fā)中。用`which`命令來檢測系統(tǒng)中是否存在`systemd`贴彼。
因此潜腻,Linux系統(tǒng)需要是`Centos7`和`Ubuntu16.04`及以上系統(tǒng)。

Linux環(huán)境:

1. 系統(tǒng):Centos7.2
2. 內(nèi)存:8G
3. 磁盤:1T
4. CPU:Intel(R) Pentium(R) CPU G3250 @ 3.20GHz
5. 核數(shù):2核

TDengine部署:

1器仗、從官網(wǎng)https://www.taosdata.com/cn/getting-started/下載RPM包(tdengine-1.6.0.0-3.el7.x86_64.rpm)
2融涣、安裝:rpm -ivh tdengine-1.6.0.0-3.el7.x86_64.rpm
3、啟動taos:systemctl start taosd
4精钮、輸入taos威鹿,進入數(shù)據(jù)庫

Telegraf部署:

? ? ??Telegraf 是收集和報告指標和數(shù)據(jù)的代理。Telegraf是TICK Stack的一部分轨香,是一個插件驅(qū)動的服務(wù)器代理忽你,用于收集和報告指標。

1臂容、進入官網(wǎng)https://portal.influxdata.com/downloads/下載

2科雳、選擇對應(yīng)版本安裝

wget https://dl.influxdata.com/telegraf/releases/telegraf-1.11.3-1.x86_64.rpm
sudo yum localinstall telegraf-1.11.3-1.x86_64.rpm

3根蟹、配置Telegraf,進入/etc/telegraf/telegraf.conf

在[agent]部分修改配置項:

hostname: 區(qū)分不同采集設(shè)備的機器名稱糟秘,需確保其唯一性metric_batch_size: 30简逮,允許Telegraf每批次寫入記錄最大數(shù)量,增大其數(shù)量可以降低Telegraf的請求發(fā)送頻率尿赚,但對于TDengine散庶,該數(shù)值不能超過50

在[[outputs.http]]修改配置項:

url:http://ip:6020/telegraf/udb,其中ip為TDengine集群的中任意一臺服務(wù)器的IP地址吼畏,6020為TDengine RESTful接口的端口號督赤,telegraf為固定關(guān)鍵字,udb為用于存儲采集數(shù)據(jù)的數(shù)據(jù)庫名稱泻蚊,可預(yù)先創(chuàng)建(一般默認生成)
method: "POST" 
username: 登錄TDengine的用戶名躲舌,默認為root
password: 登錄TDengine的密碼,默認為taosdata
data_format: "json"
json_timestamp_units: "1ms" `注意這一行不能直接復(fù)制粘貼性雄,里面“:”要改成“=”`

4没卸、啟動Telegraf

systemctl start telegraf

5、進入taos數(shù)據(jù)庫秒旋,查看生成的庫和表

show databases; --顯示數(shù)據(jù)庫
use udb;--使用數(shù)據(jù)庫
show stables;--顯示超級表
show tables;--顯示普通表

Grafana部署:

? ? ??Grafana是一個跨平臺的開源的度量分析和可視化工具约计,可以通過將采集的數(shù)據(jù)查詢?nèi)缓罂梢暬恼故荆⒓皶r通知迁筛。

1煤蚌、進入官網(wǎng)https://grafana.com/grafana/download下載并安裝:

wget https://dl.grafana.com/oss/release/grafana-6.2.5-1.x86_64.rpm
sudo yum localinstall grafana-6.2.5-1.x86_64.rpm

2、TDengine的Grafana插件在安裝包的/usr/local/taos/connector/grafana目錄下细卧。

以CentOS 7.2系統(tǒng)為例尉桩,將tdengine目錄拷貝到/var/lib/grafana/plugins目錄下

scp -r /usr/local/taos/connector/grafana/tdengine/ /var/lib/grafana/plugins

3、啟動Grafana

systemctl start grafana-server

4贪庙、在瀏覽器中通過host:3000登錄Grafana服務(wù)器(用戶名/密碼:admin/admin

5蜘犁、添加數(shù)據(jù)源為TDengine

用戶名/密碼為連接TDengine的root/taosdata,而不是Grafana的admin/admin止邮。

6这橙、創(chuàng)建dashboard實現(xiàn)數(shù)據(jù)可視化

注意事項

最近有朋友執(zhí)行我文檔中的SQL語句,發(fā)現(xiàn)顯示no data导披,原因是新版的TDengine改變了各個參數(shù)在數(shù)據(jù)庫中的名稱屈扎,請大家對照taos數(shù)據(jù)庫中的表名編寫SQL語句。

以上分為7個步驟撩匕,分別用1-7標明:

1助隧、點擊Queries圖標
2、選擇Query中的TDengine
3、在INPUT SQL中填入需要顯示的指標并村,以上為CPU利用率:
select avg(f_usage_user) from udb.cpu WHERE ts>=$from and ts<$to interval($interval)
4、為Panel形取一個別名:CPU
5滓技、點擊GENERATE SQL哩牍,生成圖形
6、選擇需要展示的時間段令漂,如Last 5 minutes
7膝昆、選擇圖形刷新的頻率,如5s

7叠必、配置Visualization參數(shù)

8荚孵、設(shè)置General參數(shù)

點擊General,為Panel修改名稱為:CPU利用率

9纬朝、配置Settings

10收叶、保存后得到下圖

11、進入Grafana官網(wǎng)https://grafana.com/grafana/plugins?type=panel還可以安裝一些插件共苛,如時鐘等

grafana-cli plugins install grafana-clock-panel
systemctl restart grafana-server

重啟Grafana后判没,刷新dashboard便會出現(xiàn)Clock

12、其他監(jiān)控指標如下:

磁盤利用率

select avg(f_used_percent) from udb.disk WHERE ts>=$from and ts<$to interval($interval);

總內(nèi)存

select avg(f_total) from udb.mem WHERE ts>=$from and ts<$to interval($interval);

內(nèi)存利用率

select avg(f_used_percent) from udb.mem WHERE ts>=$from and ts<$to interval($interval);

可用內(nèi)存

select avg(f_available) from udb.mem WHERE ts>=$from and ts<$to interval($interval);

總結(jié):

? ? ??基于TDengine+Telegraf+Grafana的簡易監(jiān)控平臺搭建完成隅茎,感興趣的朋友可以監(jiān)控更多指標并加上報警功能等澄峰。TDengine自開源以來便引起了巨大反響,使用過一段時間后辟犀,不得不說俏竞,TDengine的誕生確實為物聯(lián)網(wǎng)數(shù)據(jù)的存儲分析帶來了便利,我有以下幾個心得:

1堂竟、從部署來講魂毁,即使搭建過很多次Hadoop架構(gòu),我還是得仔細配置調(diào)參測試跃捣,至少得折騰一兩天漱牵,TDengine單機版部署確實是秒級,集群版部署流程不太清楚疚漆。

2酣胀、從存儲來講,我用的是snappy算法娶聘,官方給出的壓縮率是remaining 20%闻镶,在測試的時候感覺并沒有這么多,我們磁盤總共60T丸升,3月開始到現(xiàn)在用了差不多10T了铆农。TDengine的壓縮率是10%。

3狡耻、從數(shù)據(jù)分析來講墩剖,我們讀取Hbase數(shù)據(jù)猴凹,快的方法是Spark,我們的行健是車輛ID和時間戳的組合岭皂,相鄰時間的數(shù)據(jù)可能分散在各個region上郊霎,在不同的機器上,通過RPC連接爷绘,查詢時也比較慢书劝。而TDengine設(shè)計時一輛車對應(yīng)一張表,連續(xù)的數(shù)據(jù)在一個block上土至,查詢非彻憾裕快,我用python連接單機版taos數(shù)據(jù)庫陶因,讀取和分析整個超級表也是秒級的骡苞,集群版沒有測試過。

4坑赡、從運維上來講烙如,我安裝的每個組件是分開部署,不像Ambari那種集成了所有組件的毅否,集群出問題了就要一點點排查亚铁,不過好在Hadoop架構(gòu)相對比較成熟了,網(wǎng)上應(yīng)該總能找到解決辦法螟加。而TDengine就是把所有東西都封裝在一個小小的包里面徘溢,運維應(yīng)該會相對輕松。

? ? ??以上言論均為一家之言捆探,最后然爆,希望能盡快感受到集群版的魅力,也祝愿TDengine蓬勃發(fā)展黍图。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末曾雕,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子助被,更是在濱河造成了極大的恐慌剖张,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,723評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件揩环,死亡現(xiàn)場離奇詭異搔弄,居然都是意外死亡,警方通過查閱死者的電腦和手機丰滑,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,485評論 2 382
  • 文/潘曉璐 我一進店門顾犹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事炫刷∏姹Γ” “怎么了?”我有些...
    開封第一講書人閱讀 152,998評論 0 344
  • 文/不壞的土叔 我叫張陵柬唯,是天一觀的道長认臊。 經(jīng)常有香客問我,道長锄奢,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,323評論 1 279
  • 正文 為了忘掉前任剧腻,我火速辦了婚禮拘央,結(jié)果婚禮上书在,老公的妹妹穿的比我還像新娘。我一直安慰自己儒旬,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,355評論 5 374
  • 文/花漫 我一把揭開白布栈源。 她就那樣靜靜地躺著,像睡著了一般甚垦。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上艰亮,一...
    開封第一講書人閱讀 49,079評論 1 285
  • 那天,我揣著相機與錄音疗韵,去河邊找鬼。 笑死蕉汪,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的肤无。 我是一名探鬼主播,決...
    沈念sama閱讀 38,389評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼宛渐,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了窥翩?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,019評論 0 259
  • 序言:老撾萬榮一對情侶失蹤笔时,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后允耿,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,519評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡扒怖,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,971評論 2 325
  • 正文 我和宋清朗相戀三年较锡,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片盗痒。...
    茶點故事閱讀 38,100評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡蚂蕴,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出俯邓,到底是詐尸還是另有隱情骡楼,我是刑警寧澤,帶...
    沈念sama閱讀 33,738評論 4 324
  • 正文 年R本政府宣布稽鞭,位于F島的核電站鸟整,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏川慌。R本人自食惡果不足惜吃嘿,卻給世界環(huán)境...
    茶點故事閱讀 39,293評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望梦重。 院中可真熱鬧兑燥,春花似錦、人聲如沸琴拧。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,289評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蚓胸。三九已至挣饥,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間沛膳,已是汗流浹背扔枫。 一陣腳步聲響...
    開封第一講書人閱讀 31,517評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留锹安,地道東北人短荐。 一個月前我還...
    沈念sama閱讀 45,547評論 2 354
  • 正文 我出身青樓倚舀,卻偏偏與公主長得像,于是被迫代替她去往敵國和親忍宋。 傳聞我的和親對象是個殘疾皇子痕貌,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,834評論 2 345

推薦閱讀更多精彩內(nèi)容