Redis 內(nèi)存分析方法

Redis 內(nèi)存分析方法

背景

線(xiàn)上經(jīng)常遇到用戶(hù)想知道自己 Redis 實(shí)例中數(shù)據(jù)的內(nèi)存分布情況。為了不影響線(xiàn)上實(shí)例的使用百揭,我們一般會(huì)采用 bgsave 生成 dump.rdb 文件母截,再結(jié)合 redis-rdb-tools 和 sqlite 來(lái)進(jìn)行靜態(tài)分析吧享》侠耄總的來(lái)說(shuō)撇寞,整個(gè)分析的過(guò)程簡(jiǎn)單而實(shí)用,是每一個(gè) Redis 的用戶(hù)都非常值得掌握的一個(gè)方法眨八。

創(chuàng)建備份

自建 Redis 可在客戶(hù)端執(zhí)行?bgsave?生成 rdb 文件腺兴。云數(shù)據(jù)庫(kù) Redis 版可以在控制臺(tái)上可以進(jìn)行數(shù)據(jù)備份和下載的操作,下載后的數(shù)據(jù)為 rdb 格式文件廉侧。步驟詳見(jiàn)下圖:

下載阿里云? .rdb 文件

生成內(nèi)存快照

redis-rdb-tools 是一個(gè) python 的解析 rdb 文件的工具页响,在分析內(nèi)存的時(shí)候,我們主要用它生成內(nèi)存快照段誊。主要有以下三個(gè)功能:

生成內(nèi)存快照

轉(zhuǎn)儲(chǔ)成 json 格式

使用標(biāo)準(zhǔn)的 diff 工具比較兩個(gè) dump 文件

redis-rdb-tools 安裝

redis-rdb-tools 有兩種安裝方式闰蚕,任選其一即可。

使用 PYPI 安裝

pip install rdbtools

從源碼安裝

git clone https://github.com/sripathikrishnan/redis-rdb-tools

cd redis-rdb-tools

sudo python setup.py install

使用 redis-rdb-tools 生成內(nèi)存快照

生成內(nèi)存快照的命令為:

rdb -c memory dump.rdb > memory.csv

生成 CSV 格式的內(nèi)存報(bào)告连舍。包含的列有:數(shù)據(jù)庫(kù) ID没陡,數(shù)據(jù)類(lèi)型,key索赏,內(nèi)存使用量(byte)盼玄,編碼。內(nèi)存使用量包含 key潜腻、value 和其他值埃儿。

注意:內(nèi)存使用量是理論上的近似值,在一般情況下融涣,略低于實(shí)際值童番。memory.csv 例子:

$head memory.csv

database,type,key,size_in_bytes,encoding,num_elements,len_largest_element

0,string,"orderAt:377671748",96,string,8,8

0,string,"orderAt:413052773",96,string,8,8

0,sortedset,"Artical:Comments:7386",81740,skiplist,479,41

0,sortedset,"pay:id:18029",2443,ziplist,84,16

0,string,"orderAt:452389458",96,string,8,8

分析內(nèi)存快照

SQLite 是一款輕型的數(shù)據(jù)庫(kù)。我們可以將前面生成的 csv 導(dǎo)入到數(shù)據(jù)庫(kù)中之后威鹿,就可以利用 sql 語(yǔ)句很方便的對(duì) Redis 的內(nèi)存數(shù)據(jù)進(jìn)行各種分析了剃斧。

注意:SQLite版本必須是3.16.0以上。

導(dǎo)入方法

sqlite3 memory.db

sqlite>.help (查看幫助)

sqlite> create table memory(database int,type varchar(128),key varchar(128),size_in_bytes int,encoding varchar(128),num_elements int,len_largest_element varchar(128));

sqlite>.mode csv memory

sqlite>.import memory.csv memory

數(shù)據(jù)導(dǎo)入以后忽你,接下來(lái)想怎么分析就怎么分析了悯衬,舉幾個(gè)簡(jiǎn)單的例子:

查詢(xún)key個(gè)數(shù)

sqlite>select count(*) from memory;

查詢(xún)總的內(nèi)存占用

sqlite>select sum(size_in_bytes) from memory;

查詢(xún)內(nèi)存占用最高的10個(gè) key

sqlite>select * from memory order by size_in_bytes desc limit 10;

查詢(xún)成員個(gè)數(shù)1000個(gè)以上的 list

sqlite>select * from memory where type='list' and num_elements > 1000 ;

總結(jié)

通過(guò)使用 redis-rdb-tools + sqlite 的方式,可以方便的對(duì) redis 實(shí)例的內(nèi)存情況進(jìn)行靜態(tài)的分析檀夹。整個(gè)過(guò)程也比較簡(jiǎn)單,獲取到 rdb 之后即可策橘。

rdb -c memory dump.rdb > memory.csv;

sqlite3 memory.db

sqlite> create table memory(database int,type varchar(128),key varchar(128),size_in_bytes int,encoding varchar(128),num_elements int,len_largest_element varchar(128));

sqlite>.mode csv memory

sqlite>.import memory.csv memory

實(shí)際使用中炸渡,發(fā)現(xiàn)過(guò)一個(gè) List 積攢了10多 GB 的內(nèi)容,也發(fā)現(xiàn)過(guò)43 MB 以上的 string 類(lèi)型的 value丽已, 往往不僅能解答用戶(hù)的疑惑蚌堵,而且能夠幫助用戶(hù)排除業(yè)務(wù)中潛在的風(fēng)險(xiǎn)點(diǎn),找到業(yè)務(wù)性能瓶頸。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末吼畏,一起剝皮案震驚了整個(gè)濱河市督赤,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌泻蚊,老刑警劉巖躲舌,帶你破解...
    沈念sama閱讀 218,204評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異性雄,居然都是意外死亡没卸,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,091評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)秒旋,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)约计,“玉大人,你說(shuō)我怎么就攤上這事迁筛∶喊觯” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,548評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵细卧,是天一觀的道長(zhǎng)尉桩。 經(jīng)常有香客問(wèn)我,道長(zhǎng)酒甸,這世上最難降的妖魔是什么魄健? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,657評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮插勤,結(jié)果婚禮上沽瘦,老公的妹妹穿的比我還像新娘。我一直安慰自己农尖,他們只是感情好析恋,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,689評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著盛卡,像睡著了一般助隧。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上滑沧,一...
    開(kāi)封第一講書(shū)人閱讀 51,554評(píng)論 1 305
  • 那天并村,我揣著相機(jī)與錄音,去河邊找鬼滓技。 笑死哩牍,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的令漂。 我是一名探鬼主播膝昆,決...
    沈念sama閱讀 40,302評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼丸边,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了荚孵?” 一聲冷哼從身側(cè)響起妹窖,我...
    開(kāi)封第一講書(shū)人閱讀 39,216評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎收叶,沒(méi)想到半個(gè)月后骄呼,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,661評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡滔驾,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,851評(píng)論 3 336
  • 正文 我和宋清朗相戀三年谒麦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片哆致。...
    茶點(diǎn)故事閱讀 39,977評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡绕德,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出摊阀,到底是詐尸還是另有隱情耻蛇,我是刑警寧澤,帶...
    沈念sama閱讀 35,697評(píng)論 5 347
  • 正文 年R本政府宣布胞此,位于F島的核電站臣咖,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏漱牵。R本人自食惡果不足惜夺蛇,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,306評(píng)論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望酣胀。 院中可真熱鬧刁赦,春花似錦、人聲如沸闻镶。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,898評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)铆农。三九已至牺氨,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間墩剖,已是汗流浹背猴凹。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,019評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留岭皂,地道東北人郊霎。 一個(gè)月前我還...
    沈念sama閱讀 48,138評(píng)論 3 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像蒲障,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,927評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 轉(zhuǎn)載地址:http://gnucto.blog.51cto.com/3391516/998509 Redis與Me...
    Ddaidai閱讀 21,452評(píng)論 0 82
  • 1.1 資料 揉阎,最好的入門(mén)小冊(cè)子庄撮,可以先于一切文檔之前看,免費(fèi)毙籽。 作者Antirez的博客洞斯,Antirez維護(hù)的R...
    JefferyLcm閱讀 17,056評(píng)論 1 51
  • NOSQL類(lèi)型簡(jiǎn)介鍵值對(duì):會(huì)使用到一個(gè)哈希表,表中有一個(gè)特定的鍵和一個(gè)指針指向特定的數(shù)據(jù)坑赡,如redis烙如,volde...
    MicoCube閱讀 3,981評(píng)論 2 27
  • 經(jīng)貓叔的推薦亚铁,在掌閱上買(mǎi)了《書(shū)都不會(huì)讀,你還想成功》這本書(shū)螟加,本來(lái)以為就是本普通的雞湯類(lèi)書(shū)籍徘溢,抱著隨便看看的態(tài)度翻翻...
    超厲害的方糖閱讀 434評(píng)論 4 2
  • 比賽結(jié)束了,名次是我的痛捆探,頒獎(jiǎng)典禮結(jié)束了然爆,讓我高歌一曲一無(wú)所有吧!(憂(yōu)傷黍图,憤怒曾雕,無(wú)奈,怒其不爭(zhēng)……這樣的情緒...
    賈海榮閱讀 813評(píng)論 0 3