Redis Mass Insertion

用于快速向redis插入大量數(shù)據(jù)。官方文檔

官方理由大概如此:
Using a normal Redis client to perform mass insertion is not a good idea for a few reasons: the naive approach of sending one command after the other is slow because you have to pay for the round trip time for every command. It is possible to use pipelining, but for mass insertion of many records you need to write new commands while you read replies at the same time to make sure you are inserting as fast as possible.

Only a small percentage of clients support non-blocking I/O, and not all the clients are able to parse the replies in an efficient way in order to maximize throughput. For all this reasons the preferred way to mass import data into Redis is to generate a text file containing the Redis protocol, in raw format, in order to call the commands needed to insert the required data.

由于redis命令之間存在往返時(shí)延,即使并發(fā)客戶端寫入redis翘贮,效果仍然不能讓人滿意斯议。因此redis2.6發(fā)布支持pipe line模式嘹裂,支持快速大量插入。步驟如下:

1.構(gòu)建redis命令文本旭旭,如redis_command.txt

拿到原始的數(shù)據(jù)央勒,通過業(yè)務(wù)語言構(gòu)建此文件不成問題不见,生成如下格式的命令文本

SET Key0 Value0
SET Key1 Value1
...
SET KeyN ValueN

2.生成Redis Protocal的文本

github上找了個(gè)shell版本的,transfer.sh

#!/bin/bash

while read CMD; do
  # each command begins with *{number arguments in command}\r\n
  XS=($CMD); printf "*${#XS[@]}\r\n"
  # for each argument, we append ${length}\r\n{argument}\r\n
  for X in $CMD; do printf "\$${#X}\r\n$X\r\n"; done
done < redis_commands.txt

執(zhí)行命令:
sh transfer.sh > redis_protocal.txt

3.調(diào)用redis pipe崔步,完成批量插入數(shù)據(jù)
cat redis_protocal.txt | redis-cli -h host -p port --pipe

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末稳吮,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子井濒,更是在濱河造成了極大的恐慌灶似,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,490評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件瑞你,死亡現(xiàn)場(chǎng)離奇詭異酪惭,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)者甲,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,581評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門春感,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人虏缸,你說我怎么就攤上這事鲫懒。” “怎么了寇钉?”我有些...
    開封第一講書人閱讀 165,830評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵刀疙,是天一觀的道長舶赔。 經(jīng)常有香客問我扫倡,道長,這世上最難降的妖魔是什么竟纳? 我笑而不...
    開封第一講書人閱讀 58,957評(píng)論 1 295
  • 正文 為了忘掉前任撵溃,我火速辦了婚禮,結(jié)果婚禮上锥累,老公的妹妹穿的比我還像新娘缘挑。我一直安慰自己,他們只是感情好桶略,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,974評(píng)論 6 393
  • 文/花漫 我一把揭開白布语淘。 她就那樣靜靜地躺著,像睡著了一般际歼。 火紅的嫁衣襯著肌膚如雪惶翻。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,754評(píng)論 1 307
  • 那天鹅心,我揣著相機(jī)與錄音吕粗,去河邊找鬼。 笑死旭愧,一個(gè)胖子當(dāng)著我的面吹牛颅筋,可吹牛的內(nèi)容都是我干的宙暇。 我是一名探鬼主播,決...
    沈念sama閱讀 40,464評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼议泵,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼占贫!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起先口,我...
    開封第一講書人閱讀 39,357評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤靶剑,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后池充,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體桩引,經(jīng)...
    沈念sama閱讀 45,847評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,995評(píng)論 3 338
  • 正文 我和宋清朗相戀三年收夸,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了坑匠。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,137評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡卧惜,死狀恐怖厘灼,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情咽瓷,我是刑警寧澤设凹,帶...
    沈念sama閱讀 35,819評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站茅姜,受9級(jí)特大地震影響闪朱,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜钻洒,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,482評(píng)論 3 331
  • 文/蒙蒙 一奋姿、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧素标,春花似錦称诗、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,023評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至计维,卻和暖如春袜香,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背享潜。 一陣腳步聲響...
    開封第一講書人閱讀 33,149評(píng)論 1 272
  • 我被黑心中介騙來泰國打工困鸥, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,409評(píng)論 3 373
  • 正文 我出身青樓疾就,卻偏偏與公主長得像澜术,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子猬腰,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,086評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容