RocksDB 中的 LSM-tree Compaction 算法概述(三)- FIFO Compaction

FIFO compaction 適用于低負載數(shù)據的存儲(如日志)乍桂,所有的文件都位于 L0冲杀。當文件總大小超過配置值 CompactionOptionsFIFO::max_table_files_size (默認值為 1GB) 時效床,最早的 SST 文件將會被刪除。

Compaction* FIFOCompactionPicker::PickSizeCompaction(
...
  std::vector<CompactionInputFiles> inputs;
  inputs.emplace_back();
  inputs[0].level = 0;

  for (auto ritr = level_files.rbegin(); ritr != level_files.rend(); ++ritr) {
    auto f = *ritr;
    total_size -= f->compensated_file_size;
    inputs[0].files.push_back(f);
    char tmp_fsize[16];
    AppendHumanBytes(f->fd.GetFileSize(), tmp_fsize, sizeof(tmp_fsize));
    ROCKS_LOG_BUFFER(log_buffer,
                     "[%s] FIFO compaction: picking file %" PRIu64
                     " with size %s for deletion",
                     cf_name.c_str(), f->fd.GetNumber(), tmp_fsize);
    //  選擇文件進行 compaction 直到文件總大小小于閾值
    if (total_size <=
        mutable_cf_options.compaction_options_fifo.max_table_files_size) {
      break;
    }
  }
...
}

L0 IntraCompaction

僅僅如此簡單的 compaction 策略可能會因為 L0 保存了大量的 SST 文件導致查詢性能急劇下降权谁。即使有 bloom filter 的幫助剩檀,甚至可能嚴重到 bloom filter 的開銷大到不可接受的地步。開啟 CompactionOptionsFIFO.allow_compaction 參數(shù)旺芽,可以觸發(fā) L0 IntraCompaction沪猴,每次至少選取 level0_file_num_compaction_trigger 個 SST 文件進行合并,從而減少文件數(shù)量采章。
以 level0_file_num_compaction_trigger = 2运嗜,每個 flush 文件大小為 100MB 為例,其 compaction 過程如下:

100MB
100MB 100MB -> 200MB
100MB 200MB
100MB 100MB 200MB -> 200MB 200MB
100MB 200MB 200MB

TTL Compaction

TTL compaction 在 FIFO compaction 的基礎之上悯舟,提供 SST 文件級別的過期刪除功能担租。當 SST 的最新的 key 存在時間超過 mutable_cf_options.ttl,則該 SST 文件將會在 TTL compaction 中被刪除抵怎。

Compaction* FIFOCompactionPicker::PickTTLCompaction(
    const std::string& cf_name, const MutableCFOptions& mutable_cf_options,
    const MutableDBOptions& mutable_db_options, VersionStorageInfo* vstorage,
    LogBuffer* log_buffer) {
 ...
  std::vector<CompactionInputFiles> inputs;
  inputs.emplace_back();
  inputs[0].level = 0;

  // avoid underflow
  if (current_time > mutable_cf_options.ttl) {
    for (auto ritr = level_files.rbegin(); ritr != level_files.rend(); ++ritr) {
      FileMetaData* f = *ritr;
      assert(f);
      if (f->fd.table_reader && f->fd.table_reader->GetTableProperties()) {
        uint64_t creation_time =
            f->fd.table_reader->GetTableProperties()->creation_time;
        //  判斷文件是否過期
        if (creation_time == 0 ||
            creation_time >= (current_time - mutable_cf_options.ttl)) {
          break;
        }
      }
      total_size -= f->compensated_file_size;
      inputs[0].files.push_back(f);
    }
  }
 ...

參考文獻

RocksDB Compaction Wiki
RocksDB FIFO Compaction Wiki

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末奋救,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子便贵,更是在濱河造成了極大的恐慌菠镇,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件承璃,死亡現(xiàn)場離奇詭異利耍,居然都是意外死亡,警方通過查閱死者的電腦和手機盔粹,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評論 2 381
  • 文/潘曉璐 我一進店門隘梨,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人舷嗡,你說我怎么就攤上這事轴猎。” “怎么了进萄?”我有些...
    開封第一講書人閱讀 153,443評論 0 344
  • 文/不壞的土叔 我叫張陵捻脖,是天一觀的道長。 經常有香客問我中鼠,道長可婶,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,475評論 1 279
  • 正文 為了忘掉前任援雇,我火速辦了婚禮矛渴,結果婚禮上,老公的妹妹穿的比我還像新娘惫搏。我一直安慰自己具温,他們只是感情好蚕涤,可當我...
    茶點故事閱讀 64,458評論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著铣猩,像睡著了一般揖铜。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上剂习,一...
    開封第一講書人閱讀 49,185評論 1 284
  • 那天蛮位,我揣著相機與錄音,去河邊找鬼鳞绕。 笑死失仁,一個胖子當著我的面吹牛,可吹牛的內容都是我干的们何。 我是一名探鬼主播萄焦,決...
    沈念sama閱讀 38,451評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼冤竹!你這毒婦竟也來了拂封?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 37,112評論 0 261
  • 序言:老撾萬榮一對情侶失蹤鹦蠕,失蹤者是張志新(化名)和其女友劉穎冒签,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體钟病,經...
    沈念sama閱讀 43,609評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡萧恕,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,083評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了肠阱。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片票唆。...
    茶點故事閱讀 38,163評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖屹徘,靈堂內的尸體忽然破棺而出走趋,到底是詐尸還是另有隱情,我是刑警寧澤噪伊,帶...
    沈念sama閱讀 33,803評論 4 323
  • 正文 年R本政府宣布簿煌,位于F島的核電站,受9級特大地震影響鉴吹,放射性物質發(fā)生泄漏姨伟。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,357評論 3 307
  • 文/蒙蒙 一拙寡、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧琳水,春花似錦肆糕、人聲如沸般堆。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽淮摔。三九已至,卻和暖如春始赎,著一層夾襖步出監(jiān)牢的瞬間和橙,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評論 1 261
  • 我被黑心中介騙來泰國打工造垛, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留魔招,地道東北人。 一個月前我還...
    沈念sama閱讀 45,636評論 2 355
  • 正文 我出身青樓五辽,卻偏偏與公主長得像办斑,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子杆逗,可洞房花燭夜當晚...
    茶點故事閱讀 42,925評論 2 344

推薦閱讀更多精彩內容