Solr——commit

Solr有兩種commit的方式

  • hard commit(又叫normal commit)
  • soft commit

hard commit

在對(duì)hard commit進(jìn)行說(shuō)明之前需要對(duì)transaction log進(jìn)行說(shuō)明

transaction log(tlog)

tlog的作用是保證數(shù)據(jù)的一致性(類似于Oracle中的Redo log)毫胜,避免應(yīng)用非正常關(guān)閉時(shí)的數(shù)據(jù)丟失横媚。

commit操作時(shí)會(huì)將數(shù)據(jù)寫(xiě)入到tlog中,然后tlog會(huì)將數(shù)據(jù)的修改反映在索引庫(kù)中赡突。遇到應(yīng)用非正常關(guān)閉的情況膏潮,在應(yīng)用啟動(dòng)時(shí)裸弦,系統(tǒng)會(huì)將tlog中未操作的數(shù)據(jù)先寫(xiě)入到索引庫(kù)中。如果tlog中有大量的未操作的數(shù)據(jù)楷掉,系統(tǒng)啟動(dòng)時(shí)恢復(fù)的時(shí)間會(huì)很長(zhǎng)厢蒜。

openSearcher選項(xiàng)

在commit完成后,是否開(kāi)啟新的searcher烹植,以便能夠搜索到新的數(shù)據(jù)斑鸦。

開(kāi)啟新searcher時(shí),過(guò)期舊searcher的cache(如filterCache, queryResultCache等)草雕,對(duì)新searcher進(jìn)行Autowarming操作巷屿。

配置

<autoCommit>
  <maxTime>600000</maxTime>
  <maxDocs>50000</maxDocs>
  <openSearcher>true</openSearcher>
</autoCommit>

soft commit

soft commit是solr 4.0中提供的新功能,soft commit是實(shí)現(xiàn)Solr的near real time search(NRT)功能的基礎(chǔ)

soft commit保證數(shù)據(jù)的可見(jiàn)性墩虹,無(wú)論此時(shí)數(shù)據(jù)是否保存在索引庫(kù)中嘱巾。

soft commit后將會(huì)開(kāi)啟新的searcher,過(guò)期舊searcher的cache(如filterCache, queryResultCache等)诫钓,對(duì)新searcher進(jìn)行Autowarming操作旬昭。

如果數(shù)據(jù)量大,Autowarming操作的時(shí)間會(huì)很長(zhǎng)菌湃。一旦Autowarming操作的時(shí)間大于soft commit的時(shí)間(新的searcher還沒(méi)有創(chuàng)建完畢问拘,有需要?jiǎng)?chuàng)建更新的searcher),將會(huì)一直打開(kāi)新的searcher,系統(tǒng)資源將會(huì)耗盡骤坐。因此對(duì)于數(shù)據(jù)量大的應(yīng)用盡可能的增加soft commit的時(shí)間绪杏。

配置

<autoSoftCommit>
   <maxTime>1000</maxTime>
</autoSoftCommit>

應(yīng)用場(chǎng)景

索引庫(kù)中數(shù)據(jù)量超大的情況

大大增加soft commit的時(shí)間,避免open too much searcher的問(wèn)題纽绍。

索引數(shù)據(jù)量大

避免因?yàn)閼?yīng)用非正常關(guān)閉引起的啟動(dòng)恢復(fù)時(shí)間過(guò)長(zhǎng)的情況蕾久,將hard commit時(shí)間盡可能的減少,如15秒拌夏。將openSearcher的值設(shè)為false腔彰。

總結(jié)

  • Hard commits are about durability, hard commit實(shí)際上是將tlog中的修改寫(xiě)入到Lucene index中
  • soft commits are about visibility,soft commit后的開(kāi)啟的new searcher能夠檢索到新的數(shù)據(jù)

兩者結(jié)合著使用辖佣,既能保證數(shù)據(jù)的完整性,又能確保速度搓逾。


參考資料

https://lucidworks.com/blog/2013/08/23/understanding-transaction-logs-softcommit-and-commit-in-sorlcloud/

http://opensourceconnections.com/blog/2013/04/25/understanding-solr-soft-commits-and-data-durability/

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末卷谈,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子霞篡,更是在濱河造成了極大的恐慌世蔗,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,496評(píng)論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件朗兵,死亡現(xiàn)場(chǎng)離奇詭異污淋,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)余掖,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,187評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門寸爆,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人盐欺,你說(shuō)我怎么就攤上這事赁豆。” “怎么了冗美?”我有些...
    開(kāi)封第一講書(shū)人閱讀 157,091評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵魔种,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我粉洼,道長(zhǎng)节预,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,458評(píng)論 1 283
  • 正文 為了忘掉前任属韧,我火速辦了婚禮安拟,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘挫剑。我一直安慰自己去扣,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,542評(píng)論 6 385
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著愉棱,像睡著了一般唆铐。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上奔滑,一...
    開(kāi)封第一講書(shū)人閱讀 49,802評(píng)論 1 290
  • 那天艾岂,我揣著相機(jī)與錄音,去河邊找鬼朋其。 笑死王浴,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的梅猿。 我是一名探鬼主播氓辣,決...
    沈念sama閱讀 38,945評(píng)論 3 407
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼袱蚓!你這毒婦竟也來(lái)了钞啸?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,709評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤喇潘,失蹤者是張志新(化名)和其女友劉穎体斩,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體颖低,經(jīng)...
    沈念sama閱讀 44,158評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡絮吵,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,502評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了忱屑。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蹬敲。...
    茶點(diǎn)故事閱讀 38,637評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖想幻,靈堂內(nèi)的尸體忽然破棺而出粱栖,到底是詐尸還是另有隱情,我是刑警寧澤脏毯,帶...
    沈念sama閱讀 34,300評(píng)論 4 329
  • 正文 年R本政府宣布闹究,位于F島的核電站,受9級(jí)特大地震影響食店,放射性物質(zhì)發(fā)生泄漏渣淤。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,911評(píng)論 3 313
  • 文/蒙蒙 一吉嫩、第九天 我趴在偏房一處隱蔽的房頂上張望价认。 院中可真熱鬧,春花似錦自娩、人聲如沸用踩。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,744評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)脐彩。三九已至碎乃,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間惠奸,已是汗流浹背梅誓。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,982評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留佛南,地道東北人梗掰。 一個(gè)月前我還...
    沈念sama閱讀 46,344評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像嗅回,于是被迫代替她去往敵國(guó)和親及穗。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,500評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容