Elasticsearch原理解析--倒排索引

倒排索引是搜索引擎的核心鲜屏,本篇文章介紹了ES中倒排索引是如何實(shí)現(xiàn)的。
ES默認(rèn)為字符串會(huì)創(chuàng)建倒排索引守呜,具體的實(shí)現(xiàn)功能在lucene相關(guān)代碼中粱玲。
倒排索引主要分成兩個(gè)部分:

  • term->posting(倒排鏈,docId list)的映射
  • posting昧旨。

term->posting的映射

lucene使用FST tree實(shí)現(xiàn)term的查找拾给。

term查找分成2個(gè)文件(8.7的lucene把metadata分開祥得,多了一個(gè)文件)。

term存儲(chǔ)時(shí)會(huì)將一批term存儲(chǔ)在一個(gè)block中蒋得,最少25個(gè)级及,最多48個(gè),這批term的共同前綴作為FST Tree的一個(gè)item额衙。

term的索引文件后綴是tip饮焦,用來保存FST Tree。

term的數(shù)據(jù)文件后綴是tim窍侧,用來保存term block县踢。

tip文件和tim文件內(nèi)容見:

https://www.amazingkoala.com.cn/Lucene/suoyinwenjian/2019/0401/43.html

term查找流程如下:

1、根據(jù)FST Tree找到termPrefix對應(yīng)在tim文件中position伟件。FST之前是全內(nèi)存的硼啤,現(xiàn)在是off-heap存儲(chǔ),使用MMap映射斧账。

FST原理介紹:https://www.amazingkoala.com.cn/Lucene/yasuocunchu/2019/0220/35.html

image.png

FST tree構(gòu)建出上面的樹形結(jié)構(gòu)谴返,記錄在一個(gè)bytes array中,以前l(fā)ucene是全內(nèi)存的存儲(chǔ)這個(gè)bytes array咧织,現(xiàn)在是off-heap存儲(chǔ)嗓袱,使用MMap映射。

2习绢、根據(jù)termPrefix位置加載term block索抓,然后遍歷每個(gè)termSuffix,檢查term是否存在毯炮。存在的話就能獲取到term對應(yīng)的posting信息逼肯。

posting結(jié)構(gòu)

Lucene使用skipList實(shí)現(xiàn)posting的快速查找。

posting包括了doc桃煎、pos篮幢、pay后綴的三個(gè)文件,docId list主要是實(shí)現(xiàn)在doc文件中为迈,pos存儲(chǔ)了一些全文檢索的position信息三椿,pay存儲(chǔ)了一些附加信息。

doc葫辐、pos搜锰、pay文件內(nèi)容見:

https://www.amazingkoala.com.cn/Lucene/suoyinwenjian/2019/0324/42.html

https://www.amazingkoala.com.cn/Lucene/suoyinwenjian/2019/0324/41.html

docId list在doc文件存儲(chǔ)兩部分內(nèi)容:

  • docId鏈表結(jié)構(gòu),可用來順序遍歷整個(gè)docId list耿战。
  • skipList信息蛋叼。

docId鏈表結(jié)構(gòu)存儲(chǔ)方式:每BLOCK_SIZE(默認(rèn)為128)個(gè)doc壓縮存儲(chǔ)為一個(gè)block,最后一個(gè)小于128個(gè)doc的block使用vint方式。

skipList最多存儲(chǔ)MAX_SKIP_LEVELS層(默認(rèn)為10)狈涮,每一層記錄若干個(gè)docId的postion狐胎。第0層記錄的是每個(gè)docId block的postion。每一層創(chuàng)建了skipMultiplier(默認(rèn)為8)個(gè)doc pos歌馍,就在下一層創(chuàng)建一個(gè)doc pos握巢。

image.png

上圖實(shí)例的skipList中,一個(gè)block存儲(chǔ)3條記錄松却,skipList每3個(gè)doc創(chuàng)建下一層的item暴浦。

posting查找docId主要有兩個(gè)方法:

nextDoc:查找下一個(gè)docId,這個(gè)只要往下遍歷docId list即可晓锻。

advance:查找某個(gè)docId指定的位置肉渴。在取交、取差時(shí)带射,需要跳著查docId同规,這時(shí)候要用到skipList,加快docId的查找窟社。

倒排索引查詢產(chǎn)生IO的地方:

  1. FST tree現(xiàn)在是offHeap存儲(chǔ)券勺,如果查到了不在內(nèi)存的塊,則會(huì)產(chǎn)生IO灿里。
  2. 一個(gè)term查詢关炼,如果前綴沒命中,則不產(chǎn)生IO匣吊,前綴命中則只會(huì)產(chǎn)生一次IO儒拂,加載term block,在term block中查找term是否匹配色鸳。
  3. 找到的term接下來會(huì)去獲取posting社痛,如果是一個(gè)term,則直接在doc文件中獲取docId列表命雀,此時(shí)是順序IO獲取數(shù)據(jù)蒜哀。如果有多個(gè)term要做and、not query吏砂,則會(huì)有skipList的IO撵儿。
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市狐血,隨后出現(xiàn)的幾起案子淀歇,更是在濱河造成了極大的恐慌,老刑警劉巖匈织,帶你破解...
    沈念sama閱讀 206,602評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件浪默,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)浴鸿,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,442評論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來弦追,“玉大人岳链,你說我怎么就攤上這事【⒓” “怎么了掸哑?”我有些...
    開封第一講書人閱讀 152,878評論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長零远。 經(jīng)常有香客問我苗分,道長,這世上最難降的妖魔是什么牵辣? 我笑而不...
    開封第一講書人閱讀 55,306評論 1 279
  • 正文 為了忘掉前任摔癣,我火速辦了婚禮,結(jié)果婚禮上纬向,老公的妹妹穿的比我還像新娘择浊。我一直安慰自己,他們只是感情好逾条,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,330評論 5 373
  • 文/花漫 我一把揭開白布琢岩。 她就那樣靜靜地躺著,像睡著了一般师脂。 火紅的嫁衣襯著肌膚如雪担孔。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,071評論 1 285
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼矮湘。 笑死追迟,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的埋酬。 我是一名探鬼主播,決...
    沈念sama閱讀 38,382評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼拼坎!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起完疫,我...
    開封第一講書人閱讀 37,006評論 0 259
  • 序言:老撾萬榮一對情侶失蹤泰鸡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后壳鹤,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體盛龄,經(jīng)...
    沈念sama閱讀 43,512評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,965評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了余舶。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片啊鸭。...
    茶點(diǎn)故事閱讀 38,094評論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖匿值,靈堂內(nèi)的尸體忽然破棺而出赠制,到底是詐尸還是另有隱情,我是刑警寧澤挟憔,帶...
    沈念sama閱讀 33,732評論 4 323
  • 正文 年R本政府宣布钟些,位于F島的核電站,受9級(jí)特大地震影響绊谭,放射性物質(zhì)發(fā)生泄漏政恍。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,283評論 3 307
  • 文/蒙蒙 一达传、第九天 我趴在偏房一處隱蔽的房頂上張望篙耗。 院中可真熱鬧,春花似錦宪赶、人聲如沸鹤树。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,286評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽罕伯。三九已至,卻和暖如春叽讳,著一層夾襖步出監(jiān)牢的瞬間追他,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,512評論 1 262
  • 我被黑心中介騙來泰國打工岛蚤, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留邑狸,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,536評論 2 354
  • 正文 我出身青樓涤妒,卻偏偏與公主長得像单雾,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子她紫,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,828評論 2 345

推薦閱讀更多精彩內(nèi)容