Lucene初探

Lucene是一個基于Java的全文檢索庫,它高效幸乒、開源轩端。為什么叫它全文檢索庫呢?這得從人們生活中的數(shù)據(jù)結(jié)構(gòu)來說起逝变。

人們在使用各種軟件服務(wù)的時候會產(chǎn)生各種的數(shù)據(jù)基茵,這些數(shù)據(jù)會被相關(guān)軟件服務(wù)提供商按照不同的規(guī)則存儲起來,當(dāng)人們需要的時候再取出來壳影。由于不同的軟件服務(wù)提供商所使用的技術(shù)不同拱层,這些數(shù)據(jù)被以各種不同的方式存儲在不同的地方,即便是同一個軟件服務(wù)提供商宴咧,它的數(shù)據(jù)可能也被存儲在不同的服務(wù)器甚至根據(jù)不同的業(yè)務(wù)存儲在不同的數(shù)據(jù)庫中根灯。這樣一來,一個用戶的相關(guān)數(shù)據(jù)可能一部分存儲在關(guān)系型數(shù)據(jù)庫A庫掺栅、B庫中烙肺,另一部分被存儲在非關(guān)系型數(shù)據(jù)庫的數(shù)據(jù)庫中,用戶的這些數(shù)據(jù)被分散在各個不同的地方氧卧,導(dǎo)致這些數(shù)據(jù)呈現(xiàn)出非結(jié)構(gòu)化的狀態(tài)桃笙。當(dāng)用戶需要把這些不同的數(shù)據(jù)按一定規(guī)則排列展示出來的時候,由于數(shù)據(jù)存儲地方的不同沙绝,如果按照傳統(tǒng)的技術(shù)方案來實現(xiàn)的話會使得系統(tǒng)非常復(fù)雜搏明。而全文檢索則把這些分部在不同地方的數(shù)據(jù)按照一定的規(guī)則抽取出來,組合成一個結(jié)構(gòu)化的數(shù)據(jù)闪檬,這就可以非常方便地使用一些算法來快速地定位找到相關(guān)數(shù)據(jù)星著。而從這些散亂分部的數(shù)據(jù)中提取并重新組織出的信息,被稱之為索引粗悯。

Lucene的全文檢索過程

全文檢索大體分兩個過程虚循,索引創(chuàng)建和搜索索引。

索引創(chuàng)建:把所有的分部在不同地方的信息提取并重新組織起來样傍,創(chuàng)建索引横缔;

搜索索引:將用戶的查詢請求按一定規(guī)則轉(zhuǎn)換為特定的查詢條件,搜索索引中的結(jié)構(gòu)化數(shù)據(jù)铭乾,然后返回結(jié)果剪廉;

全文檢索存在三個重要問題:

索引里究竟存在些什么娃循?

如何創(chuàng)建索引炕檩?

如何對索引進(jìn)行搜索?

后面我們會對這三個問題進(jìn)行逐一研究與討論。

第一:索引里究竟存些什么笛质?

首先泉沾,由于數(shù)據(jù)的分散式存儲,導(dǎo)致我們不能直接去一次性查詢所有的數(shù)據(jù)妇押;即便所有的數(shù)據(jù)都存放在一起跷究,我們可以在一個地方去查詢數(shù)據(jù),也會由于所有用戶的數(shù)據(jù)都放在一起敲霍,導(dǎo)致查詢的數(shù)據(jù)過于龐大而搜索速度非常緩慢俊马。

這些非結(jié)構(gòu)化的數(shù)據(jù)所存儲的信息是每個文件包含哪些字符串,也即已知文件肩杈,欲求字符換相關(guān)容易柴我,就是從文件到字符串的映射。而我們想搜索的信息是哪些文件包含此字符串扩然,也即已知字符串艘儒,欲求文件,即從字符串到文件的映射夫偶,則會大大提高搜索速度界睁。

由于從字符串到文件的映射是從文件到字符串映射的反向過程,于是保存這種信息的索引稱為反向索引兵拢。

反向索引中存儲的信息如下:

假設(shè)我的文檔集合里面有100篇文檔翻斟,為了方便表示,我們將其表示為1-100说铃,其結(jié)構(gòu)如下:

反向索引存儲結(jié)構(gòu)

左邊的一系列字符串被稱為詞典杨赤。

每個字符串都指向包含此字符串的文檔鏈表,此文檔鏈表稱為倒排表截汪。

當(dāng)索引建立之后疾牲,我們就可以非常快速地搜索到想要得到的文檔衙解。

有人說阳柔,建立索引,然后再查詢蚓峦,兩者的速度不一定比直接進(jìn)行順序掃描快舌剂。的確,加上索引創(chuàng)建的過程暑椰,全文檢索不一定比直接的全文順序掃描快多少霍转,尤其在數(shù)據(jù)量少,并且存儲在一個地方的時候一汽,并且為一個很大的數(shù)據(jù)創(chuàng)建索引也是一個很慢的過程避消。然而兩者還是有一定的區(qū)別的低滩。順序掃描是每次查詢都要從頭查找,而創(chuàng)建索引的過程只有一次岩喷,以后就可以一勞永逸了恕沫,每次搜索,只要查詢索引即可纱意,而不用每次都去創(chuàng)建索引婶溯。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市偷霉,隨后出現(xiàn)的幾起案子迄委,更是在濱河造成了極大的恐慌,老刑警劉巖类少,帶你破解...
    沈念sama閱讀 222,590評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件跑筝,死亡現(xiàn)場離奇詭異,居然都是意外死亡瞒滴,警方通過查閱死者的電腦和手機(jī)曲梗,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來妓忍,“玉大人虏两,你說我怎么就攤上這事∈榔剩” “怎么了定罢?”我有些...
    開封第一講書人閱讀 169,301評論 0 362
  • 文/不壞的土叔 我叫張陵,是天一觀的道長旁瘫。 經(jīng)常有香客問我祖凫,道長,這世上最難降的妖魔是什么酬凳? 我笑而不...
    開封第一講書人閱讀 60,078評論 1 300
  • 正文 為了忘掉前任惠况,我火速辦了婚禮,結(jié)果婚禮上宁仔,老公的妹妹穿的比我還像新娘稠屠。我一直安慰自己,他們只是感情好翎苫,可當(dāng)我...
    茶點故事閱讀 69,082評論 6 398
  • 文/花漫 我一把揭開白布权埠。 她就那樣靜靜地躺著,像睡著了一般煎谍。 火紅的嫁衣襯著肌膚如雪攘蔽。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,682評論 1 312
  • 那天呐粘,我揣著相機(jī)與錄音满俗,去河邊找鬼转捕。 笑死,一個胖子當(dāng)著我的面吹牛漫雷,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播鳍咱,決...
    沈念sama閱讀 41,155評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼降盹,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了谤辜?” 一聲冷哼從身側(cè)響起蓄坏,我...
    開封第一講書人閱讀 40,098評論 0 277
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎丑念,沒想到半個月后涡戳,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,638評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡脯倚,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,701評論 3 342
  • 正文 我和宋清朗相戀三年渔彰,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片推正。...
    茶點故事閱讀 40,852評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡恍涂,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出植榕,到底是詐尸還是另有隱情再沧,我是刑警寧澤,帶...
    沈念sama閱讀 36,520評論 5 351
  • 正文 年R本政府宣布尊残,位于F島的核電站炒瘸,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏寝衫。R本人自食惡果不足惜顷扩,卻給世界環(huán)境...
    茶點故事閱讀 42,181評論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望慰毅。 院中可真熱鬧屎即,春花似錦、人聲如沸事富。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽统台。三九已至雕擂,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間贱勃,已是汗流浹背井赌。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評論 1 274
  • 我被黑心中介騙來泰國打工谤逼, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人仇穗。 一個月前我還...
    沈念sama閱讀 49,279評論 3 379
  • 正文 我出身青樓流部,卻偏偏與公主長得像,于是被迫代替她去往敵國和親纹坐。 傳聞我的和親對象是個殘疾皇子枝冀,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,851評論 2 361

推薦閱讀更多精彩內(nèi)容

  • Solr&ElasticSearch原理及應(yīng)用 一、綜述 搜索 http://baike.baidu.com/it...
    樓外樓V閱讀 7,305評論 1 17
  • 之前的文章一直在規(guī)避索引的建立去優(yōu)化數(shù)據(jù)庫,不是不想講谷誓,而是這個太重要绒障,必須抽出來講。今天我們就來研究下數(shù)據(jù)庫索引...
    JackFrost_fuzhu閱讀 4,744評論 0 70
  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理捍歪,服務(wù)發(fā)現(xiàn)户辱,斷路器,智...
    卡卡羅2017閱讀 134,715評論 18 139
  • 輕輕的糙臼,捧著深夜這杯咖啡 對從中輕透出來的影院與爆米花的余味 皺了皺眉 我享受這場視聽的盛宴 但仍無法在這缺少水的...
    水澗竹淵閱讀 107評論 0 1
  • 公眾們將會在不久的將來焕妙,失去自主思考和判斷的能力。最終他們會期望媒體為他們進(jìn)行思考弓摘,并作出判斷焚鹊。 這就是聞名遐邇的...
    韓庭龍閱讀 4,764評論 0 2