ElasticSearch(四):Search運(yùn)行機(jī)制

一 Query-then-Fetch

  • 執(zhí)行流程
分布式三個(gè)節(jié)點(diǎn)node1/node2/node3辽装,分片分別為p1/p2/p3勺疼,副本分別為r1/r2/r3,node3接受請(qǐng)求GET  text_index/_search飞蹂,執(zhí)行流程如下:
----query phase
1-node3在6個(gè)主副分片上隨機(jī)選擇3個(gè)分片宽闲,發(fā)送search request請(qǐng)求秆乳;
2-被選中的3個(gè)分片分別執(zhí)行查詢,返回from+size個(gè)文檔id和排序值纪铺;
3-node3整合3個(gè)分片返回的3份from+size個(gè)文檔id相速,根據(jù)排序值選取from到from+size的文檔id;
----fetch phase
4-node3根據(jù)query階段獲取的文檔id列表到對(duì)應(yīng)的分片上獲取文檔詳細(xì)數(shù)據(jù)霹陡;

二 相關(guān)性算分

  • 相關(guān)性算分在shard與shard間相互獨(dú)立和蚪,即同一個(gè)term的IDF值在不同的shard上不相同;
  • 文檔數(shù)量不多時(shí)烹棉,導(dǎo)致相關(guān)性算分嚴(yán)重不準(zhǔn)確攒霹;
  • 解決方案一,設(shè)置分片數(shù)為1浆洗,文檔數(shù)量不多時(shí)可以考慮催束;
  • 解決方案二,DFS Query-then-Fetch 拿到所有文檔后重新完整計(jì)算一次相關(guān)性得分伏社,極度耗費(fèi)資源抠刺;
GET test_search_relevance/_search?search_type=dfs_query_then_fetch

三 排序

  • sort自定義排序規(guī)則
GET test_search_index/_search
{
  "query":{
    "match": {
      "username": "alfred"
    }
  },
  "sort": [
    {
      "birth": "desc" ##按照生日降序排序
    },
    {
      "_score": "desc" ##按章相關(guān)性算分降序排序
    },
    {
      "_doc": "desc" ##按照文檔內(nèi)部id塔淤,與創(chuàng)建順序有關(guān)
    }
  ]
}
  • text和keyword
    fielddata默認(rèn)關(guān)閉,按照text類型排序報(bào)錯(cuò)速妖,使用keyword類型排序高蜂;
GET test_search_index/_search
{
  "sort": [
    {
      "username": "asc" ##報(bào)錯(cuò),F(xiàn)ielddata is disabled on text fields by default
    }
  ]
}
GET test_search_index/_search
{
  "sort":{
    "username.keyword":"desc" ##可以排序
  }
}
  • fielddata
    默認(rèn)關(guān)閉罕容,可以隨時(shí)打開(kāi)和關(guān)閉备恤,只對(duì)text類型有用,一般在對(duì)分詞做聚合分析時(shí)開(kāi)啟锦秒;
## fielddata:默認(rèn)關(guān)閉
PUT test_search_index/_mapping/doc
{
  "properties": {
    "job":{
      "type":"text",
      "fielddata": true
    }
  }
}
## 僅對(duì)text字段有效
PUT test_search_index/_mapping/doc
{
  "properties": {
    "username":{
      "type":"text",
      "fielddata": false
    },
    "age":{
      "type":"long",
      "fielddata": true
    }
  }
}
  • doc values
    默認(rèn)啟用露泊,創(chuàng)建索引時(shí)可以關(guān)閉,若再次開(kāi)啟旅择,需要reindex操作惭笑;
PUT test_doc_values1/
{
  "mappings": {
    "doc": {
      "properties": {
        "username": {
          "type": "keyword",
          "doc_values": false
        }
      }
    }
  }
}
PUT test_doc_values/doc/1
{
  "username":"alfred",
  "hobby":"basketball"
}
##已經(jīng)關(guān)閉doc values不能開(kāi)啟
GET test_doc_values/_search
{
  "sort":"username"
}
##可以啟用
GET test_doc_values/_search
{
  "sort":"hobby"
}

四 分頁(yè)

  • from/size
    在數(shù)據(jù)分片存儲(chǔ)情況下如何獲取前1000個(gè)文檔?
    每個(gè)分片上獲取1000個(gè)文檔生真,然后聚合所有分片上的1000個(gè)文檔最后排序取前1000個(gè)文檔沉噩;
    Es通過(guò)index.max_result_window限定最多到10000條數(shù)據(jù);
GET test_search_index/_search
{
  "from":10000, ##Result window is too large, from + size must is less than or equal to [10000] but [10002]
  "size":2
}
  • scroll
    遍歷文檔集汇歹,以快照的方式避免深度分頁(yè)問(wèn)題屁擅;
    不能用來(lái)做實(shí)時(shí)搜素,因?yàn)閿?shù)據(jù)不是實(shí)時(shí)的产弹;
    新添加的文檔不能被 使用派歌;
GET test_search_index/_search?scroll=5m
{
  "size":1
}
POST _search/scroll
{
  "scroll" : "5m", 
  ##調(diào)用時(shí)使用上一次返回時(shí)的scroll_id
  "scroll_id": "DXF1ZXJ5QW5kRmV0Y2gBAAAAAAAABswWX3FLSTZFOF9URFdqWHlvX3gtYmhtdw=="
}
##新添加的文檔在scroll中不能使用
PUT test_search_index/doc/10
{
  "username":"doc10"
}
  • search_after
    避免深度分頁(yè)性能問(wèn)題,提供實(shí)時(shí)的下一頁(yè)文檔獲取功能痰哨;
    不能使用from胶果,只能下一頁(yè);
##第一步斤斧,指定sort值早抠,且為唯一
GET test_search_index/_search
{
  "size":1,
  "sort":{
    "age":"desc",
    "_id":"desc"
  }
}
##第二步,使用上一次查詢的最后一個(gè)文檔的sort值進(jìn)行查詢
GET test_search_index/_search
{
  "size":1,
  "search_after":[23,"4"],
  "sort":{
    "age":"desc",
    "_id":"desc"
  }
}
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末撬讽,一起剝皮案震驚了整個(gè)濱河市蕊连,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌游昼,老刑警劉巖甘苍,帶你破解...
    沈念sama閱讀 206,311評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異烘豌,居然都是意外死亡载庭,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)囚聚,“玉大人靖榕,你說(shuō)我怎么就攤上這事⊥缰” “怎么了茁计?”我有些...
    開(kāi)封第一講書人閱讀 152,671評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)谓松。 經(jīng)常有香客問(wèn)我簸淀,道長(zhǎng),這世上最難降的妖魔是什么毒返? 我笑而不...
    開(kāi)封第一講書人閱讀 55,252評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮舷手,結(jié)果婚禮上拧簸,老公的妹妹穿的比我還像新娘。我一直安慰自己男窟,他們只是感情好盆赤,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著歉眷,像睡著了一般牺六。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上汗捡,一...
    開(kāi)封第一講書人閱讀 49,031評(píng)論 1 285
  • 那天淑际,我揣著相機(jī)與錄音,去河邊找鬼扇住。 笑死春缕,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的艘蹋。 我是一名探鬼主播锄贼,決...
    沈念sama閱讀 38,340評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼女阀!你這毒婦竟也來(lái)了宅荤?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 36,973評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤浸策,失蹤者是張志新(化名)和其女友劉穎冯键,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體的榛,經(jīng)...
    沈念sama閱讀 43,466評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡琼了,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片雕薪。...
    茶點(diǎn)故事閱讀 38,039評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡昧诱,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出所袁,到底是詐尸還是另有隱情盏档,我是刑警寧澤,帶...
    沈念sama閱讀 33,701評(píng)論 4 323
  • 正文 年R本政府宣布燥爷,位于F島的核電站蜈亩,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏前翎。R本人自食惡果不足惜稚配,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望港华。 院中可真熱鬧道川,春花似錦、人聲如沸立宜。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 30,259評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)橙数。三九已至尊流,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間灯帮,已是汗流浹背崖技。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留钟哥,地道東北人响疚。 一個(gè)月前我還...
    沈念sama閱讀 45,497評(píng)論 2 354
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像瞪醋,于是被迫代替她去往敵國(guó)和親忿晕。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 關(guān)于Mongodb的全面總結(jié) MongoDB的內(nèi)部構(gòu)造《MongoDB The Definitive Guide》...
    中v中閱讀 31,898評(píng)論 2 89
  • Author: 袁野Date: 2018.01.05Version: 1.0 注意事項(xiàng):本文檔所述為通用情況银受,不可...
    大數(shù)據(jù)之心閱讀 10,171評(píng)論 9 37
  • 寫一下個(gè)人的es優(yōu)化經(jīng)歷践盼,主要分下面五個(gè)模塊, Overview 先來(lái)看看es的整體架構(gòu)圖宾巍,上面有多個(gè)重要模塊咕幻,今...
    chenfh5閱讀 5,486評(píng)論 0 8
  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn)顶霞,斷路器肄程,智...
    卡卡羅2017閱讀 134,599評(píng)論 18 139
  • 姓名:張穎 公司:青島博厚醫(yī)療管理股份有限公司 【反省總結(jié)第117天锣吼,始于20180709今天是20181102】...
    子分小閱讀 142評(píng)論 0 0