ES批量操作數(shù)據(jù)超時問題處理

在我們springboot項目中使用的是 elasticsearch-rest-high-level-client這個ES官方推薦的客戶端

當有需求批量刪除過期數(shù)據(jù)一開始使用的是deleteByQuery方法唠梨,在要刪除的數(shù)據(jù)比較少的時候沒問題帅容,達到幾十萬條的時候會報 socket超時異常辅辩,但是命令不會中斷贺嫂,仍然會執(zhí)行完信轿,把我們需要delete的數(shù)據(jù)刪完隘庄,就是看不到結(jié)果旅敷,
這時候我們可以

  • 不管它反正能刪除成功
  • 限制每次刪除的記錄數(shù),setSize就可以做到冬阳,循環(huán)分次刪除蛤虐,直到刪完
  • socketTimeOut 將超時時間設(shè)置到足夠大,等待返回結(jié)果
  • 使用異步刪除API,異步獲取結(jié)果

很明顯最后一種最合理肝陪,作為一個有追求的程序員看不見程序運行結(jié)果怎么呢
這個時候我們可以用deleteByQueryAsync :官方文檔提供異步調(diào)用方式驳庭,用listener監(jiān)聽返回結(jié)果

            DeleteByQueryRequest deleteByQueryRequest = new DeleteByQueryRequest(NEW_ORDER_INDEX_NAME);
            //可限制刪除記錄數(shù) setSize()
            //每批次刪除數(shù)量 默認即1000
            deleteByQueryRequest.setBatchSize(CommonConstants.BATCH_SIZE_OF_DEL);
            deleteByQueryRequest.setQuery(queryBuilder);
            ActionListener listener = new DelEsListener();
            esClient.deleteByQueryAsync(deleteByQueryRequest, RequestOptions.DEFAULT, listener);

監(jiān)聽類很簡單,實現(xiàn) ActionListener<BulkByScrollResponse>接口 重寫兩個方法一個接受成功,一個接受失敗

public class DelEsListener implements ActionListener<BulkByScrollResponse> {
    private static final Logger logger = LoggerFactory.getLogger(SearchManager.class);

    @Override
    public void onResponse(BulkByScrollResponse bulkResponse) {
        logger.info("delOrder-record-info[success] bulkResponse:{} ", bulkResponse.toString());
    }

    @Override
    public void onFailure(Exception e) {
        logger.info("delOrder-record-info[fail] error:{} ", e);
    }
}

成功的結(jié)果長這個樣子

[took=104ms,timed_out=false,sliceId=null,updated=0,created=0,deleted=633,batches=1,versionConflicts=0,noops=0,retries=0,throttledUntil=0s,bulk_failures=[],search_failures=[]]

重點是刪除條數(shù) 和 執(zhí)行批次饲常, 批次=影響數(shù)據(jù)量/設(shè)置的批次大小+1


同理 批量select insert update 都有async異步調(diào)用的方法蹲堂。

注意:發(fā)現(xiàn)rest-high-level-client 6.7及之后的版本才發(fā)現(xiàn)有批量的方法

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市贝淤,隨后出現(xiàn)的幾起案子柒竞,更是在濱河造成了極大的恐慌,老刑警劉巖播聪,帶你破解...
    沈念sama閱讀 218,386評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件朽基,死亡現(xiàn)場離奇詭異,居然都是意外死亡离陶,警方通過查閱死者的電腦和手機踩晶,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,142評論 3 394
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來枕磁,“玉大人,你說我怎么就攤上這事术吝〖萍茫” “怎么了?”我有些...
    開封第一講書人閱讀 164,704評論 0 353
  • 文/不壞的土叔 我叫張陵排苍,是天一觀的道長沦寂。 經(jīng)常有香客問我,道長淘衙,這世上最難降的妖魔是什么传藏? 我笑而不...
    開封第一講書人閱讀 58,702評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮彤守,結(jié)果婚禮上毯侦,老公的妹妹穿的比我還像新娘。我一直安慰自己具垫,他們只是感情好侈离,可當我...
    茶點故事閱讀 67,716評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著筝蚕,像睡著了一般卦碾。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上起宽,一...
    開封第一講書人閱讀 51,573評論 1 305
  • 那天洲胖,我揣著相機與錄音,去河邊找鬼坯沪。 笑死绿映,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的屏箍。 我是一名探鬼主播绘梦,決...
    沈念sama閱讀 40,314評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼橘忱,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了卸奉?” 一聲冷哼從身側(cè)響起钝诚,我...
    開封第一講書人閱讀 39,230評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎榄棵,沒想到半個月后凝颇,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,680評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡疹鳄,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,873評論 3 336
  • 正文 我和宋清朗相戀三年拧略,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片瘪弓。...
    茶點故事閱讀 39,991評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡垫蛆,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出腺怯,到底是詐尸還是另有隱情袱饭,我是刑警寧澤,帶...
    沈念sama閱讀 35,706評論 5 346
  • 正文 年R本政府宣布呛占,位于F島的核電站虑乖,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏晾虑。R本人自食惡果不足惜疹味,卻給世界環(huán)境...
    茶點故事閱讀 41,329評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望帜篇。 院中可真熱鬧糙捺,春花似錦、人聲如沸坠狡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,910評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽逃沿。三九已至婴渡,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間凯亮,已是汗流浹背边臼。 一陣腳步聲響...
    開封第一講書人閱讀 33,038評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留假消,地道東北人柠并。 一個月前我還...
    沈念sama閱讀 48,158評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親臼予。 傳聞我的和親對象是個殘疾皇子鸣戴,可洞房花燭夜當晚...
    茶點故事閱讀 44,941評論 2 355

推薦閱讀更多精彩內(nèi)容