從海量數(shù)據(jù)里查出某一固定前綴的key

一 留意細節(jié)

摸清數(shù)據(jù)規(guī)模,即問清楚邊界


方法1: 利用keys pattern

KEYS pattern:查找所有符合給定模式pattern的key
eg: keys a* 找出所有以a開頭的key

使用keys對線上業(yè)務(wù)的影響

  • KEYS指令一次性返回所有匹配的key
  • 鍵的數(shù)量過大會使服務(wù)卡頓

方法2:SCAN cursor match pattern count countnum

eg:scan 0 match *a count 10 從游標為0

  • 基于游標的迭代器胚泌,需要基于上一次的游標延續(xù)之前的迭代過程
  • 以0作為游標開始一次新的迭代畸颅,直到命令返回游標0完成一次遍歷
  • 不保證每次執(zhí)行都返回某個給定數(shù)量的元素单山,支持模糊查詢
  • 一次返回的數(shù)量不可控揉阎,只能大概率符合count參數(shù)

二.關(guān)于scan的使用

下面提供兩個我自己包裝的scan,一個是hash里模糊取key,另外一個是直接string key的模糊取

   @Override
    @SuppressWarnings("unchecked")
    public <T> Map<String, T> hScan(String key, String pattern) {
        final Map<String, T> scanResult = Maps.newHashMap();
        try (Cursor<Map.Entry<Object, Object>> cursor = template.opsForHash().scan(key, ScanOptions.scanOptions()
                .count(Integer.MAX_VALUE)
                .match(pattern)
                .build())) {
            while (cursor.hasNext()) {
                final Map.Entry<Object, Object> entry = cursor.next();
                scanResult.put(String.valueOf(entry.getKey()), (T) entry.getValue());
            }
        } catch (Exception e) {
            log.error(e.getMessage(), e);
        }
        return scanResult;
    }


  @Override
    public Set<String> scan(String pattern) {
        return template.execute((RedisCallback<Set<String>>) connection -> {
            Set<String> keysTmp = Sets.newHashSet();
            try (Cursor<byte[]> cursor = connection.scan(new ScanOptions.ScanOptionsBuilder()
                    .count(Integer.MAX_VALUE)
                    .match(pattern)
                    .build())) {
                while (cursor.hasNext()) {
                    keysTmp.add(new String(cursor.next()));
                }
            } catch (Exception e) {
                log.error(e.getMessage(), e);
            }
            return keysTmp;
        });
    }

三.關(guān)于scan的坑

  • COUNT 選項只是對增量式迭代命令的一種提示(hint),不能代表返回的個數(shù)执俩,它只是限定服務(wù)器單次遍歷的字典槽位數(shù)量(約等于)荆秦。
  • count要根據(jù)掃描數(shù)據(jù)量大小而定篱竭,Scan雖然無鎖,但是也不能保證在超過百萬數(shù)據(jù)量級別搜索效率步绸;count不能太小掺逼,網(wǎng)絡(luò)交互會變多,count要盡可能的大瓤介。在搜索結(jié)果集1萬以內(nèi)吕喘,建議直接設(shè)置為與所搜集大小相同

其他坑可以點這里看官網(wǎng)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市刑桑,隨后出現(xiàn)的幾起案子氯质,更是在濱河造成了極大的恐慌,老刑警劉巖祠斧,帶你破解...
    沈念sama閱讀 219,589評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件闻察,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機辕漂,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,615評論 3 396
  • 文/潘曉璐 我一進店門呢灶,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人钉嘹,你說我怎么就攤上這事鸯乃。” “怎么了跋涣?”我有些...
    開封第一講書人閱讀 165,933評論 0 356
  • 文/不壞的土叔 我叫張陵缨睡,是天一觀的道長。 經(jīng)常有香客問我仆潮,道長宏蛉,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,976評論 1 295
  • 正文 為了忘掉前任性置,我火速辦了婚禮拾并,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘鹏浅。我一直安慰自己嗅义,他們只是感情好,可當我...
    茶點故事閱讀 67,999評論 6 393
  • 文/花漫 我一把揭開白布隐砸。 她就那樣靜靜地躺著之碗,像睡著了一般。 火紅的嫁衣襯著肌膚如雪季希。 梳的紋絲不亂的頭發(fā)上褪那,一...
    開封第一講書人閱讀 51,775評論 1 307
  • 那天,我揣著相機與錄音式塌,去河邊找鬼博敬。 笑死,一個胖子當著我的面吹牛峰尝,可吹牛的內(nèi)容都是我干的偏窝。 我是一名探鬼主播,決...
    沈念sama閱讀 40,474評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼武学,長吁一口氣:“原來是場噩夢啊……” “哼祭往!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起火窒,我...
    開封第一講書人閱讀 39,359評論 0 276
  • 序言:老撾萬榮一對情侶失蹤硼补,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后熏矿,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體已骇,經(jīng)...
    沈念sama閱讀 45,854評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡缆八,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,007評論 3 338
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了疾捍。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,146評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡栏妖,死狀恐怖乱豆,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情吊趾,我是刑警寧澤宛裕,帶...
    沈念sama閱讀 35,826評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站论泛,受9級特大地震影響揩尸,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜屁奏,卻給世界環(huán)境...
    茶點故事閱讀 41,484評論 3 331
  • 文/蒙蒙 一岩榆、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧坟瓢,春花似錦勇边、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,029評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至诚镰,卻和暖如春奕坟,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背清笨。 一陣腳步聲響...
    開封第一講書人閱讀 33,153評論 1 272
  • 我被黑心中介騙來泰國打工月杉, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人函筋。 一個月前我還...
    沈念sama閱讀 48,420評論 3 373
  • 正文 我出身青樓沙合,卻偏偏與公主長得像,于是被迫代替她去往敵國和親跌帐。 傳聞我的和親對象是個殘疾皇子首懈,可洞房花燭夜當晚...
    茶點故事閱讀 45,107評論 2 356

推薦閱讀更多精彩內(nèi)容