Spring Cloud Stream實(shí)現(xiàn)消息過濾的三種主要方式

[TOC]


消息過濾

消息過濾是指消費(fèi)者不希望消費(fèi)topic里的所有消息漆枚,而是只消費(fèi)部分特定的消息。從topic中挑選出這些特定的消息抵知,就是所謂的消息過濾墙基。通過消息過濾可以實(shí)現(xiàn)消息的分流處理软族,例如生產(chǎn)者生產(chǎn)的消息,header可能都是不盡相同的残制,這樣我們就可以編寫兩個(gè)或多個(gè)消費(fèi)者立砸,對(duì)不同header的消息進(jìn)行針對(duì)性的處理。

Spring Cloud Stream實(shí)現(xiàn)消息過濾的方式主要有三種初茶,一是使用@StreamListener注解的condition屬性指定條件表達(dá)式颗祝,二是在消息的header中設(shè)置TAGS,三是使用SQL92語法進(jìn)行過濾恼布。


1螺戳、condition

這種方式適用于所有的MQ,也是最簡單易用的方式折汞。首先我們?yōu)樯a(chǎn)者的消息設(shè)置一個(gè)header倔幼,具體的header名稱和值可根據(jù)實(shí)際業(yè)務(wù)需求進(jìn)行設(shè)置。這里僅作為示例爽待,具體代碼如下:

package com.zj.node.contentcenter.controller.content;

import lombok.RequiredArgsConstructor;
import org.springframework.cloud.stream.messaging.Source;
import org.springframework.messaging.support.MessageBuilder;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * 生產(chǎn)者
 *
 * @author 01
 * @date 2019-08-03
 **/
@RestController
@RequiredArgsConstructor
public class TestProducerController {

    private final Source source;

    @GetMapping("/stream-send-msg")
    public String streamSendMsg(String flagHeader) {
        source.output().send(
                MessageBuilder.withPayload("消息體")
                        // 設(shè)置用于過濾消息的header
                        .setHeader("flag-header", flagHeader)
                        .build()
        );

        return "send message success!";
    }
}

然后在消費(fèi)者的@StreamListener注解中指定condition屬性损同,根據(jù)具體設(shè)置的header編寫條件表達(dá)式。如下示例:

package com.zj.node.usercenter.rocketmq;

import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.stream.annotation.StreamListener;
import org.springframework.cloud.stream.messaging.Sink;
import org.springframework.stereotype.Service;

/**
 * 消費(fèi)者
 *
 * @author 01
 * @date 2019-08-10
 **/
@Slf4j
@Service
public class TestStreamConsumer {

    @StreamListener(
            value = Sink.INPUT,
            // 消息過濾的條件表達(dá)式鸟款,只有滿足該表達(dá)式才會(huì)進(jìn)行執(zhí)行該方法
            condition = "headers['flag-header']=='UP'"
    )
    public void receive(String messageBody) {
        log.info("通過stream收到了消息膏燃,messageBody = {}", messageBody);
    }
}

現(xiàn)在我們來做個(gè)簡單的測試,通過生產(chǎn)者投遞兩個(gè)消息欠雌,一個(gè)消息的flagHeader=UP蹄梢,另一個(gè)消息的flagHeader=DOWN。消費(fèi)者輸出的日志信息如下:

image.png


2富俄、TAGS

這種方式僅RocketMQ支持禁炒,Kafka、RabbitMQ不支持霍比。該方式也需要為生產(chǎn)者生產(chǎn)的消息設(shè)置header幕袱,只不過這個(gè)header稍微有些特殊而已。我們基于上一小節(jié)的代碼進(jìn)行修改悠瞬,修改后的代碼如下:

package com.zj.node.contentcenter.controller.content;

import lombok.RequiredArgsConstructor;
import org.apache.rocketmq.spring.support.RocketMQHeaders;
import org.springframework.cloud.stream.messaging.Source;
import org.springframework.messaging.support.MessageBuilder;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * 生產(chǎn)者
 *
 * @author 01
 * @date 2019-08-03
 **/
@RestController
@RequiredArgsConstructor
public class TestProducerController {

    private final Source source;

    @GetMapping("/stream-send-msg")
    public String streamSendMsg() {
        source.output().send(
                MessageBuilder.withPayload("消息體")
                        // tag只能設(shè)置一個(gè)们豌,不能設(shè)置多個(gè)
                        .setHeader(RocketMQHeaders.TAGS, "tag-1")
                        .build()
        );

        return "send message success!";
    }
}

改造消費(fèi)者

由于stream默認(rèn)在Sink接口里只提供了一個(gè)input channel,為了更直觀地看到不同tag的消息進(jìn)入不同的channel浅妆,所以我們需要使用自定義接口望迎,定義多個(gè)”input“,代碼如下:

public interface MySink {

    String T1_INPUT = "t1-input";
    String T2_INPUT = "t2-input";

    @Input(T1_INPUT)
    SubscribableChannel input1();

    @Input(T2_INPUT)
    SubscribableChannel input2();
}

修改配置文件如下:

spring:
  cloud:
    stream:
      rocketmq:
        binder:
          name-server: 192.168.190.129:9876
        bindings:
          t1-input:
            consumer:
              # 表示t1-input僅消費(fèi)帶有tag-1的消息
              tags: tag-1
          t2-input:
            consumer:
              # 表示t2-input可以消費(fèi)帶有tag-2或tag-3的消息(||用于分隔不同的tag)
              tags: tag-2||tag-3
      bindings:
        t1-input:
          destination: stream-test-topic
          group: binder-group1
        t2-input:
          destination: stream-test-topic
          group: binder-group2

修改啟動(dòng)類的注解如下:

import com.zj.node.usercenter.rocketmq.MySink;
import org.springframework.cloud.stream.annotation.EnableBinding;

@EnableBinding({MySink.class})
...

修改消費(fèi)者代碼如下:

package com.zj.node.usercenter.rocketmq;

import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.stream.annotation.StreamListener;
import org.springframework.stereotype.Service;

/**
 * 消費(fèi)者
 *
 * @author 01
 * @date 2019-08-10
 **/
@Slf4j
@Service
public class TestStreamConsumer {

    @StreamListener(MySink.T1_INPUT)
    public void receive1(String messageBody) {
        log.info("消費(fèi)了tag-1的消息凌外,messageBody = {}", messageBody);
    }

    @StreamListener(MySink.T2_INPUT)
    public void receive2(String messageBody) {
        log.info("消費(fèi)了tag-2 or tag-3 的消息辩尊,messageBody = {}", messageBody);
    }
}

完成以上修改后,使用生產(chǎn)者投遞消息康辑,此時(shí)控制臺(tái)輸出如下:

2019-08-11 18:06:28.491  INFO 16172 --- [MessageThread_1] c.z.n.u.rocketmq.TestStreamConsumer      : 消費(fèi)了tag-1的消息摄欲,messageBody = 消息體

3轿亮、SQL92

這種方式僅RocketMQ支持,Kafka胸墙、RabbitMQ不支持我注,若使用該方式,則不要使用TAGS迟隅。該方式是使用SQL語法過濾消息但骨,具體可參考官方文檔:

http://rocketmq.apache.org/rocketmq/filter-messages-by-sql92-in-rocketmq/

默認(rèn)情況下,RocketMQ的SQL過濾支持是關(guān)閉的智袭,所以我們需要通過添加一些配置項(xiàng)進(jìn)行開啟嗽冒。首先進(jìn)入RocketMQ的安裝目錄,然后編輯conf/broker.conf文件:

[root@study-01 ~]# cd /usr/local/rocketmq-4.5.1/
[root@study-01 /usr/local/rocketmq-4.5.1]# vim conf/broker.conf

在文件末尾添加如下配置項(xiàng):

enablePropertyFilter = true

注:添加配置后需要重啟RocketMQ的Broker才會(huì)生效补履,命令參考:

nohup sh $ROCKETMQ_HOME/bin/mqbroker -n localhost:9876 -c $ROCKETMQ_HOME/conf/broker.conf &

改造生產(chǎn)者

同樣基于上一小節(jié)的代碼進(jìn)行修改添坊,生產(chǎn)者的代碼如下:

package com.zj.node.contentcenter.controller.content;

import lombok.RequiredArgsConstructor;
import org.springframework.cloud.stream.messaging.Source;
import org.springframework.messaging.support.MessageBuilder;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * 生產(chǎn)者
 *
 * @author 01
 * @date 2019-08-03
 **/
@RestController
@RequiredArgsConstructor
public class TestProducerController {

    private final Source source;

    @GetMapping("/stream-send-msg")
    public String streamSendMsg() {
        source.output().send(
                MessageBuilder.withPayload("消息體")
                        .setHeader("amount", "100")
                        .build()
        );

        return "send message success!";
    }
}

改造消費(fèi)者

由于有上一小節(jié)的鋪墊,這里需要改動(dòng)的就不大了箫锤,西安修改消費(fèi)者的配置文件贬蛙,如下:

spring:
  cloud:
    stream:
      rocketmq:
        binder:
          name-server: 192.168.190.129:9876
        bindings:
          t1-input:
            consumer:
              # 表示t1-input僅消費(fèi)amount小于等于100的消息
              sql: 'amount <= 100'
          t2-input:
            consumer:
              # 表示t2-input僅消費(fèi)amount大于100的消息
              sql: 'amount > 100'
      bindings:
        t1-input:
          destination: stream-test-topic
          group: binder-group1
        t2-input:
          destination: stream-test-topic
          group: binder-group2

最后修改消費(fèi)者代碼,如下:

package com.zj.node.usercenter.rocketmq;

import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.stream.annotation.StreamListener;
import org.springframework.stereotype.Service;

/**
 * 消費(fèi)者
 *
 * @author 01
 * @date 2019-08-10
 **/
@Slf4j
@Service
public class TestStreamConsumer {

    @StreamListener(MySink.T1_INPUT)
    public void receive1(String messageBody) {
        log.info("消費(fèi)了amount <= 100的消息谚攒,messageBody = {}", messageBody);
    }

    @StreamListener(MySink.T2_INPUT)
    public void receive2(String messageBody) {
        log.info("消費(fèi)了amount > 100的消息阳准,messageBody = {}", messageBody);
    }
}

完成以上修改后,使用生產(chǎn)者投遞消息馏臭,此時(shí)控制臺(tái)輸出如下:

2019-08-11 18:40:30.019  INFO 9928 --- [MessageThread_1] c.z.n.u.rocketmq.TestStreamConsumer      : 消費(fèi)了amount <= 100的消息野蝇,messageBody = 消息體

關(guān)于tag和sql配置項(xiàng)的相關(guān)源碼:

  • com.alibaba.cloud.stream.binder.rocketmq.properties.RocketMQConsumerProperties
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市括儒,隨后出現(xiàn)的幾起案子绕沈,更是在濱河造成了極大的恐慌,老刑警劉巖帮寻,帶你破解...
    沈念sama閱讀 211,884評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件乍狐,死亡現(xiàn)場離奇詭異,居然都是意外死亡固逗,警方通過查閱死者的電腦和手機(jī)浅蚪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,347評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來烫罩,“玉大人惜傲,你說我怎么就攤上這事”丛埽” “怎么了盗誊?”我有些...
    開封第一講書人閱讀 157,435評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我浊伙,道長,這世上最難降的妖魔是什么长捧? 我笑而不...
    開封第一講書人閱讀 56,509評(píng)論 1 284
  • 正文 為了忘掉前任嚣鄙,我火速辦了婚禮,結(jié)果婚禮上串结,老公的妹妹穿的比我還像新娘哑子。我一直安慰自己,他們只是感情好肌割,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,611評(píng)論 6 386
  • 文/花漫 我一把揭開白布卧蜓。 她就那樣靜靜地躺著,像睡著了一般把敞。 火紅的嫁衣襯著肌膚如雪弥奸。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,837評(píng)論 1 290
  • 那天奋早,我揣著相機(jī)與錄音盛霎,去河邊找鬼。 笑死耽装,一個(gè)胖子當(dāng)著我的面吹牛愤炸,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播掉奄,決...
    沈念sama閱讀 38,987評(píng)論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼规个,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了姓建?” 一聲冷哼從身側(cè)響起诞仓,我...
    開封第一講書人閱讀 37,730評(píng)論 0 267
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎速兔,沒想到半個(gè)月后狂芋,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,194評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡憨栽,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,525評(píng)論 2 327
  • 正文 我和宋清朗相戀三年帜矾,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片屑柔。...
    茶點(diǎn)故事閱讀 38,664評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡屡萤,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出掸宛,到底是詐尸還是另有隱情死陆,我是刑警寧澤,帶...
    沈念sama閱讀 34,334評(píng)論 4 330
  • 正文 年R本政府宣布,位于F島的核電站措译,受9級(jí)特大地震影響别凤,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜领虹,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,944評(píng)論 3 313
  • 文/蒙蒙 一规哪、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧塌衰,春花似錦诉稍、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,764評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至努酸,卻和暖如春服爷,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背获诈。 一陣腳步聲響...
    開封第一講書人閱讀 31,997評(píng)論 1 266
  • 我被黑心中介騙來泰國打工层扶, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人烙荷。 一個(gè)月前我還...
    沈念sama閱讀 46,389評(píng)論 2 360
  • 正文 我出身青樓镜会,卻偏偏與公主長得像,于是被迫代替她去往敵國和親终抽。 傳聞我的和親對(duì)象是個(gè)殘疾皇子戳表,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,554評(píng)論 2 349

推薦閱讀更多精彩內(nèi)容