Apache Kafka教程 之 Apache Kafka - 消費(fèi)者示例
http://blogxinxiucan.sh1.newtouch.com/
原文地址： http://blogxinxiucan.sh1.newtouch.com/2017/07/13/Apache-Kafka-消費(fèi)者示例/
Apache Kafka - 消費(fèi)者示例（Consumer Group）
Consumer Group是從kafka Topic的多線程或多機(jī)器消費(fèi)升敲。
Consumer Group
- 消費(fèi)者可以使用相同的
group.id加入Group龙巨。 - 組中的最大并行度是組中的消費(fèi)者數(shù)量←不是分區(qū)探赫。
- kafka將一個(gè) Topic的分區(qū)分配給組中的消費(fèi)者，以便每個(gè)分區(qū)由組中的一個(gè)消費(fèi)者消耗过吻。
- kafka保證消息只能由組內(nèi)的單個(gè)消費(fèi)者讀取。
- 消費(fèi)者可以按照日志中存儲(chǔ)的順序查看消息包帚。
重新平衡消費(fèi)者
添加更多進(jìn)程/線程將導(dǎo)致kafka重新平衡若皱。如果任何消費(fèi)者或broker無(wú)法向ZooKeeper發(fā)送心跳信息，則可以通過(guò)Kafka群集重新配置柠辞。在此重新平衡過(guò)程中团秽，Kafka會(huì)將可用的分區(qū)分配給可用的線程，可能將分區(qū)移動(dòng)到另一個(gè)進(jìn)程。
import java.util.Properties;
import java.util.Arrays;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.ConsumerRecord;
public class ConsumerGroup {
public static void main(String[] args) throws Exception {
if(args.length < 2){
System.out.println("Usage: consumer <topic> <groupname>");
return;
}
String topic = args[0].toString();
String group = args[1].toString();
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", group);
props.put("enable.auto.commit", "true");
props.put("auto.commit.interval.ms", "1000");
props.put("session.timeout.ms", "30000");
props.put("key.deserializer",
"org.apache.kafka.common.serializa-tion.StringDeserializer");
props.put("value.deserializer",
"org.apache.kafka.common.serializa-tion.StringDeserializer");
KafkaConsumer<String, String> consumer = new KafkaConsumer<String, String>(props);
consumer.subscribe(Arrays.asList(topic));
System.out.println("Subscribed to topic " + topic);
int i = 0;
while (true) {
ConsumerRecords<String, String> records = con-sumer.poll(100);
for (ConsumerRecord<String, String> record : records)
System.out.printf("offset = %d, key = %s, value = %s\n",
record.offset(), record.key(), record.value());
}
}
}
匯編
javac -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*" ConsumerGroup.java
執(zhí)行
>>java -cp “/path/to/kafka/kafka_2.11-0.9.0.0/libs/*":.
ConsumerGroup <topic-name> my-group
>>java -cp "/home/bala/Workspace/kafka/kafka_2.11-0.9.0.0/libs/*":.
ConsumerGroup <topic-name> my-group
在這里习勤，我們創(chuàng)建了一個(gè)示例組名稱作為我的組與兩個(gè)消費(fèi)者踪栋。同樣，您可以創(chuàng)建組中的組和消費(fèi)者數(shù)量图毕。
輸入
打開(kāi)生產(chǎn)者CLI并發(fā)送一些消息夷都，如 -
Test consumer group 01
Test consumer group 02
第一個(gè)過(guò)程的輸出
Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 01
第二過(guò)程的產(chǎn)出
Subscribed to topic Hello-kafka
offset = 3, key = null, value = Test consumer group 02
現(xiàn)在希望您將通過(guò)使用Java客戶端演示了解SimpleConsumer和ConsumeGroup。現(xiàn)在您了解如何使用Java客戶端發(fā)送和接收消息予颤。
