(1)啟動(dòng)生產(chǎn)消息端,生產(chǎn)消息,./bin/kafka-console-producer.sh --broker-list dn02.hadoop.cn:6667,dn03.hadoop.cn:6667,dn04.hadoop.cn:6667 --topic oc_3e512df5-ed75-11e8-a994-00163e0007e4 --security-protocol SASL_PLAINTEXT
(2)啟動(dòng)消費(fèi)端命令行乃摹,消費(fèi)消息,./bin/kafka-console-consumer.sh --bootstrap-server dn02.hadoop.cn:6667,dn03.hadoop.cn:6667,dn04.hadoop.cn:6667 --topic oc_3e512df5-ed75-11e8-a994-00163e0007e4 --from-beginning --security-protocol SASL_PLAINTEXT
(3)查看consumer group列表跟衅,使用--list參數(shù)
查看consumer group列表有新孵睬、舊兩種命令,分別查看新版(信息保存在broker中)consumer列表和老版(信息保存在zookeeper中)consumer列表伶跷,因而需要區(qū)分指定bootstrap--server和zookeeper參數(shù):
./kafka-consumer-groups.sh --new-consumer --bootstrap-server dn02.hadoop.cn:6667,dn03.hadoop.cn:6667,dn04.hadoop.cn:6667 --list
但是報(bào)錯(cuò)
./kafka-consumer-groups.sh --zookeeper dn02.hadoop.cn:2181,dn01.hadoop.cn:2181,dn03.hadoop.cn:2181 --list
(4)查看特定consumer group 詳情掰读,使用--group與--describe參數(shù)
同樣根據(jù)新/舊版本的consumer,分別指定bootstrap-server與zookeeper參數(shù):
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server 127.0.0.1:9292 --group lx_test --describe
GROUP? ? ? ? ? ? ? ? ? ? ? ? ? TOPIC? ? ? ? ? ? ? ? ? ? ? ? ? PARTITION? CURRENT-OFFSET? LOG-END-OFFSET? LAG? ? ? ? ? ? OWNER
lx_test? ? ? ? ? ? ? ? ? ? ? ? lx_test_topic? ? ? ? ? ? 0? ? ? ? ? 465? ? ? ? ? ? 465? ? ? ? ? ? 0? ? ? ? ? ? ? kafka-python-1.3.1_/127.0.0.1
./kafka-consumer-groups.sh --zookeeper dn02.hadoop.cn:2181,dn01.hadoop.cn:2181,dn03.hadoop.cn:2181 --group test-consumer-group --describe
(5)查看主題列表
./bin/kafka-topics.sh --zookeeper dn02.hadoop.cn:2181,dn01.hadoop.cn:2181,dn03.hadoop.cn:2181 --list
(6)查看指定主題的詳細(xì)信息
./bin/kafka-topics.sh --zookeeperdn02.hadoop.cn:2181,dn01.hadoop.cn:2181,dn03.hadoop.cn:2181 --topic test --describe
(7)連接zk的服務(wù)端
./zkCli.sh? -server 10.100.46.58:2181
(8) 修改kafka的topic的分區(qū)數(shù)叭莫,kafka的分區(qū)數(shù)只能增加蹈集,不能減少:
./kafka-topics.sh --alter --zookeeper dn02.hadoop.cn:2181,dn01.hadoop.cn:2181,dn03.hadoop.cn:2181 --topic dtwave_kafka_mysql --partitions 3
(9)查詢某個(gè)topic的信息(包括分區(qū)):
./kafka-topics.sh? --zookeeper dn02.hadoop.cn:2181,dn01.hadoop.cn:2181,dn03.hadoop.cn:2181? --describe --topic dtwave_kafka_mysql
(10)如何查看topic的分區(qū)使用的大小:
可以通過(guò)統(tǒng)計(jì)本地?cái)?shù)據(jù)的大小雇初,就可以拢肆;剩余量就是分區(qū)的大小減去數(shù)據(jù)文件的大小