如何創(chuàng)建舀寓,刪除,更改kafka的topic及屬性

我們都知道柑潦,有時候我們創(chuàng)建topic的時候一些屬性沒有設置好埂软,導致后面出現(xiàn)很多狀況锈遥,下面介紹如何創(chuàng)建,修改所灸,刪除kafka主題的簡單操作诉字。如下介紹2種方法陵霉。
方法1:
首先,創(chuàng)建一個pojo類:
package com.ky.common;

/**

  • @Author: xwj

  • @Date: 2019/1/7 0007 13:53

  • @Version 1.0
    */
    public class KafkaTopicBean {

    private String topicName;
    private Integer partition;
    private Integer replication;
    private String descrbe;

    String getTopicName() {
    return topicName;
    }

    public void setTopicName(String topicName) {
    this.topicName = topicName;
    }

    Integer getPartition() {
    return partition;
    }

    public void setPartition(Integer partition) {
    this.partition = partition;
    }

    Integer getReplication() {
    return replication;
    }

    public void setReplication(Integer replication) {
    this.replication = replication;
    }

    public String getDescrbe() {
    return descrbe;
    }

    public void setDescrbe(String descrbe) {
    this.descrbe = descrbe;
    }

    @Override
    public String toString() {
    return "KafkaTopicBean [topicName=" + topicName + ", partition=" + partition
    + ", replication=" + replication + ", descrbe=" + descrbe +"]";
    }

}
創(chuàng)建kafkaUtil工具類
package com.ky.common;

import kafka.admin.AdminUtils;
import kafka.admin.RackAwareMode;
import kafka.server.ConfigType;
import kafka.utils.ZkUtils;
import org.apache.kafka.common.security.JaasUtils;
import scala.collection.JavaConversions;

import java.util.List;
import java.util.Properties;
import java.util.stream.Collectors;

/**

  • @Author: xwj

  • @Date: 2019/1/7 0007 13:54

  • @Version 1.0
    */
    public class KafkaUtil {

    public static void createKafaTopic(String zkStr, KafkaTopicBean topic) {
    ZkUtils zkUtils = ZkUtils.apply(zkStr, 30000, 30000, JaasUtils.isZkSecurityEnabled());
    try {
    AdminUtils.createTopic(zkUtils, topic.getTopicName(), topic.getPartition(),
    topic.getReplication(), new Properties(), RackAwareMode.Enforced.MODULE);
    System.out.printf("create topic:%s success..", topic.getTopicName());
    } catch (Exception e) {
    System.out.printf("create topic error..the root cause:", e.getMessage());
    }
    }

    public static void deleteKafaTopic(String zkStr, KafkaTopicBean topic) {
    ZkUtils zkUtils = ZkUtils.apply(zkStr, 30000, 30000, JaasUtils.isZkSecurityEnabled());
    try {
    AdminUtils.deleteTopic(zkUtils, topic.getTopicName());
    System.out.printf("delete topic:%s success..", topic.getTopicName());
    } catch (Exception e) {
    System.out.printf("create topic error..the root cause:", e.getMessage());
    }
    zkUtils.close();
    }

    public static void updateTopic(String zkStr, KafkaTopicBean topic) {
    ZkUtils zkUtils = ZkUtils.apply(zkStr, 30000, 30000, JaasUtils.isZkSecurityEnabled());
    try {
    Properties props = AdminUtils.fetchEntityConfig(zkUtils, ConfigType.Topic(), topic.getTopicName());
    props.put("min.cleanable.dirty.ratio", "0.3");
    props.remove("max.message.bytes");
    AdminUtils.changeTopicConfig(zkUtils, topic.getTopicName(), props);
    System.out.printf("update topic:%s success..", topic.getTopicName());
    } catch (Exception e) {
    System.out.printf("create topic error..the root cause:", e.getMessage());
    }
    zkUtils.close();
    }

    public static List<String> getAllTopics(String zkStr) {
    ZkUtils zkUtils = ZkUtils.apply(zkStr, 30000, 30000, JaasUtils.isZkSecurityEnabled());
    List<String> topicList = null;
    try {
    List<String> allTopicList = JavaConversions.seqAsJavaList(zkUtils.getAllTopics());
    topicList = allTopicList.stream()
    .filter(topic -> !topic.equalsIgnoreCase("rawMessage") && !topic.equalsIgnoreCase("blmessage"))
    .collect(Collectors.toList());
    } catch (Exception e) {
    System.out.printf("create topic error..the root cause:", e.getMessage());
    }
    return topicList;
    }
    }

測試:
package com.ky.service;

import com.ky.common.KafkaTopicBean;
import com.ky.common.KafkaUtil;

/**

  • @Author: xwj

  • @Date: 2019/1/7 0007 13:51

  • @Version 1.0
    */
    public class KafkaService {

    public static void main(String[] args) {
    String zkStr = "192.168.1.10:2181,192.168.1.11:2181,192.168.1.12:2181";
    String topic = "rawMessage";
    final KafkaTopicBean topicBean = new KafkaTopicBean();
    topicBean.setPartition(1);
    topicBean.setReplication(1);
    topicBean.setTopicName(topic);
    KafkaUtil.createKafaTopic(zkStr, topicBean);
    }
    }

然后去linux上去查看运嗜,發(fā)現(xiàn)topic已經(jīng)創(chuàng)建了。
但是刪除kafka的topic岭参,只是標記被刪除了,并沒有真正的刪除,要做真正的刪除程癌,需要做如下動作。
打開kafka的配置文件,并修改如下屬性:


image.png

auto.create.topics.enable 設置為false,不讓程序自動創(chuàng)建topic,就是程序再往kafka生產(chǎn)數(shù)據(jù)的時候蚕涤,如果發(fā)現(xiàn)topic不存在就會自動創(chuàng)建。
delete.topic.enable設置為true较沪,刪除topic的同時们何,會過一段時間刪除目錄和對應數(shù)據(jù)文件目錄。

方法2:
基于方法1上冒签,代碼如下
import org.I0Itec.zkclient.ZkClient;

import java.util.List;

/**

  • @Author: xwj

  • @Date: 2019/1/7 0007 16:52

  • @Version 1.0
    */
    public class ZkService {

    public static void main(String[] args) {
    String zkStr = "192.168.1.10:2181,192.168.1.11:2181,192.168.1.12:2181";
    String path = "/brokers/topics/";
    final List<String> allTopics = KafkaUtil.getAllTopics(zkStr);
    ZkClient zkClient;
    zkClient = new ZkClient(zkStr, 30000, 30000);
    for (String topic : allTopics) {
    try {
    zkClient.deleteRecursive(path + topic);
    System.out.println("delete topic sucess..");
    } catch (Exception e) {
    e.printStackTrace();
    }
    }

    }
    }

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌姨伟,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,378評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件淮摔,死亡現(xiàn)場離奇詭異,居然都是意外死亡晰搀,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,356評論 2 382
  • 文/潘曉璐 我一進店門蠕蚜,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人拴曲,你說我怎么就攤上這事。” “怎么了戈咳?”我有些...
    開封第一講書人閱讀 152,702評論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,259評論 1 279
  • 正文 為了忘掉前任仪际,我火速辦了婚禮成榜,結果婚禮上挣输,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好你稚,可當我...
    茶點故事閱讀 64,263評論 5 371
  • 文/花漫 我一把揭開白布枪芒。 她就那樣靜靜地躺著抽碌,像睡著了一般痴颊。 火紅的嫁衣襯著肌膚如雪烹笔。 梳的紋絲不亂的頭發(fā)上冤吨,一...
    開封第一講書人閱讀 49,036評論 1 285
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的森篷。 我是一名探鬼主播钓辆,決...
    沈念sama閱讀 38,349評論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼烁落,長吁一口氣:“原來是場噩夢啊……” “哼每聪!你這毒婦竟也來了诊笤?” 一聲冷哼從身側響起晾匠,我...
    開封第一講書人閱讀 36,979評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體经窖,經(jīng)...
    沈念sama閱讀 43,469評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 35,938評論 2 323
  • 正文 我和宋清朗相戀三年代赁,在試婚紗的時候發(fā)現(xiàn)自己被綠了忧勿。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片层释。...
    茶點故事閱讀 38,059評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡磅轻,死狀恐怖,靈堂內的尸體忽然破棺而出杨帽,到底是詐尸還是另有隱情僚饭,我是刑警寧澤,帶...
    沈念sama閱讀 33,703評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站光涂,受9級特大地震影響,放射性物質發(fā)生泄漏本鸣。R本人自食惡果不足惜曹傀,卻給世界環(huán)境...
    茶點故事閱讀 39,257評論 3 307
  • 文/蒙蒙 一皆愉、第九天 我趴在偏房一處隱蔽的房頂上張望家淤。 院中可真熱鬧絮重,春花似錦、人聲如沸号杠。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,262評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至啸蜜,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間辈挂,已是汗流浹背衬横。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留终蒂,地道東北人蜂林。 一個月前我還...
    沈念sama閱讀 45,501評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像后豫,于是被迫代替她去往敵國和親悉尾。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,792評論 2 345

推薦閱讀更多精彩內容