用 Vagrant 一鍵部署開發(fā)環(huán)境 kafka 集群

vagrant介紹

vagrant是一個(gè)很適合開發(fā)者的虛擬環(huán)境部署工具映屋,本身集成了主流的虛擬器管理工具誓军,支持vmvare和virtualbox袱讹。vagrant的精髓在一個(gè)Vagrantfile里面,和docker的Dockerfile功能上一樣昵时。我們只需要把需要安裝部署的步驟寫在Vagrantfile里面捷雕,便可以實(shí)現(xiàn)輕松部署。vagrant還支持把當(dāng)前系統(tǒng)做成一個(gè).box后綴命名的鏡像债查,類似docker的image非区,可輕松實(shí)現(xiàn)環(huán)境的移植瓜挽。

集群環(huán)境預(yù)覽

VM Name Host Name IP Address
zookeeper1 vkc-zk1 10.30.3.2
zookeeper2 vkc-zk2 10.30.3.3
zookeeper3 vkc-zk3 10.30.3.4
broker1 vkc-br1 10.30.3.30
broker2 vkc-br2 10.30.3.20
broker3 vkc-br3 10.30.3.10

準(zhǔn)備

軟件

下載并安裝如下的軟件:

  1. virtualbox 官網(wǎng)地址
  2. vagrant2.2.7 官網(wǎng)地址
  3. kafka_2.11-2.4.0.tgz下載地址
  4. 鏡像:vagrant-centos-7.2.box
    下載地址:
    鏈接:https://pan.baidu.com/s/15S2OZq37FcL9RWWSTWntIw
    提取碼:3xb0

空間:

15G的硬盤空間

vagrant添加鏡像

vagrant box add centos72 D:\\zjdata\\virtualbox\\centos72\\vagrant-centos-7.2.box

vagrant box add命令會(huì)在c盤用戶下面的.vagrant.d/boxes/目錄下面創(chuàng)建一個(gè)和鏡像大小差不多的文件(700M左右)盹廷。

下載vagrant-kafka項(xiàng)目

注意:以下的命令行都是在git-bash下面執(zhí)行的。

cd /c/zjdata/vagrant-vm/
git clone https://github.com/xueyubingsen/vagrant-kafka.git

初始化vagrant

cd vagrant-kafka
mv Vagrantfile Vagrantfile.bak
vagrant init vagrant-kafka
  1. vagrant init 會(huì)生成一個(gè)Vagrantfile文件和一些隱藏目錄久橙,這個(gè)vagrant-kafka是隨便起的俄占。
  2. 先備份一下從github上下載的Vagrantfile文件,等init完之后淆衷,再替換回來(lái)缸榄。
mv Vagrantfile.bak Vagrantfile

修改Vagrantfile

將config.vm.box的值改為我們剛剛添加的box的名字
將KAFKA_VERSION的值改為2.4.0

# -*- mode: ruby -*-
# vi: set ft=ruby :

Vagrant.configure("2") do |config|

  config.vm.box = "centos72"
  config.ssh.forward_agent = true # So that boxes don't have to setup key-less ssh
  config.ssh.insert_key = false # To generate a new ssh key and don't use the default Vagrant one

  vars = {
     "KAFKA_VERSION" => "2.4.0",
     "KAFKA_NAME" => "kafka_2.11-$KAFKA_VERSION",
     "KAFKA_TARGET" => "/vagrant/tars/",
     "KAFKA_HOME" => "$HOME/$KAFKA_NAME"
  }

  # escape environment variables to be loaded to /etc/profile.d/
  as_str = vars.map{|k,str| ["export #{k}=#{str.gsub '$', '\$'}"] }.join("\n")

  # common provisioning for all
  config.vm.provision "shell", path: "scripts/hosts-file-setup.sh", env: vars
  config.vm.provision "shell", inline: "echo \"#{as_str}\" > /etc/profile.d/kafka_vagrant_env.sh", run: "always"
  config.vm.provision "shell", path: "scripts/init.sh", env: vars

  # configure zookeeper cluster
  (1..3).each do |i|
    config.vm.define "zookeeper#{i}" do |s|
      s.vm.hostname = "zookeeper#{i}"
      s.vm.network "private_network", ip: "10.30.3.#{i+1}"
      #s.vm.network "private_network", ip: "10.30.3.#{i+1}", netmask: "255.255.255.0", virtualbox__intnet: "my-network", drop_nat_interface_default_route: true
      s.vm.provision "shell", run: "always", path: "scripts/zookeeper.sh", args:"#{i}", privileged: false, env: vars
    end
  end

  # configure brokers
  (1..3).each do |i|
    config.vm.define "broker#{i}" do |s|
      s.vm.hostname = "broker#{i}"
      s.vm.network "private_network", ip: "10.30.3.#{4-i}0"
      #s.vm.network "private_network", ip: "10.30.3.#{4-i}0", netmask: "255.255.255.0", virtualbox__intnet: "my-network", drop_nat_interface_default_route: true
      s.vm.provision "shell", run: "always", path: "scripts/broker.sh", args:"#{i}", privileged: false, env: vars
    end
  end

  config.vm.provider "virtualbox" do |v|
    #  This setting controls how much cpu time a virtual CPU can use. A value of 50 implies a single virtual CPU can use up to 50% of a single host CPU.
    v.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
  end
end

拷貝kafka安裝包

把開始的時(shí)候下載的kafka_2.11-2.4.0.tgz安裝包拷貝到項(xiàng)目目錄的tars目錄下,tars目錄需要手工創(chuàng)建祝拯。

啟動(dòng)集群

只需要啟動(dòng)集群甚带,vagrant就會(huì)按照Vagrantfile里面配置的那樣,開始逐個(gè)安裝集群佳头。

vagrant up

安裝之后的樣子

$ vagrant global-status
id       name       provider   state   directory
---------------------------------------------------------------------------
436fb44  zookeeper1 virtualbox running C:/zjdata/vagrant-vm/vagrant-kafka
6292373  zookeeper2 virtualbox running C:/zjdata/vagrant-vm/vagrant-kafka
5325c42  zookeeper3 virtualbox running C:/zjdata/vagrant-vm/vagrant-kafka
6b594e2  broker1    virtualbox running C:/zjdata/vagrant-vm/vagrant-kafka
690398d  broker2    virtualbox running C:/zjdata/vagrant-vm/vagrant-kafka
a26ed4b  broker3    virtualbox running C:/zjdata/vagrant-vm/vagrant-kafka

The above shows information about all known Vagrant environments
on this machine. This data is cached and may not be completely
up-to-date (use "vagrant global-status --prune" to prune invalid
entries). To interact with any of the machines, you can go to that
directory and run Vagrant, or you can use the ID directly with
Vagrant commands from any directory. For example:
"vagrant destroy 1a2b3c4d"

注意:可以單獨(dú)針對(duì)某一個(gè)節(jié)點(diǎn)運(yùn)行provision

vagrant provision zookeeper1

連接到zookeeper1節(jié)點(diǎn)

vagrant ssh zookeeper1
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末鹰贵,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子康嘉,更是在濱河造成了極大的恐慌碉输,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,743評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件亭珍,死亡現(xiàn)場(chǎng)離奇詭異敷钾,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)肄梨,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,296評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門阻荒,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人众羡,你說我怎么就攤上這事侨赡。” “怎么了?”我有些...
    開封第一講書人閱讀 157,285評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵辆毡,是天一觀的道長(zhǎng)菜秦。 經(jīng)常有香客問我,道長(zhǎng)舶掖,這世上最難降的妖魔是什么球昨? 我笑而不...
    開封第一講書人閱讀 56,485評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮眨攘,結(jié)果婚禮上主慰,老公的妹妹穿的比我還像新娘。我一直安慰自己鲫售,他們只是感情好共螺,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,581評(píng)論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著情竹,像睡著了一般藐不。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上秦效,一...
    開封第一講書人閱讀 49,821評(píng)論 1 290
  • 那天雏蛮,我揣著相機(jī)與錄音,去河邊找鬼阱州。 笑死挑秉,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的苔货。 我是一名探鬼主播犀概,決...
    沈念sama閱讀 38,960評(píng)論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼夜惭!你這毒婦竟也來(lái)了姻灶?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,719評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤滥嘴,失蹤者是張志新(化名)和其女友劉穎木蹬,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體若皱,經(jīng)...
    沈念sama閱讀 44,186評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡镊叁,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,516評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了走触。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片晦譬。...
    茶點(diǎn)故事閱讀 38,650評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖互广,靈堂內(nèi)的尸體忽然破棺而出敛腌,到底是詐尸還是另有隱情卧土,我是刑警寧澤,帶...
    沈念sama閱讀 34,329評(píng)論 4 330
  • 正文 年R本政府宣布像樊,位于F島的核電站尤莺,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏生棍。R本人自食惡果不足惜颤霎,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,936評(píng)論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望涂滴。 院中可真熱鬧友酱,春花似錦、人聲如沸柔纵。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,757評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)搁料。三九已至或详,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間加缘,已是汗流浹背鸭叙。 一陣腳步聲響...
    開封第一講書人閱讀 31,991評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工觉啊, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留拣宏,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,370評(píng)論 2 360
  • 正文 我出身青樓杠人,卻偏偏與公主長(zhǎng)得像勋乾,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子嗡善,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,527評(píng)論 2 349