搭建DNS服務(wù)

• 為了方便rabbitmq服務(wù)之間能互鏈需要搭建DNS服務(wù)
• 創(chuàng)建dns docker容器桶略，注意必須要與rabbitmq服務(wù)同一個網(wǎng)段內(nèi)，否則不能互通胶背，這里使用docker默認(rèn)的網(wǎng)段；該鏡像提供webui，可以在線修改dns配置碉就，這里端口號為5380，

$ docker create \
     --name dnsmasq \
     -p 53:53/udp \
     -p 5380:8080 \
     -v /usr/local/docker_app/dnsmasq/dnsmasq.conf:/etc/dnsmasq.conf \
     --log-opt "max-size=100m" \
     -e "HTTP_USER=admin" \
     -e "HTTP_PASS=admin" \
     --restart always \
     jpillora/dnsmasq

• dnsmasq.conf配置

#dnsmasq config, for a complete example, see:
#  http://oss.segetech.com/intra/srv/dnsmasq.conf
#log all dns queries
# log-queries
#dont use hosts nameservers
no-resolv
#use google as default nameservers
server=8.8.4.4
server=8.8.8.8
#serve all .company queries using a specific nameserver
#server=/company/10.0.0.1
#explicitly define host-ip mappings
#address=/myhost.company/10.0.0.2

• 啟動dns服務(wù)

$ docker start dnsmasq

創(chuàng)建.erlang.cookie文件

• 該文件內(nèi)容為cookie值闷串，所有節(jié)點(diǎn)的該文件內(nèi)容一致瓮钥，內(nèi)容為UoNOcDhfxW9uoZ92wh6BjA==
• 該文件置于/var/lib/rabbitmq目錄下，即映射到本地的/usr/local/docker_app/rabbitmq/rabbitmq-a/data目錄下
• 要注意這個文件的權(quán)限值為400烹吵，否則無法啟動

準(zhǔn)備rabbitmq docker鏡像

• 直接采用rabbitmq官方鏡像碉熄，這里采用3.6.14-management版本
• 創(chuàng)建三個docker容器，分別為node1肋拔、node2锈津、node3
• 三個節(jié)點(diǎn)的cookie值一致，這是erlang的分布式特性凉蜂，rabbitmq在erlang的基礎(chǔ)上實(shí)現(xiàn)集群琼梆，內(nèi)容為任意字符串
• 5672為客戶端連接端口，15672為管理端連接端口

其中node1窿吩、node2茎杂、node3作為hostname，并設(shè)置為rabbitmq的nodename為rabbit纫雁，dns為dns服務(wù)的容器ip

docker create --name rabbitmq-a \
    -p 4369:4369 \
    -p 5671:5671 \
    -p 5672:5672 \
    -p 25672:25672 \
    -p 15672:15672 \
    -h node1 \
    --dns $(docker inspect -f '{{.NetworkSettings.IPAddress}}' dnsmasq) \
    -e RABBITMQ_NODENAME=rabbit \
    -e RABBITMQ_DEFAULT_USER=admin \
    -e RABBITMQ_DEFAULT_PASS=admin \
    -v /usr/local/docker_app/rabbitmq/rabbitmq-a/data:/var/lib/rabbitmq \
    rabbitmq:3.6.14-management

docker create --name rabbitmq-b \
    -p 4469:4369 \
    -p 5771:5671 \
    -p 5772:5672 \
    -p 26672:25672 \
    -p 16672:15672 \
    -h node2 \
    --dns $(docker inspect -f '{{.NetworkSettings.IPAddress}}' dnsmasq) \
    -e RABBITMQ_NODENAME=rabbit \
    -e RABBITMQ_DEFAULT_USER=admin \
    -e RABBITMQ_DEFAULT_PASS=admin \
    -v /usr/local/docker_app/rabbitmq/rabbitmq-b/data:/var/lib/rabbitmq \
    rabbitmq:3.6.14-management

docker create --name rabbitmq-c \
    -p 4569:4369 \
    -p 5871:5671 \
    -p 5872:5672 \
    -p 27672:25672 \
    -p 17672:15672 \
    -h node3 \
    --dns $(docker inspect -f '{{.NetworkSettings.IPAddress}}' dnsmasq) \
    -e RABBITMQ_NODENAME=rabbit \
    -e RABBITMQ_DEFAULT_USER=admin \
    -e RABBITMQ_DEFAULT_PASS=admin \
    -v /usr/local/docker_app/rabbitmq/rabbitmq-c/data:/var/lib/rabbitmq \
    rabbitmq:3.6.14-management

查看節(jié)點(diǎn)集群信息

• 啟動所有節(jié)點(diǎn)

// 進(jìn)入docker容器
$ docker exec -it rabbitmq-a /bin/sh
// 退出
# exit

// 因?yàn)榧哼€未搭建好煌往，所以只能看到本節(jié)點(diǎn)信息

# rabbitmqctl cluster_status
Cluster status of node rabbit@node1
[{nodes,[{disc,[rabbit@node1]}]},
 {running_nodes,[rabbit@node1]},
 {cluster_name,<<"rabbit@node1">>},
 {partitions,[]},
 {alarms,[{rabbit@node1,[]}]}]

# rabbitmqctl cluster_status
Cluster status of node rabbit@node2
[{nodes,[{disc,[rabbit@node2]}]},
 {running_nodes,[rabbit@node2]},
 {cluster_name,<<"rabbit@node2">>},
 {partitions,[]},
 {alarms,[{rabbit@node2,[]}]}]

# rabbitmqctl cluster_status
Cluster status of node rabbit@node3
[{nodes,[{disc,[rabbit@node3]}]},
 {running_nodes,[rabbit@node3]},
 {cluster_name,<<"rabbit@node3">>},
 {partitions,[]},
 {alarms,[{rabbit@node3,[]}]}]

進(jìn)入rabbitmq容器搭建磁盤節(jié)點(diǎn)，啟用集群服務(wù)

node2

# rabbitmqctl stop_app
Stopping rabbit application on node rabbit@node2
# rabbitmqctl join_cluster rabbit@node1
Clustering node rabbit@node2 with rabbit@node1
# rabbitmqctl start_app
Starting node rabbit@node2

node3

# rabbitmqctl stop_app
Stopping rabbit application on node rabbit@node3
# rabbitmqctl join_cluster rabbit@node1
Clustering node rabbit@node3 with rabbit@node1
# rabbitmqctl start_app
Starting node rabbit@node3

查看集群狀態(tài)

# rabbitmqctl cluster_status
Cluster status of node rabbit@node2
[{nodes,[{disc,[rabbit@node1,rabbit@node2,rabbit@node3]}]},
 {running_nodes,[rabbit@node1,rabbit@node3,rabbit@node2]},
 {cluster_name,<<"rabbit@node1">>},
 {partitions,[]},
 {alarms,[{rabbit@node1,[]},{rabbit@node3,[]},{rabbit@node2,[]}]}]

使用rabbitmq的鏡像隊列實(shí)現(xiàn)高可用

• 將需要消費(fèi)的隊列變?yōu)殓R像隊列轧邪，存在于多個節(jié)點(diǎn)携冤，這樣就可以實(shí)現(xiàn)RabbitMQ的HA高可用性。作用就是消息實(shí)體會主動在鏡像節(jié)點(diǎn)之間實(shí)現(xiàn)同步闲勺，而不是像普通模式那樣曾棕，在consumer消費(fèi)數(shù)據(jù)時臨時讀取。缺點(diǎn)就是菜循，集群內(nèi)部的同步通訊會占用大量的網(wǎng)絡(luò)帶寬

這行命令在vhost名稱為/uhost創(chuàng)建了一個策略翘地，策略名稱為ha-all，策略模式為 all 即復(fù)制到所有節(jié)點(diǎn)，包含新增節(jié)點(diǎn)衙耕，策略正則表達(dá)式為 "^ha." 表示匹配所有以ha.開頭隊列名稱或交換機(jī)名稱(可針對隊列昧穿，在webui中修改)，需要鏡像功能的節(jié)點(diǎn)需要執(zhí)行該命令橙喘。"^"表示匹配全部时鸵，生產(chǎn)最好不要這樣設(shè)置。

rabbitmqctl set_policy -p /uhost ha-all "^ha\." '{"ha-mode":"all"}'

修改節(jié)點(diǎn)為內(nèi)存節(jié)點(diǎn)

• 節(jié)點(diǎn)類型有兩種厅瞎，分別為磁盤節(jié)點(diǎn)(disc)和內(nèi)存節(jié)點(diǎn)(ram)饰潜，默認(rèn)為磁盤節(jié)點(diǎn)

# rabbitmqctl stop_app

# rabbitmqctl change_cluster_node_type ram

# rabbitmqctl start_app

到此集群搭建完畢，效果圖如下

節(jié)點(diǎn)圖

搭建haproxy做負(fù)載均衡

• haproxy支持兩種代理模式：TCP（四層）和HTTP（七層）和簸，支持虛擬主機(jī)
• 這里還是使用docker鏡像來搭建彭雾，采用版本為1.7.9

創(chuàng)建容器

80端口為haproxy管理端口，5677為rabbitmq的負(fù)載端口锁保，同樣依賴dns服務(wù)

docker create --name haproxy \
    -p 80:80 \
    -p 5677:5677 \
    --dns $(docker inspect -f '{{.NetworkSettings.IPAddress}}' dnsmasq) \
    -v /usr/local/docker_app/haproxy/etc:/usr/local/etc/haproxy:ro \
    haproxy:1.7.9

創(chuàng)建haproxy配置文件

• 配置文件/usr/local/docker_app/haproxy/etc/haproxy.cfg

# Simple configuration for an HTTP proxy listening on port 80 on all
# interfaces and forwarding requests to a single backend "servers" with a
# single server "server1" listening on 127.0.0.1:8000

# 全局配置
global
    daemon
    maxconn 256

# 默認(rèn)配置
defaults
    mode http          # 默認(rèn)的模式mode { tcp|http|health }薯酝，tcp是4層，http是7層爽柒，health只會返回OK
    timeout connect 5000ms
    timeout client 5000ms
    timeout server 5000ms

listen rabbitmq_cluster
    bind 0.0.0.0:5677           # 客戶端連接端口
    option tcplog
    mode tcp
    balance leastconn           # 最少連接優(yōu)先
    server  rabbit1 node1:5672 check inter 2s rise 2 fall 3   #check inter 2s 是檢測心跳頻率吴菠，rise 2是2次正確認(rèn)為服務(wù)器可用，fall 3是3次失敗認(rèn)為服務(wù)器不可用浩村，node1是dns服務(wù)配置的
    server  rabbit2 node2:5672 check inter 2s rise 2 fall 3
    server  rabbit3 node3:5672 check inter 2s rise 2 fall 3

listen http-in
    bind *:80
    stats uri /haproxy
    server server1 127.0.0.1:8000 maxconn 32

啟動haproxy容器

• 管理端效果圖

  
  
  haproxy管理端
• 修改配置重新加載配置命令

// haproxy為容器名稱
docker kill -s HUP haproxy