工作隨筆 - docker-compose搭建多主機(jī)分布式minio

根據(jù)官網(wǎng)介紹http://docs.minio.org.cn/docs/master/deploy-minio-on-docker-swarm屯蹦,多主機(jī)minio只有介紹swarm的模式凳兵,但是單獨(dú)為minio搭建swarm有點(diǎn)麻煩,所以改造了官網(wǎng)docker-compose模式http://docs.minio.org.cn/docs/master/deploy-minio-on-docker-compose單機(jī)模式為多機(jī)模式

服務(wù)器信息如下:

服務(wù)器 IP 安裝組件
node1 192.168.1.1 minio1仗岸、nginx
node2 192.168.1.2 minio2、nginx
node3 192.168.1.3 minio3、nginx

安裝配置步驟如下(假設(shè)已經(jīng)安裝docker坠韩,本處使用docker-ce 19.03.12):

  1. docker下載鏡像(如果服務(wù)器能夠訪問公網(wǎng),則忽略此步驟
docker pull quay.io/minio/minio:RELEASE.2021-10-23T03-28-24Z
docker pull nginx:1.19.2-alpine
  1. 下載docker-compose (本處使用docker-compose version 1.29.2炼列,docker-compose需要支持語法3.7)
# 增加執(zhí)行權(quán)限
chmod +x docker-compose
  1. 創(chuàng)建docker-compose.yaml(按需修改IP)
version: '3.7'

# Settings and configurations that are common for all containers
# minio節(jié)點(diǎn)之間默認(rèn)使用9000來連通只搁,所以容器把9000暴露出來,9001是console端口俭尖,每個(gè)節(jié)點(diǎn)設(shè)置兩塊磁盤
x-minio-common: &minio-common
  image: quay.io/minio/minio:RELEASE.2021-10-23T03-28-24Z
  command: server --console-address ":9001" http://minio{1...3}/data{1...2}
  expose:
    - "9000"
    - "9001"
# 增加host映射氢惋,以便三個(gè)節(jié)點(diǎn)之間通過域名連通
  extra_hosts:
    minio1: 192.168.1.1
    minio2: 192.168.1.2
    minio3: 192.168.1.3
  depends_on:
    - nginx
  environment:
    MINIO_ROOT_USER: minio
    MINIO_ROOT_PASSWORD: minio123
  healthcheck:
    test: ["CMD", "curl", "-f", "http://localhost:9000/minio/health/live"]
    interval: 30s
    timeout: 20s
    retries: 5

# starts 4 docker containers running minio server instances.
# using nginx reverse proxy, load balancing, you can access
# it through port 9000.
# 數(shù)據(jù)盤掛載目錄洞翩,按需修改
services:
  minio1:
    <<: *minio-common
    container_name: minio1
    hostname: minio1
    volumes:
      - ./minio_data/data1-1:/data1
      - ./minio_data/data1-2:/data2
    ports:
      - "9000:9000"
      - "9001:9001"

  minio2:
    <<: *minio-common
    container_name: minio2
    hostname: minio2
    volumes:
      - ./minio_data/data2-1:/data1
      - ./minio_data/data2-2:/data2
    ports:
      - "9000:9000"
      - "9001:9001"

  minio3:
    <<: *minio-common
    container_name: minio3
    hostname: minio3
    volumes:
      - ./minio_data/data3-1:/data1
      - ./minio_data/data3-2:/data2
    ports:
      - "9000:9000"
      - "9001:9001"
# 三個(gè)節(jié)點(diǎn)都安裝nginx,并且負(fù)載到三個(gè)節(jié)點(diǎn)焰望,nginx暴露端口按需修改19000/19001
  nginx:
    image: nginx:1.19.2-alpine
    container_name: nginx-minio
    hostname: nginx
    volumes:
      - ./nginx.conf:/etc/nginx/nginx.conf:ro
    ports:
      - "19000:9000"
      - "19001:9001"
    extra_hosts:
      minio1: 192.168.1.1
      minio2: 192.168.1.2
      minio3: 192.168.1.3

  1. 創(chuàng)建nginx配置如下:
user  nginx;
worker_processes  auto;

error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;

events {
    worker_connections  4096;
}

http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  /var/log/nginx/access.log  main;
    sendfile        on;
    keepalive_timeout  65;

    # include /etc/nginx/conf.d/*.conf;

    upstream minio {
        server minio1:9000;
        server minio2:9000;
        server minio3:9000;
    }

    upstream console {
        ip_hash;
        server minio1:9001;
        server minio2:9001;
        server minio3:9001;
    }

    server {
        listen       9000;
        listen  [::]:9000;
        server_name  localhost;

        # To allow special characters in headers
        ignore_invalid_headers off;
        # Allow any size file to be uploaded.
        # Set to a value such as 1000m; to restrict file size to a specific value
        client_max_body_size 0;
        # To disable buffering
        proxy_buffering off;

        location / {
            proxy_set_header Host $http_host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;

            proxy_connect_timeout 300;
            # Default is HTTP/1, keepalive is only enabled in HTTP/1.1
            proxy_http_version 1.1;
            proxy_set_header Connection "";
            chunked_transfer_encoding off;

            proxy_pass http://minio;
        }
    }

    server {
        listen       9001;
        listen  [::]:9001;
        server_name  localhost;

        # To allow special characters in headers
        ignore_invalid_headers off;
        # Allow any size file to be uploaded.
        # Set to a value such as 1000m; to restrict file size to a specific value
        client_max_body_size 0;
        # To disable buffering
        proxy_buffering off;

        location / {
            proxy_set_header Host $http_host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
            proxy_set_header X-Forwarded-Proto $scheme;
            proxy_set_header X-NginX-Proxy true;

            # This is necessary to pass the correct IP to be hashed
            real_ip_header X-Real-IP;

            proxy_connect_timeout 300;

            # To support websocket
            proxy_http_version 1.1;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade";

            chunked_transfer_encoding off;

            proxy_pass http://console;
        }
    }
}

  1. 三個(gè)節(jié)點(diǎn)分別啟動(dòng)
# 拉包
./docker-compose pull
# 后臺(tái)啟動(dòng)骚亿,三臺(tái)對(duì)應(yīng)啟動(dòng)各自節(jié)點(diǎn)minio1/minio2/minio3 (切勿單臺(tái)啟動(dòng)多個(gè))
./docker-compose up -d minio1
./docker-compose up -d minio2
./docker-compose up -d minio3
  1. 驗(yàn)證,登陸 http://192.168.1.1:19001/熊赖,賬號(hào)密碼 minio/minio123
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末来屠,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子震鹉,更是在濱河造成了極大的恐慌俱笛,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,548評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件足陨,死亡現(xiàn)場(chǎng)離奇詭異嫂粟,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)墨缘,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,497評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門星虹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人镊讼,你說我怎么就攤上這事宽涌。” “怎么了蝶棋?”我有些...
    開封第一講書人閱讀 167,990評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵卸亮,是天一觀的道長。 經(jīng)常有香客問我玩裙,道長兼贸,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,618評(píng)論 1 296
  • 正文 為了忘掉前任吃溅,我火速辦了婚禮溶诞,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘决侈。我一直安慰自己螺垢,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,618評(píng)論 6 397
  • 文/花漫 我一把揭開白布赖歌。 她就那樣靜靜地躺著枉圃,像睡著了一般。 火紅的嫁衣襯著肌膚如雪庐冯。 梳的紋絲不亂的頭發(fā)上孽亲,一...
    開封第一講書人閱讀 52,246評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音展父,去河邊找鬼墨林。 笑死赁酝,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的旭等。 我是一名探鬼主播酌呆,決...
    沈念sama閱讀 40,819評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼搔耕!你這毒婦竟也來了隙袁?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,725評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤弃榨,失蹤者是張志新(化名)和其女友劉穎菩收,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體鲸睛,經(jīng)...
    沈念sama閱讀 46,268評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡娜饵,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,356評(píng)論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了官辈。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片箱舞。...
    茶點(diǎn)故事閱讀 40,488評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖拳亿,靈堂內(nèi)的尸體忽然破棺而出晴股,到底是詐尸還是另有隱情,我是刑警寧澤肺魁,帶...
    沈念sama閱讀 36,181評(píng)論 5 350
  • 正文 年R本政府宣布电湘,位于F島的核電站,受9級(jí)特大地震影響鹅经,放射性物質(zhì)發(fā)生泄漏寂呛。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,862評(píng)論 3 333
  • 文/蒙蒙 一瘾晃、第九天 我趴在偏房一處隱蔽的房頂上張望贷痪。 院中可真熱鬧,春花似錦酗捌、人聲如沸呢诬。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,331評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至阀圾,卻和暖如春哪廓,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背初烘。 一陣腳步聲響...
    開封第一講書人閱讀 33,445評(píng)論 1 272
  • 我被黑心中介騙來泰國打工涡真, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留分俯,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,897評(píng)論 3 376
  • 正文 我出身青樓哆料,卻偏偏與公主長得像鹃骂,于是被迫代替她去往敵國和親冬念。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,500評(píng)論 2 359