提供底層的基礎(chǔ)措施來(lái)部署一個(gè)集群
可選方案
- minikube
- GCE哀墓、ACE(托管)
- ALK/ELK/GCP
選擇一個(gè)網(wǎng)絡(luò)方案
Flannel
Flannel是讓集群中的不同節(jié)點(diǎn)主機(jī)創(chuàng)建的Docker容器都具有全集群唯一的虛擬IP地址趁餐。
在默認(rèn)的Docker配置中，每個(gè)節(jié)點(diǎn)上的Docker服務(wù)會(huì)分別負(fù)責(zé)所在節(jié)點(diǎn)容器的IP分配篮绰。這樣導(dǎo)致的一個(gè)問(wèn)題是后雷，不同節(jié)點(diǎn)上容器可能獲得相同的內(nèi)外IP地址。并使這些容器之間能夠之間通過(guò)IP地址相互找到吠各，也就是相互ping通臀突。
Flannel的設(shè)計(jì)目的就是為集群中的所有節(jié)點(diǎn)重新規(guī)劃IP地址的使用規(guī)則，從而使得不同節(jié)點(diǎn)上的容器能夠獲得“同屬一個(gè)內(nèi)網(wǎng)”且”不重復(fù)的”IP地址贾漏，并讓屬于不同節(jié)點(diǎn)上的容器能夠直接通過(guò)內(nèi)網(wǎng)IP通信候学。
Flannel實(shí)質(zhì)上是一種“覆蓋網(wǎng)絡(luò)(overlaynetwork)”，也就是將TCP數(shù)據(jù)包裝在另一種網(wǎng)絡(luò)包里面進(jìn)行路由轉(zhuǎn)發(fā)和通信纵散，目前已經(jīng)支持udp梳码、vxlan、host-gw伍掀、aws-vpc掰茶、gce和alloc路由等數(shù)據(jù)轉(zhuǎn)發(fā)方式，默認(rèn)的節(jié)點(diǎn)間數(shù)據(jù)通信方式是UDP轉(zhuǎn)發(fā)蜜笤。
特點(diǎn)
- 使集群中的不同Node主機(jī)創(chuàng)建的Docker容器都具有全集群唯一的虛擬IP地址濒蒋。
- 建立一個(gè)覆蓋網(wǎng)絡(luò)（overlay network），通過(guò)這個(gè)覆蓋網(wǎng)絡(luò)瘩例，將數(shù)據(jù)包原封不動(dòng)的傳遞到目標(biāo)容器啊胶。覆蓋網(wǎng)絡(luò)是建立在另一個(gè)網(wǎng)絡(luò)之上并由其基礎(chǔ)設(shè)施支持的虛擬網(wǎng)絡(luò)。覆蓋網(wǎng)絡(luò)通過(guò)將一個(gè)分組封裝在另一個(gè)分組內(nèi)來(lái)將網(wǎng)絡(luò)服務(wù)與底層基礎(chǔ)設(shè)施分離垛贤。在將封裝的數(shù)據(jù)包轉(zhuǎn)發(fā)到端點(diǎn)后焰坪，將其解封裝。
- 創(chuàng)建一個(gè)新的虛擬網(wǎng)卡flannel0接收docker網(wǎng)橋的數(shù)據(jù)聘惦，通過(guò)維護(hù)路由表某饰，對(duì)接收到的數(shù)據(jù)進(jìn)行封包和轉(zhuǎn)發(fā)（vxlan）。
- etcd保證了所有node上flanned所看到的配置是一致的善绎。同時(shí)每個(gè)node上的flanned監(jiān)聽(tīng)etcd上的數(shù)據(jù)變化黔漂，實(shí)時(shí)感知集群中node的變化。
解決辦法：
? Flannel在每個(gè)主機(jī)上都運(yùn)行flanneld作為agent禀酱，會(huì)從所在主機(jī)里獲取一個(gè)小的網(wǎng)段炬守，然后容器從這個(gè)網(wǎng)段里分配。
flanneld將本主機(jī)獲取的subnet以及用于主機(jī)間通信的Public IP通過(guò)etcd存儲(chǔ)起來(lái)剂跟，需要時(shí)發(fā)送給相應(yīng)模塊减途。
flannel利用各種后端組件酣藻，例如udp，vxlan等等鳍置，跨主機(jī)轉(zhuǎn)發(fā)容器間的網(wǎng)絡(luò)流量辽剧，完成容器間的跨主機(jī)通信。
Calico
Calico 是一種容器之間互通的網(wǎng)絡(luò)方案税产。在虛擬化平臺(tái)中怕轿，比如 OpenStack、Docker 等都需要實(shí)現(xiàn) workloads 之間互連辟拷，但同時(shí)也需要對(duì)容器做隔離控制撞羽，就像在 Internet 中的服務(wù)僅開(kāi)放80端口、公有云的多租戶一樣衫冻，提供隔離和管控機(jī)制放吩。而在多數(shù)的虛擬化平臺(tái)實(shí)現(xiàn)中，通常都使用二層隔離技術(shù)來(lái)實(shí)現(xiàn)容器的網(wǎng)絡(luò)羽杰，這些二層的技術(shù)有一些弊端，比如需要依賴 VLAN到推、bridge 和隧道等技術(shù)考赛，其中 bridge 帶來(lái)了復(fù)雜性，vlan 隔離和 tunnel 隧道則消耗更多的資源并對(duì)物理環(huán)境有要求莉测，隨著網(wǎng)絡(luò)規(guī)模的增大颜骤，整體會(huì)變得越加復(fù)雜。我們嘗試把 Host 當(dāng)作 Internet 中的路由器捣卤，同樣使用 BGP 同步路由忍抽，并使用 iptables 來(lái)做安全訪問(wèn)策略，最終設(shè)計(jì)出了 Calico 方案董朝。
適用場(chǎng)景：k8s環(huán)境中的pod之間需要隔離
設(shè)計(jì)思想：Calico 不使用隧道或 NAT 來(lái)實(shí)現(xiàn)轉(zhuǎn)發(fā)鸠项，而是巧妙的把所有二三層流量轉(zhuǎn)換成三層流量，并通過(guò) host 上路由配置完成跨 Host 轉(zhuǎn)發(fā)子姜。
設(shè)計(jì)優(yōu)勢(shì)：
1.更優(yōu)的資源利用
二層網(wǎng)絡(luò)通訊需要依賴廣播消息機(jī)制祟绊，廣播消息的開(kāi)銷與 host 的數(shù)量呈指數(shù)級(jí)增長(zhǎng)，Calico 使用的三層路由方法哥捕，則完全抑制了二層廣播牧抽，減少了資源開(kāi)銷。
另外遥赚，二層網(wǎng)絡(luò)使用 VLAN 隔離技術(shù)扬舒，天生有 4096 個(gè)規(guī)格限制，即便可以使用 vxlan 解決凫佛，但 vxlan 又帶來(lái)了隧道開(kāi)銷的新問(wèn)題讲坎。而 Calico 不使用 vlan 或 vxlan 技術(shù)孕惜，使資源利用率更高。
2.可擴(kuò)展性
Calico 使用與 Internet 類似的方案衣赶，Internet 的網(wǎng)絡(luò)比任何數(shù)據(jù)中心都大诊赊，Calico 同樣天然具有可擴(kuò)展性。
3.簡(jiǎn)單而更容易 debug
因?yàn)闆](méi)有隧道府瞄，意味著 workloads 之間路徑更短更簡(jiǎn)單碧磅，配置更少，在 host 上更容易進(jìn)行 debug 調(diào)試遵馆。
4.更少的依賴
Calico 僅依賴三層路由可達(dá)鲸郊。
5.可適配性
Calico 較少的依賴性使它能適配所有 VM、Container货邓、白盒或者混合環(huán)境場(chǎng)景秆撮。
Felix：運(yùn)行在每一臺(tái) Host 的 agent 進(jìn)程，主要負(fù)責(zé)網(wǎng)絡(luò)接口管理和監(jiān)聽(tīng)换况、路由职辨、ARP 管理、ACL 管理和同步戈二、狀態(tài)上報(bào)等舒裤。
BGP Client（BIRD）：Calico 為每一臺(tái) Host 部署一個(gè) BGP Client，使用 BIRD 實(shí)現(xiàn)觉吭，BIRD 是一個(gè)單獨(dú)的持續(xù)發(fā)展的項(xiàng)目腾供，實(shí)現(xiàn)了眾多動(dòng)態(tài)路由協(xié)議比如 BGP、OSPF鲜滩、RIP 等伴鳖。在 Calico 的角色是監(jiān)聽(tīng) Host 上由 Felix 注入的路由信息，然后通過(guò) BGP 協(xié)議廣播告訴剩余 Host 節(jié)點(diǎn)徙硅，從而實(shí)現(xiàn)網(wǎng)絡(luò)互通榜聂。
BGP Route Reflector：在大型網(wǎng)絡(luò)規(guī)模中，如果僅僅使用 BGP client 形成 mesh 全網(wǎng)互聯(lián)的方案就會(huì)導(dǎo)致規(guī)模限制闷游，因?yàn)樗泄?jié)點(diǎn)之間倆倆互聯(lián)峻汉，需要 N^2 個(gè)連接，為了解決這個(gè)規(guī)模問(wèn)題脐往，可以采用 BGP 的 Router Reflector 的方法休吠，使所有 BGP Client 僅與特定 RR 節(jié)點(diǎn)互聯(lián)并做路由同步，從而大大減少連接數(shù)业簿。
選擇你的基礎(chǔ)設(shè)施配置
機(jī)器配置
| 組件 |機(jī)器配置 | 備注
| ETCD | 建議4核CPU, 4G內(nèi)存及以上配置, 3臺(tái) | 可以和k8s master組件共用機(jī)器混合部署瘤礁，如果機(jī)器資源充足，建議分開(kāi)部署 |
| K8S Master | 建議4核CPU, 4G內(nèi)存及以上配置梅尤， 3臺(tái) | 同上建議 |
| LoadBalance | 建議4核CPU, 4G內(nèi)存及以上配置柜思， 2臺(tái) | 主備岩调， 注意這個(gè)不要和master，node組件混合部署赡盘， 影響穩(wěn)定性和可用性 |
| Node | 4核CPU, 4G內(nèi)存号枕， 1臺(tái)以上 | 配置需求與運(yùn)行的容器數(shù)量和應(yīng)用類型相關(guān) |
