存儲(chǔ)簡(jiǎn)介
簡(jiǎn)述歷史
存儲(chǔ)顧名思義就是存放數(shù)據(jù)的方式之碗，自從人類文明以來(lái)蝙眶，我們可以將信息寫(xiě)入竹簡(jiǎn)，造紙術(shù)褪那、活字印刷等械馆，近代隨著電子信息的發(fā)展胖眷，存儲(chǔ)發(fā)生的變化，穿孔帶霹崎，軟盤(pán)珊搀，硬盤(pán)，磁盤(pán)尾菇，U盤(pán)等各種存儲(chǔ)設(shè)備應(yīng)運(yùn)而生境析。同時(shí)各種磁盤(pán)的組合形成的磁盤(pán)陣列，可以存儲(chǔ)更大的數(shù)據(jù)派诬。隨著海量數(shù)據(jù)的發(fā)展劳淆，數(shù)據(jù)朝向TB級(jí)，PB級(jí)默赂，EB級(jí)的方向發(fā)展沛鸵，簡(jiǎn)單的硬盤(pán)容量已經(jīng)不能滿足需求了，因此缆八，出現(xiàn)了云存儲(chǔ)曲掰。
云存儲(chǔ)的產(chǎn)品
?塊存儲(chǔ) 只負(fù)責(zé)數(shù)據(jù)的讀取和寫(xiě)入，性能較高奈辰，適用于響應(yīng)時(shí)間要求較高的系統(tǒng)栏妖，如數(shù)據(jù)庫(kù)系統(tǒng)，直接對(duì)硬盤(pán)設(shè)備的操作奖恰，不依賴于文件系統(tǒng)吊趾。一般應(yīng)用于關(guān)鍵業(yè)務(wù)和一些極端敏感數(shù)據(jù)的業(yè)務(wù)中，常見(jiàn)于高端存儲(chǔ)瑟啃。?文件存儲(chǔ) 基于文件系統(tǒng)的一種設(shè)備论泛，有目錄和文件的層次結(jié)構(gòu)，可以多個(gè)系統(tǒng)間共享文件蛹屿，但是在網(wǎng)絡(luò)傳輸中屁奏，上傳下載速度較慢。其具有豐富的共享接口蜡峰，存儲(chǔ)一些非結(jié)構(gòu)化的數(shù)據(jù)了袁，依賴于想NFS/CIFS/POSIX等接口的文件系統(tǒng)。?對(duì)象存儲(chǔ) 將存儲(chǔ)的內(nèi)容+元數(shù)據(jù)看成一個(gè)對(duì)象湿颅，其中元數(shù)據(jù)包含系統(tǒng)級(jí)的元數(shù)據(jù)和自定義的元數(shù)據(jù)载绿，將對(duì)象存儲(chǔ)到一個(gè)存儲(chǔ)桶中，利用鍵值對(duì)的形式進(jìn)行存儲(chǔ)油航，具有唯一的ID崭庸。對(duì)象存儲(chǔ)一般將元數(shù)據(jù)與內(nèi)容分開(kāi)存放，元數(shù)據(jù)存放到元數(shù)據(jù)服務(wù)器中，數(shù)據(jù)可以分別存放到多個(gè)設(shè)備中怕享，由對(duì)象存儲(chǔ)設(shè)備來(lái)管理执赡。具有較高的擴(kuò)展性，存儲(chǔ)非結(jié)構(gòu)化數(shù)據(jù)函筋，操作管理簡(jiǎn)單沙合，應(yīng)用于多種場(chǎng)景。比如：網(wǎng)盤(pán)跌帐、備份首懈、歸檔等。
對(duì)象存儲(chǔ)文件系統(tǒng)讀訪問(wèn)流程： 1)客戶端應(yīng)用發(fā)出讀請(qǐng)求; 2)文件系統(tǒng)向元數(shù)據(jù)服務(wù)器發(fā)送請(qǐng)求谨敛，獲取要讀取的數(shù)據(jù)所在的OSD; 3)然后直接向每個(gè)OSD發(fā)送數(shù)據(jù)讀取請(qǐng)求究履； 4)OSD得到請(qǐng)求以后，判斷要讀取的Object脸狸，并根據(jù)此Object要求的認(rèn)證方式最仑，對(duì)客戶端進(jìn)行認(rèn)證，如果此客戶端得到授權(quán)炊甲，則將Object的數(shù)據(jù)返回給客戶端泥彤； 5)文件系統(tǒng)收到OSD返回的數(shù)據(jù)以后，讀操作完成蜜葱。
傳統(tǒng)模型與OSD的對(duì)比圖
對(duì)象存儲(chǔ)結(jié)構(gòu)組成部分（對(duì)象全景、對(duì)象存儲(chǔ)設(shè)備耀石、元數(shù)據(jù)服務(wù)器牵囤、對(duì)象存儲(chǔ)系統(tǒng)的客戶端）：
分布式存儲(chǔ)
分布式存儲(chǔ)系統(tǒng)，是將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的設(shè)備上滞伟。傳統(tǒng)的網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)采用集中的存儲(chǔ)服務(wù)器存放所有數(shù)據(jù)揭鳞，存儲(chǔ)服務(wù)器成為系統(tǒng)性能的瓶頸，也是可靠性和安全性的焦點(diǎn)梆奈，不能滿足大規(guī)模存儲(chǔ)應(yīng)用的需要野崇。分布式網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)采用可擴(kuò)展的系統(tǒng)結(jié)構(gòu)，利用多臺(tái)存儲(chǔ)服務(wù)器分擔(dān)存儲(chǔ)負(fù)荷亩钟，利用位置服務(wù)器定位存儲(chǔ)信息乓梨，它不但提高了系統(tǒng)的可靠性、可用性和存取效率清酥，還易于擴(kuò)展扶镀。
分布式存儲(chǔ)圖
上圖分布式存儲(chǔ)中，如果客戶端需要從某個(gè)文件讀取數(shù)據(jù)焰轻，首先從namenode獲取該文件的位置（具體在哪個(gè)datanode）臭觉，然后從該位置獲取具體的數(shù)據(jù)。在該架構(gòu)中namenode通常是主備部署，而datanode則是由大量節(jié)點(diǎn)構(gòu)成一個(gè)集群蝠筑。由于元數(shù)據(jù)的訪問(wèn)頻度和訪問(wèn)量相對(duì)數(shù)據(jù)都要小很多狞膘，因此namenode通常不會(huì)成為性能瓶頸，而datanode集群可以分散客戶端的請(qǐng)求什乙。因此挽封，通過(guò)這種分布式存儲(chǔ)架構(gòu)可以通過(guò)橫向擴(kuò)展datanode的數(shù)量來(lái)增加承載能力，也即實(shí)現(xiàn)了動(dòng)態(tài)橫向擴(kuò)展的能力臣镣。
完全無(wú)中心架構(gòu)---計(jì)算模式（Ceph）
如圖是Ceph存儲(chǔ)系統(tǒng)的架構(gòu)场仲，在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒(méi)有中心節(jié)點(diǎn)⊥艘撸客戶端是通過(guò)一個(gè)設(shè)備映射關(guān)系計(jì)算出來(lái)其寫(xiě)入數(shù)據(jù)的位置渠缕，這樣客戶端可以直接與存儲(chǔ)節(jié)點(diǎn)通信，從而避免中心節(jié)點(diǎn)的性能瓶頸褒繁。
圖4 Ceph無(wú)中心架構(gòu) 在Ceph存儲(chǔ)系統(tǒng)架構(gòu)中核心組件有Mon服務(wù)亦鳞、OSD服務(wù)和MDS服務(wù)等。對(duì)于塊存儲(chǔ)類型只需要Mon服務(wù)棒坏、OSD服務(wù)和客戶端的軟件即可燕差。其中Mon服務(wù)用于維護(hù)存儲(chǔ)系統(tǒng)的硬件邏輯關(guān)系，主要是服務(wù)器和硬盤(pán)等在線信息坝冕。Mon服務(wù)通過(guò)集群的方式保證其服務(wù)的可用性徒探。OSD服務(wù)用于實(shí)現(xiàn)對(duì)磁盤(pán)的管理，實(shí)現(xiàn)真正的數(shù)據(jù)讀寫(xiě)喂窟，通常一個(gè)磁盤(pán)對(duì)應(yīng)一個(gè)OSD服務(wù)测暗。 客戶端訪問(wèn)存儲(chǔ)的大致流程是，客戶端在啟動(dòng)后會(huì)首先從Mon服務(wù)拉取存儲(chǔ)資源布局信息磨澡，然后根據(jù)該布局信息和寫(xiě)入數(shù)據(jù)的名稱等信息計(jì)算出期望數(shù)據(jù)的位置（包含具體的物理服務(wù)器信息和磁盤(pán)信息）碗啄，然后該位置信息直接通信，讀取或者寫(xiě)入數(shù)據(jù)稳摄。
ACL
訪問(wèn)控制列表（ACL）是基于資源的訪問(wèn)策略選項(xiàng)之一 稚字，可用來(lái)管理對(duì)存儲(chǔ)桶和對(duì)象的訪問(wèn)。使用 ACL 可向其他主賬號(hào)厦酬、子賬號(hào)和用戶組胆描，授予基本的讀、寫(xiě)權(quán)限仗阅。
對(duì)象
對(duì)象（Object）是OBS中數(shù)據(jù)存儲(chǔ)的基本單位昌讲，一個(gè)對(duì)象實(shí)際是一個(gè)文件的數(shù)據(jù)與其相關(guān)屬性信息（元數(shù)據(jù)）的集合體。用戶上傳至OBS的數(shù)據(jù)都以對(duì)象的形式保存在桶中霹菊。 對(duì)象包括了Key剧蚣，Metadata支竹，Data三部分： Key：鍵值，即對(duì)象的名稱鸠按，為經(jīng)過(guò)UTF-8編碼的長(zhǎng)度大于0且不超過(guò)1024的字符序列礼搁。一個(gè)桶里的每個(gè)對(duì)象必須擁有唯一的對(duì)象鍵值。 Metadata：元數(shù)據(jù)目尖，即對(duì)象的描述信息馒吴，包括系統(tǒng)元數(shù)據(jù)和用戶元數(shù)據(jù)，這些元數(shù)據(jù)以鍵值對(duì)（Key-Value）的形式被上傳到OBS中瑟曲。 系統(tǒng)元數(shù)據(jù)由OBS自動(dòng)產(chǎn)生饮戳，在處理對(duì)象數(shù)據(jù)時(shí)使用，包括Date洞拨，Content-length扯罐，Last-modify，Content-MD5等烦衣。 用戶元數(shù)據(jù)由用戶在上傳對(duì)象時(shí)指定歹河，是用戶自定義的對(duì)象描述信息。 Data：數(shù)據(jù)花吟，即文件的數(shù)據(jù)內(nèi)容秸歧。 通常，我們將對(duì)象等同于文件來(lái)進(jìn)行管理衅澈，但是由于OBS是一種對(duì)象存儲(chǔ)服務(wù)键菱，并沒(méi)有文件系統(tǒng)中的文件和文件夾概念。為了使用戶更方便進(jìn)行管理數(shù)據(jù)今布，OBS提供了一種方式模擬文件夾经备。通過(guò)在對(duì)象的名稱中增加“/”，例如“test/123.jpg”险耀。此時(shí)弄喘，“test”就被模擬成了一個(gè)文件夾玖喘，“123.jpg”則模擬成“test”文件夾下的文件名了甩牺，而實(shí)際上，對(duì)象名稱（Key）仍然是“test/123.jpg”累奈。 上傳對(duì)象時(shí)贬派，可以指定對(duì)象的存儲(chǔ)類別，若不指定澎媒，默認(rèn)與桶的存儲(chǔ)類別一致搞乏。上傳后，對(duì)象的存儲(chǔ)類別可以修改戒努。
桶
桶（Bucket）是OBS中存儲(chǔ)對(duì)象的容器请敦。對(duì)象存儲(chǔ)提供了基于桶和對(duì)象的扁平化存儲(chǔ)方式镐躲，桶中的所有對(duì)象都處于同一邏輯層級(jí)，去除了文件系統(tǒng)中的多層級(jí)樹(shù)形目錄結(jié)構(gòu)侍筛。 每個(gè)桶都有自己的存儲(chǔ)類別萤皂、訪問(wèn)權(quán)限、所屬區(qū)域等屬性匣椰，用戶可以在不同區(qū)域創(chuàng)建不同存儲(chǔ)類別和訪問(wèn)權(quán)限的桶裆熙，并配置更多高級(jí)屬性來(lái)滿足不同場(chǎng)景的存儲(chǔ)訴求。
