fastDFS

1.fastDFS介紹:

  • fastDFS 是以C語言開發(fā)的一項(xiàng)開源輕量級(jí)分布式文件系統(tǒng),他對文件進(jìn)行管理贫途,主要功能有:文件存儲(chǔ),文件同步,文件訪問(文件上傳/下載),特別適合以文件為載體的在線服務(wù)蚁廓,如圖片網(wǎng)站,視頻網(wǎng)站等
  • 分布式文件系統(tǒng):
    基于客戶端/服務(wù)器的文件存儲(chǔ)系統(tǒng)
    對等特性允許一些系統(tǒng)扮演客戶端和服務(wù)器的雙重角色厨幻,可供多個(gè)用戶訪問的服務(wù)器相嵌,比如,用戶可以“發(fā)表”一個(gè)允許其他客戶機(jī)訪問的目錄况脆,一旦被訪問饭宾,這個(gè)目錄對客戶機(jī)來說就像使用本地驅(qū)動(dòng)器一樣

FastDFS由跟蹤服務(wù)器(Tracker Server)、存儲(chǔ)服務(wù)器(Storage Server)和客戶端(Client)構(gòu)成格了。

  • Tracker server 追蹤服務(wù)器

追蹤服務(wù)器負(fù)責(zé)接收客戶端的請求看铆,選擇合適的組合storage server ,tracker server 與 storage server之間也會(huì)用心跳機(jī)制來檢測對方是否活著盛末。
Tracker需要管理的信息也都放在內(nèi)存中弹惦,并且里面所有的Tracker都是對等的(每個(gè)節(jié)點(diǎn)地位相等),很容易擴(kuò)展
客戶端訪問集群的時(shí)候會(huì)隨機(jī)分配一個(gè)Tracker來和客戶端交互悄但。

  • Storage server 儲(chǔ)存服務(wù)器

實(shí)際存儲(chǔ)數(shù)據(jù)棠隐,分成若干個(gè)組(group),實(shí)際traker就是管理的storage中的組檐嚣,而組內(nèi)機(jī)器中則存儲(chǔ)數(shù)據(jù)助泽,group可以隔離不同應(yīng)用的數(shù)據(jù),不同的應(yīng)用的數(shù)據(jù)放在不同group里面,

  • 優(yōu)點(diǎn):
    海量的存儲(chǔ):主從型分布式存儲(chǔ)报咳,存儲(chǔ)空間方便拓展,
    fastDFS對文件內(nèi)容做hash處理侠讯,避免出現(xiàn)重復(fù)文件
    然后fastDFS結(jié)合Nginx集成, 提供網(wǎng)站效率

  • 客戶端Client
  • 主要是上傳下載數(shù)據(jù)的服務(wù)器,也就是我們自己的項(xiàng)目所部署在的服務(wù)器暑刃。每個(gè)客戶端服務(wù)器都需要安裝Nginx

fastDFS三方交互圖

2.讀寫操作:

  • 寫入數(shù)據(jù)

  • 寫操作的時(shí)候厢漩,storage會(huì)將他所掛載的所有數(shù)據(jù)存儲(chǔ)目錄的底下都創(chuàng)建2級(jí)子目錄,每一級(jí)256個(gè)總共65536個(gè)岩臣,新寫的文件會(huì)以hash的方式被路由到其中某個(gè)子目錄下溜嗜,然后將文件數(shù)據(jù)作為本地文件存儲(chǔ)到該目錄中。

寫操作fastDFS流程圖
下載文件:

當(dāng)客戶端向Tracker發(fā)起下載請求時(shí)架谎,并不會(huì)直接下載炸宵,而是先查詢storage server(檢測同步狀態(tài)),返回storage server的ip和端口谷扣,
然后客戶端會(huì)帶著文件信息(組名土全,路徑,文件名)会涎,去訪問相關(guān)的storage裹匙,然后下載文件。


fastDFS下載文件

使用:

1.首先下載fastdfs安裝包和依賴包(sourceforge->fastdfs)末秃,然后解壓概页。

  1. 配置tracker
 sudo cp /etc/fdfs/tracker.conf.sample /etc/fdfs/tracker.conf

在/home/python/目錄中創(chuàng)建目錄 fastdfs/tracker

mkdir –p /home/python/fastdfs/tracker

編輯/etc/fdfs/tracker.conf配置文件

 sudo vim /etc/fdfs/tracker.conf

修改 base_path=/home/python/fastdfs/tracker

3.配置storage

sudo cp /etc/fdfs/storage.conf.sample /etc/fdfs/storage.conf

在/home/python/fastdfs/ 目錄中創(chuàng)建目錄 storage,這個(gè)目錄就是實(shí)際數(shù)據(jù)存儲(chǔ)的位置

mkdir –p /home/python/fastdfs/storage

  1. 編輯/etc/fdfs/storage.conf配置文件
 sudo vim /etc/fdfs/storage.conf

修改內(nèi)容:

base_path=/home/python/fastdfs/storage
store_path0=/home/python/fastdfs/storage
tracker_server=tracker所在機(jī)器的ip:22122

  1. 啟動(dòng)tracker和storage
sudo trackerd /etc/fastdfs/tracker.conf start
sudo storaged /etc/fastdfs/storage.conf start

6.測試安裝是否成功

sudo cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf

編輯/etc/fdfs/client.conf配置文件

 sudo vim /etc/fdfs/client.conf

修改內(nèi)容:

base_path=/home/python/fastdfs/tracker
tracker_server=tracker所在機(jī)器的ip:22122

  1. 上傳文件測試:
fdfs_upload_file /etc/fdfs/client.conf filename 

如果返回類似group1/M00/00/00/rBIK6VcaP0aARXDSNFHrUgHEviQ394.jpg的file_id則說明文件上傳成功

添加Nginx模塊

  1. 確保電腦上已經(jīng)裝了Nginx练慕。
  2. 下載fastdfs-nginx-module壓縮包惰匙,并解壓
  3. 進(jìn)入Nginx的安裝目錄
    執(zhí)行
sudo ./configure --prefix=/usr/local/nginx/ --add-module=fastdfs-nginx-module解壓后目錄下src的絕對路徑
sudo ./make
sudo ./make install
sudo cp fastdfs-nginx-module解壓后目錄中src/mod_fastdfs.conf  /etc/fdfs/mod_fastdfs.conf

 sudo vim /etc/fdfs/mod_fastdfs.conf

修改內(nèi)容:

connect_timeout=10
tracker_server=tracker所在機(jī)器的ip:22122
url_have_group_name=true //返回file_id中包含組號(hào)
store_path0=/home/python/fastdfs/storage

 sudo cp fastdfs-nginx-module目錄下http.conf  /etc/fdfs/http.conf

sudo cp 解壓縮的fastdfs-nginx-module目錄下的mime.types /etc/fdfs/mime.types

sudo vim /usr/local/nginx/conf/nginx.conf

在http部分中添加配置信息如下:

server {
            listen       8888;
            server_name  localhost;
            location ~/group[0-9]/ { // 地址有組號(hào)的,就到下面的位置里找
                ngx_fastdfs_module;
            }
            error_page   500 502 503 504  /50x.html;
            location = /50x.html {
            root   html;
            }
        }

  1. Python測試
pip3 install fdfs_client

from fdfs_client import Fdfs_client, get_tracker_conf

conf = get_tracker_conf('/etc/fastdfs/client.conf')
client = Fdfs_client(conf)
client.upload_by_filename('test.jpg')
// 返回file_id則成功
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末铃将,一起剝皮案震驚了整個(gè)濱河市项鬼,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌劲阎,老刑警劉巖秃臣,帶你破解...
    沈念sama閱讀 211,042評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異哪工,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)弧哎,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門雁比,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人撤嫩,你說我怎么就攤上這事偎捎。” “怎么了?”我有些...
    開封第一講書人閱讀 156,674評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵茴她,是天一觀的道長寻拂。 經(jīng)常有香客問我,道長丈牢,這世上最難降的妖魔是什么祭钉? 我笑而不...
    開封第一講書人閱讀 56,340評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮己沛,結(jié)果婚禮上慌核,老公的妹妹穿的比我還像新娘。我一直安慰自己申尼,他們只是感情好垮卓,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,404評(píng)論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著师幕,像睡著了一般粟按。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上霹粥,一...
    開封第一講書人閱讀 49,749評(píng)論 1 289
  • 那天灭将,我揣著相機(jī)與錄音,去河邊找鬼蒙挑。 笑死宗侦,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的忆蚀。 我是一名探鬼主播矾利,決...
    沈念sama閱讀 38,902評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼馋袜!你這毒婦竟也來了男旗?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,662評(píng)論 0 266
  • 序言:老撾萬榮一對情侶失蹤欣鳖,失蹤者是張志新(化名)和其女友劉穎察皇,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體泽台,經(jīng)...
    沈念sama閱讀 44,110評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡什荣,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了怀酷。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片稻爬。...
    茶點(diǎn)故事閱讀 38,577評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖蜕依,靈堂內(nèi)的尸體忽然破棺而出桅锄,到底是詐尸還是另有隱情琉雳,我是刑警寧澤,帶...
    沈念sama閱讀 34,258評(píng)論 4 328
  • 正文 年R本政府宣布友瘤,位于F島的核電站翠肘,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏辫秧。R本人自食惡果不足惜束倍,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,848評(píng)論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望茶没。 院中可真熱鬧肌幽,春花似錦、人聲如沸抓半。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,726評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽笛求。三九已至廊移,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間探入,已是汗流浹背狡孔。 一陣腳步聲響...
    開封第一講書人閱讀 31,952評(píng)論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蜂嗽,地道東北人苗膝。 一個(gè)月前我還...
    沈念sama閱讀 46,271評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像植旧,于是被迫代替她去往敵國和親辱揭。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,452評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容