Nginx服務(wù)器架構(gòu)設(shè)計(jì)

Nginx服務(wù)器啟動(dòng)后划提,產(chǎn)生一個(gè)主進(jìn)程(master process)绳慎,主進(jìn)程執(zhí)行一系列工作后產(chǎn)生一個(gè)或者多個(gè)工作進(jìn)程(worker processes)纵竖。主進(jìn)程主要進(jìn)行Nginx配置文件解析、數(shù)據(jù)結(jié)構(gòu)初始化杏愤、模塊配置和注冊(cè)靡砌、信號(hào)處理、網(wǎng)絡(luò)監(jiān)聽(tīng)生成珊楼、工作進(jìn)程生成和管理等工作通殃;工作進(jìn)程主要進(jìn)行進(jìn)程初始化、模塊調(diào)用和請(qǐng)求處理等工作厕宗,是Nginx服務(wù)器提供服務(wù)的主體画舌。

在客戶端請(qǐng)求動(dòng)態(tài)站點(diǎn)的過(guò)程中眠冈,Nginx服務(wù)器還涉及和后端服務(wù)器的通信迹冤。Nginx服務(wù)器將接收到的Web請(qǐng)求通過(guò)代理轉(zhuǎn)發(fā)到后端服務(wù)器,由后端服務(wù)器進(jìn)行數(shù)據(jù)處理和頁(yè)面組織柔滔,然后將結(jié)果返回佑惠。

另外朋腋,Nginx服務(wù)器為了提高對(duì)請(qǐng)求的響應(yīng)效率,進(jìn)一步降低網(wǎng)絡(luò)壓力膜楷,采用了緩存機(jī)制旭咽,將歷史應(yīng)答數(shù)據(jù)緩存到本地。在每次Nginx服務(wù)器啟動(dòng)后的一段時(shí)間內(nèi)赌厅,會(huì)啟動(dòng)專(zhuān)門(mén)的進(jìn)程對(duì)本地緩存的內(nèi)容重建索引穷绵,保證對(duì)緩存文件的快速訪問(wèn)。

根據(jù)上面的分析特愿,我們可以將Nginx服務(wù)器的結(jié)構(gòu)大致分為主進(jìn)程仲墨、工作進(jìn)程勾缭、后端服務(wù)器和緩存等部分

Nginx服務(wù)器架構(gòu)示意圖

在該示意圖中,有幾個(gè)方面的內(nèi)容我們需要重點(diǎn)闡述目养,包括Nginx服務(wù)器的進(jìn)程漫拭、進(jìn)程交互和Run-Loop事件處理循環(huán)機(jī)制等。

Nginx服務(wù)器的進(jìn)程

到目前為止混稽,我們一共提到Nginx服務(wù)器的三大類(lèi)進(jìn)程:一類(lèi)是主進(jìn)程,另一類(lèi)是由主進(jìn)程生成的工作進(jìn)程审胚,還有剛才提到的用于為緩存文件建立索引的進(jìn)程匈勋。

主進(jìn)程(Master Process)

Nginx服務(wù)器啟動(dòng)時(shí)運(yùn)行的主要進(jìn)程。它的主要功能是與外界通信和對(duì)內(nèi)部其他進(jìn)程進(jìn)行管理膳叨,具體來(lái)說(shuō)有以下幾點(diǎn):

  • 讀取Nginx配置文件并驗(yàn)證其有效性和正確性洽洁。
  • 建立、綁定和關(guān)閉Socket菲嘴。
  • 按照配置生成饿自、管理和結(jié)束工作進(jìn)程。
  • 接收外界指令龄坪,比如重啟昭雌、升級(jí)及退出服務(wù)器等指令。
  • 不中斷服務(wù)健田,實(shí)現(xiàn)平滑重啟烛卧,應(yīng)用新配置。
  • 不中斷服務(wù)妓局,實(shí)現(xiàn)平滑升級(jí)总放,升級(jí)失敗進(jìn)行回滾處理。
  • 開(kāi)啟日志文件好爬,獲取文件描述符局雄。
  • 編譯和處理Perl腳本。

工作進(jìn)程(Worker Process)

由主進(jìn)程生成存炮,生成數(shù)量可以通過(guò)Nginx配置文件指定炬搭,正常情況下生存于主進(jìn)程的整個(gè)生命周期。該進(jìn)程的主要工作有以下幾項(xiàng):

  • 接收客戶端請(qǐng)求僵蛛。
  • 將請(qǐng)求依次送入各個(gè)功能模塊進(jìn)行過(guò)濾處理尚蝌。
  • IO調(diào)用,獲取響應(yīng)數(shù)據(jù)充尉。
  • 與后端服務(wù)器通信飘言,接收后端服務(wù)器處理結(jié)果。
  • 數(shù)據(jù)緩存驼侠,訪問(wèn)緩存索引姿鸿、查詢和調(diào)用緩存數(shù)據(jù)谆吴。
  • 發(fā)送請(qǐng)求結(jié)果,響應(yīng)客戶端請(qǐng)求苛预。
  • 接收主程序指令句狼,比如重啟、升級(jí)和退出等指令热某。

工作進(jìn)程完成的工作還有很多腻菇,我們?cè)谶@里列出了主要的幾項(xiàng)。從這些工作中可以看到昔馋,該進(jìn)程是Nginx服務(wù)器提供Web服務(wù)筹吐、處理客戶端請(qǐng)求的主要進(jìn)程,完成了Nginx服務(wù)器的主體工作秘遏。因此丘薛,在實(shí)際使用中,作為服務(wù)器管理者邦危,我們應(yīng)該重點(diǎn)監(jiān)視工作進(jìn)程的運(yùn)行狀態(tài)洋侨,保證Nginx服務(wù)器對(duì)外提供穩(wěn)定的Web服務(wù)。

緩存索引重建及管理進(jìn)程(Cache Loader & Cache Manager)

上圖中的Cache模塊倦蚪,主要由緩存索引重建(Cache Loader)和緩存索引管理(Cache Manager)兩類(lèi)進(jìn)程完成工作希坚。緩存索引重建進(jìn)程是在Nginx服務(wù)啟動(dòng)一段時(shí)間之后(默認(rèn)是1分鐘)由主進(jìn)程生成,在緩存元數(shù)據(jù)重建完成后就自動(dòng)退出陵且;緩存索引管理進(jìn)程一般存在于主進(jìn)程的整個(gè)生命周期吏够,負(fù)責(zé)對(duì)緩存索引進(jìn)行管理。

緩存索引重建進(jìn)程完成的主要工作是滩报,根據(jù)本地磁盤(pán)上的緩存文件在內(nèi)存中建立索引元數(shù)據(jù)庫(kù)锅知。該進(jìn)程啟動(dòng)后,對(duì)本地磁盤(pán)上存放緩存文件的目錄結(jié)構(gòu)進(jìn)行掃描脓钾,檢查內(nèi)存中已有的緩存元數(shù)據(jù)是否正確售睹,并更新索引元數(shù)據(jù)庫(kù)。

緩存索引管理進(jìn)程主要負(fù)責(zé)在索引元數(shù)據(jù)更新完成后可训,對(duì)元數(shù)據(jù)是否過(guò)期做出判斷昌妹。

這兩個(gè)進(jìn)程維護(hù)的內(nèi)存索引元數(shù)據(jù)庫(kù),為工作進(jìn)程對(duì)緩存數(shù)據(jù)的快速查詢提供了便利握截。

進(jìn)程交互

Nginx服務(wù)器在使用Master-Worker模型時(shí)飞崖,會(huì)涉及主進(jìn)程與工作進(jìn)程(Master-Worker)之間的交互和工作進(jìn)程(Worker-Worker)之間的交互。這兩類(lèi)交互都依賴于管道(channel)機(jī)制谨胞,交互的準(zhǔn)備工作都是在工作進(jìn)程生成時(shí)完成的固歪。

Master-Worker交互

工作進(jìn)程是由主進(jìn)程生成的(使用了fork函數(shù),具體的源碼實(shí)現(xiàn)我們?cè)诤筮叺南嚓P(guān)章節(jié)中完整解析)。Nginx服務(wù)器啟動(dòng)以后牢裳,主進(jìn)程根據(jù)配置文件決定生成的工作進(jìn)程的數(shù)量逢防,然后建立一張全局的工作進(jìn)程表用于存放當(dāng)前未退出的所有工作進(jìn)程。

在主進(jìn)程生成工作進(jìn)程后蒲讯,將新生成的工作進(jìn)程加入到工作進(jìn)程表中忘朝,并建立一個(gè)單向管道并將其傳遞給該工作進(jìn)程。該管道與普通的管道不同判帮,它是由主進(jìn)程指向工作進(jìn)程的單向管道局嘁,包含了主進(jìn)程向工作進(jìn)程發(fā)出的指令、工作進(jìn)程ID晦墙、工作進(jìn)程在工作進(jìn)程表中的索引和必要的文件描述符等信息导狡。

主進(jìn)程與外界通過(guò)信號(hào)機(jī)制進(jìn)行通信,當(dāng)接收到需要處理的信號(hào)時(shí)偎痛,它通過(guò)管道向相關(guān)的工作進(jìn)程發(fā)送正確的指令。每個(gè)工作進(jìn)程都有能力捕獲管道中可讀事件独郎,當(dāng)管道中有可讀事件時(shí)踩麦,工作進(jìn)程從管道讀取并解析指令,然后采取相應(yīng)的措施氓癌。這樣就完成了Master-Worker的交互谓谦。

Worker-Worker交互

Worker-Worker交互在實(shí)現(xiàn)原理上和Master-Worker交互基本是一樣的。只要工作進(jìn)程之間能夠得到彼此的信息贪婉,建立管道反粥,即可通信。由于工作進(jìn)程之間是相互隔離的疲迂,因此一個(gè)進(jìn)程要想知道另一個(gè)進(jìn)程的信息才顿,只能通過(guò)主進(jìn)程來(lái)設(shè)置了。

為了達(dá)到工作進(jìn)程之間交互的目的尤蒿,主進(jìn)程在生成工作進(jìn)程后郑气,在工作進(jìn)程表中進(jìn)行遍歷,將該新進(jìn)程的ID以及針對(duì)該進(jìn)程建立的管道句柄傳遞給工作進(jìn)程表中的其他進(jìn)程腰池,為工作進(jìn)程之間的交互做準(zhǔn)備尾组。每個(gè)工作進(jìn)程捕獲管道中可讀事件,根據(jù)指令采取響應(yīng)的措施示弓。

當(dāng)工作進(jìn)程W1需要向W2發(fā)送指令時(shí)讳侨,首先在主進(jìn)程給它的其他工作進(jìn)程信息中找到W2的進(jìn)程ID,然后將正確的指令寫(xiě)入指向W2的通道奏属。工作進(jìn)程W2捕獲到管道中的事件后跨跨,解析指令并采取相應(yīng)措施。這樣就完成了Worker-Worker交互囱皿。

Run Loops事件處理循環(huán)模型

Run Loops歹叮,指的是進(jìn)程內(nèi)部用來(lái)不停地調(diào)配工作跑杭,對(duì)事件進(jìn)行循環(huán)處理的一種模型。它屬于進(jìn)程或者線程的基礎(chǔ)架構(gòu)部分咆耿。該模型對(duì)事件的處理不是自動(dòng)的德谅,需要在設(shè)計(jì)代碼過(guò)程中,在適當(dāng)?shù)臅r(shí)候啟動(dòng)Run-Loop機(jī)制對(duì)輸入的事件作出響應(yīng)萨螺。

該模型是一個(gè)集合窄做,集合中的每一個(gè)元素稱為一個(gè)Run-Loop。每個(gè)Run-Loop可運(yùn)行在不同的模式下慰技,其中可以包含它所監(jiān)聽(tīng)的輸入事件源椭盏、定時(shí)器以及在事件發(fā)生時(shí)需要通知的Run-Loop監(jiān)聽(tīng)器(Run-Loop Observers)。為了監(jiān)聽(tīng)特定的事件吻商,可以在Run Loops中添加相應(yīng)的Run-Loop監(jiān)聽(tīng)器掏颊。當(dāng)被監(jiān)聽(tīng)的事件發(fā)生時(shí),Run-Loop會(huì)產(chǎn)生一個(gè)消息艾帐,被Run-Loop監(jiān)聽(tīng)器捕獲乌叶,從而執(zhí)行預(yù)定的動(dòng)作。

Nginx服務(wù)器在工作進(jìn)程中實(shí)現(xiàn)了Run-Loop事件處理循環(huán)模型的使用柒爸,用來(lái)處理客戶端發(fā)來(lái)的請(qǐng)求事件准浴。該部分的實(shí)現(xiàn)可以說(shuō)是Nginx服務(wù)器程序?qū)崿F(xiàn)中最為復(fù)雜的部分,包含了對(duì)輸入事件繁雜的響應(yīng)和處理過(guò)程捎稚,并且這些處理過(guò)程都是基于異步任務(wù)處理的乐横。

通過(guò)學(xué)習(xí)Nginx服務(wù)器的整體架構(gòu),我們對(duì)Nginx服務(wù)器各個(gè)模塊的作用和聯(lián)系有了比較清晰的認(rèn)識(shí)今野∑瞎可以看到,Nginx服務(wù)器提供了異步的条霜、非阻塞的Web服務(wù)匾南,系統(tǒng)中的模塊各司其職,彼此之間通常使用網(wǎng)絡(luò)蛔外、管道和信號(hào)等機(jī)制進(jìn)行通信蛆楞,從而保持了松耦合的關(guān)系。工作進(jìn)程中事件處理機(jī)制的使用夹厌,在很大程度上降低了在網(wǎng)絡(luò)負(fù)載繁重的情況下Nginx服務(wù)器對(duì)內(nèi)存豹爹、磁盤(pán)的壓力,同時(shí)保證了對(duì)客戶端請(qǐng)求的及時(shí)響應(yīng)矛纹。

這里需要提及的一點(diǎn)是臂聋,當(dāng)磁盤(pán)沒(méi)有足夠的性能處理大量IO調(diào)用時(shí),工作進(jìn)程仍然可能因?yàn)榇疟P(pán)讀寫(xiě)調(diào)用而阻塞,進(jìn)而導(dǎo)致客戶端請(qǐng)求超時(shí)失敗等問(wèn)題孩等。目前可以通過(guò)多種方法來(lái)降低對(duì)磁盤(pán)IO的調(diào)用艾君,比如引入異步輸入/輸出(Asynchronous Input/Output,AIO)機(jī)制等肄方,但這些處理辦法沒(méi)有從根本上解決問(wèn)題冰垄。為了盡量避免產(chǎn)生這種問(wèn)題,大家在實(shí)際部署Nginx服務(wù)器時(shí)权她,應(yīng)當(dāng)對(duì)其運(yùn)行環(huán)境有一個(gè)基本的了解虹茶,針對(duì)不同的網(wǎng)絡(luò)負(fù)載環(huán)境選擇相匹配的硬件環(huán)境,并對(duì)Nginx服務(wù)器進(jìn)行合理的配置隅要。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末蝴罪,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子步清,更是在濱河造成了極大的恐慌要门,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,651評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件廓啊,死亡現(xiàn)場(chǎng)離奇詭異欢搜,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)崖瞭,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,468評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)撑毛,“玉大人书聚,你說(shuō)我怎么就攤上這事≡宕疲” “怎么了雌续?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,931評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)胯杭。 經(jīng)常有香客問(wèn)我驯杜,道長(zhǎng),這世上最難降的妖魔是什么做个? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,218評(píng)論 1 292
  • 正文 為了忘掉前任鸽心,我火速辦了婚禮,結(jié)果婚禮上居暖,老公的妹妹穿的比我還像新娘顽频。我一直安慰自己,他們只是感情好太闺,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,234評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布糯景。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪蟀淮。 梳的紋絲不亂的頭發(fā)上最住,一...
    開(kāi)封第一講書(shū)人閱讀 51,198評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音怠惶,去河邊找鬼涨缚。 笑死,一個(gè)胖子當(dāng)著我的面吹牛甚疟,可吹牛的內(nèi)容都是我干的仗岖。 我是一名探鬼主播,決...
    沈念sama閱讀 40,084評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼览妖,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼轧拄!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起讽膏,我...
    開(kāi)封第一講書(shū)人閱讀 38,926評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤檩电,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后府树,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體俐末,經(jīng)...
    沈念sama閱讀 45,341評(píng)論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,563評(píng)論 2 333
  • 正文 我和宋清朗相戀三年奄侠,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了卓箫。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,731評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡垄潮,死狀恐怖烹卒,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情弯洗,我是刑警寧澤旅急,帶...
    沈念sama閱讀 35,430評(píng)論 5 343
  • 正文 年R本政府宣布,位于F島的核電站牡整,受9級(jí)特大地震影響藐吮,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜逃贝,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,036評(píng)論 3 326
  • 文/蒙蒙 一谣辞、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧沐扳,春花似錦潦闲、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,676評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)辖众。三九已至,卻和暖如春和敬,著一層夾襖步出監(jiān)牢的瞬間凹炸,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,829評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工昼弟, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留啤它,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,743評(píng)論 2 368
  • 正文 我出身青樓舱痘,卻偏偏與公主長(zhǎng)得像变骡,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子芭逝,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,629評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容