CDN Web Cache 原理及代理方式

CDN出現(xiàn)之前的網(wǎng)站服務(wù)技術(shù)

  • Scale up/Scale out
    Scale up:提升服務(wù)器硬件配置,無效解決遠(yuǎn)距離傳輸?shù)馁|(zhì)量問題邑飒,需要對整個系統(tǒng)進(jìn)行硬件升級,靈活性和可擴(kuò)展性差。
    Scale out:服務(wù)器集群
  • Mirroring
    鏡像通常用來備份田绑,應(yīng)用于鏡像網(wǎng)站,對整個網(wǎng)站中的內(nèi)容進(jìn)行鏡像復(fù)制抡爹,進(jìn)行多點(diǎn)部署掩驱。用戶在訪問網(wǎng)站時,自主選擇速度快的站點(diǎn)冬竟,降低主站的負(fù)載欧穴。
    實(shí)現(xiàn)方法:鏡像服務(wù)器安裝可以自動遠(yuǎn)程備份的軟件,間隔一定時間泵殴,會向源服務(wù)器獲取最新內(nèi)容涮帘。
    優(yōu):對主站用戶分流,應(yīng)急備份
    劣:用戶選擇具有盲目性笑诅,不能時刻起到就近服務(wù)调缨;成本較高映屋,對于源站完全復(fù)制。
  • 緩存技術(shù) CDN技術(shù)就是緩存技術(shù)的分布式實(shí)現(xiàn)
    把訪問過的媒體數(shù)據(jù)進(jìn)行存儲同蜻,重復(fù)使用棚点。
    分層緩存部署:在不同物理層部署多臺緩存服務(wù)器,上層緩存作為下層緩存的內(nèi)容存儲器湾蔓,為下層緩存供應(yīng)所需內(nèi)容瘫析。向用戶提供服務(wù)的下層緩存向上層緩存服務(wù)器提供所需內(nèi)容,而不是從源站請求默责。
    優(yōu):用戶獲得內(nèi)容的時間短贬循,分擔(dān)主站壓力

Cache 設(shè)備原理及代理

Cache設(shè)備分為Web-cache和流媒體Cache兩類。
Web-cache用于普通網(wǎng)頁的內(nèi)容緩存桃序,也提供一定的流媒體杖虾、下載支持。
流媒體Cache用于對視頻流媒體進(jìn)行加速媒熊,功能單一奇适。
在一次網(wǎng)頁訪問的過程中,通常是這樣的:用戶->代理->網(wǎng)關(guān)->web服務(wù)器芦鳍。Web-cache設(shè)備通常部署在這條訪問的路徑上嚷往,通過正向代理、透明代理的模式柠衅,應(yīng)用最多的地方在網(wǎng)關(guān)上皮仁。
代理相關(guān)軟件推薦:squid(開源),nginx(開源)菲宴,
(內(nèi)網(wǎng)安全行為審計(jì)也是基于此原理贷祈,主要指的是透明代理)

  • 正向代理(Forward proxy)

用戶需要自行設(shè)置代理地址為Web-cache服務(wù)器地址,用戶對互聯(lián)網(wǎng)的網(wǎng)絡(luò)訪問全部通過這個代理地址訪問喝峦。正向代理支持冗余配置势誊,保證系統(tǒng)的穩(wěn)定性。(通常提到代理愈犹,默認(rèn)指正向代理)

User proxy device web server
[src:user ] [src:user ] [src:proxy device ]
[dst:proxy ] [dst:gateway ] [dst:local ]
[req:www.baidu.com] [req:www.baidu.com] [res:index.html]



動態(tài)描述:User配置好代理設(shè)備IP并發(fā)起網(wǎng)絡(luò)訪問后键科,所有的數(shù)據(jù)流量都會經(jīng)過Proxy device的審核,檢測代理緩存是否含有User所需的數(shù)據(jù)漩怎,如有直接返回相應(yīng)數(shù)據(jù)勋颖,若無,則向serverIp獲取信息勋锤,并由proxy device返回給User饭玲。

  • 正向代理的應(yīng)用
    1. User無法直接訪問web server,需要使用proxy叁执,“Over Wall”就是這個道理

    2. 加速訪問web server,一些游戲加速器就是這個道理

    3. 內(nèi)網(wǎng)用戶鑒權(quán)茄厘,就是上文提到的內(nèi)網(wǎng)行為審計(jì)

    4. 保護(hù)訪問路徑矮冬,通過proxy做跳板訪問web server不顯示User所在ip,“”肉雞”就是這個道理

    5. Cache緩存設(shè)備次哈,細(xì)節(jié)同動態(tài)描述

  • 反向代理(Backward proxy)

反向代理無需User設(shè)置胎署,反向代理中的Cache device 地址作為被訪問站點(diǎn)的服務(wù)器地址,寫入了DNS列表窑滞,用戶無法感知琼牧,對于用戶透明。區(qū)別于正向代理的地方是反向代理僅能對特定站點(diǎn)進(jìn)行加速哀卫,內(nèi)容分發(fā)巨坊。多用ISP/ICP和運(yùn)營商環(huán)境,增加User訪問速度和提高滿意度此改。當(dāng)網(wǎng)絡(luò)中Cache設(shè)備數(shù)目較多時趾撵,需要引入GSLB設(shè)定內(nèi)容分發(fā)策略,對全網(wǎng)Cache節(jié)點(diǎn)進(jìn)行負(fù)載均衡共啃,

User DNS server proxy web server
src:local src:local
dst:DNS server dst:usr
req:who's www.baidu.com res:proxy address
---- ---------- ----- ---------
src:local src:user
dst:proxy dst:"web server"or local
req:Get index.html res:index.html

特點(diǎn):主站服務(wù)器只與代理cache設(shè)備內(nèi)容交換占调,不與User直接通信。cache設(shè)備的作用是提供負(fù)載分擔(dān)勋磕,安全隔離妈候。對于CDN技術(shù)來說敢靡,智能DNS也是很關(guān)鍵的技術(shù)挂滓。

  • 透明代理(Transparent proxy)

User無需配置代理,cache設(shè)備為指定用戶服務(wù)有兩種辦法:a.user路由設(shè)備支持WCCP協(xié)議啸胧,會將指定用戶流量轉(zhuǎn)發(fā)至cache設(shè)備赶站。b.利用四層交換機(jī)對指定用戶進(jìn)行流量轉(zhuǎn)發(fā)。

User proxy web server
src:local src:User src:gateway
dst:web server dst:web server dst:local
req:Get index.html req:Get index.html res:index.html

特點(diǎn):User無察覺代理審計(jì)纺念,直接對數(shù)據(jù)包進(jìn)行修改贝椿,可對用戶鑒權(quán),再決定是否回應(yīng)相關(guān)數(shù)據(jù)包給user陷谱。(透明代理可以截獲用戶數(shù)據(jù)烙博,完成安全認(rèn)證及訪問控制)

  • web cache 實(shí)現(xiàn)關(guān)鍵
  • Web-cache 相當(dāng)于中間人,原本一次點(diǎn)對點(diǎn)的http請求烟逊,可能變成多次http請求渣窜,實(shí)現(xiàn)HTTP協(xié)議能力和緩存工作。
  • 根據(jù)不同應(yīng)用場景來確立相應(yīng)策略宪躯,主要針對性能和業(yè)務(wù)乔宿。可以從以下方面考慮:
    并發(fā)連接數(shù)量访雪、并發(fā)流量大小详瑞、存儲空間大小掂林、cpu處理性能及緩存大小坝橡;
    web cache對數(shù)據(jù)的分析泻帮、過濾和安全保障。
  • 面向運(yùn)營商的Web-cache要求比面向web站的要高很多计寇。

原文: http://www.chieh.cc/posts/tech/2016-04-19-2016-04-19-Web-Cache-原理及代理方式.html  作者: Chieh

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末刑顺,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子饲常,更是在濱河造成了極大的恐慌蹲堂,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,194評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件贝淤,死亡現(xiàn)場離奇詭異柒竞,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)播聪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,058評論 2 385
  • 文/潘曉璐 我一進(jìn)店門朽基,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人离陶,你說我怎么就攤上這事稼虎。” “怎么了招刨?”我有些...
    開封第一講書人閱讀 156,780評論 0 346
  • 文/不壞的土叔 我叫張陵霎俩,是天一觀的道長。 經(jīng)常有香客問我沉眶,道長打却,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,388評論 1 283
  • 正文 為了忘掉前任谎倔,我火速辦了婚禮柳击,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘片习。我一直安慰自己捌肴,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,430評論 5 384
  • 文/花漫 我一把揭開白布藕咏。 她就那樣靜靜地躺著状知,像睡著了一般。 火紅的嫁衣襯著肌膚如雪侈离。 梳的紋絲不亂的頭發(fā)上试幽,一...
    開封第一講書人閱讀 49,764評論 1 290
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼铺坞。 笑死起宽,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的济榨。 我是一名探鬼主播坯沪,決...
    沈念sama閱讀 38,907評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼擒滑!你這毒婦竟也來了腐晾?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,679評論 0 266
  • 序言:老撾萬榮一對情侶失蹤丐一,失蹤者是張志新(化名)和其女友劉穎藻糖,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體库车,經(jīng)...
    沈念sama閱讀 44,122評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡巨柒,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,459評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了柠衍。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片洋满。...
    茶點(diǎn)故事閱讀 38,605評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖珍坊,靈堂內(nèi)的尸體忽然破棺而出牺勾,到底是詐尸還是另有隱情,我是刑警寧澤阵漏,帶...
    沈念sama閱讀 34,270評論 4 329
  • 正文 年R本政府宣布驻民,位于F島的核電站,受9級特大地震影響袱饭,放射性物質(zhì)發(fā)生泄漏川无。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,867評論 3 312
  • 文/蒙蒙 一虑乖、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧晾虑,春花似錦疹味、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,734評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至笙隙,卻和暖如春洪灯,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背竟痰。 一陣腳步聲響...
    開封第一講書人閱讀 31,961評論 1 265
  • 我被黑心中介騙來泰國打工签钩, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留掏呼,地道東北人。 一個月前我還...
    沈念sama閱讀 46,297評論 2 360
  • 正文 我出身青樓铅檩,卻偏偏與公主長得像憎夷,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子昧旨,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,472評論 2 348

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理拾给,服務(wù)發(fā)現(xiàn),斷路器兔沃,智...
    卡卡羅2017閱讀 134,628評論 18 139
  • 上一篇《WEB請求處理一:瀏覽器請求發(fā)起處理》蒋得,我們講述了瀏覽器端請求發(fā)起過程,通過DNS域名解析服務(wù)器IP乒疏,并建...
    七寸知架構(gòu)閱讀 80,942評論 21 356
  • 工作流程 一次HTTP操作稱為一個事務(wù)窄锅,其工作過程可分為四步: 1)首先客戶機(jī)與服務(wù)器需要建立連接。只要單擊某個超...
    保川閱讀 4,587評論 2 14
  • 看了這么多的干貨缰雇,小編這次要放雞湯了入偷,唉唉唉,別走啊械哟,看完了再吐槽啊疏之。 前幾天小編看了《小王子》覺得深有感觸,當(dāng)然...
    被子哥閱讀 288評論 0 1
  • 群通知:各位同修暇咆,在修行中難免出現(xiàn)學(xué)佛困惑锋爪,大家也知道,每晚八點(diǎn)師父都會給大家講法爸业,而且經(jīng)常會抽出時間來給各位講解...
    幻影卐揭諦閱讀 328評論 0 0