前言
Cache在大家最開始接觸開發(fā)的時(shí)候應(yīng)該就聽過許多了页衙，比如瀏覽器緩存蓄氧、OS中的緩存函似、什么緩存一致性等等，各式各樣的Cache喉童，看起來各種高大上的樣子撇寞，看著群里或者某乎的大佬們在不斷的討論或者推緩存相關(guān)的blog。
近期對于緩存相關(guān)研究了不少堂氯，自己也在試著寫一個(gè)Cache中間件來研究下蔑担。過程中整理了一下，準(zhǔn)備做成一個(gè)系列文章發(fā)一下咽白，也希望大家給我多多指正啤握。
在正式開始開始寫緩存之前，當(dāng)然是先研究領(lǐng)域內(nèi)現(xiàn)有的一些Cache 相關(guān)的內(nèi)容晶框，作為一個(gè)引言排抬。
后續(xù)分別從OS 中的緩存、JVM中的緩存授段、Web 應(yīng)用中常見緩存蹲蒲、現(xiàn)有常作為獨(dú)立緩存的Redis／MemCache、InnoDB中的存儲引擎侵贵、瀏覽器中的緩存届搁、分布式緩存的實(shí)現(xiàn)案例 進(jìn)行對應(yīng)的淺析及相應(yīng)Cache設(shè)計(jì)主題的引入。下面先大體的介紹一下各個(gè)場景及實(shí)現(xiàn)方式，后續(xù)會(huì)獨(dú)立推送對應(yīng)的淺析文章咖祭。
Cache 于操作系統(tǒng)
Cache 最早的出現(xiàn)是在操作系統(tǒng)中，致力于解決速度的大幅度差異而效率低下 引出的一種概念蔫骂。
在早期操作系統(tǒng)中么翰，最核心的速度差異在于 CPU與主存 & 主存與磁盤 CPU與磁盤 之間的速度差異。往往硬件方面的限制因素會(huì)更多一些辽旋，比如說昂貴的寄存器浩嫌、相對昂貴的主存介質(zhì)，CPU速度與主存讀取速度补胚、主存速度與磁盤IO的發(fā)展速度不均衡码耐，這些幾乎是一些無可奈何的客觀因素，盡管技術(shù)圈的大家一直在為此努力溶其。因?yàn)檫@些因素的限制骚腥，我們不得不想出一些策略來均衡一些短板的出現(xiàn)，其中誕生了一些復(fù)用技術(shù)瓶逃、中斷束铭、虛擬內(nèi)存、緩存等均衡及提升計(jì)算機(jī)整體瓶頸與資源利用率的技術(shù)厢绝。
這里我們要說的是緩存契沫，從我們計(jì)算機(jī)的心臟CPU開始說起，CPU一直是速度領(lǐng)先于計(jì)算機(jī)其他組件的一個(gè)存在昔汉，算是第一數(shù)量級懈万，大家學(xué)過 計(jì)算機(jī)組成或者計(jì)算機(jī)系統(tǒng)的話應(yīng)該非常清楚，這里先不展開描述靶病，主存整體來說是第二數(shù)量級的存在会通，現(xiàn)階段磁盤大多為仍為機(jī)械結(jié)構(gòu)更是慢的驚人，即使是SSD雖然對于普通機(jī)械磁盤來說速度上快一點(diǎn)但是仍然不足嫡秕，之間的差異算是鴻溝渴语。
為實(shí)現(xiàn)速度的均衡也就是讓主存能夠不太拖CPU的后腿，磁盤不拖CPU及主存的后腿誕生了由 寄存器 -> 高速緩存 -> 主存 -> 磁盤 這樣的一種結(jié)構(gòu)昆咽，正在使用的數(shù)據(jù)通常是存在于寄存器中的驾凶，最近高頻使用的數(shù)據(jù)是存在于高速緩存中，最近可能會(huì)使用的高頻數(shù)據(jù)是存放在主存中的掷酗，這種描述雖然不太準(zhǔn)確调违，但是更容易讓大家感受緩存的設(shè)計(jì)思路。根據(jù)數(shù)據(jù)的使用頻次及對應(yīng)材質(zhì)的速度差異進(jìn)行分析 做到物盡其用泻轰，發(fā)揮各自的優(yōu)勢技肩，比如速度快或者低廉的價(jià)格，使計(jì)算機(jī)能夠以更低的價(jià)格發(fā)揮出更高的性能。
其中提到的如何分析材質(zhì)及數(shù)據(jù)的使用頻次就引出了對應(yīng)Cache的設(shè)計(jì)思想及對應(yīng)解決的問題虚婿。
比如說
設(shè)備：
磁盤對應(yīng)的是最廉價(jià)的設(shè)備旋奢，可以以非常低的價(jià)格來存儲更多數(shù)據(jù)。主存相對來說要貴一些然痊，但是速度上已經(jīng)有了質(zhì)的提升至朗，CPU中的寄存器幾乎與CPU速度一致但是價(jià)格非常昂貴。
數(shù)據(jù)：
數(shù)據(jù)的使用頻次差異性非常強(qiáng)剧浸，比如說我們操作系統(tǒng)所需的程序代碼锹引，這幾乎是高頻使用的，而我們的計(jì)算機(jī)上的用戶應(yīng)用 使用頻次算是中等唆香，用戶應(yīng)用所需要的數(shù)據(jù)頻次就會(huì)更低一些嫌变，我們存儲在磁盤上的文本圖像等使用頻率更低。
現(xiàn)在我們就可以讓速度最快最昂貴容量最小的寄存器來儲存最近需要執(zhí)行的指令躬它，讓高速緩存存儲正在執(zhí)行的所需的指令集腾啥，讓主存來存儲我們最近可能需要運(yùn)行的程序及數(shù)據(jù)，讓能迅速尋址的那部分磁盤來存儲稍低頻次所使用的數(shù)據(jù)冯吓，讓磁盤其他部分來存儲那些需要保存但是幾乎不常使用的數(shù)據(jù)碑宴。這樣CPU與內(nèi)存、CPU與磁盤桑谍、主存與磁盤之間的速度差異在運(yùn)行過程中就不再那么的明顯延柠，我們要做的只是在恰當(dāng)?shù)臅r(shí)機(jī)完成不同介質(zhì)之間的數(shù)據(jù)交換，讓快的設(shè)備去訪問速度稍次的設(shè)備锣披。
這算是Cache大體的實(shí)現(xiàn)思想或者說思路贞间，其中所謂的頻次、材質(zhì)只是舉例雹仿，在現(xiàn)實(shí)問題中可能是CPU與磁盤增热，也可能是也可能是不同的服務(wù)器站點(diǎn)，也可能是發(fā)消息方與接受方處理速度的差異胧辽，我們需要針對具體的問題進(jìn)行對應(yīng)的抽象峻仇，本質(zhì)來說就是速度上的差異。
例子中提到了不同介質(zhì)之間數(shù)據(jù)的交換來保證能夠相鄰訪問（緩存命中率問題）邑商，這就引出了Cache所要解決的幾個(gè)核心問題及Cache對應(yīng)的實(shí)現(xiàn)摄咆。
1、如何判斷速度的頻次人断？（是否為熱點(diǎn)數(shù)據(jù)）
2吭从、何時(shí)把熱點(diǎn)數(shù)據(jù)放入緩存中？
3恶迈、熱點(diǎn)數(shù)據(jù)應(yīng)該放在哪一部分涩金？
4、應(yīng)該把哪個(gè)數(shù)據(jù)移走？（數(shù)據(jù)的淘汰策略）
5步做、移走的數(shù)據(jù)應(yīng)該存放于何處副渴？（數(shù)據(jù)的降級問題）
在我們的操作系統(tǒng)中已經(jīng)完成了對應(yīng)的策略，具體的實(shí)現(xiàn)會(huì)在《淺析 操作系統(tǒng)中的緩存》中闡述～
這里僅僅是大體描述一下及對應(yīng)的背景及應(yīng)用介紹全度。
Cache 于JVM
這里要說的是JVM中緩存抽象思想的使用佳晶，緩存最主要的解決速度差異的問題以提升整體效率，在JVM中也是這樣的讼载。
Java 是一種解釋型語言，其實(shí)這個(gè)話不能說的如此絕對中跌，自動(dòng)JIT出現(xiàn)之后咨堤，Java 中的絕大部分熱點(diǎn)代碼是編譯為機(jī)器碼放在緩存區(qū)中的。這其實(shí)就是一種緩存思想的使用漩符。
最初Class 文件是存放于磁盤或者從網(wǎng)絡(luò)中獲取的一喘，頻次較低。
當(dāng)我們需要使用一部分代碼從磁盤或者網(wǎng)絡(luò)中加載并且解析鏈入內(nèi)存嗜暴，以供我們快速的使用凸克，頻次偏高。而一個(gè)文件完全不使用后又會(huì)被清楚內(nèi)存闷沥，詳見class的清理萎战。
當(dāng)工程中某一部分代碼已經(jīng)被鑒定為高頻使用時(shí)，這一塊代碼將會(huì)直接被編譯為機(jī)器碼為下次直接使用而不是再次解釋做準(zhǔn)備舆逃，頻次最高蚂维。
而這三種方式的速度也是依次提升的。使用頻次的最高的以最快的方式使用路狮。
而對應(yīng)的什么樣的代碼應(yīng)該被緩存虫啥，這就取決于JIT的熱點(diǎn)代碼判斷策略。并且這里存在一個(gè)很經(jīng)典的現(xiàn)實(shí)問題奄妨，叫做jvm的代碼緩存耗盡導(dǎo)致性能下降涂籽。
以上問題的解釋后續(xù)會(huì)詳細(xì)的給出。
篇幅太長········
Cache 于Web 應(yīng)用砸抛、Cache 于Redis／MemCache评雌、Cache 與InnoDB 存儲引擎、Cache 于瀏覽器直焙、Cache 于分布式系統(tǒng)
這幾個(gè)就先不詳細(xì)介紹了柳骄，不小心寫的有點(diǎn)長。后續(xù)單獨(dú)推送～
