緩存最關(guān)心的問(wèn)題是什么

  往往開(kāi)始做一個(gè)項(xiàng)目時(shí),不會(huì)過(guò)多的考慮性能問(wèn)題丛楚,以快速迭代功能為主族壳。后續(xù)隨著業(yè)務(wù)的快速發(fā)展,系統(tǒng)運(yùn)行的性能越來(lái)越慢趣些,此時(shí)仿荆,就需要對(duì)系統(tǒng)進(jìn)行相應(yīng)的優(yōu)化,而效果最顯著的就是給系統(tǒng)加上緩存坏平。那么拢操,問(wèn)題來(lái)了,當(dāng)你為系統(tǒng)加上緩存時(shí)舶替,有沒(méi)有考慮過(guò)使用緩存需要注意哪些事項(xiàng)呢令境?

  緩存命中率

  緩存命中率是從緩存中讀取數(shù)據(jù)的次數(shù)與總讀取次數(shù)的比率,命中率越高越好顾瞪。緩存命中率=從緩存中讀取次數(shù) / (總讀取次數(shù) (從緩存中讀取次數(shù) + 從慢速設(shè)備上讀取次數(shù)))展父。這是一個(gè)非常重要的監(jiān)控指標(biāo),如果做緩存玲昧,則應(yīng)通過(guò)監(jiān)控這個(gè)指標(biāo)來(lái)看緩存是否工作良好栖茉。

  緩存類(lèi)型

  緩存類(lèi)型總體上來(lái)看,可以分為:堆緩存孵延、堆外緩存吕漂、磁盤(pán)緩存和分布式緩存。

  堆內(nèi)存

  使用Java堆內(nèi)存來(lái)存儲(chǔ)對(duì)象尘应。使用堆緩存的好處是沒(méi)有序列化/反序列化惶凝,是最快的緩存吼虎。缺點(diǎn)也很明顯,當(dāng)緩存的數(shù)據(jù)量很大時(shí)苍鲜,GC(垃圾回收)暫停時(shí)間會(huì)變長(zhǎng)思灰,存儲(chǔ)容量受限于堆空間大小。一般通過(guò)軟引用/弱引用來(lái)存儲(chǔ)緩存對(duì)象混滔。即當(dāng)堆內(nèi)存不足時(shí)洒疚,可以強(qiáng)制回收這部分內(nèi)存釋放堆內(nèi)存空間。一般使用堆緩存存儲(chǔ)較熱的數(shù)據(jù)坯屿∮秃可以使用Guava Cache、Ehcache 3.x领跛、 MapDB實(shí)現(xiàn)乏德。

  堆外內(nèi)存

  即緩存數(shù)據(jù)存儲(chǔ)在堆外內(nèi)存,可以減少GC暫停時(shí)間(堆對(duì)象轉(zhuǎn)移到堆外吠昭,GC掃描和移動(dòng)的對(duì)象變少了)喊括,可以支持更多的緩存空間(只受機(jī)器內(nèi)存大小限制,不受堆空間的影響)矢棚。但是瘾晃,讀取數(shù)據(jù)時(shí)需要序列化/反序列化。因此幻妓,會(huì)比堆緩存慢很多蹦误。可以使用Ehcache 3.x肉津、 MapDB實(shí)現(xiàn)强胰。

  磁盤(pán)緩存

  即緩存數(shù)據(jù)存儲(chǔ)在磁盤(pán)上,在JVM重啟時(shí)數(shù)據(jù)還存在妹沙,而堆/堆外緩存數(shù)據(jù)會(huì)丟失偶洋,需要重新加載【嗵牵可以使用Ehcache 3.x玄窝、MapDB實(shí)現(xiàn)。

  分布式緩存

  分布式緩存可以使用ehcache-clustered(配合Terracotta server)實(shí)現(xiàn)Java進(jìn)程間分布式緩存悍引。也可以使用Memcached恩脂、Redis實(shí)現(xiàn)。

  使用分布式緩存時(shí)趣斤,有兩種模式如下:

  單機(jī)模式:存儲(chǔ)最熱的數(shù)據(jù)到堆緩存俩块,相對(duì)熱的數(shù)據(jù)到堆外緩存,不熱的數(shù)據(jù)到磁盤(pán)緩存。

  集群模式:存儲(chǔ)最熱的數(shù)據(jù)到堆緩存玉凯,相對(duì)熱的數(shù)據(jù)到對(duì)外緩存势腮,全量數(shù)據(jù)到分布式緩存。

  緩存回收策略

  緩存的回收策略總體上來(lái)說(shuō)包含:基于空間的回收策略漫仆、基于容量(空間)的回收策略捎拯、基于時(shí)間的回收策略和基于對(duì)象引用的回收策略。

  基于空間

  基于空間指緩存設(shè)置了存儲(chǔ)空間盲厌,如設(shè)置為10MB署照,當(dāng)達(dá)到存儲(chǔ)空間上限時(shí),按照一定的策略移除數(shù)據(jù)狸眼。

  基于容量

  基于容量指緩存設(shè)置了最大大小藤树,當(dāng)緩存的條目超過(guò)最大大小時(shí)浴滴,按照一定的策略移除舊數(shù)據(jù)拓萌。

  基于時(shí)間

  TTL(Time To Live):存活期,即緩存數(shù)據(jù)從創(chuàng)建開(kāi)始直到到期的一個(gè)時(shí)間段(不管在這個(gè)時(shí)間段內(nèi)有沒(méi)有被訪問(wèn)升略,緩存數(shù)據(jù)都將過(guò)期)微王。

  TTI(Time To Idle):空閑期,即緩存數(shù)據(jù)多久沒(méi)被訪問(wèn)后移除緩存的時(shí)間品嚣。

  基于對(duì)象引用

  軟引用:如果一個(gè)對(duì)象是軟引用炕倘,則當(dāng)JVM堆內(nèi)存不足時(shí),垃圾回收器可以回收這些對(duì)象翰撑。軟引用適合用來(lái)做緩存罩旋,從而當(dāng)JVM堆內(nèi)存不足時(shí),可以回收這些對(duì)象騰出一些空間供強(qiáng)引用對(duì)象使用眶诈,從而避免OOM涨醋。

  弱引用:當(dāng)垃圾回收器回收內(nèi)存時(shí),如果發(fā)現(xiàn)弱引用逝撬,則將它立即回收浴骂。相對(duì)于軟引用,弱引用有更短的生命周期宪潮。

  注意:只有在沒(méi)有其他強(qiáng)引用對(duì)象引用弱引用/軟引用對(duì)象時(shí)溯警,垃圾回收時(shí)才回收該引用。即如果有一個(gè)對(duì)象(不是弱引用/軟引用對(duì)象)引用了弱引用/軟引用對(duì)象狡相,那么垃圾回收時(shí)不會(huì)回收該弱引用/軟引用對(duì)象梯轻。

  回收算法

  使用基于空間和基于容量的緩存會(huì)使用一定的策略移除舊數(shù)據(jù),通常包含:FIFO算法尽棕、LRU算法和LFU算法檩淋。

  FIFO(First In First Out):先進(jìn)先出算法,即先放入緩存的先被移除。

  LRU(Least Recently Used):最近最少使用算法蟀悦,時(shí)間時(shí)間距離現(xiàn)在最久的那個(gè)被移除媚朦。

  LFU(Least Frequently Used):最不常用算法,一定時(shí)間段內(nèi)使用次數(shù)(頻率)最少的那個(gè)被移除日戈。

  實(shí)際應(yīng)用中基于LRU的緩存居多询张。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市浙炼,隨后出現(xiàn)的幾起案子份氧,更是在濱河造成了極大的恐慌,老刑警劉巖弯屈,帶你破解...
    沈念sama閱讀 221,430評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件蜗帜,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡资厉,警方通過(guò)查閱死者的電腦和手機(jī)厅缺,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,406評(píng)論 3 398
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)宴偿,“玉大人湘捎,你說(shuō)我怎么就攤上這事≌酰” “怎么了窥妇?”我有些...
    開(kāi)封第一講書(shū)人閱讀 167,834評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)娩践。 經(jīng)常有香客問(wèn)我活翩,道長(zhǎng),這世上最難降的妖魔是什么翻伺? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,543評(píng)論 1 296
  • 正文 為了忘掉前任材泄,我火速辦了婚禮,結(jié)果婚禮上穆趴,老公的妹妹穿的比我還像新娘脸爱。我一直安慰自己,他們只是感情好未妹,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,547評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布簿废。 她就那樣靜靜地躺著,像睡著了一般络它。 火紅的嫁衣襯著肌膚如雪族檬。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 52,196評(píng)論 1 308
  • 那天化戳,我揣著相機(jī)與錄音单料,去河邊找鬼埋凯。 笑死,一個(gè)胖子當(dāng)著我的面吹牛扫尖,可吹牛的內(nèi)容都是我干的白对。 我是一名探鬼主播,決...
    沈念sama閱讀 40,776評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼换怖,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼甩恼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起沉颂,我...
    開(kāi)封第一講書(shū)人閱讀 39,671評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤条摸,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后铸屉,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體钉蒲,經(jīng)...
    沈念sama閱讀 46,221評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,303評(píng)論 3 340
  • 正文 我和宋清朗相戀三年彻坛,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了顷啼。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,444評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡小压,死狀恐怖线梗,靈堂內(nèi)的尸體忽然破棺而出椰于,到底是詐尸還是另有隱情怠益,我是刑警寧澤,帶...
    沈念sama閱讀 36,134評(píng)論 5 350
  • 正文 年R本政府宣布瘾婿,位于F島的核電站蜻牢,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏偏陪。R本人自食惡果不足惜抢呆,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,810評(píng)論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望笛谦。 院中可真熱鬧抱虐,春花似錦、人聲如沸饥脑。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,285評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)灶轰。三九已至谣沸,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間笋颤,已是汗流浹背乳附。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,399評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人赋除。 一個(gè)月前我還...
    沈念sama閱讀 48,837評(píng)論 3 376
  • 正文 我出身青樓阱缓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親举农。 傳聞我的和親對(duì)象是個(gè)殘疾皇子茬祷,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,455評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容