JVM 與 Linux 的內(nèi)存關(guān)系詳解

在一些物理內(nèi)存為8g的服務(wù)器上收毫,主要運行一個Java服務(wù)巢寡,系統(tǒng)內(nèi)存分配如下:Java服務(wù)的JVM堆大小設(shè)置為6g宠能,一個監(jiān)控進(jìn)程占用大約 600m饺著,Linux自身使用大約800m箫攀。

從表面上,物理內(nèi)存應(yīng)該是足夠使用的幼衰;但實際運行的情況是靴跛,會發(fā)生大量使用SWAP(說明物理內(nèi)存不夠使用 了),如下圖所示渡嚣。由于SWAP和GC同時發(fā)生會致使JVM嚴(yán)重卡頓梢睛,所以我們要追問:內(nèi)存究竟去哪兒了?

要分析這個問題识椰,理解JVM和操作系統(tǒng)之間的內(nèi)存關(guān)系非常重要绝葡。接下來主要就Linux與JVM之間的內(nèi)存關(guān)系進(jìn)行一些分析。

一腹鹉、Linux與進(jìn)程內(nèi)存模型

JVM以一個進(jìn)程(Process)的身份運行在Linux系統(tǒng)上藏畅,了解Linux與進(jìn)程的內(nèi)存關(guān)系,是理解JVM與Linux內(nèi)存的關(guān)系的基礎(chǔ)种蘸。下圖給出了硬件墓赴、系統(tǒng)、進(jìn)程三個層面的內(nèi)存之間的概要關(guān)系航瞭。

從硬件上看诫硕,Linux系統(tǒng)的內(nèi)存空間由兩個部分構(gòu)成:物理內(nèi)存和SWAP(位于磁盤)。物理內(nèi)存是Linux活動時使用的主要內(nèi)存區(qū)域刊侯;當(dāng)物理內(nèi)存不夠使用時章办,Linux會把一部分暫時不用的內(nèi)存數(shù)據(jù)放到磁盤上的SWAP中去,以便騰出更多的可用內(nèi)存空間;而當(dāng)需要使用位于SWAP的數(shù)據(jù)時藕届,必須 先將其換回到內(nèi)存中挪蹭。JVM運行時區(qū)域詳解,推薦大家看下休偶。

從Linux系統(tǒng)上看梁厉,除了引導(dǎo)系統(tǒng)的BIN區(qū),整個內(nèi)存空間主要被分成兩個部分:內(nèi)核內(nèi)存(Kernel space)踏兜、用戶內(nèi)存(User space)词顾。

內(nèi)核內(nèi)存是Linux自身使用的內(nèi)存空間,主要提供給程序調(diào)度碱妆、內(nèi)存分配肉盹、連接硬件資源等程序邏輯使用。

用戶內(nèi)存是提供給各個進(jìn)程主要空間疹尾,Linux給各個進(jìn)程提供相同的虛擬內(nèi)存空間上忍;這使得進(jìn)程之間相互獨立,互不干擾纳本。實現(xiàn)的方法是采用虛擬內(nèi)存技術(shù):給每一個進(jìn)程一定虛擬內(nèi)存空間窍蓝,而只有當(dāng)虛擬內(nèi)存實 際被使用時,才分配物理內(nèi)存饮醇。

如下圖所示它抱,對于32的Linux系統(tǒng)來說,一般將0~3G的虛擬內(nèi)存空間分配做為用戶空間朴艰,將3~4G的虛擬內(nèi)存空間分配 為內(nèi)核空間观蓄;64位系統(tǒng)的劃分情況是類似的。

從進(jìn)程的角度來看祠墅,進(jìn)程能直接訪問的用戶內(nèi)存(虛擬內(nèi)存空間)被劃分為5個部分:代碼區(qū)侮穿、數(shù)據(jù)區(qū)、堆區(qū)毁嗦、棧區(qū)亲茅、未使用區(qū)。

代碼區(qū)中存放應(yīng)用程序的機(jī)器代碼狗准,運行過程中代碼不能被修改克锣,具有只讀和固定大小的特點。

數(shù)據(jù)區(qū)中存放了應(yīng)用程序中的全局?jǐn)?shù)據(jù)腔长,靜態(tài)數(shù)據(jù)和一些常量字符串等袭祟,其大小也是固定的。

堆是運行時程序動態(tài)申請的空間捞附,屬于程序運行時直接申請巾乳、釋放的內(nèi)存資源您没。

棧區(qū)用來存放函數(shù)的傳入?yún)?shù)、臨時變量胆绊,以及返回地址等數(shù)據(jù)氨鹏。

未使用區(qū)是分配新內(nèi) 存空間的預(yù)備區(qū)域。

進(jìn)群:697699179可以獲取Java各類入門學(xué)習(xí)資料压状!

這是我的微信公眾號【編程study】各位大佬有空可以關(guān)注下仆抵,每天更新Java學(xué)習(xí)方法,感謝何缓!

學(xué)習(xí)中遇到問題有不明白的地方肢础,推薦加小編Java學(xué)習(xí)群:697699179內(nèi)有視頻教程 ,直播課程 碌廓,等學(xué)習(xí)資料,期待你的加入

二剩盒、進(jìn)程與JVM內(nèi)存空間

JVM本質(zhì)就是一個進(jìn)程谷婆,因此其內(nèi)存空間(也稱之為運行時數(shù)據(jù)區(qū),注意與JMM的區(qū)別)也有進(jìn)程的一般特點辽聊。深入淺出 Java 中 JVM 內(nèi)存管理纪挎,這篇參考下。

但是跟匆,JVM又不是一個普通的進(jìn)程异袄,其在內(nèi)存空間上有許多嶄新的特點,主要原因有兩 個:

JVM將許多本來屬于操作系統(tǒng)管理范疇的東西玛臂,移植到了JVM內(nèi)部烤蜕,目的在于減少系統(tǒng)調(diào)用的次數(shù);

Java NIO迹冤,目的在于減少用于讀寫IO的系統(tǒng)調(diào)用的開銷讽营。JVM進(jìn)程與普通進(jìn)程內(nèi)存模型比較如下圖:

需要說明的是,這個模型的并不是JVM內(nèi)存使用的精確模型泡徙,更側(cè)重于從操作系統(tǒng)的角度而省略了一些JVM的內(nèi)部細(xì)節(jié)(盡管也很重要)橱鹏。下面從用戶內(nèi)存和內(nèi)核內(nèi)存兩個方面講解JVM進(jìn)程的內(nèi)存特點。

1.用戶內(nèi)存

上圖特別強(qiáng)調(diào)了JVM進(jìn)程模型的代碼區(qū)和數(shù)據(jù)區(qū)指的是JVM自身的堪藐,而非Java程序的莉兰。普通進(jìn)程棧區(qū),在JVM一般僅僅用做線程棧礁竞。JVM的堆區(qū)和普通進(jìn)程的差別是最大的糖荒,下面具體詳細(xì)說明:

首先是永久代。永久代本質(zhì)上是Java程序的代碼區(qū)和數(shù)據(jù)區(qū)苏章。Java程序中類(class)寂嘉,會被加載到整個區(qū)域的不同數(shù)據(jù)結(jié)構(gòu)中去奏瞬,包括常量池、域泉孩、方法數(shù)據(jù)硼端、方法體、構(gòu)造函數(shù)寓搬、以及類中的專用方法珍昨、實例初始化、接口初始化等句喷。這個區(qū)域?qū)τ诓僮飨到y(tǒng)來說镣典,是堆的一個部分;而對于Java程序來 說唾琼,這是容納程序本身及靜態(tài)資源的空間兄春,使得JVM能夠解釋執(zhí)行Java程序。

其次是新生代和老年代锡溯。新生代和老年代才是Java程序真正使用的堆空間赶舆,主要用于內(nèi)存對象的存儲;但是其管理方式和普通進(jìn)程有本質(zhì)的區(qū)別祭饭。

普通進(jìn)程在運行時給內(nèi)存對象分配空間時芜茵,比如C++執(zhí)行new操作時,會觸發(fā)一次分配內(nèi)存空間的系統(tǒng)調(diào)用倡蝙,由操作系統(tǒng)的線程根據(jù)對象的大小分配好空間后返 回九串;同時,程序釋放對象時寺鸥,比如C++執(zhí)行delete操作時猪钮,也會觸發(fā)一次系統(tǒng)調(diào)用,通知操作系統(tǒng)對象所占用的空間已經(jīng)可以回收析既。

JVM對內(nèi)存的使用和一般進(jìn)程不同躬贡。JVM向操作系統(tǒng)申請一整段內(nèi)存區(qū)域(具體大小可以在JVM參數(shù)調(diào)節(jié))作為Java程序的堆(分為新生代和老年代);當(dāng)Java程序申請內(nèi)存空間眼坏,比如執(zhí)行new操作拂玻,JVM將在這段空間中按所需大小分配給Java程序,并且Java程序不負(fù)責(zé)通知JVM何時可以釋放這 個對象的空間宰译,垃圾對象內(nèi)存空間的回收由JVM進(jìn)行檐蚜。

JVM的內(nèi)存管理方式的優(yōu)點是顯而易見的,包括:第一沿侈,減少系統(tǒng)調(diào)用的次數(shù)闯第,JVM在給Java程序分配內(nèi)存空間時不需要操作系統(tǒng)干預(yù),僅僅在 Java堆大小變化時需要向操作系統(tǒng)申請內(nèi)存或通知回收缀拭,而普通程序每次內(nèi)存空間的分配回收都需要系統(tǒng)調(diào)用參與咳短;第二填帽,減少內(nèi)存泄漏,普通程序沒有(或者 沒有及時)通知操作系統(tǒng)內(nèi)存空間的釋放是內(nèi)存泄漏的重要原因之一咙好,而由JVM統(tǒng)一管理篡腌,可以避免程序員帶來的內(nèi)存泄漏問題。

最后是未使用區(qū)勾效,未使用區(qū)是分配新內(nèi)存空間的預(yù)備區(qū)域嘹悼。對于普通進(jìn)程來說,這個區(qū)域被可用于堆和棽愎空間的申請及釋放杨伙,每次堆內(nèi)存分配都會使用這個區(qū) 域,因此大小變動頻繁萌腿;對于JVM進(jìn)程來說限匣,調(diào)整堆大小及線程棧時會使用該區(qū)域,而堆大小一般較少調(diào)整毁菱,因此大小相對穩(wěn)定膛腐。操作系統(tǒng)會動態(tài)調(diào)整這個區(qū)域的 大小,并且這個區(qū)域通常并沒有被分配實際的物理內(nèi)存鼎俘,只是允許進(jìn)程在這個區(qū)域申請堆或棧空間辩涝。

2.內(nèi)核內(nèi)存

應(yīng)用程序通常不直接和內(nèi)核內(nèi)存打交道贸伐,內(nèi)核內(nèi)存由操作系統(tǒng)進(jìn)行管理和使用;不過隨著Linux對性能的關(guān)注及改進(jìn)怔揩,一些新的特性使得應(yīng)用程序可以使 用內(nèi)核內(nèi)存捉邢,或者是映射到內(nèi)核空間。Java NIO正是在這種背景下誕生的商膊,其充分利用了Linux系統(tǒng)的新特性伏伐,提升了Java程序的IO性能。

上圖給出了Java NIO使用的內(nèi)核內(nèi)存在linux系統(tǒng)中的分布情況晕拆。nio buffer主要包括:nio使用各種channel時所使用的ByteBuffer藐翎、Java程序主動使用 ByteBuffer.allocateDirector申請分配的Buffer。

而在PageCache里面实幕,nio使用的內(nèi)存主要包 括:FileChannel.map方式打開文件占用mapped吝镣、FileChannel.transferTo和 FileChannel.transferFrom所需要的Cache(圖中標(biāo)示 nio file)。

通過JMX可以監(jiān)控到NIO Buffer和 mapped 的使用情況昆庇,如下圖所示末贾。不過,F(xiàn)ileChannel的實現(xiàn)是通過系統(tǒng)調(diào)用使用原生的PageCache整吆,過程對于Java是透明的拱撵,無法監(jiān)控到這部分內(nèi)存的使用大小辉川。

Linux和Java NIO在內(nèi)核內(nèi)存上開辟空間給程序使用,主要是減少不要的復(fù)制拴测,以減少IO操作系統(tǒng)調(diào)用的開銷乓旗。例如,將磁盤文件的數(shù)據(jù)發(fā)送網(wǎng)卡昼扛,使用普通方法和NIO時寸齐,數(shù)據(jù)流動比較下圖所示:

將數(shù)據(jù)在內(nèi)核內(nèi)存和用戶內(nèi)存之間拷貝是比較消耗資源和時間的事情,而從上圖我們可以看到抄谐,通過NIO的方式減少了2次內(nèi)核內(nèi)存和用戶內(nèi)存之間的數(shù)據(jù)拷貝渺鹦。這是Java NIO高性能的重要機(jī)制之一(另一個是異步非阻塞)。

從上面可以看出蛹含,內(nèi)核內(nèi)存對于Java程序性能也非常重要毅厚,因此,在劃分系統(tǒng)內(nèi)存使用時候浦箱,一定要給內(nèi)核留出一定可用空間吸耿。

三、案例分析

1.內(nèi)存分配問題

通過上面的分析酷窥,省略比較小的區(qū)域咽安,可以總結(jié)JVM占用的內(nèi)存:

JVM內(nèi)存 ≈ Java永久代 + Java堆(新生代和老年代) + 線程棧+ Java NIO

回到文章開頭提出的問題,原來的內(nèi)存分配是:6g(java堆) + 600m(監(jiān)控) + 800m(系統(tǒng))蓬推,剩余大約600m內(nèi)存未分配妆棒。

現(xiàn)在分析這600m內(nèi)存的分配情況:

Linux保留大約200m,這部分是Linux正常運行的需要沸伏,

Java服務(wù)的線程數(shù)量是160個糕珊,JVM默認(rèn)的線程棧大小是1m,因此使用160m內(nèi)存毅糟,

Java NIO buffer红选,通過JMX查到最多占用了200m,

Java服務(wù)使用NIO大量讀寫文件姆另,需要使用PageCache喇肋,正如前面分析,這個暫時不好定量估算大小蜕青。

前三項加起來已經(jīng)560m苟蹈,因此可以斷定Linux物理內(nèi)存不夠使用。

細(xì)心的人會發(fā)現(xiàn)右核,引言中給出兩個服務(wù)器慧脱,一個SWAP最多占用了2.16g,另外一個SWAP最多占用了871m贺喝;但是菱鸥,似乎我們的內(nèi)存缺口沒有那么大宗兼。事實上,這是由于SWAP和GC同時進(jìn)行造成的氮采,從下圖可以看到殷绍,SWAP的使用和長時間的GC在同一時刻發(fā)生。

SWAP和GC同時發(fā)生會導(dǎo)致GC時間很長鹊漠,JVM嚴(yán)重卡頓主到,極端的情況下會導(dǎo)致服務(wù)崩潰。原因如下:JVM進(jìn)行GC時躯概,時需要對相應(yīng)堆分區(qū)的已用 內(nèi)存進(jìn)行遍歷登钥;假如GC的時候,有堆的一部分內(nèi)容被交換到SWAP中娶靡,遍歷到這部分的時候就需要將其交換回內(nèi)存牧牢,同時由于內(nèi)存空間不足,就需要把內(nèi)存中堆 的另外一部分換到SWAP中去姿锭;于是在遍歷堆分區(qū)的過程中塔鳍,(極端情況下)會把整個堆分區(qū)輪流往SWAP寫一遍。Linux對SWAP的回收是滯后的呻此,我 們就會看到大量SWAP占用轮纫。上述問題,可以通過減少堆大小焚鲜,或者增加物理內(nèi)存解決蜡感。

因此,我們得出一個結(jié)論:部署Java服務(wù)的Linux系統(tǒng)恃泪,在內(nèi)存分配上,需要避免SWAP的使用犀斋;具體如何分配需要綜合考慮不同場景下JVM對Java永久代 贝乎、Java堆(新生代和老年代)、線程棧叽粹、Java NIO所使用內(nèi)存的需求览效。

2.內(nèi)存泄漏問題

另一個案例是,8g內(nèi)存的服務(wù)器虫几,Linux使用800m锤灿,監(jiān)控進(jìn)程使用600m,堆大小設(shè)置4g辆脸;系統(tǒng)可用內(nèi)存有2.5g左右但校,但是也發(fā)生了大量的SWAP占用。

分析這個問題如下:

在這個場景中啡氢, Java永久代 状囱、Java堆(新生代和老年代)术裸、線程棧所用內(nèi)存基本是固定的,因此亭枷,占用內(nèi)存過多的原因就定位在Java NIO上袭艺。

根據(jù)前面的模型,Java NIO使用的內(nèi)存主要分布在Linux內(nèi)核內(nèi)存的System區(qū)和PageCache區(qū)叨粘。查看監(jiān)控的記錄猾编,如下圖,我們可以看到發(fā)生SWAP之前升敲,也就是 物理內(nèi)存不夠使用的時候答倡,PageCache急劇縮小。因此冻晤,可以定位在System區(qū)的Java NIO Buffer發(fā)生內(nèi)存泄漏苇羡。

由于NIO的DirectByteBuffer需要在GC的后期被回收,因此連續(xù)申請DirectByteBuffer的程序鼻弧,通常需要調(diào)用 System.gc()设江,避免長時間不發(fā)生FullGC導(dǎo)致引用在old區(qū)的DirectByteBuffer內(nèi)存泄漏。分析到此攘轩,可以推斷有兩種可能的 原因:第一叉存,Java程序沒有在必要的時候調(diào)用System.gc();第二度帮,System.gc()被禁用歼捏。

最后是要排查JVM啟動參數(shù)和Java程序的DirectByteBuffer使用情況。在本例中笨篷,查看JVM啟動參數(shù)瞳秽,發(fā)現(xiàn)啟用了-XX:+DisableExplicitGC導(dǎo)致System.gc()被禁用。

四率翅、總結(jié)

本文詳細(xì)分析了Linux與JVM的內(nèi)存關(guān)系练俐,比較了一般進(jìn)程與JVM進(jìn)程使用內(nèi)存的異同點,理解這些特性將對Linux系統(tǒng)內(nèi)存分配冕臭、JVM調(diào)優(yōu)腺晾、Java程序優(yōu)化有幫助。限于篇幅關(guān)系僅僅列舉兩個案例辜贵,希望起到拋磚引玉的作用悯蝉。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市托慨,隨后出現(xiàn)的幾起案子鼻由,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,123評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件嗡靡,死亡現(xiàn)場離奇詭異跺撼,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)讨彼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評論 2 384
  • 文/潘曉璐 我一進(jìn)店門歉井,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人哈误,你說我怎么就攤上這事哩至。” “怎么了蜜自?”我有些...
    開封第一講書人閱讀 156,723評論 0 345
  • 文/不壞的土叔 我叫張陵菩貌,是天一觀的道長。 經(jīng)常有香客問我重荠,道長箭阶,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,357評論 1 283
  • 正文 為了忘掉前任戈鲁,我火速辦了婚禮仇参,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘婆殿。我一直安慰自己诈乒,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 65,412評論 5 384
  • 文/花漫 我一把揭開白布婆芦。 她就那樣靜靜地躺著怕磨,像睡著了一般。 火紅的嫁衣襯著肌膚如雪消约。 梳的紋絲不亂的頭發(fā)上肠鲫,一...
    開封第一講書人閱讀 49,760評論 1 289
  • 那天,我揣著相機(jī)與錄音或粮,去河邊找鬼滩届。 笑死,一個胖子當(dāng)著我的面吹牛被啼,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播棠枉,決...
    沈念sama閱讀 38,904評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼浓体,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了辈讶?” 一聲冷哼從身側(cè)響起命浴,我...
    開封第一講書人閱讀 37,672評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后生闲,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體媳溺,經(jīng)...
    沈念sama閱讀 44,118評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,456評論 2 325
  • 正文 我和宋清朗相戀三年碍讯,在試婚紗的時候發(fā)現(xiàn)自己被綠了悬蔽。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,599評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡捉兴,死狀恐怖蝎困,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情倍啥,我是刑警寧澤禾乘,帶...
    沈念sama閱讀 34,264評論 4 328
  • 正文 年R本政府宣布,位于F島的核電站虽缕,受9級特大地震影響始藕,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜氮趋,卻給世界環(huán)境...
    茶點故事閱讀 39,857評論 3 312
  • 文/蒙蒙 一伍派、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧凭峡,春花似錦拙已、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至索昂,卻和暖如春建车,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背椒惨。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評論 1 264
  • 我被黑心中介騙來泰國打工缤至, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人康谆。 一個月前我還...
    沈念sama閱讀 46,286評論 2 360
  • 正文 我出身青樓领斥,卻偏偏與公主長得像,于是被迫代替她去往敵國和親沃暗。 傳聞我的和親對象是個殘疾皇子月洛,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,465評論 2 348

推薦閱讀更多精彩內(nèi)容