一個(gè)基于 Linux 操作系統(tǒng)的服務(wù)器運(yùn)行的同時(shí)鲤氢，也會(huì)表征出各種各樣參數(shù)信息搀擂。通常來說運(yùn)維人員、系統(tǒng)管理員會(huì)對(duì)這些數(shù)據(jù)會(huì)極為敏感铜异，但是這些參數(shù)對(duì)于開發(fā)者來說也十分重要哥倔，尤其當(dāng)你的程序非正常工作的時(shí)候，這些蛛絲馬跡往往會(huì)幫助快速定位跟蹤問題揍庄。
這里只是一些簡單的工具查看系統(tǒng)的相關(guān)參數(shù)咆蒿，當(dāng)然很多工具也是通過分析加工 /proc、/sys 下的數(shù)據(jù)來工作的蚂子，而那些更加細(xì)致沃测、專業(yè)的性能監(jiān)測和調(diào)優(yōu)，可能還需要更加專業(yè)的工具(perf食茎、systemtap 等)和技術(shù)才能完成哦蒂破。
畢竟來說，系統(tǒng)性能監(jiān)控本身就是個(gè)大學(xué)問别渔。
一附迷、CPU和內(nèi)存類
1.1
top
? ~ top
第一行后面的三個(gè)值是系統(tǒng)在之前 1、5哎媚、15 的平均負(fù)載喇伯，也可以看出系統(tǒng)負(fù)載是上升、平穩(wěn)拨与、下降的趨勢(shì)稻据，當(dāng)這個(gè)值超過 CPU 可執(zhí)行單元的數(shù)目，則表示 CPU 的性能已經(jīng)飽和成為瓶頸了买喧。
第二行統(tǒng)計(jì)了系統(tǒng)的任務(wù)狀態(tài)信息捻悯。running 很自然不必多說，包括正在 CPU 上運(yùn)行的和將要被調(diào)度運(yùn)行的淤毛；sleeping 通常是等待事件(比如 IO 操作)完成的任務(wù)今缚，細(xì)分可以包括 interruptible 和 uninterruptible 的類型；stopped 是一些被暫停的任務(wù)钱床，通常發(fā)送 SIGSTOP 或者對(duì)一個(gè)前臺(tái)任務(wù)操作 Ctrl-Z 可以將其暫停荚斯；zombie 僵尸任務(wù)，雖然進(jìn)程終止資源會(huì)被自動(dòng)回收，但是含有退出任務(wù)的 task descriptor 需要父進(jìn)程訪問后才能釋放事期，這種進(jìn)程顯示為 defunct 狀態(tài)滥壕，無論是因?yàn)楦高M(jìn)程提前退出還是未 wait 調(diào)用，出現(xiàn)這種進(jìn)程都應(yīng)該格外注意程序是否設(shè)計(jì)有誤兽泣。
第三行 CPU 占用率根據(jù)類型有以下幾種情況：
(us) user：CPU 在低 nice 值(高優(yōu)先級(jí))用戶態(tài)所占用的時(shí)間(nice<=0)绎橘。正常情況下只要服務(wù)器不是很閑，那么大部分的 CPU 時(shí)間應(yīng)該都在此執(zhí)行這類程序
(sy) system：CPU 處于內(nèi)核態(tài)所占用的時(shí)間唠倦，操作系統(tǒng)通過系統(tǒng)調(diào)用(system call)從用戶態(tài)陷入內(nèi)核態(tài)称鳞，以執(zhí)行特定的服務(wù)；通常情況下該值會(huì)比較小稠鼻，但是當(dāng)服務(wù)器執(zhí)行的 IO 比較密集的時(shí)候冈止，該值會(huì)比較大
(ni) nice：CPU 在高 nice 值(低優(yōu)先級(jí))用戶態(tài)以低優(yōu)先級(jí)運(yùn)行占用的時(shí)間(nice>0)。默認(rèn)新啟動(dòng)的進(jìn)程 nice=0候齿，是不會(huì)計(jì)入這里的熙暴，除非手動(dòng)通過 renice 或者 setpriority() 的方式修改程序的nice值
(id) idle：CPU 在空閑狀態(tài)(執(zhí)行 kernel idle handler )所占用的時(shí)間
(wa) iowait：等待 IO 完成做占用的時(shí)間
(hi) irq：系統(tǒng)處理硬件中斷所消耗的時(shí)間
(si) softirq：系統(tǒng)處理軟中斷所消耗的時(shí)間，記住軟中斷分為 softirqs慌盯、tasklets (其實(shí)是前者的特例)周霉、work queues，不知道這里是統(tǒng)計(jì)的是哪些的時(shí)間亚皂，畢竟 work queues 的執(zhí)行已經(jīng)不是中斷上下文了
(st) steal：在虛擬機(jī)情況下才有意義俱箱，因?yàn)樘摂M機(jī)下 CPU 也是共享物理 CPU 的，所以這段時(shí)間表明虛擬機(jī)等待 hypervisor 調(diào)度 CPU 的時(shí)間灭必，也意味著這段時(shí)間 hypervisor 將 CPU 調(diào)度給別的 CPU 執(zhí)行狞谱，這個(gè)時(shí)段的 CPU 資源被“stolen”了。這個(gè)值在我 KVM 的 VPS 機(jī)器上是不為 0 的禁漓，但也只有 0.1 這個(gè)數(shù)量級(jí)芋簿，是不是可以用來判斷 VPS 超售的情況？
CPU 占用率高很多情況下意味著一些東西璃饱，這也給服務(wù)器 CPU 使用率過高情況下指明了相應(yīng)地排查思路：
當(dāng) user 占用率過高的時(shí)候，通常是某些個(gè)別的進(jìn)程占用了大量的 CPU肪康，這時(shí)候很容易通過 top 找到該程序荚恶；此時(shí)如果懷疑程序異常，可以通過 perf 等思路找出熱點(diǎn)調(diào)用函數(shù)來進(jìn)一步排查磷支；
當(dāng) system 占用率過高的時(shí)候谒撼，如果 IO 操作(包括終端 IO)比較多，可能會(huì)造成這部分的 CPU 占用率高雾狈，比如在 file server廓潜、database server 等類型的服務(wù)器上，否則(比如>20%)很可能有些部分的內(nèi)核、驅(qū)動(dòng)模塊有問題辩蛋；
當(dāng) nice 占用率過高的時(shí)候呻畸，通常是有意行為，當(dāng)進(jìn)程的發(fā)起者知道某些進(jìn)程占用較高的 CPU悼院，會(huì)設(shè)置其 nice 值確保不會(huì)淹沒其他進(jìn)程對(duì) CPU 的使用請(qǐng)求伤为；
當(dāng) iowait 占用率過高的時(shí)候，通常意味著某些程序的 IO 操作效率很低据途，或者 IO 對(duì)應(yīng)設(shè)備的性能很低以至于讀寫操作需要很長的時(shí)間來完成绞愚；
當(dāng) irq/softirq 占用率過高的時(shí)候，很可能某些外設(shè)出現(xiàn)問題颖医，導(dǎo)致產(chǎn)生大量的irq請(qǐng)求位衩，這時(shí)候通過檢查 /proc/interrupts 文件來深究問題所在；
當(dāng) steal 占用率過高的時(shí)候熔萧，黑心廠商虛擬機(jī)超售了吧糖驴！
第四行和第五行是物理內(nèi)存和虛擬內(nèi)存(交換分區(qū))的信息：
total = free + used + buff/cache，現(xiàn)在buffers和cached Mem信息總和到一起了哪痰，但是buffers和cached
Mem 的關(guān)系很多地方都沒說清楚遂赠。其實(shí)通過對(duì)比數(shù)據(jù)，這兩個(gè)值就是 /proc/meminfo 中的 Buffers 和 Cached 字段：Buffers 是針對(duì) raw disk 的塊緩存晌杰，主要是以 raw block 的方式緩存文件系統(tǒng)的元數(shù)據(jù)(比如超級(jí)塊信息等)跷睦，這個(gè)值一般比較小(20M左右)；而 Cached 是針對(duì)于某些具體的文件進(jìn)行讀緩存肋演，以增加文件的訪問效率而使用的抑诸，可以說是用于文件系統(tǒng)中文件緩存使用。
而 avail Mem 是一個(gè)新的參數(shù)值爹殊，用于指示在不進(jìn)行交換的情況下蜕乡，可以給新開啟的程序多少內(nèi)存空間，大致和 free + buff/cached 相當(dāng)梗夸，而這也印證了上面的說法层玲，free + buffers + cached Mem才是真正可用的物理內(nèi)存。并且反症，使用交換分區(qū)不見得是壞事情辛块，所以交換分區(qū)使用率不是什么嚴(yán)重的參數(shù)，但是頻繁的 swap in/out 就不是好事情了铅碍，這種情況需要注意润绵，通常表示物理內(nèi)存緊缺的情況。
最后是每個(gè)程序的資源占用列表胞谈，其中 CPU 的使用率是所有 CPU core 占用率的總和尘盼。通常執(zhí)行 top 的時(shí)候憨愉，本身該程序會(huì)大量的讀取 /proc 操作，所以基本該 top 程序本身也會(huì)是名列前茅的卿捎。
top 雖然非常強(qiáng)大配紫，但是通常用于控制臺(tái)實(shí)時(shí)監(jiān)測系統(tǒng)信息，不適合長時(shí)間(幾天娇澎、幾個(gè)月)監(jiān)測系統(tǒng)的負(fù)載信息笨蚁，同時(shí)對(duì)于短命的進(jìn)程也會(huì)遺漏無法給出統(tǒng)計(jì)信息。
1.2
vmstat
vmstat 是除 top 之外另一個(gè)常用的系統(tǒng)檢測工具趟庄，下面截圖是我用-j4編譯boost的系統(tǒng)負(fù)載括细。
r 表示可運(yùn)行進(jìn)程數(shù)目，數(shù)據(jù)大致相符戚啥；而b表示的是 uninterruptible 睡眠的進(jìn)程數(shù)目奋单；swpd 表示使用到的虛擬內(nèi)存數(shù)量，跟 top-Swap-used 的數(shù)值是一個(gè)含義猫十，而如手冊(cè)所說览濒，通常情況下 buffers 數(shù)目要比 cached Mem 小的多，buffers 一般20M這么個(gè)數(shù)量級(jí)拖云；io 域的 bi贷笛、bo 表明每秒鐘向磁盤接收和發(fā)送的塊數(shù)目(blocks/s)；system 域的 in 表明每秒鐘的系統(tǒng)中斷數(shù)(包括時(shí)鐘中斷)宙项，cs表明因?yàn)檫M(jìn)程切換導(dǎo)致上下文切換的數(shù)目乏苦。
說到這里，想到以前很多人糾結(jié)編譯 linux kernel 的時(shí)候 -j 參數(shù)究竟是 CPU Core 還是 CPU Core+1尤筐？通過上面修改 -j 參數(shù)值編譯 boost 和 linux kernel 的同時(shí)開啟 vmstat 監(jiān)控汇荐，發(fā)現(xiàn)兩種情況下 context switch 基本沒有變化，且也只有顯著增加 -j 值后 context switch 才會(huì)有顯著的增加盆繁，看來不必過于糾結(jié)這個(gè)參數(shù)了掀淘，雖然具體編譯時(shí)間長度我還沒有測試。資料說如果不是在系統(tǒng)啟動(dòng)或者 benchmark 的狀態(tài)油昂，參數(shù) context switch>100000 程序肯定有問題革娄。
1.3
pidstat
如果想對(duì)某個(gè)進(jìn)程進(jìn)行全面具體的追蹤，沒有什么比 pidstat 更合適的了——椕岬空間稠腊、缺頁情況、主被動(dòng)切換等信息盡收眼底鸣哀。這個(gè)命令最有用的參數(shù)是-t，可以將進(jìn)程中各個(gè)線程的詳細(xì)信息羅列出來吞彤。
-r： 顯示缺頁錯(cuò)誤和內(nèi)存使用狀況我衬，缺頁錯(cuò)誤是程序需要訪問映射在虛擬內(nèi)存空間中但是還尚未被加載到物理內(nèi)存中的一個(gè)分頁叹放，缺頁錯(cuò)誤兩個(gè)主要類型是
minflt/s 指的 minor faults，當(dāng)需要訪問的物理頁面因?yàn)槟承┰?比如共享頁面挠羔、緩存機(jī)制等)已經(jīng)存在于物理內(nèi)存中了井仰，只是在當(dāng)前進(jìn)程的頁表中沒有引用，MMU 只需要設(shè)置對(duì)應(yīng)的 entry 就可以了破加，這個(gè)代價(jià)是相當(dāng)小的
majflt/s 指的 major faults俱恶，MMU 需要在當(dāng)前可用物理內(nèi)存中申請(qǐng)一塊空閑的物理頁面(如果沒有可用的空閑頁面，則需要將別的物理頁面切換到交換空間去以釋放得到空閑物理頁面)范舀，然后從外部加載數(shù)據(jù)到該物理頁面中合是，并設(shè)置好對(duì)應(yīng)的 entry，這個(gè)代價(jià)是相當(dāng)高的锭环，和前者有幾個(gè)數(shù)據(jù)級(jí)的差異
-s：棧使用狀況聪全，包括 StkSize 為線程保留的棧空間辅辩，以及 StkRef 實(shí)際使用的椖牙瘢空間。使用ulimit -s發(fā)現(xiàn)CentOS 6.x上面默認(rèn)椕捣妫空間是10240K蛾茉，而 CentOS 7.x、Ubuntu系列默認(rèn)椓寐梗空間大小為8196K
-u：CPU使用率情況谦炬，參數(shù)同前面類似
-w：線程上下文切換的數(shù)目，還細(xì)分為cswch/s因?yàn)榈却Y源等因素導(dǎo)致的主動(dòng)切換三痰，以及nvcswch/s線程CPU時(shí)間導(dǎo)致的被動(dòng)切換的統(tǒng)計(jì)
如果每次都先ps得到程序的pid后再操作pidstat會(huì)顯得很麻煩吧寺，所以這個(gè)殺手锏的-C可以指定某個(gè)字符串，然后Command中如果包含這個(gè)字符串散劫，那么該程序的信息就會(huì)被打印統(tǒng)計(jì)出來稚机，-l可以顯示完整的程序名和參數(shù)
? ~ pidstat -w -t -C “ailaw” -l?
這么看來，如果查看單個(gè)尤其是多線程的任務(wù)時(shí)候获搏，pidstat比常用的ps更好使赖条！
1.4
其他
當(dāng)需要單獨(dú)監(jiān)測單個(gè) CPU 情況的時(shí)候，除了 htop 還可以使用 mpstat常熙，查看在 SMP 處理器上各個(gè) Core 的工作量是否負(fù)載均衡纬乍，是否有某些熱點(diǎn)線程占用 Core。
? ~ mpstat -P ALL 1
如果想直接監(jiān)測某個(gè)進(jìn)程占用的資源裸卫，既可以使用top -u taozj的方式過濾掉其他用戶無關(guān)進(jìn)程仿贬，也可以采用下面的方式進(jìn)行選擇，ps命令可以自定義需要打印的條目信息：
while :; do ps -eo user,pid,ni,pri,pcpu,psr,comm | grep 'ailawd'; sleep 1; done
如想理清繼承關(guān)系墓贿，下面一個(gè)常用的參數(shù)可以用于顯示進(jìn)程樹結(jié)構(gòu)茧泪，顯示效果比pstree詳細(xì)美觀的多
? ~ ps axjf
二蜓氨、磁盤IO類
iotop 可以直觀的顯示各個(gè)進(jìn)程、線程的磁盤讀取實(shí)時(shí)速率队伟；lsof 不僅可以顯示普通文件的打開信息(使用者)穴吹，還可以操作 /dev/sda1 這類設(shè)備文件的打開信息，那么比如當(dāng)分區(qū)無法 umount 的時(shí)候嗜侮，就可以通過 lsof 找出磁盤該分區(qū)的使用狀態(tài)了港令，而且添加 +fg 參數(shù)還可以額外顯示文件打開 flag 標(biāo)記。
2.1
iostat
? ~ iostat -xz 1
其實(shí)無論使用 iostat -xz 1 還是使用 sar -d 1锈颗，對(duì)于磁盤重要的參數(shù)是：
avgqu-s：發(fā)送給設(shè)備 I/O 請(qǐng)求的等待隊(duì)列平均長度顷霹，對(duì)于單個(gè)磁盤如果值>1表明設(shè)備飽和，對(duì)于多個(gè)磁盤陣列的邏輯磁盤情況除外
await(r_await宜猜、w_await)：平均每次設(shè)備 I/O 請(qǐng)求操作的等待時(shí)間(ms)泼返，包含請(qǐng)求排列在隊(duì)列中和被服務(wù)的時(shí)間之和；
svctm：發(fā)送給設(shè)備 I/O 請(qǐng)求的平均服務(wù)時(shí)間(ms)姨拥，如果 svctm 與 await 很接近绅喉，表示幾乎沒有 I/O 等待，磁盤性能很好叫乌，否則磁盤隊(duì)列等待時(shí)間較長柴罐，磁盤響應(yīng)較差；
%util：設(shè)備的使用率憨奸，表明每秒中用于 I/O 工作時(shí)間的占比革屠，單個(gè)磁盤當(dāng) %util>60% 的時(shí)候性能就會(huì)下降(體現(xiàn)在 await 也會(huì)增加)，當(dāng)接近100%時(shí)候就設(shè)備飽和了排宰，但對(duì)于有多個(gè)磁盤陣列的邏輯磁盤情況除外似芝；
還有，雖然監(jiān)測到的磁盤性能比較差板甘，但是不一定會(huì)對(duì)應(yīng)用程序的響應(yīng)造成影響党瓮，內(nèi)核通常使用 I/O asynchronously 技術(shù)，使用讀寫緩存技術(shù)來改善性能盐类，不過這又跟上面的物理內(nèi)存的限制相制約了寞奸。
上面的這些參數(shù)，對(duì)網(wǎng)絡(luò)文件系統(tǒng)也是受用的在跳。
三枪萄、網(wǎng)絡(luò)類
網(wǎng)絡(luò)性能對(duì)于服務(wù)器的重要性不言而喻，工具 iptraf 可以直觀的現(xiàn)實(shí)網(wǎng)卡的收發(fā)速度信息猫妙，比較的簡潔方便通過 sar -n DEV 1 也可以得到類似的吞吐量信息瓷翻，而網(wǎng)卡都標(biāo)配了最大速率信息，比如百兆網(wǎng)卡千兆網(wǎng)卡，很容易查看設(shè)備的利用率逻悠。
通常元践，網(wǎng)卡的傳輸速率并不是網(wǎng)絡(luò)開發(fā)中最為關(guān)切的，而是針對(duì)特定的 UDP童谒、TCP 連接的丟包率、重傳率沪羔，以及網(wǎng)絡(luò)延時(shí)等信息饥伊。
3.1
netstat
? ~ netstat -s
顯示自從系統(tǒng)啟動(dòng)以來，各個(gè)協(xié)議的總體數(shù)據(jù)信息蔫饰。雖然參數(shù)信息比較豐富有用琅豆，但是累計(jì)值，除非兩次運(yùn)行做差才能得出當(dāng)前系統(tǒng)的網(wǎng)絡(luò)狀態(tài)信息篓吁，亦或者使用 watch 眼睛直觀其數(shù)值變化趨勢(shì)茫因。所以netstat通常用來檢測端口和連接信息的：
netstat –all(a) –numeric(n) –tcp(t) –udp(u) –timers(o) –listening(l) –program(p)
–timers可以取消域名反向查詢，加快顯示速度杖剪；比較常用的有
? ~ netstat -antp #列出所有TCP的連接
? ~ netstat -nltp #列出本地所有TCP偵聽套接字冻押，不要加-a參數(shù)
3.2
sar
sar 這個(gè)工具太強(qiáng)大了，什么 CPU盛嘿、磁盤洛巢、頁面交換啥都管，這里使用 -n 主要用來分析網(wǎng)絡(luò)活動(dòng)次兆，雖然網(wǎng)絡(luò)中它還給細(xì)分了 NFS稿茉、IP、ICMP芥炭、SOCK 等各種層次各種協(xié)議的數(shù)據(jù)信息漓库，我們只關(guān)心 TCP 和 UDP。下面的命令除了顯示常規(guī)情況下段园蝠、數(shù)據(jù)報(bào)的收發(fā)情況渺蒿，還包括
TCP
? ~ sudo sar -n TCP,ETCP 1?
active/s：本地發(fā)起的 TCP 連接，比如通過 connect()砰琢，TCP 的狀態(tài)從CLOSED -> SYN-SENT
passive/s：由遠(yuǎn)程發(fā)起的 TCP 連接蘸嘶，比如通過 accept()，TCP 的狀態(tài)從LISTEN -> SYN-RCVD
retrans/s(tcpRetransSegs)：每秒鐘 TCP 重傳數(shù)目陪汽，通常在網(wǎng)絡(luò)質(zhì)量差训唱，或者服務(wù)器過載后丟包的情況下，根據(jù) TCP 的確認(rèn)重傳機(jī)制會(huì)發(fā)生重傳操作
isegerr/s(tcpInErrs)：每秒鐘接收到出錯(cuò)的數(shù)據(jù)包(比如 checksum 失敗)
UDP
? ~ sudo sar -n UDP 1?
noport/s(udpNoPorts)：每秒鐘接收到的但是卻沒有應(yīng)用程序在指定目的端口的數(shù)據(jù)報(bào)個(gè)數(shù)
idgmerr/s(udpInErrors)：除了上面原因之外的本機(jī)接收到但卻無法派發(fā)的數(shù)據(jù)報(bào)個(gè)數(shù)
當(dāng)然挚冤，這些數(shù)據(jù)一定程度上可以說明網(wǎng)絡(luò)可靠性况增，但也只有同具體的業(yè)務(wù)需求場景結(jié)合起來才具有意義。
3.3
tcpdump
tcpdump 不得不說是個(gè)好東西训挡。大家都知道本地調(diào)試的時(shí)候喜歡使用 wireshark澳骤，但是線上服務(wù)端出現(xiàn)問題怎么弄呢歧强？
附錄的參考文獻(xiàn)給出了思路：復(fù)原環(huán)境，使用 tcpdump 進(jìn)行抓包为肮，當(dāng)問題復(fù)現(xiàn)(比如日志顯示或者某個(gè)狀態(tài)顯現(xiàn))的時(shí)候摊册，就可以結(jié)束抓包了，而且 tcpdump 本身帶有 -C/-W 參數(shù)颊艳，可以限制抓取包存儲(chǔ)文件的大小茅特，當(dāng)達(dá)到這個(gè)這個(gè)限制的時(shí)候保存的包數(shù)據(jù)自動(dòng) rotate，所以抓包數(shù)量總體還是可控的棋枕。此后將數(shù)據(jù)包拿下線來白修，用 wireshark 想怎么看就怎么看，豈不樂哉！tcpdump 雖然沒有 GUI 界面，但是抓包的功能絲毫不弱苦丁，可以指定網(wǎng)卡、主機(jī)祖很、端口、協(xié)議等各項(xiàng)過濾參數(shù)寒矿，抓下來的包完整又帶有時(shí)間戳突琳，所以線上程序的數(shù)據(jù)包分析也可以這么簡單。
下面就是一個(gè)小的測試符相，可見 Chrome 啟動(dòng)時(shí)候自動(dòng)向 Webserver 發(fā)起建立了三條連接拆融，由于這里限制了 dst port 參數(shù)，所以服務(wù)端的應(yīng)答包被過濾掉了啊终，拿下來用 wireshark 打開镜豹，SYNC、ACK 建立連接的過程還是很明顯的蓝牲！在使用 tcpdump 的時(shí)候趟脂，需要盡可能的配置抓取的過濾條件，一方面便于接下來的分析例衍，二則 tcpdump 開啟后對(duì)網(wǎng)卡和系統(tǒng)的性能會(huì)有影響昔期，進(jìn)而會(huì)影響到在線業(yè)務(wù)的性能。
本文完佛玄！
原文作者：taozj
原文來源：https://taozj.org/201701/linux-performance-basic.html?
另外我們整理了一個(gè)學(xué)習(xí)知識(shí)庫硼一，你可以看一下：
【超全整理】《Linux云計(jì)算從入門到精通》系列實(shí)戰(zhàn)筆記全放送 | Linux運(yùn)維部落
