Linux GNU time 評(píng)估程序性能表現(xiàn)

在開發(fā)完程序后可能需要對(duì)程序進(jìn)行性能評(píng)估,比方說運(yùn)行速度和內(nèi)存占用在不同輸入和參數(shù)情況下的表現(xiàn)。在 Linux 使用 GNU time 可以很輕松地測(cè)量到這些指標(biāo)吠各,為什么說 GNU time 呢烟逊?因?yàn)橄到y(tǒng)可能有 2 個(gè) time 命令,一個(gè)是 shell 內(nèi)置的茵汰,一個(gè)是 GNU time 命令,后者路徑往往是 /usr/bin/time 可通過路徑調(diào)用。

# shell 內(nèi)置 time 
$ type time
time is a shell keyword

# GNU time
$ which time
/usr/bin/time

兩個(gè) time 命令的輸入格式都是:

time [option ...] command [argument ...]

time 命令本身 + time 命令參數(shù) + 要測(cè)量的命令(程序)及其參數(shù)梧田。

直接調(diào)用 time 命令時(shí)可能會(huì)調(diào)用到 shell 內(nèi)置的,建議使用 /usr/bin/time 路徑調(diào)用悼尾。

# shell 內(nèi)置 time 
$ time echo "just test"
just test

real    0m0.000s
user    0m0.000s
sys 0m0.000s

# GNU time
$ /usr/bin/time echo "just test"
just test
0.00user 0.00system 0:00.00elapsed 50%CPU (0avgtext+0avgdata 1792maxresident)k
0inputs+0outputs (0major+80minor)pagefaults 0swaps

GNU time 默認(rèn)輸出格式為:

%Uuser %Ssystem %Eelapsed %PCPU (%Xtext+%Ddata %Mmax)k
%Iinputs+%Ooutputs (%Fmajor+%Rminor)pagefaults %Wswaps

可通過 -f 參數(shù)修改輸出格式柿扣,如:

$ /usr/bin/time -f "%e elapsed %E user" echo "just test"
just test
0.00 elapsed 0:00.00 user

使用 -v 參數(shù)報(bào)告所有統(tǒng)計(jì)信息,我一般是這么用的闺魏,因?yàn)橐话?benchmark 都是要進(jìn)行大量不同條件的測(cè)試未状,而且要有重復(fù)。不如輸出所有統(tǒng)計(jì)保存到文件析桥,再寫個(gè)腳本去匯總統(tǒng)計(jì)司草。

$ /usr/bin/time -v echo "just test"
just test
    Command being timed: "echo just test"
    User time (seconds): 0.00
    System time (seconds): 0.00
    Percent of CPU this job got: 100%
    Elapsed (wall clock) time (h:mm:ss or m:ss): 0:00.00
    Average shared text size (kbytes): 0
    Average unshared data size (kbytes): 0
    Average stack size (kbytes): 0
    Average total size (kbytes): 0
    Maximum resident set size (kbytes): 1792
    Average resident set size (kbytes): 0
    Major (requiring I/O) page faults: 0
    Minor (reclaiming a frame) page faults: 81
    Voluntary context switches: 1
    Involuntary context switches: 0
    Swaps: 0
    File system inputs: 0
    File system outputs: 0
    Socket messages sent: 0
    Socket messages received: 0
    Signals delivered: 0
    Page size (bytes): 4096
    Exit status: 0

其中 "Maximum resident set size" 指命令最大內(nèi)存占用艰垂;"Elapsed (wall clock) time" 是命令現(xiàn)實(shí)的耗時(shí);"User time" 和 "System time" 加起來是 CPU time埋虹。

內(nèi)存占用多進(jìn)程問題
如果使用多進(jìn)程要注意最大內(nèi)存占用是否是所有進(jìn)程的加總猜憎,下面用一個(gè)測(cè)試腳本說明可能的問題,用 GNU time 測(cè)量結(jié)果與 psutil 測(cè)量結(jié)果進(jìn)行比較搔课。

將下面代碼寫入 MemoryTest.py 文件胰柑,代碼定義一個(gè) use_memory 函數(shù)會(huì)創(chuàng)建一個(gè)包含 1000000 隨機(jī)浮點(diǎn)數(shù)的列表。然后分別測(cè)試使用和不使用多進(jìn)程時(shí)最大內(nèi)存占用爬泥。

import multiprocessing
import random
import time

def use_memory(i):
    random.seed(1001)
    random_list = [random.random() for _ in range(1000000)]
    time.sleep(10)
    return None

# 非多進(jìn)程測(cè)試時(shí)使用
use_memory(0)

# 多進(jìn)程測(cè)試時(shí)使用
with multiprocessing.Pool(4) as poool:
    poool.map(use_memory, range(4))

使用 time 命令測(cè)試不使用多進(jìn)程的結(jié)果如下:

$ /usr/bin/time -f %M python MemoryTest.py 
403584

默認(rèn)單位為 Kbytes柬讨。

使用多進(jìn)程(4 進(jìn)程)的結(jié)果:

$ /usr/bin/time -f %M python MemoryTest.py 
401632

兩個(gè)結(jié)果相近,這不符合預(yù)期袍啡,莫非 time 只是測(cè)量一個(gè)子進(jìn)程踩官,沒有給所有的加總處理?

作為對(duì)比境输,寫一個(gè) GetMemory.py 腳本蔗牡,腳本里使用 psutil 每隔 1 秒對(duì)命令測(cè)量一次內(nèi)存占用,并輸出最大的占用值嗅剖。

import psutil
import subprocess
import time

def peak_memory(process: psutil.Process) -> int:
    rss = process.memory_info().rss
    for child_process in process.children():
        rss += child_process.memory_info().rss
    return rss

if __name__ == "__main__":
    run_cmd = subprocess.Popen(["python", "MemoryTest.py"])
    process = psutil.Process(run_cmd.pid)

    max_memory = 0
    # 只要 MemoryTest.py 沒結(jié)束就每隔 1 秒鐘測(cè)量一次內(nèi)存占用
    while run_cmd.poll() is None:
        each_memory = peak_memory(process)
        if each_memory > max_memory:
            max_memory = each_memory
        time.sleep(1)
    
    print(f"Peak Memory (Kbytes): {int(max_memory / 1024)}")

腳本使用 poll 函數(shù)檢測(cè)命令是否完成辩越,不使用 psutilis_running 函數(shù),因?yàn)樵?while 循環(huán)使用后者信粮,會(huì)導(dǎo)致命令完成后由于主程序未接受退出狀態(tài)并處理区匣,命令變成 zombie 狀態(tài)。由于 psutil.Process 是跟 pid 綁定的蒋院,而系統(tǒng) pid 是會(huì)被重復(fù)使用的亏钩,所以用這個(gè)模塊要注意操作。

使用 psutil 測(cè)量時(shí)欺旧,不使用多進(jìn)程結(jié)果:

$ python GetMemory.py 
Peak Memory (Kbytes): 403712

跟之前使用 time 測(cè)量結(jié)果相近姑丑。

使用多進(jìn)程結(jié)果:

$ python GetMemory.py 
Peak Memory (Kbytes): 1620840

大小約是不使用多進(jìn)程的 4 倍,這也是設(shè)置的進(jìn)程數(shù)辞友,看起來是合理的栅哀。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市称龙,隨后出現(xiàn)的幾起案子留拾,更是在濱河造成了極大的恐慌,老刑警劉巖鲫尊,帶你破解...
    沈念sama閱讀 206,839評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件痴柔,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡疫向,警方通過查閱死者的電腦和手機(jī)咳蔚,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門豪嚎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人谈火,你說我怎么就攤上這事侈询。” “怎么了糯耍?”我有些...
    開封第一講書人閱讀 153,116評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵扔字,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我温技,道長(zhǎng)啦租,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,371評(píng)論 1 279
  • 正文 為了忘掉前任荒揣,我火速辦了婚禮,結(jié)果婚禮上焊刹,老公的妹妹穿的比我還像新娘系任。我一直安慰自己,他們只是感情好虐块,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,384評(píng)論 5 374
  • 文/花漫 我一把揭開白布俩滥。 她就那樣靜靜地躺著,像睡著了一般贺奠。 火紅的嫁衣襯著肌膚如雪霜旧。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,111評(píng)論 1 285
  • 那天儡率,我揣著相機(jī)與錄音挂据,去河邊找鬼。 笑死儿普,一個(gè)胖子當(dāng)著我的面吹牛崎逃,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播眉孩,決...
    沈念sama閱讀 38,416評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼个绍,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了浪汪?” 一聲冷哼從身側(cè)響起巴柿,我...
    開封第一講書人閱讀 37,053評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎死遭,沒想到半個(gè)月后广恢,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,558評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡呀潭,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,007評(píng)論 2 325
  • 正文 我和宋清朗相戀三年袁波,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了瓦阐。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,117評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡篷牌,死狀恐怖睡蟋,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情枷颊,我是刑警寧澤戳杀,帶...
    沈念sama閱讀 33,756評(píng)論 4 324
  • 正文 年R本政府宣布,位于F島的核電站夭苗,受9級(jí)特大地震影響信卡,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜题造,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,324評(píng)論 3 307
  • 文/蒙蒙 一傍菇、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧界赔,春花似錦丢习、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至袜腥,卻和暖如春见擦,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背羹令。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評(píng)論 1 262
  • 我被黑心中介騙來泰國(guó)打工鲤屡, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人福侈。 一個(gè)月前我還...
    沈念sama閱讀 45,578評(píng)論 2 355
  • 正文 我出身青樓执俩,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親癌刽。 傳聞我的和親對(duì)象是個(gè)殘疾皇子役首,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,877評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容