原文地址：讓 CPU 告訴你硬盤和網(wǎng)絡(luò)到底有多慢
簡介
經(jīng)常聽到有人說磁盤很慢、網(wǎng)絡(luò)很卡，這都是站在人類的感知維度去表述的，比如拷貝一個(gè)文件到硬盤需要幾分鐘到幾十分鐘偿枕，夠我去吃個(gè)飯啦；而從網(wǎng)絡(luò)下載一部電影户辫，有時(shí)候需要幾個(gè)小時(shí)渐夸，我都可以睡一覺了。
最為我們熟知的關(guān)于計(jì)算機(jī)不同組件速度差異的圖表渔欢，是下面這種金字塔形式：越往上速度越快捺萌，容量越小，而價(jià)格越高膘茎。這張圖只是給了我們一個(gè)直觀地感覺桃纯，并沒有對各個(gè)速度和性能做出量化的說明和解釋。而實(shí)際上披坏，不同層級之間的差異要比這張圖大的多态坦。這篇文章就讓你站在 CPU 的角度看這個(gè)世界，說說到底它們有多慢棒拂。
希望你看到看完這篇文章能明白兩件事情：磁盤和網(wǎng)絡(luò)真的很慢英岭，性能優(yōu)化是個(gè)復(fù)雜的系統(tǒng)性的活盐肃。
注：所有的數(shù)據(jù)都是來自這個(gè)地址寸士。所有的數(shù)據(jù)會(huì)因?yàn)闄C(jī)器配置不同慕趴，或者硬件的更新而有出入，但是不影響我們直覺的感受攻旦。如果對這些數(shù)據(jù)比較感興趣喻旷，這個(gè)網(wǎng)址給出了不同年份一些指標(biāo)的數(shù)值。
數(shù)據(jù)
- 先來看看 CPU 的速度牢屋，就拿我的電腦來說且预，主頻是 2.6G槽袄，也就是說每秒可以執(zhí)行
2.6*10^9個(gè)指令，每個(gè)指令只需要0.38ns（現(xiàn)在很多個(gè)人計(jì)算機(jī)的主頻要比這個(gè)高锋谐，配置比較高的能達(dá)到 3.0G+）遍尺。我們把這個(gè)時(shí)間當(dāng)做基本單位1s，因?yàn)?1s大概是人類能感知的最小時(shí)間單位涮拗。
一級緩存讀取時(shí)間為
0.5ns乾戏，換算成人類時(shí)間大約是1.3s，大約一次或者兩次心跳的時(shí)間三热。這里能看出緩存的重要性歧蕉，因?yàn)樗乃俣瓤梢在s上 CPU，程序本身的 locality 特性加上指令層級上的優(yōu)化康铭，cache 訪問的命中率很高，這最終能極大提高效率赌髓。分支預(yù)測錯(cuò)誤需要耗時(shí)
5ns从藤，換算成人類時(shí)間大約是13s，這個(gè)就有點(diǎn)久了锁蠕，所以你會(huì)看到很多文章分析如何優(yōu)化代碼來降低分支預(yù)測的幾率夷野，比如這個(gè)得分非常高的 stackoverflow 問題。二級緩存時(shí)間就比較久了荣倾，大約在
7ns悯搔，換算成人類時(shí)間大約是18.2s，可以看到的是如果一級緩存沒有命中舌仍，然后去二級緩存讀取數(shù)據(jù)妒貌，時(shí)間差了一個(gè)數(shù)量級。
小知識：為什么需要多層的 CPU 緩存呢铸豁？這篇文章通過一個(gè)通俗易懂的例子給出了講解灌曙。
我們繼續(xù)，互斥鎖的加鎖和解鎖時(shí)間需要
25ns节芥，換算成人類時(shí)間大約是65s在刺，首次達(dá)到了一分鐘。并發(fā)編程中头镊，我們經(jīng)常聽說鎖是一個(gè)很耗時(shí)的東西蚣驼，因?yàn)樵谖⒉t里加熱一個(gè)東西需要一分鐘的話，你要在那傻傻地等蠻久了相艇。然后就到了內(nèi)存颖杏，每次內(nèi)存尋址需要
100ns，換算成人類時(shí)間是260s坛芽，也就是4分多鐘输玷，如果讀一些不需要太多思考的文章队丝，這么久能讀完2-3千字（這個(gè)快閱讀的時(shí)代，很少人在手機(jī)上能靜心多這么字了）欲鹏』茫看起來還不算壞，不多要從內(nèi)存中讀取一段數(shù)據(jù)需要的時(shí)間會(huì)更多赔嚎。到了內(nèi)存之后膘盖，時(shí)間就變了一個(gè)量級，CPU 和內(nèi)存之間的速度瓶頸被稱為馮諾依曼瓶頸尤误。一次 CPU 上下文切換（系統(tǒng)調(diào)用）需要大約
1500ns侠畔，也就是1.5us（這個(gè)數(shù)字參考了這篇文章，采用的是單核 CPU 線程平均時(shí)間）损晤，換算成人類時(shí)間大約是65分鐘软棺，嗯，也就是一個(gè)小時(shí)尤勋。我們也知道上下文切換是很耗時(shí)的行為喘落，畢竟每次浪費(fèi)一個(gè)小時(shí)，也很讓人有罪惡感的最冰。上下文切換更恐怖的事情在于瘦棋，這段時(shí)間里 CPU 沒有做任何有用的計(jì)算，只是切換了兩個(gè)不同進(jìn)程的寄存器和內(nèi)存狀態(tài)暖哨；而且這個(gè)過程還破壞了緩存赌朋，讓后續(xù)的計(jì)算更加耗時(shí)。在 1Gbps 的網(wǎng)絡(luò)上傳輸 2K 的數(shù)據(jù)需要
20us篇裁，換算成人類時(shí)間是14.4小時(shí)沛慢，這么久都能把《星球大戰(zhàn)》六部曲看完了（甚至還加上吃飯撒尿的時(shí)間）！可以看到網(wǎng)絡(luò)上非常少數(shù)據(jù)傳輸對于 CPU 來說达布，已經(jīng)很漫長颠焦。而且這里的時(shí)間還是理論最大值，實(shí)際過程還要更慢一些往枣。SSD 隨機(jī)讀取耗時(shí)為
150us伐庭，換算成人類時(shí)間大約是4.5天。換句話說分冈，SSD 讀點(diǎn)數(shù)據(jù)圾另，CPU 都能休假，報(bào)團(tuán)參加周邊游了雕沉。雖然我們知道 SSD 要比機(jī)械硬盤快很多集乔，但是這個(gè)速度對于 CPU 來說也是像烏龜一樣。I/O 設(shè)備從硬盤開始速度開始變得漫長，這個(gè)時(shí)候我們就想起內(nèi)存的好處了扰路。盡量減少 IO 設(shè)備的讀寫尤溜，把最常用的數(shù)據(jù)放到內(nèi)存中作為緩存是所有程序的通識。像memcached和redis這樣的高速緩存系統(tǒng)近幾年的異軍突起汗唱，就是解決了這里的問題宫莱。從內(nèi)存中讀取
1MB的連續(xù)數(shù)據(jù)，耗時(shí)大約為250us哩罪，換算成人類時(shí)間是7.5天授霸，這次假期升級到國慶七天國外游了。同一個(gè)數(shù)據(jù)中心網(wǎng)絡(luò)上跑一個(gè)來回需要
0.5ms际插，換算成人類時(shí)間大約是15天碘耳，也就是半個(gè)月的時(shí)間。如果你的程序有段代碼需要和數(shù)據(jù)中心的其他服務(wù)器交互框弛，在這段時(shí)間里 CPU 都已經(jīng)狂做了半個(gè)月的運(yùn)算辛辨。減少不同服務(wù)組件的網(wǎng)絡(luò)請求，是性能優(yōu)化的一大課題瑟枫。從 SSD 讀取 1MB 的順序數(shù)據(jù)斗搞，大約需要
1ms，換算成人類時(shí)間是1個(gè)月力奋。也就是說 SSD 讀一個(gè)普通的文件，如果要等你做完幽七，CPU 一個(gè)月時(shí)間就荒廢了景殷。盡管如此，SSD 已經(jīng)很快啦澡屡，不信你看下面機(jī)械磁盤的表現(xiàn)猿挚。磁盤尋址時(shí)間為
10ms，換算成人類時(shí)間是10個(gè)月驶鹉，剛好夠人類創(chuàng)造一個(gè)新的生命了绩蜻。如果 CPU 需要讓磁盤泡杯咖啡，在它眼里室埋，磁盤去生了個(gè)孩子办绝，回來告訴它你讓我泡的咖啡好了。機(jī)械硬盤使用RPM(Revolutions Per Minute/每分鐘轉(zhuǎn)速)來評估磁盤的性能：RPM 越大姚淆，平均尋址時(shí)間更短孕蝉，磁盤性能越好。尋址只是把磁頭移動(dòng)到正確的磁道上腌逢，然后才能讀取指定扇區(qū)的內(nèi)容降淮。換句話說，尋址雖然很浪費(fèi)時(shí)間搏讶，但其實(shí)它并沒有辦任何的正事（讀取磁盤內(nèi)容）佳鳖。從磁盤讀取 1MB 連續(xù)數(shù)據(jù)需要
20ms霍殴，換算成人類時(shí)間是20個(gè)月。IO 設(shè)備是計(jì)算機(jī)系統(tǒng)的瓶頸系吩，希望讀到這里你能更深切地理解這句話来庭！如果還不理解，不妨想想你在網(wǎng)上買的東西淑玫，快遞送了將近兩年巾腕，你的心情是怎么樣的。而從世界上不同城市網(wǎng)絡(luò)上走一個(gè)來回絮蒿，平均需要
150ms（參考世界各地 ping 報(bào)文的時(shí)間）尊搬，換算成人類時(shí)間是12.5年。不難理解土涝，所有的程序和架構(gòu)都會(huì)盡量避免不同城市甚至是跨國家的網(wǎng)絡(luò)訪問佛寿，CDN 就是這個(gè)問題的一個(gè)解決方案：讓用戶和最接近自己的服務(wù)器交互，從而減少網(wǎng)絡(luò)上報(bào)文的傳輸時(shí)間但壮。虛擬機(jī)重啟一次大約要
4s時(shí)間冀泻，換算成人類的時(shí)間是3百多年。對于此蜡饵，我想到了喬布斯要死命優(yōu)化 Mac 系統(tǒng)開機(jī)啟動(dòng)時(shí)間的故事弹渔。如果機(jī)器能少重啟而且每次啟動(dòng)能快一點(diǎn)，不僅能救人命溯祸，也能救 CPU 的命肢专。物理服務(wù)器重啟一次需要
5min，換算成人類時(shí)間是2萬5千年焦辅，快趕上人類的文明史了博杖。5 分鐘人類都要等一會(huì)了，更別提 CPU 了筷登，所以沒事不要亂重啟服務(wù)器啊剃根，分分鐘終結(jié)一個(gè)文明的節(jié)奏。
