聽(tīng)到GPU,多數(shù)人肯定會(huì)聯(lián)想的CPU，那里還是單核的時(shí)代惹悄，每條指令都是順序執(zhí)行春叫。相比CPU，很多人可能聽(tīng)說(shuō)過(guò)一個(gè)比喻：GPU是一群小學(xué)生，扎堆算加減法暂殖；CPU是一個(gè)老教授价匠，能解微積分。
先上一張老生常談的圖吧呛每，說(shuō)起這個(gè)問(wèn)題需要長(zhǎng)篇大論解釋CPU和GPU本身區(qū)別或者GPU浮點(diǎn)為什么比CPU高踩窖？
那么，先拋一個(gè)簡(jiǎn)單明了的答案：CPU和GPU本身設(shè)計(jì)方式和運(yùn)算目的不同導(dǎo)致了這種差距晨横，那么我來(lái)細(xì)說(shuō)一下洋腮。
CPU和GPU設(shè)計(jì)上大概有什么不同：
1：CPU中大部分（大概70%）晶體管用來(lái)構(gòu)建Cache還有一部分控制單元，負(fù)責(zé)邏輯算數(shù)的部分并不多手形；而GPU整個(gè)就是一個(gè)龐大的計(jì)算陣列（包括alu和shader填充）啥供，我們知道GPU大致分為3d setup和流計(jì)算兩個(gè)部分，而GPGPU就是用流計(jì)算來(lái)做大量密集型運(yùn)算库糠，比如linpack這種求解大規(guī)模稠密線性方程組滤灯。GPU中負(fù)責(zé)邏輯算數(shù)的部分要遠(yuǎn)遠(yuǎn)大于CPU因此在邏輯運(yùn)算上當(dāng)然就比CPU強(qiáng)太多
2：GPU對(duì)Cache的依賴比CPU小，因?yàn)镚PU用的是高速度總線曼玩；其次GPU的數(shù)據(jù)具有高度對(duì)齊性以及不符合局部化假設(shè)鳞骤、比CPU更深的pipeline執(zhí)行還有一點(diǎn)就是很少把數(shù)據(jù)寫(xiě)回。
但是CPU不同黍判，它非常需要Cache豫尽，有無(wú)Cache的CPU差距可以是極大的。其實(shí)Cache是人類如今對(duì)于硅工藝的一種“妥協(xié)”——我們總是希望擁有一個(gè)存儲(chǔ)器它的CPU比肩或者接近于CPU同時(shí)又可以在容量上做大顷帖。但目前硅工藝限制了這個(gè)“天馬行空”的幻想美旧，因此，人類不得已做出了Cache這個(gè)片上存儲(chǔ)器贬墩，它的速度的確是最快的榴嗅，位于存儲(chǔ)器體系結(jié)構(gòu)的最高層，但它也是容量最小的陶舞。它可以擴(kuò)大嗽测，但是進(jìn)步很小，至于原因其中大概是2點(diǎn)：1：Cache是構(gòu)建于CPU內(nèi)部肿孵，需要考慮面積唠粥；2：需要權(quán)衡利弊，比如l1不能無(wú)限做大是因?yàn)楸旧碇铝τ跒镃PU提供一個(gè)快速的數(shù)據(jù)遞交停做，而l1如果做大那么命中時(shí)間增加以及延遲開(kāi)銷的影響來(lái)說(shuō)這就是非常大的弊端了晤愧。
為什么CPU需求Cache？上面說(shuō)的已經(jīng)透露了一些蛉腌，CPU需要處理不同類型的數(shù)據(jù)更是需要存儲(chǔ)器的配合來(lái)執(zhí)行l(wèi)oad/store指令官份，所以只厘，我們通過(guò)在CPU內(nèi)部構(gòu)建一個(gè)Cache作為片上存儲(chǔ)器配合DRAM、ROM整個(gè)存儲(chǔ)器體系結(jié)構(gòu)為配合CPU處理load/store指令舅巷；還有一點(diǎn)是CPU的總線速度非常落后懈凹。
3：還有一點(diǎn)就是核心的不同。CPU的核心內(nèi)部因?yàn)橛写罅緾ache所以一個(gè)邏輯核心普遍是比GPU中的Stream Processors大的悄谐，GPU中的SP就是簡(jiǎn)單的核心但是CPU不同介评，在core的設(shè)計(jì)上CPU是比GPU復(fù)雜的多。
CPU和GPU計(jì)算目的的不同：
1：如上就可以看出來(lái)爬舰。CPU本身設(shè)計(jì)初衷適合串行们陆，而GPU則是適合大規(guī)模并行。CPU所作的工作是極度復(fù)雜的情屹，處理的指令之間有復(fù)雜的邏輯關(guān)系坪仇，比如Dependence還有branch Instruction等等，這些都是GPU做不來(lái)的垃你。
2：GPU需要做的工作在復(fù)雜度上遠(yuǎn)不如CPU椅文，GPU需要處理的數(shù)據(jù)之間沒(méi)有任何的Dependence，所以它們可以并行執(zhí)行惜颇，比如Vertex和Pixel兩種數(shù)據(jù)處理都運(yùn)行獨(dú)立數(shù)據(jù)產(chǎn)生獨(dú)立結(jié)果因此可以達(dá)到高度并行皆刺。換句話來(lái)說(shuō)，GPU因?yàn)樵O(shè)計(jì)問(wèn)題天生適合大規(guī)模SIMT/SIMD運(yùn)算方式凌摄。它就是一個(gè)針對(duì)向量計(jì)算進(jìn)行高度并行并且以數(shù)據(jù)流作為處理單元的處理機(jī)這樣在對(duì)數(shù)據(jù)流的處理上可以獲得很高的效率羡蛾。
如上是大致說(shuō)出了GPU比CPU在alu計(jì)算上的關(guān)鍵所在，那么我前面說(shuō)過(guò)了锨亏，GPU主要是兩部分：一部分是3d setup痴怨；一部分是負(fù)責(zé)密集型流計(jì)算的。后者是屬于可編程的器予，那么GPGPU正是利用OpenCL浪藻、CUDA這些專用非圖形接口API讓流計(jì)算的部分來(lái)解決非圖形問(wèn)題，比如流體模擬乾翔、爆炸等等這些適合大規(guī)模密集型運(yùn)算的工作爱葵。
如上，在GPU通用計(jì)算上GPU比CPU強(qiáng)的原因無(wú)外乎就是：因?yàn)楦灸康牡牟煌a(chǎn)生了不同設(shè)計(jì)因而導(dǎo)致各自計(jì)算方向不同所以產(chǎn)生了這樣的差距末融。
