圖像數(shù)據(jù)通道格式:NCHW和NHWC的區(qū)別

在深度學(xué)習(xí)中,圖像數(shù)據(jù)通道格式有兩種:

  • NCHW锦溪,又稱:“channels_first”躏精,是nvidia cudnn庫原生支持的數(shù)據(jù)模式李丰;在GPU中惭蟋,使用NCHW格式計算卷積苗桂,比NHWC要快2.5倍左右(0:54 vs 2:14)
    GPU中NCHW比NHWC卷積計算速度快
  • NHWC, 又稱“channels_last”,是CPU指令比較適合的方式敞葛,SSE 或 AVX優(yōu)化誉察,沿著最后一維与涡,即C維計算惹谐,會更快。
  • NCHW排列驼卖,C在外層氨肌,所以每個通道內(nèi),像素緊挨在一起酌畜,即“RRRGGGBBB”怎囚;NHWC排列,C在最內(nèi)層桥胞,所以每個通道內(nèi)恳守,像素間隔挨在一起,即“RGBRGBRGB”贩虾,如下所示:
    NCHW和NHWC在內(nèi)存中的排布
  • 盡管存儲的數(shù)據(jù)實際上是一樣的催烘,但是不同的順序會導(dǎo)致數(shù)據(jù)的訪問特性不一致,因此即使進行同樣的運算缎罢,相應(yīng)的計算性能也會不一樣伊群。對于"NCHW" 而言,其同一個通道的像素值連續(xù)排布策精,更適合那些需要對每個通道單獨做運算的操作舰始,比如"MaxPooling"。對于"NHWC"而言咽袜,其不同通道中的同一位置元素順序存儲丸卷,因此更適合那些需要對不同通道的同一像素做某種運算的操作,比如“Conv1x1”
    NCHW和NHWC計算區(qū)別
  • 由于NCHW询刹,需要把所有通道的數(shù)據(jù)都讀取到谜嫉,才能運算抽莱,所以在計算時需要的存儲更多。這個特性適合GPU運算骄恶,正好利用了GPU內(nèi)存帶寬較大并且并行性強的特點食铐,其訪存與計算的控制邏輯相對簡單;而NHWC僧鲁,每讀取三個像素虐呻,都能獲得一個彩色像素的值,即可對該彩色像素進行計算寞秃,這更適合多核CPU運算斟叼,CPU的內(nèi)存帶寬相對較小,每個像素計算的時延較低春寿,臨時空間也很欣噬;若采取異步方式邊讀邊算來減小訪存時間绑改,計算控制會比較復(fù)雜谢床,這也比較適合CPU。
    結(jié)論:在訓(xùn)練模型時厘线,使用GPU识腿,適合NCHW格式;在CPU中做推理時造壮,適合NHWC格式渡讼。采用什么格式排列,由計算硬件的特點決定耳璧。OpenCV在設(shè)計時是在CPU上運算的成箫,所以默認HWC格式。TensorFlow的默認格式是NHWC旨枯,也支持cuDNN的NCHW
import cv2
import matplotlib.pyplot as plt
import numpy as np
img = cv2.imread("data/images/bus.jpg")
img = cv2.resize(img, (5,4)) #(x, y) -> (W, H)
print(img.shape) # (H,W,C)
plt.figure()
plt.imshow(img)
plt.show()
line1 = img[1,...]
line1 = np.expand_dims(line1, axis=0)
print(line1.shape)
print(line1)
plt.figure()
plt.imshow(line1)
plt.show()
print("BGR->RGB")
rgb_line1 = cv2.cvtColor(line1, cv2.COLOR_BGR2RGB)
print(rgb_line1.shape)
print(rgb_line1)
print()
print("HWC->CHW")
CHW_line1 = np.transpose(line1, (2,0,1))
print(CHW_line1.shape)
print(CHW_line1)

運行結(jié)果如下:
img.shape and imshow(img)
print(line1.shape) & print(line1)

BGR->RGB & HWC->CHW
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蹬昌,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子召廷,更是在濱河造成了極大的恐慌凳厢,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,651評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件竞慢,死亡現(xiàn)場離奇詭異先紫,居然都是意外死亡,警方通過查閱死者的電腦和手機筹煮,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,468評論 3 392
  • 文/潘曉璐 我一進店門遮精,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事本冲∽贾” “怎么了?”我有些...
    開封第一講書人閱讀 162,931評論 0 353
  • 文/不壞的土叔 我叫張陵檬洞,是天一觀的道長狸膏。 經(jīng)常有香客問我,道長添怔,這世上最難降的妖魔是什么湾戳? 我笑而不...
    開封第一講書人閱讀 58,218評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮广料,結(jié)果婚禮上砾脑,老公的妹妹穿的比我還像新娘。我一直安慰自己艾杏,他們只是感情好韧衣,可當(dāng)我...
    茶點故事閱讀 67,234評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著购桑,像睡著了一般畅铭。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上其兴,一...
    開封第一講書人閱讀 51,198評論 1 299
  • 那天顶瞒,我揣著相機與錄音夸政,去河邊找鬼元旬。 笑死,一個胖子當(dāng)著我的面吹牛守问,可吹牛的內(nèi)容都是我干的匀归。 我是一名探鬼主播,決...
    沈念sama閱讀 40,084評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼耗帕,長吁一口氣:“原來是場噩夢啊……” “哼穆端!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起仿便,我...
    開封第一講書人閱讀 38,926評論 0 274
  • 序言:老撾萬榮一對情侶失蹤体啰,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后嗽仪,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體荒勇,經(jīng)...
    沈念sama閱讀 45,341評論 1 311
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,563評論 2 333
  • 正文 我和宋清朗相戀三年闻坚,在試婚紗的時候發(fā)現(xiàn)自己被綠了沽翔。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,731評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖仅偎,靈堂內(nèi)的尸體忽然破棺而出跨蟹,到底是詐尸還是另有隱情,我是刑警寧澤橘沥,帶...
    沈念sama閱讀 35,430評論 5 343
  • 正文 年R本政府宣布窗轩,位于F島的核電站,受9級特大地震影響座咆,放射性物質(zhì)發(fā)生泄漏品姓。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,036評論 3 326
  • 文/蒙蒙 一箫措、第九天 我趴在偏房一處隱蔽的房頂上張望腹备。 院中可真熱鬧,春花似錦斤蔓、人聲如沸植酥。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,676評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽友驮。三九已至,卻和暖如春驾锰,著一層夾襖步出監(jiān)牢的瞬間卸留,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,829評論 1 269
  • 我被黑心中介騙來泰國打工椭豫, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留耻瑟,地道東北人。 一個月前我還...
    沈念sama閱讀 47,743評論 2 368
  • 正文 我出身青樓赏酥,卻偏偏與公主長得像喳整,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子裸扶,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,629評論 2 354

推薦閱讀更多精彩內(nèi)容