tensorflow安裝CPU指令集(AVX2)警告解決方案

問(wèn)題原因

在macOS通過(guò)pip3 install 安裝tensorflow(CPU版)后豫领,運(yùn)行示例代碼

import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')
sess = tf.Session()
print(sess.run(hello).decode())

運(yùn)行之后可以正常輸出

“Hello, TensorFlow!"

但是有一個(gè)警告警告提示:

 I tensorflow/core/platform/cpu_feature_guard.cc:140] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2 FMA

在Stack Overflow上面關(guān)于這個(gè)問(wèn)題有一個(gè)詳細(xì)的解答

大致翻譯一下高贊答案:

Modern CPUs provide a lot of low-level instructions, besides the usual arithmetic and logic, known as extensions, e.g. SSE2, SSE4, AVX, etc. From the Wikipedia:

Advanced Vector Extensions (AVX) are extensions to the x86 instruction set architecture for microprocessors from Intel and AMD proposed by Intel in March 2008 and first supported by Intel with the Sandy Bridge processor shipping in Q1 2011 and later on by AMD with the Bulldozer processor shipping in Q3 2011. AVX provides new features, new instructions and a new coding scheme.
In particular, AVX introduces fused multiply-accumulate (FMA) operations, which speed up linear algebra computation, namely dot-product, matrix multiply, convolution, etc. Almost every machine-learning training involves a great deal of these operations, hence will be faster on a CPU that supports AVX and FMA (up to 300%). The warning states that your CPU does support AVX (hooray!).
I'd like to stress here: it's all about CPU only.

現(xiàn)代CPU提供了一系列低級(jí)別的指令集,除了通常的算術(shù)和邏輯之外尊搬,被稱為擴(kuò)展绩卤,例如途样, SSE2,SSE4濒憋,AVX等何暇。
維基百科有描述:

高級(jí)矢量擴(kuò)展(AVX)是英特爾在2008年3月提出的英特爾和AMD微處理器的x86指令集體系結(jié)構(gòu)的擴(kuò)展,英特爾首先通過(guò)Sandy Bridge處理器在2011年第一季度推出跋炕,隨后由AMD推出Bulldozer處理器 在2011年第三季度.AVX提供了新功能赖晶,新指令和新編碼方案。

特別是,AVX引入了融合乘法累加(FMA)操作遏插,加速了線性代數(shù)計(jì)算捂贿,即點(diǎn)積,矩陣乘法胳嘲,卷積等厂僧。幾乎所有機(jī)器學(xué)習(xí)訓(xùn)練都涉及大量這些操作,因此將會(huì) 支持AVX和FMA的CPU(最高達(dá)300%)更快了牛。 該警告指出您的CPU確實(shí)支持AVX(hoorayQ胀馈)。

那為什么沒(méi)有使用呢鹰祸?

由于tensorflow默認(rèn)是在沒(méi)有CPU擴(kuò)展的情況下構(gòu)建的甫窟,例如SSE4.1,SSE4.2蛙婴,AVX粗井,AVX2,F(xiàn)MA等街图。默認(rèn)版本(來(lái)自pip install tensorflow的版本)旨在與盡可能多的CPU兼容浇衬。 另一個(gè)觀點(diǎn)是,即使使用這些擴(kuò)展名餐济,CPU的速度也要比GPU低很多耘擂,所以它預(yù)計(jì)中大型機(jī)器學(xué)習(xí)任務(wù)應(yīng)該在GPU上執(zhí)行。

那我們應(yīng)該怎么辦

如果你有GPU的話絮姆,直接忽略這一項(xiàng)即可醉冤,因?yàn)榇蟛糠值母呦牟僮鞫紩?huì)被分配到GPU上執(zhí)行(除非你設(shè)置了不這么做)。在這種情況下滚朵,你可以通過(guò)下面這個(gè)方式直接忽略這個(gè)警告:

import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'

這種方法只是去掉警告冤灾,實(shí)際上是沒(méi)有解決問(wèn)題的。

如果你沒(méi)有GPU辕近,你想最大化使用CPU韵吨,你應(yīng)該啟動(dòng)你的CPU的AVX,AVX2以及FMA拓展移宅。在這個(gè)問(wèn)題以及這個(gè)GitHub issue里面都有詳細(xì)的討論归粉。Tensorflow使用稱為bazel的ad-hoc構(gòu)建系統(tǒng),構(gòu)建它并不是那么簡(jiǎn)單漏峰,但肯定是可行的糠悼。 在此之后,不僅警告消失浅乔,張量流性能也應(yīng)該改善倔喂。

解決方法

什么是SSE4.2和AVX铝条?

SIMD (Single Instruction Multiple Data)單指令流多數(shù)據(jù)流,是一種采用一個(gè)控制器來(lái)控制多個(gè)處理器席噩,同時(shí)對(duì)一組數(shù)據(jù)(又稱“數(shù)據(jù)向量”)中的每一個(gè)分別執(zhí)行相同的操作從而實(shí)現(xiàn)空間上的并行性技術(shù)班缰。

在微處理器中,SIMD則是一個(gè)控制器控制多個(gè)并行的處理微元悼枢,例如Intel的MMX或SSE埠忘,以及AMD的3D NOW指令集。

所以說(shuō)SSE4.2和AVX都是一種SIMD指令集馒索。

對(duì)于TF tasks莹妒。SSE4.2和AVX使向量和矩陣計(jì)算更加高效。具體可以看這個(gè)課件绰上。

所以該怎么做旨怠,大概只能重裝一遍tensorflow了。注意這次重裝時(shí)候要從源碼安裝渔期,從在源碼安裝的時(shí)候進(jìn)行相關(guān)的設(shè)置运吓。

從源碼安裝的官方教程總體來(lái)說(shuō)還是非常麻煩的,需要很多依賴疯趟,安裝一些其他的東西。

基本過(guò)程可以概括為三步:

  1. 下載TensorFlow源碼
  2. 準(zhǔn)備安裝環(huán)境 (此處需要安裝很多東西)
  3. 構(gòu)建pip軟件包(一個(gè).whl后綴文件)
  4. 使用pip命令進(jìn)行本地安裝

其中2谋梭,3步驟都非常負(fù)責(zé)信峻,及其容易出錯(cuò)。

最終采用的是另外一種方法瓮床。
到這個(gè)GitHub repo下載自己對(duì)應(yīng)版本的pip軟件包盹舞。

<font color =red>一定要對(duì)應(yīng)版本!</font>

版本查看方式

$ python3

Python 3.6.5 (default, Apr 25 2018, 14:23:58) 
[GCC 4.2.1 Compatible Apple LLVM 9.1.0 (clang-902.0.39.1)] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>>

從中可以得出我們的版本 Python 3.6.5 clang-902.0.29.1,又這兩個(gè)版本號(hào)加上自己的系統(tǒng)名在上面的GitHub repo里面選擇對(duì)應(yīng)的軟件包隘庄。下載下來(lái)相當(dāng)于直接完成了官網(wǎng)教材的前3步踢步。

所以只需要執(zhí)行第4步。

pip install --ignore-installed --upgrade /path/to/binary.whl

注意 Python3的pip命令是pip3 這條語(yǔ)句可以忽略我們已經(jīng)安裝好的tf包丑掺,不需要卸載获印,會(huì)直接升級(jí)過(guò)去。很方便街州。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末兼丰,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子唆缴,更是在濱河造成了極大的恐慌鳍征,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,755評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件面徽,死亡現(xiàn)場(chǎng)離奇詭異艳丛,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,305評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門氮双,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)碰酝,“玉大人,你說(shuō)我怎么就攤上這事眶蕉∨榇猓” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,138評(píng)論 0 355
  • 文/不壞的土叔 我叫張陵造挽,是天一觀的道長(zhǎng)碱璃。 經(jīng)常有香客問(wèn)我,道長(zhǎng)饭入,這世上最難降的妖魔是什么嵌器? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,791評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮谐丢,結(jié)果婚禮上爽航,老公的妹妹穿的比我還像新娘。我一直安慰自己乾忱,他們只是感情好讥珍,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,794評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著窄瘟,像睡著了一般衷佃。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上蹄葱,一...
    開(kāi)封第一講書(shū)人閱讀 51,631評(píng)論 1 305
  • 那天氏义,我揣著相機(jī)與錄音,去河邊找鬼图云。 笑死惯悠,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的竣况。 我是一名探鬼主播克婶,決...
    沈念sama閱讀 40,362評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼帕翻!你這毒婦竟也來(lái)了鸠补?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 39,264評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤嘀掸,失蹤者是張志新(化名)和其女友劉穎紫岩,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體睬塌,經(jīng)...
    沈念sama閱讀 45,724評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡泉蝌,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,900評(píng)論 3 336
  • 正文 我和宋清朗相戀三年歇万,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片勋陪。...
    茶點(diǎn)故事閱讀 40,040評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡贪磺,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出诅愚,到底是詐尸還是另有隱情寒锚,我是刑警寧澤,帶...
    沈念sama閱讀 35,742評(píng)論 5 346
  • 正文 年R本政府宣布违孝,位于F島的核電站刹前,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏雌桑。R本人自食惡果不足惜喇喉,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,364評(píng)論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望校坑。 院中可真熱鬧拣技,春花似錦、人聲如沸耍目。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,944評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)邪驮。三九已至掸绞,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間耕捞,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,060評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工烫幕, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留俺抽,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,247評(píng)論 3 371
  • 正文 我出身青樓较曼,卻偏偏與公主長(zhǎng)得像磷斧,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子捷犹,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,979評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容