CUDA_DEVICE_ORDER 環(huán)境變量說明

NVML工具nvidia-smi按設備的PCI Bus ID 為設備分配索引序號讼呢,由于PCI Bus ID 是硬件相關的剩拢,我們把設備的 PCI Bus ID 或者按該ID分配的索引號為物理ID百姓。

CUDA應用運行時進行設備查詢(比如deviceQuery)返回的設備ID可能與物理ID不一致,譬如下面這位網(wǎng)友遇到的情況:

## NVML id 是 物理ID内斯,CUDA index是CUDA應用查詢返回的設備ID
NVML id 0 maps to Cuda index 4
NVML id 1 maps to Cuda index 5
NVML id 2 maps to Cuda index 6
NVML id 3 maps to Cuda index 7
NVML id 4 maps to Cuda index 0
NVML id 5 maps to Cuda index 1
NVML id 6 maps to Cuda index 2
NVML id 7 maps to Cuda index 3
NVML id 8 maps to Cuda index 8
NVML id 9 maps to Cuda index 9
NVML id 10 maps to Cuda index 10
NVML id 11 maps to Cuda index 11
NVML id 12 maps to Cuda index 12
NVML id 13 maps to Cuda index 13
NVML id 14 maps to Cuda index 14
NVML id 15 maps to Cuda index 15

CUDA_VISIBLE_DEVICES 環(huán)境變量說明TensorFlow知識點 我們講過可以設置 CUDA_VISIBLE_DEVICES 變量來根據(jù)設備ID選擇性地使用設備叨咖。注意到設備ID 與物理ID不一致的可能性,實際使用的未必是想要使用的設備矢劲,將會導致CUDA應用崩潰赦拘,見Tensorflow issue #152

我們可以通過設置 CUDA_DEVICE_ORDER = PCI_BUS_ID 來要求運行時設備查詢按照 PCI_BUS_ID 的順序索引芬沉,從而使得 設備ID=物理ID 保證CUDA應用按期望使用指定設備躺同。目前最佳的設置方法是同時設置 CUDA_DEVICE_ORDER = PCI_BUS_ID 和 CUDA_VISIBLE_DEVICES 。

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末丸逸,一起剝皮案震驚了整個濱河市蹋艺,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌黄刚,老刑警劉巖捎谨,帶你破解...
    沈念sama閱讀 222,590評論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡涛救,警方通過查閱死者的電腦和手機畏邢,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評論 3 399
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來检吆,“玉大人舒萎,你說我怎么就攤上這事〔渑妫” “怎么了逆甜?”我有些...
    開封第一講書人閱讀 169,301評論 0 362
  • 文/不壞的土叔 我叫張陵,是天一觀的道長致板。 經(jīng)常有香客問我,道長咏窿,這世上最難降的妖魔是什么斟或? 我笑而不...
    開封第一講書人閱讀 60,078評論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮集嵌,結(jié)果婚禮上萝挤,老公的妹妹穿的比我還像新娘。我一直安慰自己根欧,他們只是感情好怜珍,可當我...
    茶點故事閱讀 69,082評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著凤粗,像睡著了一般酥泛。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上嫌拣,一...
    開封第一講書人閱讀 52,682評論 1 312
  • 那天柔袁,我揣著相機與錄音,去河邊找鬼异逐。 笑死捶索,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的灰瞻。 我是一名探鬼主播腥例,決...
    沈念sama閱讀 41,155評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼酝润!你這毒婦竟也來了燎竖?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 40,098評論 0 277
  • 序言:老撾萬榮一對情侶失蹤袍祖,失蹤者是張志新(化名)和其女友劉穎底瓣,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,638評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡捐凭,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,701評論 3 342
  • 正文 我和宋清朗相戀三年拨扶,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片茁肠。...
    茶點故事閱讀 40,852評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡患民,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出垦梆,到底是詐尸還是另有隱情匹颤,我是刑警寧澤,帶...
    沈念sama閱讀 36,520評論 5 351
  • 正文 年R本政府宣布托猩,位于F島的核電站印蓖,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏京腥。R本人自食惡果不足惜赦肃,卻給世界環(huán)境...
    茶點故事閱讀 42,181評論 3 335
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望公浪。 院中可真熱鬧他宛,春花似錦、人聲如沸欠气。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,674評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽预柒。三九已至队塘,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間卫旱,已是汗流浹背人灼。 一陣腳步聲響...
    開封第一講書人閱讀 33,788評論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留顾翼,地道東北人投放。 一個月前我還...
    沈念sama閱讀 49,279評論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像适贸,于是被迫代替她去往敵國和親灸芳。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,851評論 2 361