安裝GPU加速的tensorflow 卸載tensorflow
一: 本次安裝實驗環(huán)境
Ubuntu 16.04 + cuda9.0 + cudnn7.0
或
Ubuntu 16.04 + cuda8.0 + cudnn5.1
什么是CUDA呢京痢?簡單的來講它是為了實現(xiàn)GPU運算的平臺祭椰。我們的tensorflow會調(diào)用cuda的接口方淤,利用顯卡幫助我們運算程序
而CUDNN是為了加速神經(jīng)網(wǎng)絡(luò)用的
二: 卸載TensorFlow
先介紹卸載携茂, 如果你的tensorflow是用pip安裝的,那下面簡單的命令就可以完成卸載了
sudo pip uninstall tensorflow_gpu
sudo pip3 uninstall tensorflow_gpu
用 pip 還是pip3基于你是用python2 還是用python3安裝的tensorflow
三: 關(guān)于驅(qū)動那點事:
安裝之前要先換驅(qū)動带膜,如果你之前換過膝藕,那可以跳過這步直接進入主題芭挽。
方法如下:
打開system settings --> software & Updates --> Additional Drivers
然后選擇你需要的顯卡驅(qū)動览绿。(一般選擇nvidia的顯卡驅(qū)動)
如果還不清楚饿敲,或者不行怀各,可參考這兩個地址:
http://blog.csdn.net/tianrolin/article/details/52830422
http://blog.csdn.net/u012581999/article/details/52433609
在正式進入安裝之前,請先把cuda和cudnn對應(yīng)的版本下載好:
本教程給的例子是 : Ubuntu16.04 + cuda9.0 + cudnn7.0 + tensorflow1.9和Ubuntu16.04 + cuda8.0 + cudnn5.1 + tensorflow1.9
對于cuda和cudnn的下載瓢对,官網(wǎng)鏈接如下:
https://developer.nvidia.com/cuda-toolkit-archive
https://developer.nvidia.com/rdp/cudnn-archive
如果官網(wǎng)網(wǎng)速不夠寿酌,可以用我給的鏈接(沒幣私信):
注意:這個版本搭配不是唯一的,首先你要了解你電腦的顯卡是什么類型硕蛹,然后根據(jù)你的顯卡類型選擇cuda的版本醇疼,在根據(jù)cuda的版本選擇cudnn的版本,最后再根據(jù)前面兩種的搭配選擇tensorflow的版本
https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html
Selection_017.png
tensorflow 1.4 及以下選擇cuda8.0 , 以上選擇cuda9.0
安裝cuda(以9.0為例子)
注意法焰,下載.run文件秧荆,不要下載.deb文件埃仪,否則就踩坑了
安裝命令:
sudo sh cuda_9.0.176_384.81_linux.run
執(zhí)行后會給一段協(xié)議乙濒,按ctrl+c 跳過閱讀, 然后 accept接受協(xié)議卵蛉,選項如下:
你還會看到這個類似安裝失敗的提示:
別在意颁股,要確定自己是不是安裝成功,如下
驗證是否安裝完成
cd /usr/local/cuda-9.0/samples/1_Utilities/deviceQuery
(或者手動進入改文件夾傻丝,注意甘有,同樣路徑中cuda-9.0根據(jù)cuda的版本變化而變化)
sudo make (報錯可以不管)
./deviceQuery
如果顯示的是關(guān)于GPU的信息,則說明安裝成功了桑滩。
四:安裝cudnn
同樣注意安裝版本梧疲,例子是cudnn 7.0
先解壓:
tar -zxvf cudnn-9.0-linux-x64-v7.tgz
解壓后有個cuda文件,內(nèi)有include和lib64兩個文件夾,進入include文件夾辕录,執(zhí)行如下命令:
sudo cp cudnn.h /usr/local/cuda/include/ #復(fù)制頭文件
(或者直接執(zhí)行 sudo cp cuda/include/cudnn.h /usr/local/cuda/include )
再cd命令切換進lib64文件夾岗钩,執(zhí)行如下命令:
sudo cp lib* /usr/local/cuda/lib64/ #復(fù)制動態(tài)鏈接庫
(或者直接執(zhí)行 sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64 )
注意,按照網(wǎng)上一些版本不匹配的安裝方法炕檩,這里執(zhí)行后還要執(zhí)行復(fù)制和刪除軟連接的操作,其實完全是多余的,當(dāng)然韭畸,如果你不小心裝錯版本宇智,是有必要修改軟連接的
五:配置環(huán)境變量
我們就把cuda的環(huán)境變量配在 .bashrc 吧:
sudo gedit ~/.bashrc
把下面命令粘貼到文件末尾
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-9.0/lib64
export PATH=$PATH:/usr/local/cuda-9.0/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-9.0
六: 安裝TensorFlow-gpu
先給正確的安裝命令:
Anacanda 下的命令:(力推,如果不知道建議先去安裝胰丁,這個極為方便)
pip install tensorflow-gpu==1.9
官網(wǎng)命令:
sudo pip install --upgrade https://storage.googleapis.com/tensorflow/linux/gpu/tensorflow-1.7.0-cp36-none-linux_x86_64.whl
清華影像命令:
sudo pip install --upgrade https://mirrors.tuna.tsinghua.edu.cn/tensorflow/linux/gpu/tensorflow-1.7.0-cp36-none-linux_x86_64.whl
注意事項:
如果直接運行官網(wǎng)給的代碼随橘,網(wǎng)速可能很慢,畢竟是外國的網(wǎng)站锦庸。所以机蔗,我們不從官網(wǎng)下,去清華大學(xué)開源軟件鏡像站下載tensorflow.方法如下:
- 把https://storage.googleapis.com/ 替換為 https://mirrors.tuna.tsinghua.edu.cn/ 即可訪問清華大學(xué)開源軟件鏡像站甘萧。
- 根據(jù)你想要的TensorFlow的版本萝嘁,那么只需要修改tensorflow-1.7.0-cp36-none-linux_x86_64.whl
比如,我要TensorFlow-1.0.1版本扬卷,那么上面官網(wǎng)地址就修改為:
sudo pip install --upgrade https://storage.googleapis.com/tensorflow/linux/gpu/tensorflow-1.0.1-cp27-none-linux_x86_64.whl
如果你用python3.5, 那么在tensorflow-1.0.1后面把cp27該為cp35-cp35m,下載命令就變?yōu)椋?/p>
sudo pip install --upgrade https://storage.googleapis.com/tensorflow/linux/gpu/tensorflow-1.0.1-cp35-cp35m-none-linux_x86_64.whl
- 如果改動不成功或者你不是Linux系統(tǒng)牙言,那么請參考鏈接(以鏈接中的地址為主):
七: 測試
上面步驟都完成后進入測試:
>>> import tensorflow as tf
>>> hello = tf.constant('Hello, TensorFlow!')
>>> sess = tf.Session()
>>> print sess.run(hello)
Hello, TensorFlow!
>>> a = tf.constant(10)
>>> b = tf.constant(32)
>>> print sess.run(a+b)
42
錯誤解決方案
軟鏈接出錯
發(fā)現(xiàn)這一步出錯的主要原因是您安裝的cuda或cudnn版本引起的
可能會報如下錯誤:
Couldn't open CUDA library libcudnn.so. LD_LIBRARY_PATH:
這說明找不到文件 libcudnn.so ,這個文件其實是個軟鏈接來著怪得,他指向另外一個軟件咱枉。
注意:這里有必要解釋一下cuda和cudnn這兩個文件。我們解壓出來的lib64下面有3個so文件徒恋。分別是 libcudnn.so 和 libcudnn.so.5以及 libcudnn.so.5.1.12文件(當(dāng)然蚕断,讀者你的文件跟我不相同的概率很大,不過不要僅因谎,下面會教你怎么修改軟鏈接)基括,并且這3個點so文件大小都一樣。其實都是軟連接财岔!libcudnn.so鏈接到libcudnn.so.5风皿,而libcudnn.so.5.又鏈接到libcudnn.so.5.1.12。 正真的文件只有l(wèi)ibcudnn.so.5.1.12匠璧,因此我們要將/usr/local/lib64下的以前的這樣的鏈接替換掉桐款。由于裝cuda時,比如我裝的是cuda8.0夷恍,那么在/usr/local/下會生成cuda-8.0文件夾魔眨,以及一個cuda文件夾,cuda是軟鏈接到cuda-8.0的酿雪,所以這兩個文件夾可以看成一個遏暴。往任意一個文件夾中添加?xùn)|西,另一個文件夾都會有相同的東西指黎。
> cd /usr/local/cuda/lib64
> ll libcudnn*
出現(xiàn):
> lrwxrwxrwx 1 root root 13 3月 5 12:45 libcudnn.so -> libcudnn.so.5
> lrwxrwxrwx 1 root root 18 3月 5 14:38 libcudnn.so.5 ->libcudnn.so.5.1.10
> -rwxr-xr-x 1 root root 81M 3月 5 14:18 libcudnn.so.5.1.12
> -rw-r--r-- 1 root root 138M 3月 5 14:28 libcudnn_static.a
從上面可以看出朋凉,libcudnn.so
文件最終指向libcudnn.so.5.1.12
所以,我們要刪去原來的軟鏈接醋安,重寫加上正確的軟鏈接
> sudo rm libcudnn.so.5 libcudnn.so.5.1.10
> sudo ln -s libcudnn.so.5.1.12 libcudnn.so.5
再次查看:
ll libcudnn*
lrwxrwxrwx 1 root root 13 3月 5 12:45 libcudnn.so -> libcudnn.so.5
lrwxrwxrwx 1 root root 18 3月 5 14:38 libcudnn.so.5 -> libcudnn.so.5.1.10
-rwxr-xr-x 1 root root 81M 3月 5 14:18 libcudnn.so.5.1.10
多個cuda版本下可能會報的錯
tensorflow-gpu is not working with Blas GEMM launch failed
InternalError (see above for traceback): Blas GEMM launch failed : a.shape=(1, 5), b.shape=(5, 10), m=1, n=10, k=5
[[Node: layer1/MatMul = MatMul[T=DT_FLOAT, transpose_a=false, transpose_b=false, _device="/job:localhost/replica:0/task:0/gpu:0"](_arg_Placeholder_0_0/_11, layer1/weights/read)]]
[[Node: layer2/MatMul/_17 = _Recv[client_terminated=false, recv_device="/job:localhost/replica:0/task:0/cpu:0", send_device="/job:localhost/replica:0/task:0/gpu:0", send_device_incarnation=1, tensor_name="edge_158_layer2/MatMul", tensor_type=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"]()]]
檢查這個錯誤首先先確定是不是真的顯卡不夠杂彭,被其他程序占去了大部分墓毒,如果是,可以適當(dāng)分配少量的顯卡給tensorflow
gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.333)
sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))
如果你顯卡內(nèi)存剩于挺多的亲怠,那么可能是你在配置多版本cuda時沒有清空之前cuda的緩存:
sudo rm -rf ~/.nv/ # 完美解決
可能會用到的操作
gcc版本降級
Ubuntu 16.04的gcc編譯器是5.4.0所计,然而CUDA 8.0不支持5.0以上的編譯器,因此需要降級团秽,把編譯器版本降到4.9主胧。命令如下:
sudo apt-get install g++-4.9
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-4.9 20
sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-5 10
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-4.9 20
sudo update-alternatives --install /usr/bin/g++ g++ /usr/bin/g++-5 10
sudo update-alternatives --install /usr/bin/cc cc /usr/bin/gcc 30
sudo update-alternatives --set cc /usr/bin/gcc
sudo update-alternatives --install /usr/bin/c++ c++ /usr/bin/g++ 30
sudo update-alternatives --set c++ /usr/bin/g++
查看Ubuntu 16.04的Kernel,GCC和GLIBC的版本信息徙垫。
Kernel:
uname -sr #或 uname -r
GCC
gcc -v #或 gcc --version
GLIBC
$ ldd --version
參考網(wǎng)址
http://blog.csdn.net/tianrolin/article/details/52830422
http://blog.csdn.net/u012581999/article/details/52433609
https://www.cnblogs.com/mydebug/p/4972276.html
http://wiki.jikexueyuan.com/project/tensorflow-zh/get_started/os_setup.html
https://www.tensorflow.org/versions/r0.11/get_started/os_setup.html#optional-install-cuda-gpus-on-linux
https://zhuanlan.zhihu.com/p/33307112
http://blog.csdn.net/chcoolbeeboy/article/details/78110914
https://zhuanlan.zhihu.com/p/33307112
https://www.cnblogs.com/wangduo/p/7383989.html
https://www.tensorflow.org/install/#optional-install-cuda-gpus-on-linux
http://blog.csdn.net/s2010241013/article/details/55656248
https://www.cnblogs.com/apak/p/8410618.html
https://www.tensorflow.org/install/install_linux
https://mirrors.tuna.tsinghua.edu.cn/help/tensorflow/
http://blog.csdn.net/u014516389/article/details/72818155
http://blog.csdn.net/hungryof/article/details/52746279