tensorflow .馬上要出 2.0 版本，不過現(xiàn)在 安裝的最新的仍舊為1.13.1 【2019-03-9】
在 centos 7 我們安裝了 一塊 NVIDIA Tesla的 顯卡 丑掺，Tesla P100-PCIE-16GB
當(dāng)我們要使用TensorFlow GPU 訓(xùn)練 時(shí) 抚恒， 單單有顯卡還不可以，需要安裝NVIDIA的顯卡驅(qū)動 和cuda及cudnn饶唤，
嘗試使用 原始的rpm 安裝 cuda 發(fā)現(xiàn) 本來要安裝 9 垦巴，裝完了竟然是10.1明也，TensorFlow 1.13.1 是不支持 10.1，不過現(xiàn)在日志看到 是支持 cuda 10.的
發(fā)現(xiàn) cuda 的安裝 還比較繁瑣崭歧，cuda 安裝 完占硬盤 2-3G
卸載還不是很方便隅很，有的有一個卸載腳本 Perl，
/usr/local/cuda-10.0/bin/uninstall_cuda_10.0.pl
沒有的話驾荣，就直接
rm -rf /usr/local/cuda*
rm /etc/profile.d/cuda.sh
也可以
那如何安裝cuda 最簡單就是 使用 conda 外构，
anaconda 簡直不一般，conda不僅可以安裝python虛擬環(huán)境 播掷，還可以安裝R 审编，竟然連 cuda 和cudnn 也可以安裝 ，還要安裝 TensorFlow-gpu python包
就兩步
首先先創(chuàng)建 激活一個python的虛擬環(huán)境 進(jìn)入到環(huán)境中
conda install cudatoolkit
conda install cudnn
pip install tensorflow-gpu
不過要注意了 conda安裝的cuda 并不是全局的cuda 歧匈，他只在你的當(dāng)前激活的python環(huán)境下有效垒酬，conda 安裝的jupyter 和R 也是這樣的
參考 https://github.com/tensorflow/tensorflow/issues/26182
【ImportError: libcublas.so.10.0: cannot open shared object file: No such file or directory】
在安裝時(shí)報(bào)了一個小錯
ChunkedEncodingError(ProtocolError('Connection broken: OSError("(104, 'ECONNRESET')")', OSError("(104, 'ECONNRESET')")))
其實(shí)好像是網(wǎng)絡(luò)問題，重復(fù)嘗試再安裝就可以了
如何測試是否 TensorFlow可以使用gpu 呢
import tensorflow as tf
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
查看日志信息若包含gpu信息件炉，就是使用了gpu勘究。
其他方法：跑計(jì)算量大的代碼，通過 nvidia-smi 命令查看gpu的內(nèi)存使用量斟冕。
另外可以這樣
import tensorflow as tf
with tf.device('/cpu:0'):
a = tf.constant([1.0,2.0,3.0],shape=[3],name='a')
b = tf.constant([1.0,2.0,3.0],shape=[3],name='b')
with tf.device('/gpu:1'):
c = a+b
#注意：allow_soft_placement=True表明：計(jì)算設(shè)備可自行選擇口糕，如果沒有這個參數(shù)，會報(bào)錯磕蛇。
#因?yàn)椴皇撬械牟僮鞫伎梢员环旁贕PU上景描，如果強(qiáng)行將無法放在GPU上的操作指定到GPU上，將會報(bào)錯秀撇。
sess = tf.Session(config=tf.ConfigProto(allow_soft_placement=True,log_device_placement=True))
#sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
sess.run(tf.global_variables_initializer())
print(sess.run(c))
結(jié)果：
[ 2. 4. 6.]
如果TensorFlow不支持 當(dāng)前 版本的cuda 會報(bào)錯 【首先你要安裝了TensorFlow-gpu包】
import tensorflow as tf
ImportError: libcublas.so.10.0: cannot open shared object file: No such file or directory
如何查看 GPU的使用情況
nvidia-smi
另外一點(diǎn)就是 cuda 再卸載后重新安裝新版本 會報(bào)錯
【# NVIDIA NVML Driver/library version mismatch
】
https://stackoverflow.com/questions/43022843/nvidia-nvml-driver-library-version-mismatch
As @etal said, rebooting can solve this problem, but I think a procedure without rebooting will help.
For Chinese, check my blog -> [中文版](https://comzyh.com/blog/archives/967/)
The error message
> NVML: Driver/library version mismatch
tell us the Nvidia driver kernel module (kmod) have a wrong version, so we should unload this driver, and then load the correct version of kmod
## How to do that ?
First, we should know which drivers are loaded.
> lsmod | grep nvidia
you may get
nvidia_uvm 634880 8
nvidia_drm 53248 0
nvidia_modeset 790528 1 nvidia_drm
nvidia 12312576 86 nvidia_modeset,nvidia_uvm
our final goal is to unload `nvidia` mod, so we should unload the module depend on `nvidia`
> sudo rmmod nvidia_drm
> sudo rmmod nvidia_modeset
> sudo rmmod nvidia_uvm
then, unload `nvidia`
> sudo rmmod nvidia
## Troubleshooting
if you get an error like `rmmod: ERROR: Module nvidia is in use`, which indicates that the kernel module is in use, you should kill the process that using the kmod:
> sudo lsof /dev/nvidia*
and then kill those process, then continue to unload the kmods
## Test
confirm you successfully unload those kmods
> lsmod | grep nvidia
you should get nothing, then confirm you can load the correct driver
> nvidia-smi
you should get the correct output
https://tensorflow.google.cn/install/source
https://comzyh.com/blog/archives/967/
如果你打算安裝 cuda 9
https://blog.veir.me/2018/03/17/centos7-install-cuda9/
或者 cuda的docker環(huán)境
https://www.cnblogs.com/yxfangcs/p/8438462.html
TensorFlow 到底和那些 版本的cuda 和cudnn 適配 超棺，主要看 libcudnn.so libcublas.so 的當(dāng)前安裝TensorFlow所支持的版本
libcublas.so.10.0 libcudnn.so.7是TensorFlow 1.13.1所要求的 ，所以就必須裝的版本不高于它
