原地址:https://www.leiphone.com/news/201702/T5e31Y2ZpeG1ZtaN.html
目前主流的的深度學(xué)習(xí)框架
主流深度學(xué)習(xí)框架包括Tensorflow、Caffe描姚、Keras戈次、CNTK、Torch7绊寻、MXNet、Leaf冰蘑、Theano村缸、Deeplearning4、Lasagne仇箱、Neon等等索烹。
各個(gè)開(kāi)源框架在 GitHub 上的數(shù)據(jù)統(tǒng)計(jì)
目前主流的深度學(xué)習(xí)平臺(tái)均支持Python接口。
可以看出其中Tensorflow在關(guān)注度和用戶(hù)數(shù)上占據(jù)絕對(duì)優(yōu)勢(shì)渊额。這里簡(jiǎn)單介紹下Tensorflow平臺(tái)垒拢。
Tensorflow
- 高階機(jī)器學(xué)習(xí)庫(kù),核心代碼用C++實(shí)現(xiàn)奔垦,核心代碼提供C++接口尸疆,具有Python、Go犯眠、Java接口症革,通過(guò)SWIG實(shí)現(xiàn)。
- 支持自動(dòng)求導(dǎo)量蕊。
- TensorFlow 也有內(nèi)置的 TF.Learn 和 TF.Slim 等上層組件可以幫助快速地設(shè)計(jì)新網(wǎng)絡(luò),并且兼容 Scikit-learn estimator 接口艇挨,可以方便地實(shí)現(xiàn) evaluate、grid search吉殃、cross validation 等功能
- 數(shù)據(jù)并行模式
TensorFlow 有獨(dú)立的 Variable node,不像其他框架有一個(gè)全局統(tǒng)一的參數(shù)服務(wù)器,因此參數(shù)同步更自由瓦灶。
- 靈活的移植性
可以將同一份代碼幾乎不經(jīng)過(guò)修改就輕松地部署到有任意數(shù)量 CPU 或 GPU 的 PC抱完、服務(wù)器或者移動(dòng)設(shè)備上。
- 極快的編譯速度
- 可視化組件:TensorBoard
TensorBoard 是 TensorFlow 的一組 Web 應(yīng)用碉怔,用來(lái)監(jiān)控 TensorFlow 運(yùn)行過(guò)程禁添,或可視化 Computation Graph。TensorBoard 目前支持五種可視化:標(biāo)量(scalars)芹啥、圖片(images)铺峭、音頻(audio)、直方圖(histograms)和計(jì)算圖(Computation Graph)傀履。TensorBoard 的 Events Dashboard 可以用來(lái)持續(xù)地監(jiān)控運(yùn)行時(shí)的關(guān)鍵指標(biāo)莉炉,比如 loss、學(xué)習(xí)速率(learning rate)或是驗(yàn)證集上的準(zhǔn)確率(accuracy)梆暮;Image Dashboard 則可以展示訓(xùn)練過(guò)程中用戶(hù)設(shè)定保存的圖片羞福,比如某個(gè)訓(xùn)練中間結(jié)果用 Matplotlib 等繪制(plot)出來(lái)的圖片蚯涮;Graph Explorer 則可以完全展示一個(gè) TensorFlow 的計(jì)算圖,并且支持縮放拖曳和查看節(jié)點(diǎn)屬性张峰。
- 異構(gòu)性:支持多種硬件平臺(tái)和操作系統(tǒng)
- 分布式:16塊GPU達(dá)到單塊GPU的15倍性能棒旗,分布式通信基于socket的RPC撩荣,而不是速度更快的RDMA
- TensorFlow Serving:提供模型的導(dǎo)出功能餐曹,并部署成對(duì)外提供預(yù)測(cè)服務(wù)的RESTful接口敌厘。有了這個(gè)組件,TensorFlow 就可以實(shí)現(xiàn)應(yīng)用機(jī)器學(xué)習(xí)的全流程:從訓(xùn)練模型饱狂、調(diào)試參數(shù)宪彩,到打包模型,最后部署服務(wù).
TensorFlow Serving 是一個(gè)為生產(chǎn)環(huán)境而設(shè)計(jì)的高性能的機(jī)器學(xué)習(xí)服務(wù)系統(tǒng)俊柔。它可以同時(shí)運(yùn)行多個(gè)大規(guī)模深度學(xué)習(xí)模型婆咸,支持模型生命周期管理芜辕、算法實(shí)驗(yàn),并可以高效地利用 GPU 資源侵续,讓 TensorFlow 訓(xùn)練好的模型更快捷方便地投入到實(shí)際生產(chǎn)環(huán)境