IP屬地：陜西
-
Huggingface Transformer 庫訓(xùn)練BERT優(yōu)化技術(shù)總結(jié)
實(shí)驗(yàn)測(cè)試內(nèi)容 Why ? 為什么采用HuggingFace的軟件棧钠糊？ 隨著AI 基礎(chǔ)軟件和框架的發(fā)展砍艾， AI 訓(xùn)練過程也變得極為復(fù)雜, AI t...
-
PyTorch-混合精度訓(xùn)練(Mixed-Precisioin Training)混合精度訓(xùn)練介紹 Mixed-Precision Training是指在深度學(xué)習(xí)AI模型訓(xùn)練過程中不同的層Layer采用不同的數(shù)據(jù)精度進(jìn)行訓(xùn)練悯衬，...
-
PyTorch模型量化(二)- FX Graph模式的量化方法介紹Introduction 由于最近項(xiàng)目需要码耐，研究和學(xué)習(xí)PyTorch PTQ和QAT 量化的使用追迟。比較新的PyTorch版本目前推薦使用FX G...
-
PyTorch模型量化- layer-wise Quantize & Channel-wise QuantizeMotivation 深度學(xué)習(xí)模型為什么要量化模型量化是深度學(xué)習(xí)Inference加速的關(guān)鍵技術(shù)之一， 一般訓(xùn)練之后得到的模型采用float32...
-
PyTorch模型減枝技術(shù)-pruning
介紹 減枝(prune)是深度學(xué)習(xí)模型壓縮常見的技術(shù)之一, 目的是使得CNN/RNN/Transformer等模型的權(quán)重weight參數(shù)稀疏化 ...
-
CUDA - cuDNN library-cudnnConvolutionForward 使用輸入圖像: 輸出結(jié)果:
-
Latex公式編輯
前言 相信很多人都有這樣痛苦的體驗(yàn), 給文檔中插入公式. 后來無意間發(fā)現(xiàn) latex對(duì)于文檔中插入公式特別方便,一起學(xué)習(xí)學(xué)習(xí)~ 可視化latex...
-
Flask 入門-（四）數(shù)據(jù)庫使用前言 測(cè)試環(huán)境 工程實(shí)現(xiàn) app.py index.html 運(yùn)行結(jié)果:
-
Flask 入門-（三）Form表單提交前言 在web程序中骚腥，form表單應(yīng)用廣泛敦间， 比如用戶登錄， 像QQ登錄這種的實(shí)現(xiàn)束铭。本文采用Flask實(shí)現(xiàn)簡(jiǎn)單的Form表單提交的demo廓块。 最...