Winograd [1][#fn1]于1980 年提出了有限脈沖響應(yīng)（finite impulse response，F(xiàn)IR）濾波的最小濾波算法最小濾波算法[2][#fn2]...
發(fā)簡(jiǎn)信
IP屬地：浙江
-
Winograd 快速卷積算法原理 -
ONNX算子：SoftplusSoftplus算子獲取一個(gè)輸入數(shù)據(jù)（張量）并生成一個(gè)輸出數(shù)據(jù)（張量）讲逛，并將Softplus函數(shù)應(yīng)用于張量元素曼氛。 特性 Softplus可以看作是ReLu的平滑（與ReLU函...
-
[TIPS] 實(shí)時(shí)查看NVIDIA GPU的設(shè)備使用情況
如果需要在程序中實(shí)時(shí)獲取nvidia gpu的設(shè)備使用率粗卜，比如pwr铐伴、sm逝薪、pclk等信息踱启，可以借用int system(const char *command) [1][#...
-
[譯文] 為什么GEMM是深度學(xué)習(xí)的核心 | Why GEMM is at the heart of deep learning原文：Why GEMM is at the heart of deep learning[https://petewarden.com/2015/04/20/why-gemm...
-
[論文筆記] IOS: Inter-Operator Scheduler for CNN AccelerationIOS: Inter-Operator Scheduler for CNN AccelerationProceedings of the 4 th MLSys Confere...
-
1129. 顏色交替的最短路徑
題目鏈接： https://leetcode-cn.com/problems/shortest-path-with-alternating-colors/[https://l...
-
ONNX算子：Pad
Pad[1][#fn1] 輸入： data 需要填充的張量报账。 pads 整數(shù)張量，表示在待填充張量每個(gè)軸的開頭和結(jié)尾需要添加或刪除（如果為負(fù)）的填充元素的數(shù)量埠偿。 mode 填...
-
centos7 使用新版的gcc7 - Developer Toolset 7
現(xiàn)在建議透罢，安裝gcc8了：http://www.reibang.com/p/924a510c9e21 centos7自帶的gcc和gdb版本都太老了，學(xué)習(xí)的時(shí)候可能會(huì)需要使...
-
CUDNN入坑指南（0）卷積算法實(shí)現(xiàn)類型
cuDNN目前提供以下幾種卷積算法的實(shí)現(xiàn)方式[1][#fn1] CUDNN_CONVOLUTION_FWD_ALGO_IMPLICIT_GEMM 該實(shí)現(xiàn)方式將卷積隱式轉(zhuǎn)換成矩...
-
[GCC入坑指南] -fomit-frame-pointer 和 -fno-omit-frame-pointer 編譯標(biāo)識(shí)GCC編譯器提供了 -fomit-frame-pointer 和 -fno-omt-frame-pointer 兩個(gè)相對(duì)的編譯選項(xiàng)冠蒋。 GCC手冊(cè)[1][#fn1]里對(duì) -fo...
-
TensorRT8 使用手記（6）性能統(tǒng)計(jì)使用TensorRT進(jìn)行模型轉(zhuǎn)換及部署主要涉及以下幾個(gè)性能指標(biāo)： Throughput 吞吐量 單位：qps, QPS, Queries Per Second 表示每秒能夠相...
-
深度學(xué)習(xí)編譯器入坑指北（Q5）模型量化-PTQ與QAT
訓(xùn)練后量化 Post Training Quantization (PTQ)[1][#fn1] 從預(yù)訓(xùn)練模型開始羽圃，并使用量化數(shù)據(jù)集對(duì)其進(jìn)行量化 量化數(shù)據(jù)用來對(duì)模型進(jìn)行量化，其...
-
TensorRT8 使用手記（1）模型測(cè)試 Conv+BN+Relu 結(jié)構(gòu)融合在主流卷積神經(jīng)網(wǎng)絡(luò)模型中Conv+BN+Relu是一種常見的模型結(jié)構(gòu)抖剿。在模型推理和訓(xùn)練中朽寞，BN層往往與其他層合并，以減少計(jì)算量斩郎。 模型解析 node_of_325 [TRT]...
-
TensorRT8 使用手記（3）維度表示
在TensorRT8中脑融，對(duì)張量的維度表示數(shù)據(jù)結(jié)構(gòu)略有修改。主要是新增了Dims32缩宜，原本的Dims現(xiàn)在僅是Dims32的別稱肘迎。同時(shí)廢棄了DimsCHW和DimsNCHW[1]...
-
TensorRT8 使用手記（2）noexcept 關(guān)鍵字的使用
noexcept 關(guān)鍵字 在TensorRT8中，關(guān)于API的修改中非常的一點(diǎn)是所有 API 都添加了 noexcept關(guān)鍵字脓恕。該關(guān)鍵字告訴編譯器，函數(shù)中不會(huì)發(fā)生異常窿侈，這有利...
-
TensorRT8 使用手記（0）開始
NVIDIA 正式發(fā)布TensorRT 8炼幔，宣稱該軟件將語言查詢推理時(shí)間縮短了一半，使開發(fā)者能夠從云端到邊緣構(gòu)建全球最佳性能的搜索引擎史简、廣告推薦和聊天機(jī)器人乃秀。 TensorR...
-
ONNX算子：ArgMax 和 ArgMin
ONNX協(xié)議 ArgMax Computes the indices of the max elements of the input tensor's element al...
-
詳解 YUV 格式（I420/YUV420/NV12/NV12/YUV422）
詳解 YUV 格式（I420/YUV420/NV12/NV12/YUV422） YUV （Y'CbCr）是一種像素格式，常見于視頻編碼與靜態(tài)圖像圆兵。與 RGB 格式（紅-綠-藍(lán)...
-
YUV模型：YUV420P和YUV420SPYUV模型是根據(jù)一個(gè)亮度(Y分量)和兩個(gè)色度(UV分量)來定義顏色空間跺讯，常見的YUV格式有YUY2、YUYV殉农、YVYU刀脏、UYVY、AYUV超凳、Y41P愈污、Y411耀态、Y211、IF...