介紹一下當前量化方法的基本邏輯荒叼,概念、目的狭魂、應用場景及重要性
明確當前量化所支持的算子范圍,支持模式的范圍党觅,
所支持的量化算子列表雌澄,以及支持性檢查條件
只支持 perlayer 量化 對稱量化
量化參數的介紹以及示例
量化參數的示例, 一些基本的要求bias_scale = input_scale * weight_scale ,
轉換模型
一些算子的輸入輸出量化參數保持一致可以活得更好的新能
使用流程
介紹一下當前量化方法的基本邏輯荒叼,概念、目的狭魂、應用場景及重要性
明確當前量化所支持的算子范圍,支持模式的范圍党觅,
所支持的量化算子列表雌澄,以及支持性檢查條件
只支持 perlayer 量化 對稱量化
量化參數的介紹以及示例
量化參數的示例, 一些基本的要求bias_scale = input_scale * weight_scale ,
轉換模型
一些算子的輸入輸出量化參數保持一致可以活得更好的新能
使用流程