Paddle模型轉(zhuǎn)PaddleLite模型
一婚惫、標(biāo)準(zhǔn)模型格式
PaddlePaddle 模型有兩種保存格式：
Combined Param ：所有參數(shù)信息保存在單個(gè)文件params中烤黍，模型的拓?fù)湫畔⒈４嬖?strong>model文件中。
Seperated Param：參數(shù)信息分開保存在多個(gè)參數(shù)文件中量瓜，模型的拓?fù)湫畔⒈４嬖?strong>model文件中
通過opt導(dǎo)出工具可以直接導(dǎo)出
#Seperated Param
./opt --model_dir=./mobilenet_v1 --valid_targets=x86 --optimize_out_type=naive_buffer --optimize_out=mobilenet_v1_opt
#Combined Param
./opt --model_file=./mobilenet_v1/__model__ --param_file=./mobilenet_v1/params --valid_targets=x86 --optimize_out_type=naive_buffer --optimize_out=mobilenet_v1_opt
二、預(yù)訓(xùn)練模型格式
1途乃、轉(zhuǎn)inference 模型
#下載預(yù)訓(xùn)練模型
wget -P ./product_pretrain/ https://paddle-imagenet-models-name.bj.bcebos.com/dygraph/rec/models/pretrain/product_ResNet50_vd_Aliproduct_v1.0_pretrained.pdparams
#轉(zhuǎn)換為inference模型
# -c 后面設(shè)置訓(xùn)練算法的 yml 配置文件
# -o 配置可選參數(shù)
# Global.pretrained_model 參數(shù)設(shè)置待轉(zhuǎn)換的訓(xùn)練模型地址绍傲，不用添加文件后綴 .pdmodel，.pdopt 或 .pdparams耍共。
# Global.save_inference_dir 參數(shù)設(shè)置轉(zhuǎn)換的模型將保存的地址烫饼。
python3 tools/export_model.py -c ppcls/configs/Products/ResNet50_vd_Aliproduct.yaml -o Global.pretrained_model=./product_pretrain/product_ResNet50_vd_Aliproduct_v1.0_pretrained -o Global.save_inference_dir=./deploy/models/product_ResNet50_vd_aliproduct_v1.0_infer
轉(zhuǎn)換成功后目錄
├── product_ResNet50_vd_aliproduct_v1.0_infer
│ ├── inference.pdiparams # 識(shí)別 inference 模型的參數(shù)文件
│ ├── inference.pdiparams.info # 識(shí)別 inference 模型的參數(shù)信息，可忽略
│ └── inference.pdmodel # 識(shí)別 inference 模型的 program 文件
PaddleGAN項(xiàng)目腳本和PaddleCls腳本不太一樣试读，具體參數(shù)不同
python3 -u tools/export_model.py -c configs/stylegan_v2_256_ffhq.yaml --load stylegan2-ffhq-config-f-directions.pdparams --inputs_size="1,1,512;1,1"
2杠纵、inference模型轉(zhuǎn)nb模型
通過opt工具轉(zhuǎn)化nb模型
./opt --model_file=./inference.pdmodel --param_file=./inference.pdiparams --valid_targets=x86 --optimize_out_type=naive_buffer --optimize_out=product_ResNet50_vd_aliproduct_v1_opt
轉(zhuǎn)化過程如果有不支持的op會(huì)提示失敗，因?yàn)镻addle支持的op目前PaddleLite不支持钩骇，需要將不支持的op對應(yīng)的架構(gòu)版本源碼編寫測試通過后重新編譯PaddleLite和opt工具
Error: This model is not supported, because 1 ops are not supported on 'x86'. These unsupported ops are: 'matmul_v2'.
查看所有架構(gòu)支持的op
./opt --print_all_ops=true
查看x86支持的op
./opt --print_supported_ops=true --valid_targets=x86
將系統(tǒng)架構(gòu)改為opencl可以轉(zhuǎn)換成功
./opt --model_file=./inference.pdmodel --param_file=./inference.pdiparams --valid_targets=opencl --optimize_out_type=naive_buffer --optimize_out=product_ResNet50_vd_aliproduct_v1_opt
Paddle模型轉(zhuǎn)ONNX
通過pip安裝paddle2onnx
pip install paddle2onnx
轉(zhuǎn)換命令
paddle2onnx \
--model_dir [model dir] \
--model_filename [model filename] \
--params_filename [params filename] \
--save_file [save file] \
--opset_version [opset version]
支持的op列表
https://paddle-lite.readthedocs.io/zh/latest/quick_start/support_operation_list.html
