简介

该模型转换自 https://modelscope.cn/models/iic/punc_ct-transformer_zh-cn-common-vocab272727-pytorch/summary

生成 onnx 模型的命令如下：

pip install funasr modelscope
pip install kaldi-native-fbank torchaudio onnx onnxruntime

mkdir -p /tmp/models
cd /tmp/models

git clone https://www.modelscope.cn/iic/punc_ct-transformer_zh-cn-common-vocab272727-pytorch.git
cd punc_ct-transformer_zh-cn-common-vocab272727-pytorch
git lfs pull --include model.pt

cd /tmp
git clone https://github.com/alibaba-damo-academy/FunASR
cd FunASR/runtime/python/onnxruntime

cat >export-onnx.py <<EOF

from funasr_onnx import CT_Transformer
model_dir = "/tmp/punc_ct-transformer_zh-cn-common-vocab272727-pytorch" # model = CT_Transformer(model_dir, quantize=True) model = CT_Transformer(model_dir)
EOF

chmod +x export-onnx.py

./export-onnx.py

导出的 model.onnx 文件位于 /tmp/models/punc_ct-transformer_zh-cn-common-vocab272727-pytorch 目录中。

现在可以使用本仓库中的 ./add-model-metadata.py 为生成的 model.onnx 添加元数据。

注意，我们没有提供 model.int8.onnx，因为

punc_ct-transformer_zh-cn-common-vocab272727-pytorch fangjun$ ls -lh *.onnx
-rw-r--r--  1 fangjun  staff   279M Apr 12 11:08 model.onnx
-rw-r--r--  1 fangjun  staff   270M Apr 12 11:09 model_quant.onnx

对于该模型，model.int8.onnx 在文件大小上没有优势。