ONNX 模型库
返回模型

说明文档

模型是为此字幕生成器示例转换的:https://github.com/microsoft/Windows-DevRel/tree/main/Samples/SubtitleGenerator

手动获取这些模型的步骤:

这些操作都可以通过命令行完成,只需要 Python 作为依赖项。要获取模型,请按照以下步骤操作:

  1. 克隆 Olive 仓库并进入 Whisper 示例文件夹:
git clone https://github.com/microsoft/Olive
cd Olive/examples/whisper
  1. 安装所需的依赖包:
pip install olive-ai
python -m pip install -r requirements.txt
pip install onnxruntime==1.18.0
pip install onnxruntime_extensions
  1. 准备 Whisper 模型
python prepare_whisper_configs.py --model_name openai/whisper-small --multilingual --enable_timestamps 
  1. 运行 Olive 工作流以生成优化后的模型
olive run --config whisper_cpu_int8.json --setup
olive run --config whisper_cpu_int8.json
  1. 生成的模型将位于 \models\conversion-transformers_optimization-onnx_dynamic_quantization-insert_beam_search-prepost 文件夹中。

khmyznikov/whisper-int8-cpu-ort.onnx

作者 khmyznikov

↓ 0 ♥ 1

创建时间: 2024-06-18 10:13:08+00:00

更新时间: 2024-08-14 21:26:10+00:00

在 Hugging Face 上查看

文件 (5)

.gitattributes
README.md
whisper_medium_int8_cpu_ort_1.18.0.onnx ONNX
whisper_small_int8_cpu_ort_1.18.0.onnx ONNX
whisper_tiny_int8_cpu_ort_1.18.0.onnx ONNX