返回模型
说明文档
模型是为此字幕生成器示例转换的:https://github.com/microsoft/Windows-DevRel/tree/main/Samples/SubtitleGenerator
手动获取这些模型的步骤:
这些操作都可以通过命令行完成,只需要 Python 作为依赖项。要获取模型,请按照以下步骤操作:
- 克隆 Olive 仓库并进入 Whisper 示例文件夹:
git clone https://github.com/microsoft/Olive
cd Olive/examples/whisper
- 安装所需的依赖包:
pip install olive-ai
python -m pip install -r requirements.txt
pip install onnxruntime==1.18.0
pip install onnxruntime_extensions
- 准备 Whisper 模型
python prepare_whisper_configs.py --model_name openai/whisper-small --multilingual --enable_timestamps
- 运行 Olive 工作流以生成优化后的模型
olive run --config whisper_cpu_int8.json --setup
olive run --config whisper_cpu_int8.json
- 生成的模型将位于 \models\conversion-transformers_optimization-onnx_dynamic_quantization-insert_beam_search-prepost 文件夹中。
khmyznikov/whisper-int8-cpu-ort.onnx
作者 khmyznikov
↓ 0
♥ 1
创建时间: 2024-06-18 10:13:08+00:00
更新时间: 2024-08-14 21:26:10+00:00
在 Hugging Face 上查看文件 (5)
.gitattributes
README.md
whisper_medium_int8_cpu_ort_1.18.0.onnx
ONNX
whisper_small_int8_cpu_ort_1.18.0.onnx
ONNX
whisper_tiny_int8_cpu_ort_1.18.0.onnx
ONNX