ONNX 模型库

说明文档

带有 ONNX 权重的 https://huggingface.co/Salesforce/mixqg-large，以兼容 Transformers.js。

tomasmcm/salesforce-mixqg-large-onnx

作者 tomasmcm

text-generation transformers.js

↓ 1 ♥ 0

创建时间: 2025-04-09 14:07:15+00:00

更新时间: 2025-04-09 14:12:32+00:00

在 Hugging Face 上查看

文件 (40)

.gitattributes

README.md

config.json

generation_config.json

onnx/decoder_model.onnx ONNX

onnx/decoder_model_bnb4.onnx ONNX

onnx/decoder_model_fp16.onnx ONNX

onnx/decoder_model_int8.onnx ONNX

onnx/decoder_model_merged.onnx ONNX

onnx/decoder_model_merged_bnb4.onnx ONNX

onnx/decoder_model_merged_fp16.onnx ONNX

onnx/decoder_model_merged_int8.onnx ONNX

onnx/decoder_model_merged_q4.onnx ONNX

onnx/decoder_model_merged_q4f16.onnx ONNX

onnx/decoder_model_merged_quantized.onnx ONNX

onnx/decoder_model_merged_uint8.onnx ONNX

onnx/decoder_model_q4.onnx ONNX

onnx/decoder_model_q4f16.onnx ONNX

onnx/decoder_model_quantized.onnx ONNX

onnx/decoder_model_uint8.onnx ONNX

onnx/decoder_with_past_model.onnx ONNX

onnx/decoder_with_past_model_bnb4.onnx ONNX

onnx/decoder_with_past_model_fp16.onnx ONNX

onnx/decoder_with_past_model_int8.onnx ONNX

onnx/decoder_with_past_model_q4.onnx ONNX

onnx/decoder_with_past_model_q4f16.onnx ONNX

onnx/decoder_with_past_model_quantized.onnx ONNX

onnx/decoder_with_past_model_uint8.onnx ONNX

onnx/encoder_model.onnx ONNX

onnx/encoder_model_bnb4.onnx ONNX

onnx/encoder_model_fp16.onnx ONNX

onnx/encoder_model_int8.onnx ONNX

onnx/encoder_model_q4.onnx ONNX

onnx/encoder_model_q4f16.onnx ONNX

onnx/encoder_model_quantized.onnx ONNX

onnx/encoder_model_uint8.onnx ONNX

quantize_config.json

special_tokens_map.json

tokenizer.json

tokenizer_config.json