ONNX 模型库
返回模型

说明文档

dragon-mistral-0.3-onnx

dragon-mistral-0.3-onnx 是 dragon-mistral-0.3 的 ONNX int4 量化版本,提供快速推理实现,针对使用 Intel GPU、CPU 和 NPU 的 AI PC 进行了优化。

dragon-mistral-0.3 是一个非常准确的、新的基于事实的问答模型,针对复杂商业文档进行了优化,基于最新的 Mistral 开源版本 v0.3。

模型描述

  • 开发者: llmware
  • 模型类型: mistral-0.3
  • 参数量: 70亿
  • 父模型: llmware/dragon-mistral-0.3
  • 语言(NLP): 英语
  • 许可证: Apache 2.0
  • 用途: 基于事实的问答
  • RAG 基准测试准确率: 99.5
  • 量化: int4

模型卡片联系方式

llmware 在 github

llmware 在 hf

llmware 网站

llmware/dragon-mistral-0.3-onnx

作者 llmware

↓ 0 ♥ 1

创建时间: 2024-09-03 18:42:29+00:00

更新时间: 2024-10-31 21:39:41+00:00

在 Hugging Face 上查看

文件 (11)

.gitattributes
README.md
config.json
genai_config.json
hash_record_sha256.json
model.onnx ONNX
model.onnx.data
special_tokens_map.json
tokenizer.json
tokenizer.model
tokenizer_config.json