返回模型
说明文档
gemma-2b-it-onnx
gemma-2b-it-onnx 是 Google 的 Gemma-2B 指令微调版(IT)的 ONNX int4 量化版本,提供非常快速、小巧的推理实现,针对使用 Intel GPU、CPU 和 NPU 的 AI PC 进行了优化。
gemma-2b-it 是 Google 推出的领先开源基础模型。
模型描述
- 开发者: Google
- 量化方: llmware
- 模型类型: gemma-2b
- 参数量: 20 亿
- 基础模型: google/gemma-2b-it
- 语言(NLP): 英语
- 许可证: Apache 2.0
- 用途: 通用对话
- RAG 基准测试准确率: 不适用
- 量化方式: int4
模型卡联系方式
llmware/gemma-2b-it-onnx
作者 llmware
↓ 1
♥ 1
创建时间: 2024-10-26 22:30:58+00:00
更新时间: 2024-10-31 21:42:02+00:00
在 Hugging Face 上查看文件 (11)
.gitattributes
README.md
config.json
genai_config.json
hash_record_sha256.json
model.onnx
ONNX
model.onnx.data
special_tokens_map.json
tokenizer.json
tokenizer.model
tokenizer_config.json