ONNX 模型库
返回模型

说明文档

gemma-2b-it-onnx

gemma-2b-it-onnx 是 Google 的 Gemma-2B 指令微调版(IT)的 ONNX int4 量化版本,提供非常快速、小巧的推理实现,针对使用 Intel GPU、CPU 和 NPU 的 AI PC 进行了优化。

gemma-2b-it 是 Google 推出的领先开源基础模型。

模型描述

  • 开发者: Google
  • 量化方: llmware
  • 模型类型: gemma-2b
  • 参数量: 20 亿
  • 基础模型: google/gemma-2b-it
  • 语言(NLP): 英语
  • 许可证: Apache 2.0
  • 用途: 通用对话
  • RAG 基准测试准确率: 不适用
  • 量化方式: int4

模型卡联系方式

llmware 的 GitHub

llmware 的 HuggingFace

llmware 官网

llmware/gemma-2b-it-onnx

作者 llmware

↓ 1 ♥ 1

创建时间: 2024-10-26 22:30:58+00:00

更新时间: 2024-10-31 21:42:02+00:00

在 Hugging Face 上查看

文件 (11)

.gitattributes
README.md
config.json
genai_config.json
hash_record_sha256.json
model.onnx ONNX
model.onnx.data
special_tokens_map.json
tokenizer.json
tokenizer.model
tokenizer_config.json