返回模型
说明文档
llama-2-chat-onnx
llama-2-chat-onnx 是 Llama-2-Chat 的 ONNX int4 量化版本，提供了快速、轻量的推理实现，针对 AI PC 和 Windows x86-64 架构进行了优化。
llama-2-chat 是经典 Llama 2 模型的官方对话微调版本，是最具标志性（至今仍是最佳之一）的 7B 指令训练模型之一。
模型描述
- 开发者： meta-llama
- 量化者： llmware
- 模型类型： llama2
- 参数量： 70亿
- 父模型： meta-llama/Llama-2-7b-chat-hf
- 语言： 英语
- 许可证： Llama-2 社区许可证
- 用途： 基于事实的问答
- RAG 基准测试准确率： 不适用
- 量化方式： int4
模型卡片联系方式
llmware/llama-2-chat-onnx
作者 llmware
↓ 0
♥ 1
创建时间: 2024-09-03 17:16:42+00:00
更新时间: 2024-10-31 21:37:15+00:00
在 Hugging Face 上查看文件 (10)
.gitattributes
LICENSE.txt
README.md
genai_config.json
hash_record_sha256.json
model.onnx
ONNX
model.onnx.data
special_tokens_map.json
tokenizer.json
tokenizer_config.json