ONNX 模型库
返回模型

说明文档

slim-topics-onnx

slim-topics-onnx 是一个专用的函数调用模型,用于为文本段落生成主题描述,通常不超过2-3个词。

这是 slim-topics 的 ONNX int4 量化版本,提供了一个非常快速、非常小巧的推理实现,针对使用 Intel GPU、CPU 和 NPU 的 AI PC 进行了优化。

模型描述

  • 开发方: llmware
  • 模型类型: tinyllama
  • 参数量: 11亿
  • 模型父版本: llmware/slim-topics
  • 语言(NLP): 英语
  • 许可证: Apache 2.0
  • 用途: 主题分类和摘要
  • RAG 基准准确率得分: 不适用
  • 量化: int4

模型卡片联系方式

llmware 在 github 上

llmware 在 hf 上

llmware 网站

llmware/slim-topics-onnx

作者 llmware

text-generation transformers
↓ 1 ♥ 1

创建时间: 2024-06-15 00:22:03+00:00

更新时间: 2024-10-31 21:35:36+00:00

在 Hugging Face 上查看

文件 (10)

.gitattributes
README.md
config.json
genai_config.json
model.onnx ONNX
model.onnx.data
special_tokens_map.json
tokenizer.json
tokenizer.model
tokenizer_config.json