ONNX 模型库
返回模型

说明文档

slim-summary-phi-3-onnx

slim-summary-phi-3-onnx 是一个专门的函数调用模型,用于对给定文本进行摘要,并输出一个包含摘要要点的 Python 列表。

这是 slim-summary-phi-3 的 ONNX int4 量化版本,提供了非常快速、非常小巧的推理实现,针对使用 Intel GPU、CPU 和 NPU 的 AI PC 进行了优化。

模型描述

  • 开发者: llmware
  • 模型类型: phi-3
  • 参数量: 38 亿
  • 父模型: llmware/slim-summary-phi-3
  • 语言(NLP): 英语
  • 许可证: Apache 2.0
  • 用途: 从复杂商业文档中提取摘要要点
  • RAG 基准准确率得分: 不适用
  • 量化: int4

模型卡片联系方式

llmware on github

llmware on hf

llmware 网站

llmware/slim-summary-phi-3-onnx

作者 llmware

↓ 1 ♥ 1

创建时间: 2024-10-26 21:23:30+00:00

更新时间: 2024-10-31 21:40:36+00:00

在 Hugging Face 上查看

文件 (12)

.gitattributes
README.md
added_tokens.json
config.json
genai_config.json
hash_record_sha256.json
model.onnx ONNX
model.onnx.data
special_tokens_map.json
tokenizer.json
tokenizer.model
tokenizer_config.json