说明文档

slim-boolean-phi-3-onnx

slim-boolean-phi-3-onnx 是一个专门针对布尔值（是/否）问题优化的函数调用模型。该模型接受文本段落上下文和布尔问题作为输入，生成一个包含两个键的 Python 字典 —— 一个 "answer" 键，包含"是或否"的分类结果，以及一个 "explain" 键，提供简短的解释说明。

这是 slim-boolean-phi-3 的 ONNX int4 量化版本，提供非常快速、非常小巧的推理实现，专门针对使用 Intel GPU、CPU 和 NPU 的 AI PC 进行了优化。

模型描述

开发者： llmware
模型类型： phi-3
参数量： 38 亿
父模型： llmware/slim-boolean-phi-3
语言 (NLP)： 英语
许可证： Apache 2.0
用途： 布尔问题回答
RAG 基准测试准确率评分： 不适用
量化： int4

模型卡片联系方式

llmware 在 github 上

llmware 在 hf 上

llmware 网站

llmware/slim-boolean-phi-3-onnx

作者 llmware

↓ 1 ♥ 1

创建时间: 2024-10-26 21:53:08+00:00

更新时间: 2024-10-31 21:41:18+00:00

在 Hugging Face 上查看

文件 (12)

.gitattributes

README.md

added_tokens.json

config.json

genai_config.json

hash_record_sha256.json

model.onnx ONNX

model.onnx.data

special_tokens_map.json

tokenizer.json

tokenizer.model

tokenizer_config.json