说明文档

此模型是使用 Optimum 从 ibm-granite/granite-3b-code-instruct-128k 导出的，并经过 ONNX Runtime 的基础优化。

仓库所有者维护此模型以供 Transformers.js 和 DirectML 使用。所需的外部数据格式支持已在 3.4.0 版本中实现。

试用

此模型目前正按以下方式进行测试：

import  { pipeline } from \"@huggingface/transformers\"

const generator = await pipeline(
  \"text-generation\",
  \"kazssym/granite-3b-code-instruct-128k-onnx\",
  {
    device: \"dml\",
    use_external_data_format: true,
    session_options: {
    },
  },
)

kazssym/granite-3b-code-instruct-128k-onnx

作者 kazssym

text-generation

↓ 0 ♥ 1

创建时间: 2025-01-19 08:15:02+00:00

更新时间: 2025-03-17 09:13:26+00:00

在 Hugging Face 上查看

文件 (11)

.gitattributes

README.md

config.json

generation_config.json

merges.txt

onnx/model.onnx ONNX

onnx/model.onnx_data

special_tokens_map.json

tokenizer.json

tokenizer_config.json

vocab.json