说明文档

open_llama_3b_v2-ds

https://huggingface.co/openlm-research/open_llama_3b_v2

推理

import deepsparse

model = deepsparse.TextGeneration(model="hf:mgoin/open_llama_3b_v2-ds")
model("Tell me a joke.")

导出

git clone https://huggingface.co/openlm-research/open_llama_3b_v2
sparseml.transformers.export_onnx --model_path ./open_llama_3b_v2 --task text-generation --sequence_length 512

mgoin/open_llama_3b_v2-ds

作者 mgoin

text-generation transformers

↓ 0 ♥ 0

创建时间: 2023-09-21 20:24:15+00:00

更新时间: 2023-10-04 21:45:19+00:00

在 Hugging Face 上查看

文件 (9)

.gitattributes

README.md

config.json

model-orig.onnx ONNX

model.data

model.onnx ONNX

special_tokens_map.json

tokenizer.model

tokenizer_config.json