说明文档

从 microsoft/phi-2 转换并进行了 4 位量化。

需要 onnxruntime>=0.17.0

BricksDisplay/phi-2-q4

作者 BricksDisplay

text-generation transformers

↓ 13 ♥ 0

创建时间: 2024-03-22 08:24:14+00:00

更新时间: 2024-03-23 20:28:58+00:00

.gitattributes

README.md

_model_layers.0_self_attn_rotary_emb_Constant_5_attr__value

_model_layers.0_self_attn_rotary_emb_Constant_attr__value

added_tokens.json

config.json

generation_config.json

merges.txt

onnx/decoder_model.onnx ONNX

onnx/decoder_model.onnx_data

onnx/decoder_model_merged.onnx ONNX

onnx/decoder_model_merged.onnx_data

onnx/decoder_model_merged_quantized.onnx ONNX

onnx/decoder_model_merged_quantized.onnx_data

onnx/decoder_model_quantized.onnx ONNX

onnx/decoder_model_quantized.onnx_data

onnx/decoder_with_past_model.onnx ONNX

onnx/decoder_with_past_model.onnx_data

onnx/decoder_with_past_model_quantized.onnx ONNX

onnx/decoder_with_past_model_quantized.onnx_data

quantize_config.json

special_tokens_map.json

tokenizer.json

tokenizer_config.json

vocab.json