Esperanto/llava-dermatology-7b-kvc-AWQ-int4-onnx

By Esperanto · ↓ 0 · ♥ 1 · Updated 2024-12-05

What's in this repo

This page lists the files in Esperanto/llava-dermatology-7b-kvc-AWQ-int4-onnx, including model.onnx and more.

4 ONNX models (.onnx files)
745 files, including 224 .qweight, 224 .qzeros, 224 .scales, 66 .weight, 4 .onnx, 1 .md
Last updated 2024-12-05

ONNX files

File	Size	Download
clip/model.onnx	—	Download
embeds/model.onnx	—	Download
llama/model.onnx	—	Download
mmp/model.onnx	—	Download

How to use

These ONNX files can be loaded with ONNX Runtime. To inspect a model graph, upload the file to the Netron viewer. Download links point to the original files on Hugging Face.

README

Model Card for Model ID

Model Details

Fine tuned version of LLaVA 7B through transfer learning on Dermatology Images. This version is the ONNX model in int4 precision with KVC (obtained with AWQ) for the LLM and the rest is in fp16 precision. Stay tuned for instructions on how to run this ONNX pipeline with OnnxRuntime!

Model Description

Given the rise in demand for reliable and immediate medical advice, particularly in dermatology, this tool empowers users to consult an "online dermatologist" by providing essential information, an image of the affected area, and asking follow-up questions, closely mimicking an actual consultation.

To achieve this, we fine-tuned LLaVA 7B with LoRA on the Skin Condition Image Network (SCIN) dataset, equipping it with the ability to process and analyze user-provided images, such as rashes, inflammations, or other skin conditions, and give patients diagnoses with high accuracy.

Developed by: Esperanto Technologies
Finetuned from model: llava-hf/llava-1.5-7b-hf
Blog: Updating soon

Uses

Put the information in the demo questionnaire together and form context such as:

'This is a CLOSE UP picture of a patient's skin problem. The patient is within the age group of AGE 18 TO 29. The patient is a MALE. The patient is Hispanic Latino or Spanish Origin. The texture of the skin problem is flat, rough or flaky. The skin problem comes with increasing size, itching and burning symptoms. The skin problem comes with pain. The skin problem doesn't come with other symptoms. The patient's skin problem has been ONE TO FOUR WEEKS.'

Along with system prompt and user question like "Please diagnose what skin condition is most likely in the picture."

Model info

transformers

transformers onnx base_model:Esperanto/llava-dermatology-7b-v1.5-hf base_model:quantized:Esperanto/llava-dermatology-7b-v1.5-hf endpoints_compatible region:us

↓ 0 ♥ 1

Created: 2024-11-06

Updated: 2024-12-05

View on Hugging Face

Files (745)

.gitattributes

README.md

clip/model.onnx ONNX

embeds/model.embed_tokens.weight

embeds/model.onnx ONNX

llama/model.layers.0.input_layernorm.weight

llama/model.layers.0.mlp.down_proj.qweight

llama/model.layers.0.mlp.down_proj.qzeros

llama/model.layers.0.mlp.down_proj.scales

llama/model.layers.0.mlp.gate_proj.qweight

llama/model.layers.0.mlp.gate_proj.qzeros

llama/model.layers.0.mlp.gate_proj.scales

llama/model.layers.0.mlp.up_proj.qweight

llama/model.layers.0.mlp.up_proj.qzeros

llama/model.layers.0.mlp.up_proj.scales

llama/model.layers.0.post_attention_layernorm.weight

llama/model.layers.0.self_attn.k_proj.qweight

llama/model.layers.0.self_attn.k_proj.qzeros

llama/model.layers.0.self_attn.k_proj.scales

llama/model.layers.0.self_attn.o_proj.qweight

llama/model.layers.0.self_attn.o_proj.qzeros

llama/model.layers.0.self_attn.o_proj.scales

llama/model.layers.0.self_attn.q_proj.qweight

llama/model.layers.0.self_attn.q_proj.qzeros

llama/model.layers.0.self_attn.q_proj.scales

llama/model.layers.0.self_attn.v_proj.qweight

llama/model.layers.0.self_attn.v_proj.qzeros

llama/model.layers.0.self_attn.v_proj.scales

llama/model.layers.1.input_layernorm.weight

llama/model.layers.1.mlp.down_proj.qweight

llama/model.layers.1.mlp.down_proj.qzeros

llama/model.layers.1.mlp.down_proj.scales

llama/model.layers.1.mlp.gate_proj.qweight

llama/model.layers.1.mlp.gate_proj.qzeros

llama/model.layers.1.mlp.gate_proj.scales

llama/model.layers.1.mlp.up_proj.qweight

llama/model.layers.1.mlp.up_proj.qzeros

llama/model.layers.1.mlp.up_proj.scales

llama/model.layers.1.post_attention_layernorm.weight

llama/model.layers.1.self_attn.k_proj.qweight

llama/model.layers.1.self_attn.k_proj.qzeros

llama/model.layers.1.self_attn.k_proj.scales

llama/model.layers.1.self_attn.o_proj.qweight

llama/model.layers.1.self_attn.o_proj.qzeros

llama/model.layers.1.self_attn.o_proj.scales

llama/model.layers.1.self_attn.q_proj.qweight

llama/model.layers.1.self_attn.q_proj.qzeros

llama/model.layers.1.self_attn.q_proj.scales

llama/model.layers.1.self_attn.v_proj.qweight

llama/model.layers.1.self_attn.v_proj.qzeros

llama/model.layers.1.self_attn.v_proj.scales

llama/model.layers.10.input_layernorm.weight

llama/model.layers.10.mlp.down_proj.qweight

llama/model.layers.10.mlp.down_proj.qzeros

llama/model.layers.10.mlp.down_proj.scales

llama/model.layers.10.mlp.gate_proj.qweight

llama/model.layers.10.mlp.gate_proj.qzeros

llama/model.layers.10.mlp.gate_proj.scales

llama/model.layers.10.mlp.up_proj.qweight

llama/model.layers.10.mlp.up_proj.qzeros

llama/model.layers.10.mlp.up_proj.scales

llama/model.layers.10.post_attention_layernorm.weight

llama/model.layers.10.self_attn.k_proj.qweight

llama/model.layers.10.self_attn.k_proj.qzeros

llama/model.layers.10.self_attn.k_proj.scales

llama/model.layers.10.self_attn.o_proj.qweight

llama/model.layers.10.self_attn.o_proj.qzeros

llama/model.layers.10.self_attn.o_proj.scales

llama/model.layers.10.self_attn.q_proj.qweight

llama/model.layers.10.self_attn.q_proj.qzeros

llama/model.layers.10.self_attn.q_proj.scales

llama/model.layers.10.self_attn.v_proj.qweight

llama/model.layers.10.self_attn.v_proj.qzeros

llama/model.layers.10.self_attn.v_proj.scales

llama/model.layers.11.input_layernorm.weight

llama/model.layers.11.mlp.down_proj.qweight

llama/model.layers.11.mlp.down_proj.qzeros

llama/model.layers.11.mlp.down_proj.scales

llama/model.layers.11.mlp.gate_proj.qweight

llama/model.layers.11.mlp.gate_proj.qzeros

llama/model.layers.11.mlp.gate_proj.scales

llama/model.layers.11.mlp.up_proj.qweight

llama/model.layers.11.mlp.up_proj.qzeros

llama/model.layers.11.mlp.up_proj.scales

llama/model.layers.11.post_attention_layernorm.weight

llama/model.layers.11.self_attn.k_proj.qweight

llama/model.layers.11.self_attn.k_proj.qzeros

llama/model.layers.11.self_attn.k_proj.scales

llama/model.layers.11.self_attn.o_proj.qweight

llama/model.layers.11.self_attn.o_proj.qzeros

llama/model.layers.11.self_attn.o_proj.scales

llama/model.layers.11.self_attn.q_proj.qweight

llama/model.layers.11.self_attn.q_proj.qzeros

llama/model.layers.11.self_attn.q_proj.scales

llama/model.layers.11.self_attn.v_proj.qweight

llama/model.layers.11.self_attn.v_proj.qzeros

llama/model.layers.11.self_attn.v_proj.scales

llama/model.layers.12.input_layernorm.weight

llama/model.layers.12.mlp.down_proj.qweight

llama/model.layers.12.mlp.down_proj.qzeros

llama/model.layers.12.mlp.down_proj.scales

llama/model.layers.12.mlp.gate_proj.qweight

llama/model.layers.12.mlp.gate_proj.qzeros

llama/model.layers.12.mlp.gate_proj.scales

llama/model.layers.12.mlp.up_proj.qweight

llama/model.layers.12.mlp.up_proj.qzeros

llama/model.layers.12.mlp.up_proj.scales

llama/model.layers.12.post_attention_layernorm.weight

llama/model.layers.12.self_attn.k_proj.qweight

llama/model.layers.12.self_attn.k_proj.qzeros

llama/model.layers.12.self_attn.k_proj.scales

llama/model.layers.12.self_attn.o_proj.qweight

llama/model.layers.12.self_attn.o_proj.qzeros

llama/model.layers.12.self_attn.o_proj.scales

llama/model.layers.12.self_attn.q_proj.qweight

llama/model.layers.12.self_attn.q_proj.qzeros

llama/model.layers.12.self_attn.q_proj.scales

llama/model.layers.12.self_attn.v_proj.qweight

llama/model.layers.12.self_attn.v_proj.qzeros

llama/model.layers.12.self_attn.v_proj.scales

llama/model.layers.13.input_layernorm.weight

llama/model.layers.13.mlp.down_proj.qweight

llama/model.layers.13.mlp.down_proj.qzeros

llama/model.layers.13.mlp.down_proj.scales

llama/model.layers.13.mlp.gate_proj.qweight

llama/model.layers.13.mlp.gate_proj.qzeros

llama/model.layers.13.mlp.gate_proj.scales

llama/model.layers.13.mlp.up_proj.qweight

llama/model.layers.13.mlp.up_proj.qzeros

llama/model.layers.13.mlp.up_proj.scales

llama/model.layers.13.post_attention_layernorm.weight

llama/model.layers.13.self_attn.k_proj.qweight

llama/model.layers.13.self_attn.k_proj.qzeros

llama/model.layers.13.self_attn.k_proj.scales

llama/model.layers.13.self_attn.o_proj.qweight

llama/model.layers.13.self_attn.o_proj.qzeros

llama/model.layers.13.self_attn.o_proj.scales

llama/model.layers.13.self_attn.q_proj.qweight

llama/model.layers.13.self_attn.q_proj.qzeros

llama/model.layers.13.self_attn.q_proj.scales

llama/model.layers.13.self_attn.v_proj.qweight

llama/model.layers.13.self_attn.v_proj.qzeros

llama/model.layers.13.self_attn.v_proj.scales

llama/model.layers.14.input_layernorm.weight

llama/model.layers.14.mlp.down_proj.qweight

llama/model.layers.14.mlp.down_proj.qzeros

llama/model.layers.14.mlp.down_proj.scales

llama/model.layers.14.mlp.gate_proj.qweight

llama/model.layers.14.mlp.gate_proj.qzeros

llama/model.layers.14.mlp.gate_proj.scales

llama/model.layers.14.mlp.up_proj.qweight

llama/model.layers.14.mlp.up_proj.qzeros

llama/model.layers.14.mlp.up_proj.scales

llama/model.layers.14.post_attention_layernorm.weight

llama/model.layers.14.self_attn.k_proj.qweight

llama/model.layers.14.self_attn.k_proj.qzeros

llama/model.layers.14.self_attn.k_proj.scales

llama/model.layers.14.self_attn.o_proj.qweight

llama/model.layers.14.self_attn.o_proj.qzeros

llama/model.layers.14.self_attn.o_proj.scales

llama/model.layers.14.self_attn.q_proj.qweight

llama/model.layers.14.self_attn.q_proj.qzeros

llama/model.layers.14.self_attn.q_proj.scales

llama/model.layers.14.self_attn.v_proj.qweight

llama/model.layers.14.self_attn.v_proj.qzeros

llama/model.layers.14.self_attn.v_proj.scales

llama/model.layers.15.input_layernorm.weight

llama/model.layers.15.mlp.down_proj.qweight

llama/model.layers.15.mlp.down_proj.qzeros

llama/model.layers.15.mlp.down_proj.scales

llama/model.layers.15.mlp.gate_proj.qweight

llama/model.layers.15.mlp.gate_proj.qzeros

llama/model.layers.15.mlp.gate_proj.scales

llama/model.layers.15.mlp.up_proj.qweight

llama/model.layers.15.mlp.up_proj.qzeros

llama/model.layers.15.mlp.up_proj.scales

llama/model.layers.15.post_attention_layernorm.weight

llama/model.layers.15.self_attn.k_proj.qweight

llama/model.layers.15.self_attn.k_proj.qzeros

llama/model.layers.15.self_attn.k_proj.scales

llama/model.layers.15.self_attn.o_proj.qweight

llama/model.layers.15.self_attn.o_proj.qzeros

llama/model.layers.15.self_attn.o_proj.scales

llama/model.layers.15.self_attn.q_proj.qweight

llama/model.layers.15.self_attn.q_proj.qzeros

llama/model.layers.15.self_attn.q_proj.scales

llama/model.layers.15.self_attn.v_proj.qweight

llama/model.layers.15.self_attn.v_proj.qzeros

llama/model.layers.15.self_attn.v_proj.scales

llama/model.layers.16.input_layernorm.weight

llama/model.layers.16.mlp.down_proj.qweight

llama/model.layers.16.mlp.down_proj.qzeros

llama/model.layers.16.mlp.down_proj.scales

llama/model.layers.16.mlp.gate_proj.qweight

llama/model.layers.16.mlp.gate_proj.qzeros

llama/model.layers.16.mlp.gate_proj.scales

llama/model.layers.16.mlp.up_proj.qweight

llama/model.layers.16.mlp.up_proj.qzeros

llama/model.layers.16.mlp.up_proj.scales

llama/model.layers.16.post_attention_layernorm.weight

llama/model.layers.16.self_attn.k_proj.qweight

llama/model.layers.16.self_attn.k_proj.qzeros

llama/model.layers.16.self_attn.k_proj.scales

llama/model.layers.16.self_attn.o_proj.qweight

llama/model.layers.16.self_attn.o_proj.qzeros

llama/model.layers.16.self_attn.o_proj.scales

llama/model.layers.16.self_attn.q_proj.qweight

llama/model.layers.16.self_attn.q_proj.qzeros

llama/model.layers.16.self_attn.q_proj.scales

llama/model.layers.16.self_attn.v_proj.qweight

llama/model.layers.16.self_attn.v_proj.qzeros

llama/model.layers.16.self_attn.v_proj.scales

llama/model.layers.17.input_layernorm.weight

llama/model.layers.17.mlp.down_proj.qweight

llama/model.layers.17.mlp.down_proj.qzeros

llama/model.layers.17.mlp.down_proj.scales

llama/model.layers.17.mlp.gate_proj.qweight

llama/model.layers.17.mlp.gate_proj.qzeros

llama/model.layers.17.mlp.gate_proj.scales

llama/model.layers.17.mlp.up_proj.qweight

llama/model.layers.17.mlp.up_proj.qzeros

llama/model.layers.17.mlp.up_proj.scales

llama/model.layers.17.post_attention_layernorm.weight

llama/model.layers.17.self_attn.k_proj.qweight

llama/model.layers.17.self_attn.k_proj.qzeros

llama/model.layers.17.self_attn.k_proj.scales

llama/model.layers.17.self_attn.o_proj.qweight

llama/model.layers.17.self_attn.o_proj.qzeros

llama/model.layers.17.self_attn.o_proj.scales

llama/model.layers.17.self_attn.q_proj.qweight

llama/model.layers.17.self_attn.q_proj.qzeros

llama/model.layers.17.self_attn.q_proj.scales

llama/model.layers.17.self_attn.v_proj.qweight

llama/model.layers.17.self_attn.v_proj.qzeros

llama/model.layers.17.self_attn.v_proj.scales

llama/model.layers.18.input_layernorm.weight

llama/model.layers.18.mlp.down_proj.qweight

llama/model.layers.18.mlp.down_proj.qzeros

llama/model.layers.18.mlp.down_proj.scales

llama/model.layers.18.mlp.gate_proj.qweight

llama/model.layers.18.mlp.gate_proj.qzeros

llama/model.layers.18.mlp.gate_proj.scales

llama/model.layers.18.mlp.up_proj.qweight

llama/model.layers.18.mlp.up_proj.qzeros

llama/model.layers.18.mlp.up_proj.scales

llama/model.layers.18.post_attention_layernorm.weight

llama/model.layers.18.self_attn.k_proj.qweight

llama/model.layers.18.self_attn.k_proj.qzeros

llama/model.layers.18.self_attn.k_proj.scales

llama/model.layers.18.self_attn.o_proj.qweight

llama/model.layers.18.self_attn.o_proj.qzeros

llama/model.layers.18.self_attn.o_proj.scales

llama/model.layers.18.self_attn.q_proj.qweight

llama/model.layers.18.self_attn.q_proj.qzeros

llama/model.layers.18.self_attn.q_proj.scales

llama/model.layers.18.self_attn.v_proj.qweight

llama/model.layers.18.self_attn.v_proj.qzeros

llama/model.layers.18.self_attn.v_proj.scales

llama/model.layers.19.input_layernorm.weight

llama/model.layers.19.mlp.down_proj.qweight

llama/model.layers.19.mlp.down_proj.qzeros

llama/model.layers.19.mlp.down_proj.scales

llama/model.layers.19.mlp.gate_proj.qweight

llama/model.layers.19.mlp.gate_proj.qzeros

llama/model.layers.19.mlp.gate_proj.scales

llama/model.layers.19.mlp.up_proj.qweight

llama/model.layers.19.mlp.up_proj.qzeros

llama/model.layers.19.mlp.up_proj.scales

llama/model.layers.19.post_attention_layernorm.weight

llama/model.layers.19.self_attn.k_proj.qweight

llama/model.layers.19.self_attn.k_proj.qzeros

llama/model.layers.19.self_attn.k_proj.scales

llama/model.layers.19.self_attn.o_proj.qweight

llama/model.layers.19.self_attn.o_proj.qzeros

llama/model.layers.19.self_attn.o_proj.scales

llama/model.layers.19.self_attn.q_proj.qweight

llama/model.layers.19.self_attn.q_proj.qzeros

llama/model.layers.19.self_attn.q_proj.scales

llama/model.layers.19.self_attn.v_proj.qweight

llama/model.layers.19.self_attn.v_proj.qzeros

llama/model.layers.19.self_attn.v_proj.scales

llama/model.layers.2.input_layernorm.weight

llama/model.layers.2.mlp.down_proj.qweight

llama/model.layers.2.mlp.down_proj.qzeros

llama/model.layers.2.mlp.down_proj.scales

llama/model.layers.2.mlp.gate_proj.qweight

llama/model.layers.2.mlp.gate_proj.qzeros

llama/model.layers.2.mlp.gate_proj.scales

llama/model.layers.2.mlp.up_proj.qweight

llama/model.layers.2.mlp.up_proj.qzeros

llama/model.layers.2.mlp.up_proj.scales

llama/model.layers.2.post_attention_layernorm.weight

llama/model.layers.2.self_attn.k_proj.qweight

llama/model.layers.2.self_attn.k_proj.qzeros

llama/model.layers.2.self_attn.k_proj.scales

llama/model.layers.2.self_attn.o_proj.qweight

llama/model.layers.2.self_attn.o_proj.qzeros

llama/model.layers.2.self_attn.o_proj.scales

llama/model.layers.2.self_attn.q_proj.qweight

llama/model.layers.2.self_attn.q_proj.qzeros

llama/model.layers.2.self_attn.q_proj.scales

llama/model.layers.2.self_attn.v_proj.qweight

llama/model.layers.2.self_attn.v_proj.qzeros

llama/model.layers.2.self_attn.v_proj.scales

llama/model.layers.20.input_layernorm.weight

llama/model.layers.20.mlp.down_proj.qweight

llama/model.layers.20.mlp.down_proj.qzeros

llama/model.layers.20.mlp.down_proj.scales

llama/model.layers.20.mlp.gate_proj.qweight

llama/model.layers.20.mlp.gate_proj.qzeros

llama/model.layers.20.mlp.gate_proj.scales

llama/model.layers.20.mlp.up_proj.qweight

llama/model.layers.20.mlp.up_proj.qzeros

llama/model.layers.20.mlp.up_proj.scales

llama/model.layers.20.post_attention_layernorm.weight

llama/model.layers.20.self_attn.k_proj.qweight

llama/model.layers.20.self_attn.k_proj.qzeros

llama/model.layers.20.self_attn.k_proj.scales

llama/model.layers.20.self_attn.o_proj.qweight

llama/model.layers.20.self_attn.o_proj.qzeros

llama/model.layers.20.self_attn.o_proj.scales

llama/model.layers.20.self_attn.q_proj.qweight

llama/model.layers.20.self_attn.q_proj.qzeros

llama/model.layers.20.self_attn.q_proj.scales

llama/model.layers.20.self_attn.v_proj.qweight

llama/model.layers.20.self_attn.v_proj.qzeros

llama/model.layers.20.self_attn.v_proj.scales

llama/model.layers.21.input_layernorm.weight

llama/model.layers.21.mlp.down_proj.qweight

llama/model.layers.21.mlp.down_proj.qzeros

llama/model.layers.21.mlp.down_proj.scales

llama/model.layers.21.mlp.gate_proj.qweight

llama/model.layers.21.mlp.gate_proj.qzeros

llama/model.layers.21.mlp.gate_proj.scales

llama/model.layers.21.mlp.up_proj.qweight

llama/model.layers.21.mlp.up_proj.qzeros

llama/model.layers.21.mlp.up_proj.scales

llama/model.layers.21.post_attention_layernorm.weight

llama/model.layers.21.self_attn.k_proj.qweight

llama/model.layers.21.self_attn.k_proj.qzeros

llama/model.layers.21.self_attn.k_proj.scales

llama/model.layers.21.self_attn.o_proj.qweight

llama/model.layers.21.self_attn.o_proj.qzeros

llama/model.layers.21.self_attn.o_proj.scales

llama/model.layers.21.self_attn.q_proj.qweight

llama/model.layers.21.self_attn.q_proj.qzeros

llama/model.layers.21.self_attn.q_proj.scales

llama/model.layers.21.self_attn.v_proj.qweight

llama/model.layers.21.self_attn.v_proj.qzeros

llama/model.layers.21.self_attn.v_proj.scales

llama/model.layers.22.input_layernorm.weight

llama/model.layers.22.mlp.down_proj.qweight

llama/model.layers.22.mlp.down_proj.qzeros

llama/model.layers.22.mlp.down_proj.scales

llama/model.layers.22.mlp.gate_proj.qweight

llama/model.layers.22.mlp.gate_proj.qzeros

llama/model.layers.22.mlp.gate_proj.scales

llama/model.layers.22.mlp.up_proj.qweight

llama/model.layers.22.mlp.up_proj.qzeros

llama/model.layers.22.mlp.up_proj.scales

llama/model.layers.22.post_attention_layernorm.weight

llama/model.layers.22.self_attn.k_proj.qweight

llama/model.layers.22.self_attn.k_proj.qzeros

llama/model.layers.22.self_attn.k_proj.scales

llama/model.layers.22.self_attn.o_proj.qweight

llama/model.layers.22.self_attn.o_proj.qzeros

llama/model.layers.22.self_attn.o_proj.scales

llama/model.layers.22.self_attn.q_proj.qweight

llama/model.layers.22.self_attn.q_proj.qzeros

llama/model.layers.22.self_attn.q_proj.scales

llama/model.layers.22.self_attn.v_proj.qweight

llama/model.layers.22.self_attn.v_proj.qzeros

llama/model.layers.22.self_attn.v_proj.scales

llama/model.layers.23.input_layernorm.weight

llama/model.layers.23.mlp.down_proj.qweight

llama/model.layers.23.mlp.down_proj.qzeros

llama/model.layers.23.mlp.down_proj.scales

llama/model.layers.23.mlp.gate_proj.qweight

llama/model.layers.23.mlp.gate_proj.qzeros

llama/model.layers.23.mlp.gate_proj.scales

llama/model.layers.23.mlp.up_proj.qweight

llama/model.layers.23.mlp.up_proj.qzeros

llama/model.layers.23.mlp.up_proj.scales

llama/model.layers.23.post_attention_layernorm.weight

llama/model.layers.23.self_attn.k_proj.qweight

llama/model.layers.23.self_attn.k_proj.qzeros

llama/model.layers.23.self_attn.k_proj.scales

llama/model.layers.23.self_attn.o_proj.qweight

llama/model.layers.23.self_attn.o_proj.qzeros

llama/model.layers.23.self_attn.o_proj.scales

llama/model.layers.23.self_attn.q_proj.qweight

llama/model.layers.23.self_attn.q_proj.qzeros

llama/model.layers.23.self_attn.q_proj.scales

llama/model.layers.23.self_attn.v_proj.qweight

llama/model.layers.23.self_attn.v_proj.qzeros

llama/model.layers.23.self_attn.v_proj.scales

llama/model.layers.24.input_layernorm.weight

llama/model.layers.24.mlp.down_proj.qweight

llama/model.layers.24.mlp.down_proj.qzeros

llama/model.layers.24.mlp.down_proj.scales

llama/model.layers.24.mlp.gate_proj.qweight

llama/model.layers.24.mlp.gate_proj.qzeros

llama/model.layers.24.mlp.gate_proj.scales

llama/model.layers.24.mlp.up_proj.qweight

llama/model.layers.24.mlp.up_proj.qzeros

llama/model.layers.24.mlp.up_proj.scales

llama/model.layers.24.post_attention_layernorm.weight

llama/model.layers.24.self_attn.k_proj.qweight

llama/model.layers.24.self_attn.k_proj.qzeros

llama/model.layers.24.self_attn.k_proj.scales

llama/model.layers.24.self_attn.o_proj.qweight

llama/model.layers.24.self_attn.o_proj.qzeros

llama/model.layers.24.self_attn.o_proj.scales

llama/model.layers.24.self_attn.q_proj.qweight

llama/model.layers.24.self_attn.q_proj.qzeros

llama/model.layers.24.self_attn.q_proj.scales

llama/model.layers.24.self_attn.v_proj.qweight

llama/model.layers.24.self_attn.v_proj.qzeros

llama/model.layers.24.self_attn.v_proj.scales

llama/model.layers.25.input_layernorm.weight

llama/model.layers.25.mlp.down_proj.qweight

llama/model.layers.25.mlp.down_proj.qzeros

llama/model.layers.25.mlp.down_proj.scales

llama/model.layers.25.mlp.gate_proj.qweight

llama/model.layers.25.mlp.gate_proj.qzeros

llama/model.layers.25.mlp.gate_proj.scales

llama/model.layers.25.mlp.up_proj.qweight

llama/model.layers.25.mlp.up_proj.qzeros

llama/model.layers.25.mlp.up_proj.scales

llama/model.layers.25.post_attention_layernorm.weight

llama/model.layers.25.self_attn.k_proj.qweight

llama/model.layers.25.self_attn.k_proj.qzeros

llama/model.layers.25.self_attn.k_proj.scales

llama/model.layers.25.self_attn.o_proj.qweight

llama/model.layers.25.self_attn.o_proj.qzeros

llama/model.layers.25.self_attn.o_proj.scales

llama/model.layers.25.self_attn.q_proj.qweight

llama/model.layers.25.self_attn.q_proj.qzeros

llama/model.layers.25.self_attn.q_proj.scales

llama/model.layers.25.self_attn.v_proj.qweight

llama/model.layers.25.self_attn.v_proj.qzeros

llama/model.layers.25.self_attn.v_proj.scales

llama/model.layers.26.input_layernorm.weight

llama/model.layers.26.mlp.down_proj.qweight

llama/model.layers.26.mlp.down_proj.qzeros

llama/model.layers.26.mlp.down_proj.scales

llama/model.layers.26.mlp.gate_proj.qweight

llama/model.layers.26.mlp.gate_proj.qzeros

llama/model.layers.26.mlp.gate_proj.scales

llama/model.layers.26.mlp.up_proj.qweight

llama/model.layers.26.mlp.up_proj.qzeros

llama/model.layers.26.mlp.up_proj.scales

llama/model.layers.26.post_attention_layernorm.weight

llama/model.layers.26.self_attn.k_proj.qweight

llama/model.layers.26.self_attn.k_proj.qzeros

llama/model.layers.26.self_attn.k_proj.scales

llama/model.layers.26.self_attn.o_proj.qweight

llama/model.layers.26.self_attn.o_proj.qzeros

llama/model.layers.26.self_attn.o_proj.scales

llama/model.layers.26.self_attn.q_proj.qweight

llama/model.layers.26.self_attn.q_proj.qzeros

llama/model.layers.26.self_attn.q_proj.scales

llama/model.layers.26.self_attn.v_proj.qweight

llama/model.layers.26.self_attn.v_proj.qzeros

llama/model.layers.26.self_attn.v_proj.scales

llama/model.layers.27.input_layernorm.weight

llama/model.layers.27.mlp.down_proj.qweight

llama/model.layers.27.mlp.down_proj.qzeros

llama/model.layers.27.mlp.down_proj.scales

llama/model.layers.27.mlp.gate_proj.qweight

llama/model.layers.27.mlp.gate_proj.qzeros

llama/model.layers.27.mlp.gate_proj.scales

llama/model.layers.27.mlp.up_proj.qweight

llama/model.layers.27.mlp.up_proj.qzeros

llama/model.layers.27.mlp.up_proj.scales

llama/model.layers.27.post_attention_layernorm.weight

llama/model.layers.27.self_attn.k_proj.qweight

llama/model.layers.27.self_attn.k_proj.qzeros

llama/model.layers.27.self_attn.k_proj.scales

llama/model.layers.27.self_attn.o_proj.qweight

llama/model.layers.27.self_attn.o_proj.qzeros

llama/model.layers.27.self_attn.o_proj.scales

llama/model.layers.27.self_attn.q_proj.qweight

llama/model.layers.27.self_attn.q_proj.qzeros

llama/model.layers.27.self_attn.q_proj.scales

llama/model.layers.27.self_attn.v_proj.qweight

llama/model.layers.27.self_attn.v_proj.qzeros

llama/model.layers.27.self_attn.v_proj.scales

llama/model.layers.28.input_layernorm.weight

llama/model.layers.28.mlp.down_proj.qweight

llama/model.layers.28.mlp.down_proj.qzeros

llama/model.layers.28.mlp.down_proj.scales

llama/model.layers.28.mlp.gate_proj.qweight

llama/model.layers.28.mlp.gate_proj.qzeros

llama/model.layers.28.mlp.gate_proj.scales

llama/model.layers.28.mlp.up_proj.qweight

llama/model.layers.28.mlp.up_proj.qzeros

llama/model.layers.28.mlp.up_proj.scales

llama/model.layers.28.post_attention_layernorm.weight

llama/model.layers.28.self_attn.k_proj.qweight

llama/model.layers.28.self_attn.k_proj.qzeros

llama/model.layers.28.self_attn.k_proj.scales

llama/model.layers.28.self_attn.o_proj.qweight

llama/model.layers.28.self_attn.o_proj.qzeros

llama/model.layers.28.self_attn.o_proj.scales

llama/model.layers.28.self_attn.q_proj.qweight

llama/model.layers.28.self_attn.q_proj.qzeros

llama/model.layers.28.self_attn.q_proj.scales

llama/model.layers.28.self_attn.v_proj.qweight

llama/model.layers.28.self_attn.v_proj.qzeros

llama/model.layers.28.self_attn.v_proj.scales

llama/model.layers.29.input_layernorm.weight

llama/model.layers.29.mlp.down_proj.qweight

llama/model.layers.29.mlp.down_proj.qzeros

llama/model.layers.29.mlp.down_proj.scales

llama/model.layers.29.mlp.gate_proj.qweight

llama/model.layers.29.mlp.gate_proj.qzeros

llama/model.layers.29.mlp.gate_proj.scales

llama/model.layers.29.mlp.up_proj.qweight

llama/model.layers.29.mlp.up_proj.qzeros

llama/model.layers.29.mlp.up_proj.scales

llama/model.layers.29.post_attention_layernorm.weight

llama/model.layers.29.self_attn.k_proj.qweight

llama/model.layers.29.self_attn.k_proj.qzeros

llama/model.layers.29.self_attn.k_proj.scales

llama/model.layers.29.self_attn.o_proj.qweight

llama/model.layers.29.self_attn.o_proj.qzeros

llama/model.layers.29.self_attn.o_proj.scales

llama/model.layers.29.self_attn.q_proj.qweight

llama/model.layers.29.self_attn.q_proj.qzeros

llama/model.layers.29.self_attn.q_proj.scales

llama/model.layers.29.self_attn.v_proj.qweight

llama/model.layers.29.self_attn.v_proj.qzeros

llama/model.layers.29.self_attn.v_proj.scales

llama/model.layers.3.input_layernorm.weight

llama/model.layers.3.mlp.down_proj.qweight

llama/model.layers.3.mlp.down_proj.qzeros

llama/model.layers.3.mlp.down_proj.scales

llama/model.layers.3.mlp.gate_proj.qweight

llama/model.layers.3.mlp.gate_proj.qzeros

llama/model.layers.3.mlp.gate_proj.scales

llama/model.layers.3.mlp.up_proj.qweight

llama/model.layers.3.mlp.up_proj.qzeros

llama/model.layers.3.mlp.up_proj.scales

llama/model.layers.3.post_attention_layernorm.weight

llama/model.layers.3.self_attn.k_proj.qweight

llama/model.layers.3.self_attn.k_proj.qzeros

llama/model.layers.3.self_attn.k_proj.scales

llama/model.layers.3.self_attn.o_proj.qweight

llama/model.layers.3.self_attn.o_proj.qzeros

llama/model.layers.3.self_attn.o_proj.scales

llama/model.layers.3.self_attn.q_proj.qweight

llama/model.layers.3.self_attn.q_proj.qzeros

llama/model.layers.3.self_attn.q_proj.scales

llama/model.layers.3.self_attn.v_proj.qweight

llama/model.layers.3.self_attn.v_proj.qzeros

llama/model.layers.3.self_attn.v_proj.scales

llama/model.layers.30.input_layernorm.weight

llama/model.layers.30.mlp.down_proj.qweight

llama/model.layers.30.mlp.down_proj.qzeros

llama/model.layers.30.mlp.down_proj.scales

llama/model.layers.30.mlp.gate_proj.qweight

llama/model.layers.30.mlp.gate_proj.qzeros

llama/model.layers.30.mlp.gate_proj.scales

llama/model.layers.30.mlp.up_proj.qweight

llama/model.layers.30.mlp.up_proj.qzeros

llama/model.layers.30.mlp.up_proj.scales

llama/model.layers.30.post_attention_layernorm.weight

llama/model.layers.30.self_attn.k_proj.qweight

llama/model.layers.30.self_attn.k_proj.qzeros

llama/model.layers.30.self_attn.k_proj.scales

llama/model.layers.30.self_attn.o_proj.qweight

llama/model.layers.30.self_attn.o_proj.qzeros

llama/model.layers.30.self_attn.o_proj.scales

llama/model.layers.30.self_attn.q_proj.qweight

llama/model.layers.30.self_attn.q_proj.qzeros

llama/model.layers.30.self_attn.q_proj.scales

llama/model.layers.30.self_attn.v_proj.qweight

llama/model.layers.30.self_attn.v_proj.qzeros

llama/model.layers.30.self_attn.v_proj.scales

llama/model.layers.31.input_layernorm.weight

llama/model.layers.31.mlp.down_proj.qweight

llama/model.layers.31.mlp.down_proj.qzeros

llama/model.layers.31.mlp.down_proj.scales

llama/model.layers.31.mlp.gate_proj.qweight

llama/model.layers.31.mlp.gate_proj.qzeros

llama/model.layers.31.mlp.gate_proj.scales

llama/model.layers.31.mlp.up_proj.qweight

llama/model.layers.31.mlp.up_proj.qzeros

llama/model.layers.31.mlp.up_proj.scales

llama/model.layers.31.post_attention_layernorm.weight

llama/model.layers.31.self_attn.k_proj.qweight

llama/model.layers.31.self_attn.k_proj.qzeros

llama/model.layers.31.self_attn.k_proj.scales

llama/model.layers.31.self_attn.o_proj.qweight

llama/model.layers.31.self_attn.o_proj.qzeros

llama/model.layers.31.self_attn.o_proj.scales

llama/model.layers.31.self_attn.q_proj.qweight

llama/model.layers.31.self_attn.q_proj.qzeros

llama/model.layers.31.self_attn.q_proj.scales

llama/model.layers.31.self_attn.v_proj.qweight

llama/model.layers.31.self_attn.v_proj.qzeros

llama/model.layers.31.self_attn.v_proj.scales

llama/model.layers.4.input_layernorm.weight

llama/model.layers.4.mlp.down_proj.qweight

llama/model.layers.4.mlp.down_proj.qzeros

llama/model.layers.4.mlp.down_proj.scales

llama/model.layers.4.mlp.gate_proj.qweight

llama/model.layers.4.mlp.gate_proj.qzeros

llama/model.layers.4.mlp.gate_proj.scales

llama/model.layers.4.mlp.up_proj.qweight

llama/model.layers.4.mlp.up_proj.qzeros

llama/model.layers.4.mlp.up_proj.scales

llama/model.layers.4.post_attention_layernorm.weight

llama/model.layers.4.self_attn.k_proj.qweight

llama/model.layers.4.self_attn.k_proj.qzeros

llama/model.layers.4.self_attn.k_proj.scales

llama/model.layers.4.self_attn.o_proj.qweight

llama/model.layers.4.self_attn.o_proj.qzeros

llama/model.layers.4.self_attn.o_proj.scales

llama/model.layers.4.self_attn.q_proj.qweight

llama/model.layers.4.self_attn.q_proj.qzeros

llama/model.layers.4.self_attn.q_proj.scales

llama/model.layers.4.self_attn.v_proj.qweight

llama/model.layers.4.self_attn.v_proj.qzeros

llama/model.layers.4.self_attn.v_proj.scales

llama/model.layers.5.input_layernorm.weight

llama/model.layers.5.mlp.down_proj.qweight

llama/model.layers.5.mlp.down_proj.qzeros

llama/model.layers.5.mlp.down_proj.scales

llama/model.layers.5.mlp.gate_proj.qweight

llama/model.layers.5.mlp.gate_proj.qzeros

llama/model.layers.5.mlp.gate_proj.scales

llama/model.layers.5.mlp.up_proj.qweight

llama/model.layers.5.mlp.up_proj.qzeros

llama/model.layers.5.mlp.up_proj.scales

llama/model.layers.5.post_attention_layernorm.weight

llama/model.layers.5.self_attn.k_proj.qweight

llama/model.layers.5.self_attn.k_proj.qzeros

llama/model.layers.5.self_attn.k_proj.scales

llama/model.layers.5.self_attn.o_proj.qweight

llama/model.layers.5.self_attn.o_proj.qzeros

llama/model.layers.5.self_attn.o_proj.scales

llama/model.layers.5.self_attn.q_proj.qweight

llama/model.layers.5.self_attn.q_proj.qzeros

llama/model.layers.5.self_attn.q_proj.scales

llama/model.layers.5.self_attn.v_proj.qweight

llama/model.layers.5.self_attn.v_proj.qzeros

llama/model.layers.5.self_attn.v_proj.scales

llama/model.layers.6.input_layernorm.weight

llama/model.layers.6.mlp.down_proj.qweight

llama/model.layers.6.mlp.down_proj.qzeros

llama/model.layers.6.mlp.down_proj.scales

llama/model.layers.6.mlp.gate_proj.qweight

llama/model.layers.6.mlp.gate_proj.qzeros

llama/model.layers.6.mlp.gate_proj.scales

llama/model.layers.6.mlp.up_proj.qweight

llama/model.layers.6.mlp.up_proj.qzeros

llama/model.layers.6.mlp.up_proj.scales

llama/model.layers.6.post_attention_layernorm.weight

llama/model.layers.6.self_attn.k_proj.qweight

llama/model.layers.6.self_attn.k_proj.qzeros

llama/model.layers.6.self_attn.k_proj.scales

llama/model.layers.6.self_attn.o_proj.qweight

llama/model.layers.6.self_attn.o_proj.qzeros

llama/model.layers.6.self_attn.o_proj.scales

llama/model.layers.6.self_attn.q_proj.qweight

llama/model.layers.6.self_attn.q_proj.qzeros

llama/model.layers.6.self_attn.q_proj.scales

llama/model.layers.6.self_attn.v_proj.qweight

llama/model.layers.6.self_attn.v_proj.qzeros

llama/model.layers.6.self_attn.v_proj.scales

llama/model.layers.7.input_layernorm.weight

llama/model.layers.7.mlp.down_proj.qweight

llama/model.layers.7.mlp.down_proj.qzeros

llama/model.layers.7.mlp.down_proj.scales

llama/model.layers.7.mlp.gate_proj.qweight

llama/model.layers.7.mlp.gate_proj.qzeros

llama/model.layers.7.mlp.gate_proj.scales

llama/model.layers.7.mlp.up_proj.qweight

llama/model.layers.7.mlp.up_proj.qzeros

llama/model.layers.7.mlp.up_proj.scales

llama/model.layers.7.post_attention_layernorm.weight

llama/model.layers.7.self_attn.k_proj.qweight

llama/model.layers.7.self_attn.k_proj.qzeros

llama/model.layers.7.self_attn.k_proj.scales

llama/model.layers.7.self_attn.o_proj.qweight

llama/model.layers.7.self_attn.o_proj.qzeros

llama/model.layers.7.self_attn.o_proj.scales

llama/model.layers.7.self_attn.q_proj.qweight

llama/model.layers.7.self_attn.q_proj.qzeros

llama/model.layers.7.self_attn.q_proj.scales

llama/model.layers.7.self_attn.v_proj.qweight

llama/model.layers.7.self_attn.v_proj.qzeros

llama/model.layers.7.self_attn.v_proj.scales

llama/model.layers.8.input_layernorm.weight

llama/model.layers.8.mlp.down_proj.qweight

llama/model.layers.8.mlp.down_proj.qzeros

llama/model.layers.8.mlp.down_proj.scales

llama/model.layers.8.mlp.gate_proj.qweight

llama/model.layers.8.mlp.gate_proj.qzeros

llama/model.layers.8.mlp.gate_proj.scales

llama/model.layers.8.mlp.up_proj.qweight

llama/model.layers.8.mlp.up_proj.qzeros

llama/model.layers.8.mlp.up_proj.scales

llama/model.layers.8.post_attention_layernorm.weight

llama/model.layers.8.self_attn.k_proj.qweight

llama/model.layers.8.self_attn.k_proj.qzeros

llama/model.layers.8.self_attn.k_proj.scales

llama/model.layers.8.self_attn.o_proj.qweight

llama/model.layers.8.self_attn.o_proj.qzeros

llama/model.layers.8.self_attn.o_proj.scales

llama/model.layers.8.self_attn.q_proj.qweight

llama/model.layers.8.self_attn.q_proj.qzeros

llama/model.layers.8.self_attn.q_proj.scales

llama/model.layers.8.self_attn.v_proj.qweight

llama/model.layers.8.self_attn.v_proj.qzeros

llama/model.layers.8.self_attn.v_proj.scales

llama/model.layers.9.input_layernorm.weight

llama/model.layers.9.mlp.down_proj.qweight

llama/model.layers.9.mlp.down_proj.qzeros

llama/model.layers.9.mlp.down_proj.scales

llama/model.layers.9.mlp.gate_proj.qweight

llama/model.layers.9.mlp.gate_proj.qzeros

llama/model.layers.9.mlp.gate_proj.scales

llama/model.layers.9.mlp.up_proj.qweight

llama/model.layers.9.mlp.up_proj.qzeros

llama/model.layers.9.mlp.up_proj.scales

llama/model.layers.9.post_attention_layernorm.weight

llama/model.layers.9.self_attn.k_proj.qweight

llama/model.layers.9.self_attn.k_proj.qzeros

llama/model.layers.9.self_attn.k_proj.scales

llama/model.layers.9.self_attn.o_proj.qweight

llama/model.layers.9.self_attn.o_proj.qzeros

llama/model.layers.9.self_attn.o_proj.scales

llama/model.layers.9.self_attn.q_proj.qweight

llama/model.layers.9.self_attn.q_proj.qzeros

llama/model.layers.9.self_attn.q_proj.scales

llama/model.layers.9.self_attn.v_proj.qweight

llama/model.layers.9.self_attn.v_proj.qzeros

llama/model.layers.9.self_attn.v_proj.scales

llama/model.norm.weight

llama/model.onnx ONNX

llama/onnx__MatMul_7563

mmp/model.onnx ONNX

Related models

More models

No task type declared.