DeiT

模型描述

DeiT 在这篇论文中提出，是一种训练效率更高的图像分类 Transformer 模型，与原始 ViT 模型相比，所需的数据量和计算资源都大大减少。

原始实现

点击此链接查看原始实现。

使用方法

from onnxruntime import InferenceSession
from transformers import DeiTFeatureExtractor, DeiTForImageClassification
import torch
from PIL import Image
import requests

torch.manual_seed(3)
url = \"http://images.cocodataset.org/val2017/000000039769.jpg\"
image = Image.open(requests.get(url, stream=True).raw)

feature_extractor = DeiTFeatureExtractor.from_pretrained(\"facebook/deit-base-distilled-patch16-224\")
inputs = feature_extractor(images=image, return_tensors=\"np\")
session = InferenceSession(\"onnx/model.onnx\")

# ONNX Runtime expects NumPy arrays as input
outputs = session.run(output_names=[\"last_hidden_state\"], input_feed=dict(inputs))