ONNX 蒸馏垃圾邮件分类器

本仓库包含一个基于 RoBERTa 的垃圾邮件分类模型的蒸馏和量化版本，针对 ONNX 格式的高性能 CPU 推理进行了优化。

该模型是通过蒸馏 mshenoda/roberta-spam 创建的，旨在实现高效的设备端和跨平台部署。

模型描述

• 模型类型： 蒸馏的 RoBERTa-base 模型。
• 任务： 垃圾邮件分类（二分类）。
• 格式： ONNX，采用动态量化。
• 主要特性： 轻量级、快速，非常适合基于 CPU 的推理。

预期用途与限制

该模型专为对性能和低资源使用有严格要求的客户端应用程序而设计。它非常适合：

• 桌面应用程序（Windows、Linux、macOS）
• 移动应用程序（配合适当的 ONNX 运行时）
• 边缘设备

作为蒸馏模型，与更大的 roberta-base 教师模型相比，在准确性上可能会有轻微的权衡，但换来的是显著的速度提升和更小的内存占用。

如何开始

您可以直接使用 onnxruntime 和 transformers 库来使用此模型。

1. 安装

首先，确保已安装必要的库。如需使用 GPU，请安装 onnxruntime-gpu；若仅使用 CPU，安装 onnxruntime 即可。

# For CPU
pip install onnxruntime transformers

# OR for NVIDIA GPU
pip install onnxruntime-gpu transformers