modernbert-ner-conll2003 (ONNX)

这是 IsmaelMousa/modernbert-ner-conll2003 的 ONNX 版本。它通过 这个 Hugging Face Space 自动转换并上传。

使用 Transformers.js

请参阅 token-classification 的管道文档：https://huggingface.co/docs/transformers.js/api/pipelines#module_pipelines.TokenClassificationPipeline

ModernBERT NER (CoNLL2003)

该模型是基于 answerdotai/ModernBERT-base 在 CoNLL2003 数据集上微调的命名实体识别 (NER) 模型。

在识别人物、组织和地点的任务中表现稳健。

在评估集上取得以下结果：

• Loss: 0.0992
• Precision: 0.8349
• Recall: 0.8563
• F1: 0.8455
• Accuracy: 0.9752

模型详情

• 基础模型： ModernBERT: https://doi.org/10.48550/arXiv.2412.13663。
• 微调数据集： CoNLL2003: https://huggingface.co/datasets/eriktks/conll2003。
• 任务： 命名实体识别 (NER)

训练数据

该模型在 CoNLL2003 数据集上微调，这是 NER 领域知名的基准数据集。 该数据集为模型在通用英文文本上的泛化能力提供了坚实基础。

示例用法

以下是如何使用 Hugging Face Transformers 库调用该模型的示例：

from transformers import pipeline

ner = pipeline(task=\"token-classification\", model=\"IsmaelMousa/modernbert-ner-conll2003\", aggregation_strategy=\"max\")

results = ner(\"Hi, I'm Ismael Mousa from Palestine working for NVIDIA inc.\")

for entity in results:
    for key, value in entity.items():
        if key == \"entity_group\":
            print(f\"{entity['word']} => {entity[key]}\")

结果：

Ismael Mousa => PER
Palestine => LOC
NVIDIA => ORG

训练超参数

训练过程中使用了以下超参数：

• learning_rate: 1e-06
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: 使用 adamw_torch，betas=(0.9,0.999)，epsilon=1e-08，optimizer_args=无额外优化器参数
• lr_scheduler_type: linear
• num_epochs: 10

训练结果

框架版本

• Transformers 4.48.0.dev0
• Pytorch 2.2.1+cu121
• Datasets 3.2.0
• Tokenizers 0.21.0