camembert-ner：基于 camemBERT 微调的命名实体识别模型（含日期标签）

简介

[camembert-ner-with-dates] 是法语 camembert-ner 模型的扩展版本，新增了日期标签。 该模型在增强版的 wikiner-fr 数据集上进行训练（约 170,634 个句子）。

在我的测试数据（聊天记录和电子邮件的混合数据）上，该模型的 F1 分数约为 83%（相比之下 dateparser 约为 70%）。 dateparser 库仍可用于该模型的输出结果，将文本转换为 Python datetime 对象 (https://dateparser.readthedocs.io/en/latest/)。

如何在 HuggingFace 中使用 camembert-ner-with-dates

加载 camembert-ner-with-dates 及其子词分词器：

from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("Jean-Baptiste/camembert-ner-with-dates")
model = AutoModelForTokenClassification.from_pretrained("Jean-Baptiste/camembert-ner-with-dates")


##### 处理文本样本（来自维基百科）

from transformers import pipeline

nlp = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="simple")
nlp("Apple est créée le 1er avril 1976 dans le garage de la maison d'enfance de Steve Jobs à Los Altos en Californie par Steve Jobs, Steve Wozniak et Ronald Wayne14, puis constituée sous forme de société le 3 janvier 1977 à l'origine sous le nom d'Apple Computer, mais pour ses 30 ans et pour refléter la diversification de ses produits, le mot « computer » est retiré le 9 janvier 2015.")


[{'entity_group': 'ORG',
  'score': 0.9776379466056824,
  'word': 'Apple',
  'start': 0,
  'end': 5},
 {'entity_group': 'DATE',
  'score': 0.9793774570737567,
  'word': 'le 1er avril 1976 dans le',
  'start': 15,
  'end': 41},
 {'entity_group': 'PER',
  'score': 0.9958226680755615,
  'word': 'Steve Jobs',
  'start': 74,
  'end': 85},
 {'entity_group': 'LOC',
  'score': 0.995087186495463,
  'word': 'Los Altos',
  'start': 87,
  'end': 97},
 {'entity_group': 'LOC',
  'score': 0.9953305125236511,
  'word': 'Californie',
  'start': 100,
  'end': 111},
 {'entity_group': 'PER',
  'score': 0.9961076378822327,
  'word': 'Steve Jobs',
  'start': 115,
  'end': 126},
 {'entity_group': 'PER',
  'score': 0.9960325956344604,
  'word': 'Steve Wozniak',
  'start': 127,
  'end': 141},
 {'entity_group': 'PER',
  'score': 0.9957776467005411,
  'word': 'Ronald Wayne',
  'start': 144,
  'end': 157},
 {'entity_group': 'DATE',
  'score': 0.994030773639679,
  'word': 'le 3 janvier 1977 à',
  'start': 198,
  'end': 218},
 {'entity_group': 'ORG',
  'score': 0.9720810294151306,
  'word': "d'Apple Computer",
  'start': 240,
  'end': 257},
 {'entity_group': 'DATE',
  'score': 0.9924157659212748,
  'word': '30 ans et',
  'start': 272,
  'end': 282},
 {'entity_group': 'DATE',
  'score': 0.9934852868318558,
  'word': 'le 9 janvier 2015.',
  'start': 363,
  'end': 382}]

模型性能（评估指标：seqeval）

整体性能

'precision': 0.928
'recall': 0.928
'f1': 0.928

按实体类型

标签 LOC: (精确率:0.929, 召回率:0.932, F1:0.931, 支持数:9510)
标签 PER: (精确率:0.952, 召回率:0.965, F1:0.959, 支持数:9399)
标签 MISC: (精确率:0.878, 召回率:0.844, F1:0.860, 支持数:5364)
标签 ORG: (精确率:0.848, 召回率:0.883, F1:0.865, 支持数:2299)
标签 DATE: 不适用，因为在 wikiner 数据集上添加日期标签的方法原因（估计 F1 约为 90%）