Ruri：日语通用文本嵌入

这是使用 ONNX 格式转换的模型。

Ruri：日语通用文本嵌入

Ruri v3 是基于 ModernBERT-Ja 构建的通用日语文本嵌入模型。 Ruri v3 提供了几个关键技术优势：

• 在日语文本嵌入任务上具有最先进的性能。
• 支持最长 8192 个 token 的序列长度
  • Ruri 的早期版本（v1、v2）仅限于 512 个 token。
• 扩展到 100K 个 token 的词表，而 v1 和 v2 仅有 32K
  • 更大的词表使输入序列更短，提高了效率。
• 集成 FlashAttention，遵循 ModernBERT 的架构
  • 实现更快的推理和微调。
• 仅基于 SentencePiece 的分词器
  • 与早期版本不同（早期版本依赖日语特定的 BERT 分词器并需要预分词输入），Ruri v3 仅使用 SentencePiece 进行分词——无需外部分词工具。

模型系列

我们提供多种模型尺寸的 Ruri-v3。以下是各模型的概要。

使用方法

您可以直接使用 transformers 库 v4.48.0 或更高版本：

pip install -U "transformers>=4.48.0" sentence-transformers

此外，如果您的 GPU 支持 Flash Attention 2，我们建议配合 Flash Attention 2 使用我们的模型。

pip install flash-attn --no-build-isolation

然后您可以加载此模型并运行推理。

import torch
import torch.nn.functional as F
from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
device = "cuda" if torch.cuda.is_available() else "cpu"
model = SentenceTransformer("cl-nagoya/ruri-v3-310m", device=device)

# Ruri v3 employs a 1+3 prefix scheme to distinguish between different types of text inputs:
# "" (empty string) is used for encoding semantic meaning.
# "トピック: " is used for classification, clustering, and encoding topical information.
# "検索クエリ: " is used for queries in retrieval tasks.
# "検索文書: " is used for documents to be retrieved.
sentences = [
    "川べりでサーフボードを持った人たちがいます",
    "サーファーたちが川べりに立っています",
    "トピック: 瑠璃色のサーファー",
    "検索クエリ: 瑠璃色はどんな色？",
    "検索文書: 瑠璃色（るりいろ）は、紫みを帯びた濃い青。名は、半貴石の瑠璃（ラピスラズリ、英: lapis lazuli）による。JIS慣用色名では「こい紫みの青」（略号 dp-pB）と定義している[1][2]。",
]

embeddings = model.encode(sentences, convert_to_tensor=True)
print(embeddings.size())
# [5, 768]

similarities = F.cosine_similarity(embeddings.unsqueeze(0), embeddings.unsqueeze(1), dim=2)
print(similarities)
# [[1.0000, 0.9603, 0.8157, 0.7074, 0.6916],
#  [0.9603, 1.0000, 0.8192, 0.7014, 0.6819],
#  [0.8157, 0.8192, 1.0000, 0.8701, 0.8470],
#  [0.7074, 0.7014, 0.8701, 1.0000, 0.9746],
#  [0.6916, 0.6819, 0.8470, 0.9746, 1.0000]]

基准测试

JMTEB

使用 JMTEB 进行评估。

模型详情

模型描述

• 模型类型： 句子 Transformer
• 基础模型： cl-nagoya/ruri-v3-pt-310m
• 最大序列长度： 8192 个 token
• 输出维度： 768
• 相似度函数： 余弦相似度
• 语言： 日语
• 许可证： Apache 2.0
• 论文： https://arxiv.org/abs/2409.07737

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: ModernBertModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

引用

@misc{
  Ruri,
  title={{Ruri: Japanese General Text Embeddings}}, 
  author={Hayato Tsukagoshi and Ryohei Sasano},
  year={2024},
  eprint={2409.07737},
  archivePrefix={arXiv},
  primaryClass={cs.CL},
  url={https://arxiv.org/abs/2409.07737}, 
}

许可证

本模型基于 Apache License, Version 2.0 发布。