基于 huggingface/CodeBERTa-small-v1 的 SentenceTransformer

这是一个基于 huggingface/CodeBERTa-small-v1 微调的 sentence-transformers 模型。它将句子和段落映射到 768 维的稠密向量空间，可用于语义文本相似度、语义搜索、复述挖掘、文本分类、聚类等任务。

模型详情

模型描述

• 模型类型: Sentence Transformer
• 基础模型: huggingface/CodeBERTa-small-v1 <!-- at revision e93b5898cff07f03f1c1c09cde284d1b85962363 -->
• 最大序列长度: 512 个 token
• 输出维度: 768 维
• 相似度函数: 余弦相似度 <!-- - 训练数据集: 未知 --> <!-- - 语言: 未知 --> <!-- - 许可证: 未知 -->

模型来源

• 文档: Sentence Transformers 文档
• 代码库: Sentence Transformers GitHub 仓库
• Hugging Face: Sentence Transformers on Hugging Face

完整模型架构

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: RobertaModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

使用方法

直接使用 (Sentence Transformers)

首先安装 Sentence Transformers 库:

pip install -U sentence-transformers

然后你可以加载此模型并运行推理。

from sentence_transformers import SentenceTransformer

# 从 🤗 Hub 下载
model = SentenceTransformer("buelfhood/CodeBERTa-small-v1")
# 运行推理
sentences = [
    'The weather is lovely today.',
    "It's so sunny outside!",
    'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# 获取嵌入的相似度分数
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

<!--

直接使用 (Transformers)

<details><summary>点击查看 Transformers 中的直接使用方法</summary>

</details> -->

<!--

下游使用 (Sentence Transformers)

你可以在自己的数据集上微调此模型。

<details><summary>点击展开</summary>

</details> -->

<!--

超出范围的使用

列出模型可能被预见滥用的方式，并说明用户不应该用该模型做什么。 -->

<!--

偏见、风险和局限性

此模型存在哪些已知或可预见的问题？你也可以在这里标记已知的失败案例或模型弱点。 -->

<!--

建议

针对可预见的问题有哪些建议？例如，过滤显式内容。 -->

训练详情

框架版本

• Python: 3.11.11
• Sentence Transformers: 3.4.1
• Transformers: 4.50.2
• PyTorch: 2.6.0+cu124
• Accelerate: 1.5.2
• Datasets:
• Tokenizers: 0.21.1

引用

BibTeX

<!--

术语表

清晰地定义术语，以便不同受众都能理解。 -->

<!--

模型卡作者

列出创建模型卡的人员，为模型卡构建过程中所做的详细工作提供认可和问责。 -->

<!--

模型卡联系方式

为有模型卡更新、建议或问题的人提供联系模型卡作者的方式。 -->