LightEmbed/baai-llm-embedder-onnx

这是 Sentence Transformers 模型 BAAI/llm-embedder 的 ONNX 版本，用于句子嵌入，针对速度和轻量化性能进行了优化。通过使用 onnxruntime 和 tokenizers 替代 sentence-transformers 和 transformers 等较重的库，该版本确保了更小的库体积和更快的执行速度。以下是模型的详细信息：

• 基础模型：BAAI/llm-embedder
• 嵌入维度：768
• 最大序列长度：512
• 磁盘文件大小：0.41 GB
• 已包含池化：是

此 ONNX 模型包含原始 sentence transformer 模型中的所有组件： Transformer、Pooling、Normalize

<!--- Describe your model here -->

使用方法 (LightEmbed)

安装 LightEmbed 后，使用此模型变得非常简单：

pip install -U light-embed

然后你可以使用原始模型名称来使用该模型，如下所示：

from light_embed import TextEmbedding
sentences = [
	"This is an example sentence",
	"Each sentence is converted"
]

model = TextEmbedding('BAAI/llm-embedder')
embeddings = model.encode(sentences)
print(embeddings)

你也可以使用 ONNX 模型名称来使用该模型，如下所示：

from light_embed import TextEmbedding
sentences = [
	"This is an example sentence",
	"Each sentence is converted"
]

model = TextEmbedding('LightEmbed/baai-llm-embedder-onnx')
embeddings = model.encode(sentences)
print(embeddings)

引用 & 作者

Binh Nguyen / binhcode25@gmail.com