ai/granite-embedding-multilingual Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务

Granite Embedding Multilingual

!logo

镜像概述和主要用途

Granite Embedding Multilingual是由IBM开发的2.78亿参数编码器式XLM-RoBERTa风格密集双编码器模型，旨在生成高质量的多语言文本嵌入（768维）。该模型针对12种主要语言的语义相似性、检索和搜索任务进行了优化，发布于Apache 2.0许可下。

核心功能和特性

核心功能

• 生成固定长度的768维向量表示，适用于多语言环境下的高效相似性比较
• 支持跨语言信息检索，适用于聚类、搜索等任务
• 基于企业友好型数据集构建，符合IBM AI伦理指南，支持企业级部署

模型特性

可用模型变体

¹：显存基于模型特性估算。

latest → 278M-F16

使用场景和适用范围

• 语义相似性与检索：在多语言环境中计算向量表示以进行高效相似性比较
• 跨语言信息检索：适用于RAG（检索增强生成）、搜索等跨12种语言的任务
• 企业级部署：采用道德来源的企业友好型数据集和透明流程构建，适合企业应用

使用方法和配置说明

使用Docker Model Runner

1. 拉取模型

bash
docker model pull {model_name}

其中{model_name}为上述模型变体中的任一名称，例如：

bash
docker model pull ai/granite-embedding-multilingual:latest

2. 运行模型

bash
docker model run {model_name}

例如：

bash
docker model run ai/granite-embedding-multilingual:278M-F16

注意事项

• 上下文限制为512个token，较长输入需进行截断或分块处理
• 在多语言任务上表现优异
• 遵循IBM AI伦理指南构建，具有透明的数据集治理和许可机制

相关链接

• IBM Granite Embedding产品指南
• Hugging Face模型页面