Granite Embedding Multilingual是IBM开发的2.78亿参数编码器式XLM-RoBERTa风格密集双编码器模型,可生成768维高质量多语言文本嵌入,优化用于12种主要语言的语义相似性、检索和搜索任务,遵循Apache 2.0许可。
Granite Embedding Multilingual
镜像概述和主要用途
Granite Embedding Multilingual是由IBM开发的2.78亿参数编码器式XLM-RoBERTa风格密集双编码器模型,旨在生成高质量的多语言文本嵌入(768维)。该模型针对12种主要语言的语义相似性、检索和搜索任务进行了优化,发布于Apache 2.0许可下。
核心功能和特性
核心功能
- 生成固定长度的768维向量表示,适用于多语言环境下的高效相似性比较
- 支持跨语言信息检索,适用于聚类、搜索等任务
- 基于企业友好型数据集构建,符合IBM AI伦理指南,支持企业级部署
模型特性
| 属性 | 详情 |
|---|---|
| 提供者 | IBM (Granite Embedding Team) |
| 架构 | 编码器式Transformer,XLM-RoBERTa风格双编码器 |
| 发布日期 | 2024年12月18日 |
| 支持语言 | 多语言:英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文 |
| 工具调用 | 不支持(嵌入模型,非工具调用模型) |
| 输入模态 | 文本(每个输入最多512个token) |
| 输出模态 | 固定长度嵌入向量(768维) |
| 许可证 | Apache 2.0 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/granite-embedding-multilingual:latestai/granite-embedding-multilingual:278M-F16 | 278M | MOSTLY_F16 | 512 tokens | 0.19 GiB | 530.18 MB |
ai/granite-embedding-multilingual:278M-F16 | 278M | MOSTLY_F16 | 512 tokens | 0.19 GiB | 530.18 MB |
¹:显存基于模型特性估算。
latest→278M-F16
使用场景和适用范围
- 语义相似性与检索:在多语言环境中计算向量表示以进行高效相似性比较
- 跨语言信息检索:适用于RAG(检索增强生成)、搜索等跨12种语言的任务
- 企业级部署:采用道德来源的企业友好型数据集和透明流程构建,适合企业应用
使用方法和配置说明
使用Docker Model Runner
1. 拉取模型
bashdocker model pull {model_name}
其中{model_name}为上述模型变体中的任一名称,例如:
bashdocker model pull ai/granite-embedding-multilingual:latest
2. 运行模型
bashdocker model run {model_name}
例如:
bashdocker model run ai/granite-embedding-multilingual:278M-F16
注意事项
- 上下文限制为512个token,较长输入需进行截断或分块处理
- 在多语言任务上表现优异
- 遵循IBM AI伦理指南构建,具有透明的数据集治理和许可机制
相关链接
- https://www.ibm.com/architectures/product-guides/granite-embedding
- https://huggingface.co/ibm-granite/granite-embedding-278m-multilingual
ai 命名空间的其他可用镜像:
ai/qwen3
Qwen3 大语言模型,适合 AI 应用开发
ai/deepseek-r1-distill-llama
DeepSeek R1 Distill Llama,大语言模型
ai/qwen3-embedding
Docker 官方模型镜像,Qwen3 文本嵌入与重排序,适合 RAG、语义检索与向量化流水线
ai/qwen3-vl
Docker 官方 Qwen3 多模态(VL)模型镜像,适合图文理解、视觉问答与多模态应用
ai/qwen3-vllm
Docker 官方 Qwen3 与 vLLM 推理组合镜像,适合高吞吐文本生成与 OpenAI 兼容 API 服务
ai/qwen3-embedding-vllm
Docker 官方 Qwen3 Embedding + vLLM 推理镜像,适合高吞吐语义检索与 RAG 向量化服务
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 granite-embedding-multilingual 镜像标签
docker model pull docker.xuanyuan.run/ai/granite-embedding-multilingual:<标签>
DockerHub 原生拉取命令
docker model pull ai/granite-embedding-multilingual:<标签>
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务