granite-embedding-multilingual

ai/granite-embedding-multilingual Docker Image

Granite Embedding Multilingual是IBM开发的2.78亿参数编码器式XLM-RoBERTa风格密集双编码器模型,可生成768维高质量多语言文本嵌入,优化用于12种主要语言的语义相似性、检索和搜索任务,遵循Apache 2.0许可。

4 次收藏下载次数: 0状态:社区镜像维护者:Docker AI 官方镜像仓库类型:镜像最近更新:

Granite Embedding Multilingual

镜像概述和主要用途

Granite Embedding Multilingual是由IBM开发的2.78亿参数编码器式XLM-RoBERTa风格密集双编码器模型,旨在生成高质量的多语言文本嵌入(768维)。该模型针对12种主要语言的语义相似性、检索和搜索任务进行了优化,发布于Apache 2.0许可下。

核心功能和特性

核心功能

  • 生成固定长度的768维向量表示,适用于多语言环境下的高效相似性比较
  • 支持跨语言信息检索,适用于聚类、搜索等任务
  • 基于企业友好型数据集构建,符合IBM AI伦理指南,支持企业级部署

模型特性

属性详情
提供者IBM (Granite Embedding Team)
架构编码器式Transformer,XLM-RoBERTa风格双编码器
发布日期2024年12月18日
支持语言多语言:英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文
工具调用不支持(嵌入模型,非工具调用模型)
输入模态文本(每个输入最多512个token)
输出模态固定长度嵌入向量(768维)
许可证Apache 2.0

可用模型变体

模型变体参数量化方式上下文窗口显存¹大小
ai/granite-embedding-multilingual:latest

ai/granite-embedding-multilingual:278M-F16
278MMOSTLY_F16512 tokens0.19 GiB530.18 MB
ai/granite-embedding-multilingual:278M-F16278MMOSTLY_F16512 tokens0.19 GiB530.18 MB

¹:显存基于模型特性估算。

latest → 278M-F16

使用场景和适用范围

  • 语义相似性与检索:在多语言环境中计算向量表示以进行高效相似性比较
  • 跨语言信息检索:适用于RAG(检索增强生成)、搜索等跨12种语言的任务
  • 企业级部署:采用道德来源的企业友好型数据集和透明流程构建,适合企业应用

使用方法和配置说明

使用Docker Model Runner

1. 拉取模型

bash
docker model pull {model_name}

其中{model_name}为上述模型变体中的任一名称,例如:

bash
docker model pull ai/granite-embedding-multilingual:latest

2. 运行模型

bash
docker model run {model_name}

例如:

bash
docker model run ai/granite-embedding-multilingual:278M-F16

注意事项

  • 上下文限制为512个token,较长输入需进行截断或分块处理
  • 在多语言任务上表现优异
  • 遵循IBM AI伦理指南构建,具有透明的数据集治理和许可机制

相关链接

  • https://www.ibm.com/architectures/product-guides/granite-embedding
  • https://huggingface.co/ibm-granite/granite-embedding-278m-multilingual

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。

轩辕镜像加速拉取命令点我查看更多 granite-embedding-multilingual 镜像标签

docker model pull docker.xuanyuan.run/ai/granite-embedding-multilingual:<标签>

DockerHub 原生拉取命令

docker model pull ai/granite-embedding-multilingual:<标签>
专业版 · 高速稳定拉取镜像
50GB 仅 ¥8/年
高速镜像下载在线技术支持专业版保障服务可用付费会员免广告