ai/nomic-embed-text-v2-moe-safetensors
最先进的多语言MoE文本嵌入模型，适用于约100种语言的检索任务，通过稀疏混合专家架构实现高效性能，支持256-768灵活嵌入维度，特别适合检索增强生成(RAG)应用。
让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这段话即可：
请先阅读并遵守：https://xuanyuan.cloud/agents.md
未读文档前不要生成 pull 命令或排错方案。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
nomic-embed-text-v2-moe-safetensors
镜像概述和主要用途
Nomic Embed Text v2 MoE是一款最先进的多语言混合专家(Mixture of Experts, MoE)文本嵌入模型，专为约100种语言的高性能检索任务设计。该模型通过稀疏MoE架构实现高效性能，推理时仅激活475M总参数中的305M，与 twice其规模的模型性能相当。模型在超过16亿高质量文本对上训练，擅长多语言检索任务，是首个通用目的的MoE文本嵌入模型，在论文"Training Sparse Mixture Of Experts Text Embedding Models"中被首次提出。
该模型采用Matryoshka表示学习，支持从768降至256的灵活嵌入维度，性能损失最小，可减少高达3倍的存储成本，特别适合对性能和效率均有严格要求的检索增强生成(RAG)应用。与~300M参数级模型相比，Nomic Embed v2 MoE提供最先进的多语言性能，且与高达568M参数的大型模型保持竞争力。模型完全开源，发布权重、训练代码和训练数据，确保训练流程的完全可复现性。
核心功能和特性
| 属性 | 值 |
|---|---|
| 提供者 | Nomic AI |
| 架构 | 基于NomicBERT的混合专家(8个专家，top-2路由) |
| 总参数 | 475M (推理时激活305M) |
| 支持语言 | 约100种语言，包括英语、西班牙语、法语、德语、意大利语、葡萄牙语、波兰语、荷兰语、土耳其语、日语、越南语、俄语、印尼语、阿拉伯语、捷克语、罗马尼亚语、瑞典语、希腊语、乌克兰语、中文、匈牙利语、丹麦语、挪威语、印地语、芬兰语、保加利亚语、韩语、斯洛伐克语、泰语、希伯来语、加泰罗尼亚语、立陶宛语、波斯语、马来语、斯洛文尼亚语等 |
| 输入模态 | 文本 |
| 输出模态 | 文本嵌入 |
| 嵌入维度 | 768 (通过Matryoshka支持256-768) |
| 最大序列长度 | 512 tokens |
| 许可证 | Apache 2.0 |
使用场景和适用范围
- 多语言检索系统：适用于需要跨约100种语言进行文本检索的应用
- 语义搜索引擎：为搜索引擎提供高质量文本嵌入，提升搜索相关性
- 检索增强生成(RAG)：为大语言模型提供相关上下文检索，增强生成质量
- 跨语言信息检索：支持不同语言文本间的语义匹配和检索
- 大规模文本分类与聚类：利用高效嵌入实现大规模文本数据的组织和分析
使用方法和配置说明
使用Docker Model Runner运行
bashdocker model run nomic-embed-text-v2-moe-safetensors
更多信息，请查阅https://docs.docker.com/desktop/features/model-runner/。
关键使用注意事项
- 任务前缀要求：为获得最佳性能，模型需要特定任务前缀。查询/问题使用
search_query:，文档使用search_document: - 自定义代码：加载模型时必须使用
trust_remote_code=True，以使用自定义MoE架构实现 - 序列长度限制：最大输入长度为512 tokens， longer序列将被截断
- 嵌入维度配置：可通过Matryoshka表示学习将嵌入维度从768调整至256，以平衡性能和存储成本
基准测试
BEIR和MIRACL性能比较
与~300M参数级开源嵌入模型的性能比较：
| 模型 | 参数(M) | 嵌入维度 | BEIR | MIRACL | 预训练数据 | 微调数据 | 代码 |
|---|---|---|---|---|---|---|---|
| Nomic Embed v2 | 305 | 768 | 52.86 | 65.80 | ✅ | ✅ | ✅ |
| mE5 Base | 278 | 768 | 48.88 | 62.30 | ❌ | ❌ | ❌ |
| mGTE Base | 305 | 768 | 51.10 | 63.40 | ❌ | ❌ | ❌ |
| Arctic Embed v2 Base | 305 | 768 | 55.40 | 59.90 | ❌ | ❌ | ❌ |
与更大模型(~560M参数)的性能比较：
| 模型 | 参数(M) | 嵌入维度 | BEIR | MIRACL | 预训练数据 | 微调数据 | 代码 |
|---|---|---|---|---|---|---|---|
| BGE M3 | 568 | 1024 | 48.80 | 69.20 | ❌ | ✅ | ❌ |
| Arctic Embed v2 Large | 568 | 1024 | 55.65 | 66.00 | ❌ | ❌ | ❌ |
| mE5 Large | 560 | 1024 | 51.40 | 66.50 | ❌ | ❌ | ❌ |
Matryoshka嵌入性能
不同嵌入维度下的BEIR性能：
模型即使截断至256维度仍保持良好性能，可实现显著的存储和计算节省。
训练架构
模型训练采用：
- 跨多种语言的16亿高质量文本对
- 一致性过滤确保高质量训练数据
- Matryoshka表示学习实现维度灵活性
- 弱监督对比预训练和监督微调相结合
相关链接
- https://www.nomic.ai/blog/posts/nomic-embed-text-v2
- https://huggingface.co/nomic-ai/nomic-embed-text-v2-moe
- https://arxiv.org/abs/2502.07972
- https://github.com/nomic-ai/contrastors
- https://atlas.nomic.ai
注意事项
- 语言性能差异：不同语言的性能可能有所差异，高资源语言效果最佳
- 资源需求：尽管效率有所提升，MoE架构在训练和部署时可能比传统密集模型需要更多资源
- Matryoshka权衡：维度截断(如降至256)虽能显著节省存储，但根据任务不同可能会有一定性能损失
- 最佳使用场景：最适合多语言检索、语义搜索和检索增强生成(RAG)应用
生成信息
本模型卡片由https://github.com/docker/cagent-action自动生成。 想了解更多关于Docker Model Runner的信息？请查看项目仓库：https://github.com/docker/model-runner。
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 nomic-embed-text-v2-moe-safetensors 镜像标签
docker model pull docker.xuanyuan.run/ai/nomic-embed-text-v2-moe-safetensors:<标签>
DockerHub 原生拉取命令
docker model pull ai/nomic-embed-text-v2-moe-safetensors:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"