热门搜索:
ai/mistral-nemo
Mistral与NVIDIA合作开发的指令微调大型语言模型，优化多语言任务和指令遵循能力，在推理、多轮对话及代码生成方面表现优于Mistral 7B，适合企业级应用。
让 AI 帮你使用轩辕镜像？ · 展开查看说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
Mistral Nemo Instruct 2407
!https://github.com/docker/model-cards/raw/refs/heads/main/logos/***
Mistral-Nemo-Instruct-2407是由Mistral AI和NVIDIA联合开发的指令微调大型语言模型，针对多语言任务和指令遵循能力进行了优化。与Mistral 7B相比，该模型在精确指令遵循、推理能力、多轮对话处理及代码生成方面均有显著提升。
预期用途
Mistral-Nemo-Instruct-2407专为指令遵循任务和多语言应用设计，包括：
- 对话式AI：开发交互式多语言聊天机器人。
- 知识检索：跨多种语言回答问题。
- 代码辅助：生成和理解代码片段。
特性
| 属性 | 详情 |
|---|---|
| 提供者 | Mistral AI & NVIDIA |
| 架构 | llama |
| 数据截止日期 | 2024年7月 |
| 支持语言 | 英语、法语、德语、西班牙语、意大利语、葡萄牙语、俄语、中文、日语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/mistral-nemo:latestai/mistral-nemo:12B-Q4_K_M | 12B | IQ2_XXS/Q4_K_M | 131K tokens | 7.78 GiB | 6.96 GB |
ai/mistral-nemo:12B-Q4_K_M | 12B | IQ2_XXS/Q4_K_M | 131K tokens | 7.78 GiB | 6.96 GB |
¹: 显存基于模型特性估算。
latest→12B-Q4_K_M
使用Docker Model Runner运行AI模型
首先，拉取模型：
bashdocker model pull ai/mistral-nemo
然后运行模型：
bashdocker model run ai/mistral-nemo
有关Docker Model Runner的更多信息，请查阅文档。
基准性能
| 基准测试 | 分数 |
|---|---|
| HellaSwag（0-shot） | 83.5% |
| Winogrande（0-shot） | 76.8% |
| OpenBookQA（0-shot） | 60.6% |
| CommonSenseQA（0-shot） | 70.4% |
| TruthfulQA（0-shot） | 50.3% |
| MMLU（5-shot） | 68.0% |
| TriviaQA（5-shot） | 73.8% |
| NaturalQuestions（5-shot） | 31.2% |
链接
- Mistral Nemo
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 mistral-nemo 镜像标签
docker model pull docker.xuanyuan.run/ai/mistral-nemo:<标签>
DockerHub 原生拉取命令
docker model pull ai/mistral-nemo:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"