ai/mistral-nemo Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务
ai/mistral-nemoMistral与NVIDIA合作开发的指令微调大型语言模型，优化多语言任务和指令遵循能力，在推理、多轮对话及代码生成方面表现优于Mistral 7B，适合企业级应用。
Mistral Nemo Instruct 2407
!logo
Mistral-Nemo-Instruct-2407是由Mistral AI和NVIDIA联合开发的指令微调大型语言模型，针对多语言任务和指令遵循能力进行了优化。与Mistral 7B相比，该模型在精确指令遵循、推理能力、多轮对话处理及代码生成方面均有显著提升。
预期用途
Mistral-Nemo-Instruct-2407专为指令遵循任务和多语言应用设计，包括：
- 对话式AI：开发交互式多语言聊天机器人。
- 知识检索：跨多种语言回答问题。
- 代码辅助：生成和理解代码片段。
特性
| 属性 | 详情 |
|---|---|
| 提供者 | Mistral AI & NVIDIA |
| 架构 | llama |
| 数据截止日期 | 2024年7月 |
| 支持语言 | 英语、法语、德语、西班牙语、意大利语、葡萄牙语、俄语、中文、日语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/mistral-nemo:latestai/mistral-nemo:12B-Q4_K_M | 12B | IQ2_XXS/Q4_K_M | 131K tokens | 7.78 GiB | 6.96 GB |
ai/mistral-nemo:12B-Q4_K_M | 12B | IQ2_XXS/Q4_K_M | 131K tokens | 7.78 GiB | 6.96 GB |
¹: 显存基于模型特性估算。
latest→12B-Q4_K_M
使用Docker Model Runner运行AI模型
首先，拉取模型：
bashdocker model pull ai/mistral-nemo
然后运行模型：
bashdocker model run ai/mistral-nemo
有关Docker Model Runner的更多信息，请查阅文档。
基准性能
| 基准测试 | 分数 |
|---|---|
| HellaSwag（0-shot） | 83.5% |
| Winogrande（0-shot） | 76.8% |
| OpenBookQA（0-shot） | 60.6% |
| CommonSenseQA（0-shot） | 70.4% |
| TruthfulQA（0-shot） | 50.3% |
| MMLU（5-shot） | 68.0% |
| TriviaQA（5-shot） | 73.8% |
| NaturalQuestions（5-shot） | 31.2% |
链接
- Mistral Nemo
ai/mistral
Docker AI 官方镜像
高效开源模型，具备顶级性能和快速推理能力，73亿参数，在推理、代码生成和数学任务中表现出色，资源使用高效，适用于多种自然语言处理任务。
20 次收藏5万+ 次下载
10 个月前更新
openeuler/nemo
openeuler
暂无描述
276 次下载
3 个月前更新
cinemore/cinemore-server
cinemore
这是一款支持跨平台的个人媒体库管理工具，兼容Windows、macOS、Linux等桌面系统及iOS、Android移动设备，能帮助用户集中管理视频、音频、图片、文档等各类个人媒体资源，具备智能分类、多设备同步、快速搜索、本地播放及数据备份等功能，实现不同设备间个人媒体的统一整理与便捷访问，让用户轻松掌控分散的媒体文件，提升个人数字内容管理效率。
8 次收藏1万+ 次下载
25 天前更新
camilomateuso/llm-mistral-nemo
camilomateuso
暂无描述
1万+ 次下载
1 年前更新
svcbionemo023/bionemo-framework
svcbionemo023
托管bionemo-framework的CI（持续集成）镜像的仓库，用于支持该框架相关项目的自动化构建与测试流程。
5万+ 次下载
7 天前更新
igitman/nemo-skills
igitman
暂无描述
10万+ 次下载
5 个月前更新
镜像拉取常见问题
使用与功能问题
错误码与失败问题
manifest unknown 错误：镜像不存在或标签错误
manifest unknown 错误
TLS/SSL 证书验证失败：Docker pull 时 HTTPS 证书错误
TLS 证书验证失败
DNS 解析超时：无法解析镜像仓库地址或连接超时
DNS 解析超时
410 Gone 错误：Docker 版本过低导致协议不兼容
410 错误：版本过低
402 Payment Required 错误：流量耗尽错误提示
402 错误：流量耗尽
401 UNAUTHORIZED 错误：身份认证失败或登录信息错误
身份认证失败错误
429 Too Many Requests 错误：请求频率超出专业版限制
429 限流错误
Docker login 凭证保存错误：Cannot autolaunch D-Bus（不影响登录）
凭证保存错误
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"