热门搜索:
ai/mistral
高效开源模型，具备顶级性能和快速推理能力，73亿参数，在推理、代码生成和数学任务中表现出色，资源使用高效，适用于多种自然语言处理任务。
让 AI 帮你使用轩辕镜像？ · 展开查看说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
Mistral 7B Instruct v0.2
!https://github.com/docker/model-cards/raw/refs/heads/main/logos/***
一款快速强大的73亿参数模型，在推理、代码和数学任务中表现卓越。Mistral 7B是一个拥有73亿参数的强大语言模型，在包括推理、阅读理解和代码生成在内的广泛基准测试中优于Llama 2 13B。尽管体积更小，但它的性能可与更大规模的模型媲美，兼具高效性和多功能性。
主要用途
Mistral 7B旨在在广泛的通用自然语言处理任务中提供高质量响应，同时保持资源使用效率。此外，该模型经过微调以遵循指令，能够自然地执行任务和回答问题（基础模型不具备此能力）。
- 自动化代码生成：自动创建代码片段，减少手动编码工作，加速开发流程。
- 调试支持：识别代码错误并提供可操作的建议，简化调试过程。
- 文本摘要与分类：支持文本摘要、分类及文本/代码补全任务。
- 对话应用：使用多样化数据集微调，适用于对话交互场景。
- 知识检索：提供准确、详细的答案，增强信息检索能力。
- 数学准确性：可靠处理和解决复杂数学问题。
- 角色扮演与文本生成：为角色扮演和创意场景生成丰富的叙事文本。
模型特性
| 属性 | 详情 |
|---|---|
| 提供商 | Mistral AI |
| 架构 | Llama |
| 数据截止日期 | 2023年12月ⁱ |
| 支持语言 | 英语（主要） |
| 工具调用 | ❌ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
ⁱ: 估算值
可用模型变体
| 模型变体 | 参数数量 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/mistral:latestai/mistral:7B-Q4_K_M | 7B | IQ2_XXS/Q4_K_M | 33K tokens | 4.85 GiB | 4.07 GB |
ai/mistral:7B-Q4_0 | 7B | Q4_0 | 33K tokens | 4.61 GiB | 3.83 GB |
ai/mistral:7B-Q4_K_M | 7B | IQ2_XXS/Q4_K_M | 33K tokens | 4.85 GiB | 4.07 GB |
ai/mistral:7B-F16 | 7B | F16 | 33K tokens | 14.10 GiB | 13.50 GB |
¹: 显存基于模型特性估算
latest→7B-Q4_K_M
使用Docker Model Runner运行AI模型
首先，拉取模型：
bashdocker model pull ai/mistral
然后运行模型：
bashdocker model run ai/mistral
有关Docker Model Runner的更多信息，请查阅文档。
注意事项
- 最适合处理英文内容。
- 开箱即用表现良好，但可进一步微调优化。
- 使用适当的系统提示以获得更安全、更可控的输出。
- 如需使用指令微调功能，请用
[INST]和[/INST]标签包裹提示词。首个指令必须以句首标记开始，后续指令则无需；助手的响应将自动以句尾标记结束。
基准性能
| 能力 | 基准测试 | Mistral 7B |
|---|---|---|
| 自然语言理解 | MMLU | 60.1% |
| HellaSwag | 81.3% | |
| WinoGrande | 75.3% | |
| PIQA | 83.0% | |
| Arc-e | 80.0% | |
| Arc-c | 55.5% | |
| 知识检索 | NQ | 28.8% |
| TriviaQA | 69.9% | |
| 代码生成与调试 | HumanEval | 30.5% |
| MBPP | 47.5% | |
| 数学推理 | MATH | 13.1% |
| GSM8K | 52.1% |
相关链接
- Mistral 7B
- Mistral 7B论文
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
DockerHub 原生拉取命令
docker model pull ai/mistral:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"