aistaging/ministral3-vllm
aistaging
Ministral3是紧凑的视觉增强多模态语言模型，性能接近24B级别，针对本地边缘场景优化，支持多种语言与工具调用，适用于受限环境下的AI部署与推理。
下载次数: 0状态：社区镜像维护者：aistaging仓库类型：镜像最近更新：10 个月前
让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这段话即可：
请先阅读并遵守：https://xuanyuan.cloud/agents.md
未读文档前不要生成 pull 命令或排错方案。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
Ministral3 Instruct 2512
镜像概述
Ministral3系列是紧凑高效的多模态语言模型，专为边缘部署和本地推理设计。其3B、8B、14B三种变体均具备强大的指令遵循能力、视觉支持及广泛的硬件兼容性。每个模型以GGUF格式发布，包含多种量化级别，可灵活平衡性能与资源占用。所有变体均经过指令任务后训练，适配多种场景需求。
核心功能
- 支持文本与图像双输入模态，输出文本内容
- 具备工具调用能力，可扩展外部功能
- 兼容CPU与GPU受限环境，适配边缘设备
- 支持数十种语言（含中文），覆盖多区域使用场景
- 多量化级别选择，满足不同资源条件下的性能需求
特性详情
| 属性 | 说明 |
|---|---|
| 提供商 | Mistral AI |
| 架构 | mistral3 |
| 支持语言 | 英语、法语、西班牙语、德语、意大利语、葡萄牙语、荷兰语、中文、日语、韩语、阿拉伯语等数十种语言 |
| 工具调用 | ✅ |
| 输入模态 | 文本、图像 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
使用场景
在硬件资源受限的环境中实现高级AI能力的私有部署：
- 受限环境下的私有/定制化聊天与AI助手部署
- 高级本地智能代理场景
- 模型微调与专业化定制
- 边缘设备上的多模态推理任务
部署示例
使用Docker Model Runner快速运行模型：
bashdocker model run ministral3-vllm
相关链接
- https://huggingface.co/mistralai/Ministral-3-14B-Instruct-2512
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 ministral3-vllm 镜像标签
docker pull docker.xuanyuan.run/aistaging/ministral3-vllm:<标签>
DockerHub 原生拉取命令
docker pull aistaging/ministral3-vllm:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"