
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具,协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题,请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可:
请先完整阅读并严格遵守以下文档中的全部规则与要求:
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前,不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式,不推荐豆包 AI;Cursor 等编辑器可在对话 @ 该链接,或加入 User Rules。 若 AI 无法访问外链,可 打开说明文档 复制全文粘贴。文档会随站点更新,复制内容可能过期,建议定期检查。
| 项目 | 值 |
|---|---|
| 镜像 | mindiesd |
| 标签 | v3.0.0-A2-ubuntu22.04-py3.11-aarch64 |
v3.0.0-A3-ubuntu22.04-py3.11-aarch64 | |
| 基础镜像 | A2: quay.io/ascend/vllm-omni:v0.20.0 |
A3: quay.io/ascend/vllm-omni:v0.20.0-a3 | |
| 架构 | linux/arm64 (aarch64) |
| 操作系统 | Ubuntu 22.04 |
| Python版本 | 3.11 |
| CANN版本 | 8.5.1 |
| 许可证 | Mulan PSL v2 |
此镜像由https://www.hiascend.com/developer/software/mindie维护。
获取帮助:
该镜像整合vLLM-Omni与**MindIE-SD(Mind推理引擎Stable Diffusion)**于单个容器中,支持在昇腾Atlas NPUs上进行多模态LLM推理和Stable Diffusion图像生成。
它基于quay.io/ascend/vllm-omni基础镜像构建(包含CANN 8.5.1、torch、torch_npu、vllm及vllm_ascend),提供两种针对不同NPU系列的变体:
quay.io/ascend/vllm-omni:v0.20.0,适用于昇腾Atlas A2系列NPUquay.io/ascend/vllm-omni:v0.20.0-a3,适用于昇腾Atlas A3系列NPU两种变体均添加以下昇腾调优与调试工具:
| 组件 | 版本 | 描述 |
|---|---|---|
| mindiesd | latest | MindIE Stable Diffusion推理引擎 |
| msprobe | 0.1.4 | 精度调试工具 |
| msmodelslim | 8.2.1 | 模型压缩与量化工具 |
| msprof-analyze | 26.0.0 | MindStudio Profiler分析工具 |
| msprof | (随CANN捆绑) | NPU性能分析工具 |
text{版本}-cann{CAN版本}-{系列}-{操作系统}-py{Python版本}-{架构}
| 系列 | 示例标签 | 基础镜像 |
|---|---|---|
| A2 | v3.0.0-A2-ubuntu22.04-py3.11-aarch64 | quay.io/ascend/vllm-omni:v0.20.0 |
| A3 | v3.0.0-A3-ubuntu22.04-py3.11-aarch64 | quay.io/ascend/vllm-omni:v0.20.0-a3 |
每个系列均有专用Dockerfile,存放在MindIE-SD源码仓库的docker/omni目录中:
| 系列 | 示例标签 | Dockerfile |
|---|---|---|
| A2 | v3.0.0-A2-ubuntu22.04-py3.11-aarch64 | Dockerfile |
| A3 | v3.0.0-A3-ubuntu22.04-py3.11-aarch64 | Dockerfile |
浏览所有可用标签:https://quay.io/repository/ascend/vllm-omni?tab=tags
A2系列:
bashdocker pull ***-quay.xuanyuan.run/ascend/vllm-omni:v0.20.0
A3系列:
bashdocker pull ***-quay.xuanyuan.run/ascend/vllm-omni:v0.20.0-a3
提示:若偏好使用Podman作为容器运行时,可将
docker pull替换为podman pull。
A2系列:
bashdocker run -it --rm --name=mindiesd \ --privileged \ --shm-size=1g \ --device /dev/davinci0 \ --device /dev/davinci1 \ --device /dev/davinci2 \ --device /dev/davinci3 \ --device /dev/davinci_manager \ --device /dev/devmm_svm \ --device /dev/hisi_hdc \ -v /usr/local/dcmi:/usr/local/dcmi \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \ -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \ -v /etc/ascend_install.info:/etc/ascend_install.info \ -v /root/.cache:/root/.cache \ docker.xuanyuan.run/mindiesd:v3.0.0-A2-ubuntu22.04-py3.11-aarch64 \ bash
A3系列:
bashdocker run -it --rm --name=mindiesd \ --privileged \ --shm-size=1g \ --device /dev/davinci0 \ --device /dev/davinci1 \ --device /dev/davinci2 \ --device /dev/davinci3 \ --device /dev/davinci_manager \ --device /dev/devmm_svm \ --device /dev/hisi_hdc \ -v /usr/local/dcmi:/usr/local/dcmi \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \ -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \ -v /etc/ascend_install.info:/etc/ascend_install.info \ -v /root/.cache:/root/.cache \ docker.xuanyuan.run/mindiesd:v3.0.0-A3-ubuntu22.04-py3.11-aarch64 \ bash
注意:
--privileged标志和设备映射是NPU访问的必要条件。主机需将驱动库(/usr/local/Ascend/driver/lib64)、驱动版本信息、DCMI、npu-smi及昇腾安装信息挂载到容器中。
克隆MindIE-SD仓库并从docker/omni目录构建:
A2系列:
bashgit clone https://gitcode.com/Ascend/MindIE-SD.git cd MindIE-SD/docker/omni docker build -t mindiesd:v3.0.0-A2-ubuntu22.04-py3.11-aarch64 \ -f Dockerfile.a2.ubuntu .
A3系列:
bashgit clone https://gitcode.com/Ascend/MindIE-SD.git cd MindIE-SD/docker/omni docker build -t mindiesd:v3.0.0-A3-ubuntu22.04-py3.11-aarch64 \ -f Dockerfile.a3.ubuntu .
若需添加自有依赖或应用代码,可基于此镜像创建新Dockerfile:
dockerfileFROM docker.xuanyuan.run/mindiesd:v3.0.0-A2-ubuntu22.04-py3.11-aarch64 # 添加自定义包 RUN pip install --no-cache-dir your-package # 复制应用代码 COPY ./your-app /workspace/your-app WORKDIR /workspace/your-app
| 项目 | 要求 |
|---|---|
| NPU | 昇腾Atlas A2系列(如Atlas 300I Duo、Atlas A2训练系列) |
| 昇腾Atlas A3系列 | |
| 驱动 | 主机需安装昇腾NPU驱动 |
| 主机挂载 | /usr/local/dcmi、/usr/local/bin/npu-smi、/usr/local/Ascend/driver/lib64/、/usr/local/Ascend/driver/version.info、/etc/ascend_install.info、/root/.cache |
请参考MindIE-SD文档获取最新发布说明及兼容性信息。
此镜像基于**木兰宽松许可证2.0(Mulan PSL v2)**授权。完整文本请参见LICENSE文件。
通过拉取和使用此容器镜像,您同意华为容器许可协议的条款和条件。协议副本可在以下地址获取:https://www.hiascend.com/en/legal/ascendhub-download
您同意并承诺在使用此镜像中的华为或第三方软件时,将遵守相应华为或第三方软件的许可协议。
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
来自真实用户的反馈,见证轩辕镜像的优质服务