昇腾 Ascend AI 容器镜像
昇腾在 Docker Hub 发布的 AI 镜像。ascendai/cann 提供 CANN 工具链与 Python 环境,另有 vLLM、MindIE、MindSpore 以及 Kubernetes NPU 插件。运行前宿主机需安装匹配版本的 Atlas 驱动。同一 CANN 镜像也发布在 Quay。 https://www.hiascend.com/
特色镜像推荐
CANN(ascendai/cann)
昇腾 CANN 容器镜像,内含 Toolkit、算子库、NNAL 和 Python。按芯片、操作系统和 Python 版本选择标签,开发镜像使用 -devel 后缀。Docker Hub 与 quay.io/ascend/cann 都提供该镜像。
vLLM-Ascend(ascendai/vllm-ascend)
面向昇腾 NPU 的 vLLM 推理镜像,用于在 Atlas 设备上运行大语言模型服务。需与主机驱动、CANN 版本匹配。
MindIE(ascendai/mindie)
昇腾推理引擎相关镜像,用于在 Atlas 上部署推理服务。具体启动参数以该仓库说明为准。
Ascend K8s Device Plugin(ascendai/ascend-k8sdeviceplugin)
Kubernetes 设备插件,用于把节点上的昇腾 NPU 注册为可调度资源。可与 npu-exporter、ascend-operator 一起用于集群。
昇腾 Ascend AI 容器镜像集合
推荐技术栈
软件栈
硬件
镜像仓库
典型使用场景
CANN 开发环境
按目标芯片选择 ascendai/cann 或 Quay 上的同名标签,在已安装 Atlas 驱动的主机上启动容器进行编译和调试。
昇腾上的模型推理
使用 vllm-ascend、MindIE 或 MindSpore 镜像加载模型,底层依赖与 CANN、驱动版本一致的 NPU。
Kubernetes 调度 NPU
部署设备插件和指标导出,让工作负载按 NPU 资源申请卡,并用 npu-exporter 观察设备状态。
常见问题 (FAQ)
Q1:ascendai/cann 和 quay.io/ascend/cann 是什么关系?
两者都是昇腾发布的 CANN 容器镜像。Docker Hub 仓库为 ascendai/cann,Quay 仓库为 ascend/cann。ascendai/cann 的说明文档把运行示例写成从 quay.io/ascend/cann 拉取。标签规则一致,按 CANN 版本、芯片系列、操作系统和 Python 版本选择。
Q2:只拉取镜像就能使用 NPU 吗?
不能。宿主机需要安装与容器内 CANN 版本匹配的 Atlas NPU 驱动。启动容器时还要映射该芯片系列要求的设备节点(如 davinci 设备)以及驱动库、npu-smi 等路径。容器里的 CANN 通过这些挂载使用宿主机驱动。对应关系以 CANN 兼容性说明为准。
Q3:基础镜像和 devel 镜像怎么选?
不带 -devel 的标签包含 Toolkit、算子包、NNAL 和 Python,适合运行和常规开发。带 -devel 的标签在此之上增加 zip、vim 等系统工具、部分 Python 打包组件和 GoogleTest,适合需要在容器内编译测试的场景。芯片系列必须与机器上的 Atlas 处理器一致,例如 910b、310p、a3 或 950。