AMD ROCm 官方容器镜像
AMD 官方在 Docker Hub 发布的 ROCm 容器镜像(Verified Publisher)。涵盖 PyTorch、TensorFlow、JAX 等深度学习环境,以及 Kubernetes GPU 设备插件、GPU Operator 与 Prometheus 指标导出,适合在已安装 amdgpu 驱动的 Linux 主机上运行 AMD GPU 计算与 AI 工作负载。 https://rocm.docs.amd.com/en/latest/
特色镜像推荐
PyTorch on ROCm(rocm/pytorch)
AMD 官方 PyTorch on ROCm 镜像,预装 PyTorch、ROCm 与相关依赖。标签 rocm/pytorch:latest 指向最新经过 ROCm 测试的 PyTorch 发布版,也提供按 ROCm、PyTorch 与 Ubuntu 版本区分的标签。官方文档将 Docker 镜像列为部署 PyTorch on ROCm 的推荐方式。支持 Instinct MI 系列以及部分 Radeon / Ryzen AI GPU,具体型号以镜像说明与兼容性矩阵为准。
TensorFlow on ROCm(rocm/tensorflow)
带 ROCm 后端的 TensorFlow 官方镜像,包含 TensorFlow、ROCm 与 TensorBoard 等依赖。可拉取 rocm/tensorflow:latest,或使用形如 rocm7.x-py3.12-tf2.xx-dev 的版本标签锁定 ROCm、Python 与 TensorFlow 组合。
AMD GPU Device Plugin(rocm/k8s-device-plugin)
Kubernetes 设备插件,把节点上的 AMD GPU 注册进集群,供 Pod 以 amd.com/gpu 申请算力。通常以 DaemonSet 部署在带 ROCm GPU 的节点上,也是 AMD GPU Operator 暴露 GPU 资源所依赖的组件。节点需已安装 AMD GPU 驱动。
AMD GPU Operator(rocm/gpu-operator)
在 Kubernetes 中配置、监控和管理 AMD GPU 的 Operator。用于把设备插件、节点标签、指标导出等 GPU 组件作为集群插件统一部署,减少逐节点手工安装。
AMD Device Metrics Exporter(rocm/device-metrics-exporter)
把 AMD GPU 设备指标导出为 Prometheus 可抓取的格式,用于采集利用率、显存、温度等数据,并接入 Grafana 等监控栈。可与设备插件、GPU Operator 一起部署在 GPU 节点上。
AMD ROCm 官方容器镜像集合
推荐技术栈
深度学习与推理
ROCm 运行时与库
Kubernetes GPU
宿主机依赖
典型使用场景
PyTorch / TensorFlow 训练与开发
拉取 rocm/pytorch 或 rocm/tensorflow,在已安装 amdgpu 驱动的 Linux 主机上启动容器,直接获得带 ROCm 后端的深度学习环境。
Kubernetes 中调度 AMD GPU
部署 rocm/k8s-device-plugin 或使用 rocm/gpu-operator,让 Pod 通过 amd.com/gpu 申请 GPU。需要按 GPU 型号筛选节点时,可配合 rocm/k8s-node-labeller。
GPU 监控与运维
使用 rocm/device-metrics-exporter 把 AMD GPU 指标送入 Prometheus,并在 Grafana 中做大盘与告警。容器内可用 amd-smi、rocminfo 核对设备是否可见。
大模型推理
使用 AMD 构建的 vLLM、SGLang 镜像在 Instinct 等 GPU 上做推理验证与服务。RC 与开发镜像适合跟随 ROCm 版本做兼容性验证;需要上游正式发布标签时,可选用 vllm 组织的 vLLM ROCm 镜像。
基于 ROCm 构建自定义应用
以 rocm/dev-ubuntu-24.04 等开发镜像或 rocm/rocm-terminal 为基底,编译 HIP 应用或打包自有 ROCm 软件,保证运行时与宿主机驱动匹配。
常见问题 (FAQ)
Q1:运行 ROCm 容器前,宿主机需要安装什么?
Linux 宿主机需要 AMD GPU 驱动(amdgpu-dkms 或对应的 AMD GPU Linux 驱动)以及 Docker Engine。驱动安装在宿主机,容器通过设备接口使用它,镜像内不必再装一份驱动。可用 rocminfo 或 amd-smi list 确认容器里能看到预期的 GPU。Windows 上的 ROCm 支持以官方文档的系统要求为准,Docker 设备直通示例主要面向 Linux。
Q2:怎样把 AMD GPU 传给容器?
有两种方式。一是安装 AMD Container Runtime Toolkit,用 CDI(推荐)或 amd-container-runtime 注入 GPU,便于选择具体设备。二是不用工具包,直接传设备节点:docker run --device /dev/kfd --device /dev/dri。/dev/kfd 是所有 GPU 共享的计算接口,/dev/dri 包含各 GPU 的渲染节点;只传 /dev/dri/renderD128 这类单个节点可以限制容器可见的 GPU。训练镜像(如 rocm/pytorch)官方示例还会加上 --group-add video、--ipc=host、--shm-size 8G,以及 --cap-add=SYS_PTRACE 与 --security-opt seccomp=unconfined。
Q3:rocm/pytorch 和上游 PyTorch 镜像如何选择?
rocm/pytorch 是 AMD 发布并测试的 PyTorch on ROCm 镜像,已经装好对应版本的 ROCm 与 PyTorch,官方把 Docker 预构建镜像作为安装 PyTorch on ROCm 的推荐路径。rocm/pytorch:latest 指向最新经过 ROCm 测试的发布版;需要固定组合时,按 Docker Hub 标签选择具体的 ROCm、Ubuntu 与 PyTorch 版本。rocm/pytorch-nightly 与 rocm/pytorch-training 分别面向每日构建和训练向基础环境。GPU 是否受支持(如 MI300、MI350 或特定 Radeon)以该标签的说明和 ROCm 兼容性矩阵为准。
Q4:在 Kubernetes 里如何让 Pod 使用 AMD GPU?
节点先装好 AMD GPU 驱动。然后部署 rocm/k8s-device-plugin(DaemonSet,官方仓库提供 k8s-ds-amdgpu-dp.yaml,也可用 Helm),或用 rocm/gpu-operator 统一安装设备插件、节点标签和监控组件。插件就绪后,节点 Capacity 中会出现 amd.com/gpu,Pod 通过 resources.limits 申请该资源即可。若要按型号、显存等属性调度,再部署 rocm/k8s-node-labeller 给节点打标签。设备健康检查若需要访问 /dev/kfd,对应 Pod 要允许 privileged。
Q5:rocm/vllm、vllm-dev 和 sgl-dev 分别适合什么场景?
rocm/vllm 是 AMD 发布的 vLLM RC 镜像,仓库说明中的上游正式标签位于 vllm 组织的 vllm-openai-rocm。rocm/vllm-dev 与 rocm/vllm-ci 用于 vLLM 在 ROCm 上的开发与持续集成,拉取量很高,但定位是开发与 CI 构建。rocm/sgl-dev 是 AMD 构建的 SGLang 开发镜像。做版本锁定的生产推理时,优先选用带明确版本标签、且与当前 ROCm / GPU 兼容性矩阵匹配的镜像;跟进最新 ROCm 支持时,再用 dev 或 RC 标签做验证。