AMD ROCm 官方容器镜像 logo

AMD ROCm 官方容器镜像

AMD 官方在 Docker Hub 发布的 ROCm 容器镜像(Verified Publisher)。涵盖 PyTorch、TensorFlow、JAX 等深度学习环境,以及 Kubernetes GPU 设备插件、GPU Operator 与 Prometheus 指标导出,适合在已安装 amdgpu 驱动的 Linux 主机上运行 AMD GPU 计算与 AI 工作负载。 https://rocm.docs.amd.com/en/latest/

ROCm 是 AMD 的开源 GPU 计算平台,提供面向 AI、高性能计算(HPC)和领域应用的编译器、运行时与加速库。平台开源,支持 Linux 与 Windows,并针对 AMD Instinct、AMD Radeon 与 AMD Ryzen AI 设备优化。文档站 rocm.docs.amd.com 将能力分为 Core SDK(HIP 运行时、数学与通信库、性能分析工具)、AI Ecosystem(PyTorch、JAX、vLLM、SGLang)、GPU Systems(驱动、集群、监控与容器)以及数据科学、金融、生命科学等领域工具包。 Docker Hub 上 rocm 组织全称为 AMD ROCm(TM) Platform,由 AMD 维护,为 Verified Publisher,现有约 98 个仓库,组织主页指向 ROCm 官方文档。本仓库提供可直接拉取的 ROCm 开发与框架镜像,以及把 AMD GPU 接入 Kubernetes 的集群组件。 常用镜像包括:rocm/pytorch、rocm/tensorflow、rocm/jax 提供带 ROCm 后端的深度学习环境,官方推荐用预构建镜像部署 PyTorch 与 TensorFlow,以避开本地安装依赖。rocm/dev-ubuntu-22.04、rocm/dev-ubuntu-24.04 等是基于不同 Ubuntu 版本的 ROCm 开发基础镜像,rocm/rocm-terminal 则是用于构建 HIP 应用的精简镜像。集群侧 rocm/k8s-device-plugin 把 AMD GPU 注册为可调度资源 amd.com/gpu,拉取量居本组织前列;rocm/gpu-operator 在 Kubernetes 中配置、监控和管理 GPU;rocm/device-metrics-exporter 向 Prometheus 导出设备指标;rocm/k8s-node-labeller 为节点打上 GPU 属性标签。推理方向还有 rocm/vllm(vLLM RC)、rocm/vllm-dev、rocm/sgl-dev 等 AMD 构建的 vLLM 与 SGLang 镜像。 运行前,Linux 宿主机需安装 AMD GPU 驱动(amdgpu)和 Docker Engine。把 GPU 暴露给容器有两种方式:安装 AMD Container Runtime Toolkit(推荐使用 CDI),或手动挂载设备节点 --device /dev/kfd 与 --device /dev/dri。驱动留在宿主机,容器通过这些设备节点使用 GPU。训练任务通常还需 --group-add video、--ipc=host,并加大 --shm-size。容器内可用 rocminfo 或 amd-smi list 确认可见 GPU。

特色镜像推荐

PyTorch on ROCm(rocm/pytorch)

AMD 官方 PyTorch on ROCm 镜像,预装 PyTorch、ROCm 与相关依赖。标签 rocm/pytorch:latest 指向最新经过 ROCm 测试的 PyTorch 发布版,也提供按 ROCm、PyTorch 与 Ubuntu 版本区分的标签。官方文档将 Docker 镜像列为部署 PyTorch on ROCm 的推荐方式。支持 Instinct MI 系列以及部分 Radeon / Ryzen AI GPU,具体型号以镜像说明与兼容性矩阵为准。

PyTorch 训练与微调ROCm 深度学习开发GPU 科学计算模型验证

TensorFlow on ROCm(rocm/tensorflow)

带 ROCm 后端的 TensorFlow 官方镜像,包含 TensorFlow、ROCm 与 TensorBoard 等依赖。可拉取 rocm/tensorflow:latest,或使用形如 rocm7.x-py3.12-tf2.xx-dev 的版本标签锁定 ROCm、Python 与 TensorFlow 组合。

TensorFlow 训练深度学习开发模型实验ROCm 后端验证

AMD GPU Device Plugin(rocm/k8s-device-plugin)

Kubernetes 设备插件,把节点上的 AMD GPU 注册进集群,供 Pod 以 amd.com/gpu 申请算力。通常以 DaemonSet 部署在带 ROCm GPU 的节点上,也是 AMD GPU Operator 暴露 GPU 资源所依赖的组件。节点需已安装 AMD GPU 驱动。

Kubernetes GPU 调度GPU 资源配额多租户 GPU 集群批量训练任务

AMD GPU Operator(rocm/gpu-operator)

在 Kubernetes 中配置、监控和管理 AMD GPU 的 Operator。用于把设备插件、节点标签、指标导出等 GPU 组件作为集群插件统一部署,减少逐节点手工安装。

集群 GPU 运维驱动与插件统一部署GPU 节点标准化生产级 K8s GPU 平台

AMD Device Metrics Exporter(rocm/device-metrics-exporter)

把 AMD GPU 设备指标导出为 Prometheus 可抓取的格式,用于采集利用率、显存、温度等数据,并接入 Grafana 等监控栈。可与设备插件、GPU Operator 一起部署在 GPU 节点上。

Prometheus 指标GPU 监控大盘容量与告警集群可观测性

AMD ROCm 官方容器镜像集合

vllm-ci logo
vllm-ci
AMD ROCm 官方容器镜像
该仓库用于托管vllm项目持续集成(CI)流程所需的镜像,旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持,确保CI流程高效、可靠地运行,满足vllm项目在开发迭代过程中对集成环境的镜像需求,助力项目快速验证代码变更、保障软件质量。
5 次收藏4949665 次下载
--更新
dev-almalinux-8 logo
dev-almalinux-8
AMD ROCm 官方容器镜像
暂无描述
67899 次下载
--更新
dev-ubuntu-24.04 logo
dev-ubuntu-24.04
AMD ROCm 官方容器镜像
暂无描述
10 次收藏704286 次下载
--更新
rocm-build-ubuntu-24.04 logo
rocm-build-ubuntu-24.04
AMD ROCm 官方容器镜像
用于在Ubuntu 24.04上构建ROCm的基础Docker镜像
2 次收藏7404 次下载
--更新
migraphx-ci-jenkins-ubuntu logo
migraphx-ci-jenkins-ubuntu
AMD ROCm 官方容器镜像
暂无描述
85659 次下载
--更新
torch-migraphx-ci-ubuntu logo
torch-migraphx-ci-ubuntu
AMD ROCm 官方容器镜像
暂无描述
1 次收藏14512 次下载
--更新
migraphx-torchbench-base logo
migraphx-torchbench-base
AMD ROCm 官方容器镜像
暂无描述
9070 次下载
--更新
xformers logo
xformers
AMD ROCm 官方容器镜像
预构建的xformers镜像,集成Composable Kernel Flash Attention扩展,专为AMD MI Instinct GPU设计,包含2024年10月1日PyTorch nightly版本、ROCm 6.2.2和Python 3.11。
1 次收藏9596 次下载
--更新
vllm-dev logo
vllm-dev
AMD ROCm 官方容器镜像
rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像,集成vllm框架与AMD GPU加速能力,专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖,支持低延迟、高吞吐量的LLM推理,可快速进行模型加载、性能调优与多实例部署测试,助力开发者高效构建和调试大语言模型应用,充分发挥AMD GPU在AI计算中的算力优势。
20 次收藏5919252 次下载
--更新
megatron-lm logo
megatron-lm
AMD ROCm 官方容器镜像
用于托管megatron-lm公共镜像的仓库,提供便捷获取和部署megatron-lm相关Docker镜像的服务,支持大模型训练与推理场景的快速环境搭建。
2 次收藏73626 次下载
--更新
device-metrics-exporter logo
device-metrics-exporter
AMD ROCm 官方容器镜像
AMD设备指标导出器,用于向Prometheus提供监控指标
2 次收藏279718 次下载
--更新
kernel-module-management-operator logo
kernel-module-management-operator
AMD ROCm 官方容器镜像
KMM用于管理、构建、签名和部署树外内核模块及设备插件的工具。
76339 次下载
--更新
kernel-module-management-signimage logo
kernel-module-management-signimage
AMD ROCm 官方容器镜像
KMM用于管理、构建、签名和部署树外内核模块及设备插件
17176 次下载
--更新
kernel-module-management-worker logo
kernel-module-management-worker
AMD ROCm 官方容器镜像
KMM用于管理、构建、签名和部署树外内核模块及设备插件
36099 次下载
--更新
kernel-module-management-webhook-server logo
kernel-module-management-webhook-server
AMD ROCm 官方容器镜像
KMM是一款用于管理、构建、签名和部署树外内核模块及设备插件的工具。
71474 次下载
--更新
第 3 页 / 共 7 页
123457

推荐技术栈

深度学习与推理

PyTorchTensorFlowJAXvLLMSGLangONNX Runtime

ROCm 运行时与库

HIPMIOpenComposable Kernelrocminfoamd-smi

Kubernetes GPU

rocm/k8s-device-pluginrocm/gpu-operatorrocm/k8s-node-labelleramd.com/gpu

宿主机依赖

amdgpu 驱动Docker EngineAMD Container Runtime Toolkit/dev/kfd/dev/dri

典型使用场景

PyTorch / TensorFlow 训练与开发

拉取 rocm/pytorch 或 rocm/tensorflow,在已安装 amdgpu 驱动的 Linux 主机上启动容器,直接获得带 ROCm 后端的深度学习环境。

rocm/pytorchrocm/tensorflowrocm/jaxamdgpu

Kubernetes 中调度 AMD GPU

部署 rocm/k8s-device-plugin 或使用 rocm/gpu-operator,让 Pod 通过 amd.com/gpu 申请 GPU。需要按 GPU 型号筛选节点时,可配合 rocm/k8s-node-labeller。

rocm/k8s-device-pluginrocm/gpu-operatorrocm/k8s-node-labelleramd.com/gpu

GPU 监控与运维

使用 rocm/device-metrics-exporter 把 AMD GPU 指标送入 Prometheus,并在 Grafana 中做大盘与告警。容器内可用 amd-smi、rocminfo 核对设备是否可见。

rocm/device-metrics-exporterPrometheusGrafanaamd-smi

大模型推理

使用 AMD 构建的 vLLM、SGLang 镜像在 Instinct 等 GPU 上做推理验证与服务。RC 与开发镜像适合跟随 ROCm 版本做兼容性验证;需要上游正式发布标签时,可选用 vllm 组织的 vLLM ROCm 镜像。

rocm/vllmrocm/vllm-devrocm/sgl-devvLLMSGLang

基于 ROCm 构建自定义应用

以 rocm/dev-ubuntu-24.04 等开发镜像或 rocm/rocm-terminal 为基底,编译 HIP 应用或打包自有 ROCm 软件,保证运行时与宿主机驱动匹配。

rocm/dev-ubuntu-24.04rocm/rocm-terminalHIPROCm

常见问题 (FAQ)

Q1:运行 ROCm 容器前,宿主机需要安装什么?

Linux 宿主机需要 AMD GPU 驱动(amdgpu-dkms 或对应的 AMD GPU Linux 驱动)以及 Docker Engine。驱动安装在宿主机,容器通过设备接口使用它,镜像内不必再装一份驱动。可用 rocminfo 或 amd-smi list 确认容器里能看到预期的 GPU。Windows 上的 ROCm 支持以官方文档的系统要求为准,Docker 设备直通示例主要面向 Linux。

Q2:怎样把 AMD GPU 传给容器?

有两种方式。一是安装 AMD Container Runtime Toolkit,用 CDI(推荐)或 amd-container-runtime 注入 GPU,便于选择具体设备。二是不用工具包,直接传设备节点:docker run --device /dev/kfd --device /dev/dri。/dev/kfd 是所有 GPU 共享的计算接口,/dev/dri 包含各 GPU 的渲染节点;只传 /dev/dri/renderD128 这类单个节点可以限制容器可见的 GPU。训练镜像(如 rocm/pytorch)官方示例还会加上 --group-add video、--ipc=host、--shm-size 8G,以及 --cap-add=SYS_PTRACE 与 --security-opt seccomp=unconfined。

Q3:rocm/pytorch 和上游 PyTorch 镜像如何选择?

rocm/pytorch 是 AMD 发布并测试的 PyTorch on ROCm 镜像,已经装好对应版本的 ROCm 与 PyTorch,官方把 Docker 预构建镜像作为安装 PyTorch on ROCm 的推荐路径。rocm/pytorch:latest 指向最新经过 ROCm 测试的发布版;需要固定组合时,按 Docker Hub 标签选择具体的 ROCm、Ubuntu 与 PyTorch 版本。rocm/pytorch-nightly 与 rocm/pytorch-training 分别面向每日构建和训练向基础环境。GPU 是否受支持(如 MI300、MI350 或特定 Radeon)以该标签的说明和 ROCm 兼容性矩阵为准。

Q4:在 Kubernetes 里如何让 Pod 使用 AMD GPU?

节点先装好 AMD GPU 驱动。然后部署 rocm/k8s-device-plugin(DaemonSet,官方仓库提供 k8s-ds-amdgpu-dp.yaml,也可用 Helm),或用 rocm/gpu-operator 统一安装设备插件、节点标签和监控组件。插件就绪后,节点 Capacity 中会出现 amd.com/gpu,Pod 通过 resources.limits 申请该资源即可。若要按型号、显存等属性调度,再部署 rocm/k8s-node-labeller 给节点打标签。设备健康检查若需要访问 /dev/kfd,对应 Pod 要允许 privileged。

Q5:rocm/vllm、vllm-dev 和 sgl-dev 分别适合什么场景?

rocm/vllm 是 AMD 发布的 vLLM RC 镜像,仓库说明中的上游正式标签位于 vllm 组织的 vllm-openai-rocm。rocm/vllm-dev 与 rocm/vllm-ci 用于 vLLM 在 ROCm 上的开发与持续集成,拉取量很高,但定位是开发与 CI 构建。rocm/sgl-dev 是 AMD 构建的 SGLang 开发镜像。做版本锁定的生产推理时,优先选用带明确版本标签、且与当前 ROCm / GPU 兼容性矩阵匹配的镜像;跟进最新 ROCm 支持时,再用 dev 或 RC 标签做验证。

专业版 · 高速稳定拉取镜像
50GB 仅 ¥8/年
高速镜像下载在线技术支持专业版保障服务可用付费会员免广告