支持ROCm后端的Tensorflow
概述
本仓库托管支持ROCm后端的Tensorflow发布版Docker镜像。
支持的GPU型号
镜像可在以下GPU型号上运行:
- gfx900(Vega10-type GPU - MI25, Vega56, Vega64)
- gfx906(Vega20-type GPU - MI50, MI60)
- gfx908(MI100)
- gfx90a(MI200)
- gfx1030(Navi21)
环境配置
如需配置ROCm Docker环境,请参考以下安装指南: https://github.com/RadeonOpenCompute/ROCm-docker/blob/master/quick-start.md
镜像特性
- 带有
-dev标签的容器包含从源码重建tensorflow-rocm所需的所有依赖项。
使用方法(部署示例)
推荐部署命令
以下是启动TF2.5镜像的推荐命令:
-
创建
drun别名(包含必要的容器运行参数):alias drun='sudo docker run -it --network=host --device=/dev/kfd --device=/dev/dri --ipc=host --shm-size 16G --group-add video --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v $HOME/dockerx:/dockerx' -
使用
drun运行镜像:drun rocm/tensorflow:latest
说明:
--device=/dev/kfd和--device=/dev/dri用于启用GPU设备访问;--shm-size 16G设置共享内存大小;-v $HOME/dockerx:/dockerx将主机目录挂载到容器内。
镜像基础信息
- ROCm 3.1及之后版本的镜像基于Ubuntu 18.04。
- 更早版本的镜像基于Ubuntu 16.04,除非镜像标签中另有说明。
rocm 命名空间的其他可用镜像:
rocm/vllm
vLLM 推理服务,ROCm GPU 优化版本
rocm/pytorch
PyTorch 机器学习框架,ROCm GPU 加速版本
rocm/vllm-dev
基于 ROCm 的 vLLM 开发与推理镜像,适合 AMD GPU 上的大模型服务
rocm/vllm-ci
ROCm 场景下的 vLLM CI/构建相关镜像,适合 AMD GPU 大模型流水线验证
rocm/sgl-dev
ROCm SGLang 开发镜像,适合 AMD GPU 大模型推理开发
rocm/k8s-device-plugin
ROCm Kubernetes Device Plugin,适合 AMD GPU 在 K8s 中调度
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 tensorflow 镜像标签
docker pull docker.xuanyuan.run/rocm/tensorflow:<标签>
DockerHub 原生拉取命令
docker pull rocm/tensorflow:<标签>
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务