max-amd-basemax-amd-base容器通过MAX框架在AMD GPU上提供高性能推理,完全支持ROCm。它为在AMD硬件上运行大语言模型(LLM)提供了即用型环境,性能经过优化。
该MAX容器兼容OpenAI API规范,并针对GPU部署进行了优化。有关容器内容和硬件兼容性的详细信息,请参阅MAX文档中的MAX容器。
使用最新的MAX基础容器(AMD版)在AMD GPU上运行LLM,命令如下:
bashdocker run \ --group-add keep-groups \ --rm \ --env "HF_TOKEN=$HF_TOKEN" \ -p 8000:8000 \ --device /dev/kfd \ --device /dev/dri \ modular/max-amd-base:latest \ --model-path <模型提供者/模型ID>
您可以通过引用HuggingFace模型ID来运行MAX模型。例如:google/gemma-3-1b-it。
您还可以使用MAX容器运行Hugging Face上托管的各种PyTorch模型,例如:microsoft/Phi-3.5-vision-instruct。
有关使用MAX部署热门模型的更多信息,请参阅模型支持文档。
支持的标签会更新到最新的MAX版本,包括最新的稳定版本和更多实验性的nightly版本。latest标签提供最新的稳定版本,nightly标签提供最新的nightly版本。
稳定版
Nightly版
有关Modular及其产品的更多信息,请访问Modular文档网站。
要了解新版本动态,请订阅我们的新闻通讯、查看社区并加入我们的论坛。
如果您有兴趣成为设计合作伙伴,以获得早期访问权限并提供反馈,请联系我们。




探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
无需登录使用专属域名
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
Harbor Proxy Repository 对接专属域名
Portainer Registries 加速拉取
Nexus3 Docker Proxy 内网缓存
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
manifest unknown
no matching manifest(架构)
invalid tar header(解压)
TLS 证书失败
DNS 超时
410 Gone 排查
402 与流量用尽
401 认证失败
429 限流
D-Bus 凭证提示
413 与超大单层
来自真实用户的反馈,见证轩辕镜像的优质服务