vllm-gfx906 docker 镜像搜索结果 | 轩辕镜像

首页个人中心搜索镜像

交易

充值流量¥8起我的订单

文档

工具

提交工单页面收录

Docker Hub

Docker Hub

架构筛选

nalanzeyu/vllm-gfx906

vLLM是一款高性能大型语言模型服务库，适用于AMD gfx906系列显卡，例如镭龙VII（Radeon VII）、MI50及MI60等型号，能够为这些AMD显卡提供高效的大型语言模型部署与运行支持，助力用户在相关硬件平台上实现高性能的AI推理与服务。

7 次收藏1万+ 次下载8 个月前更新

mixa3607/vllm-gfx906

VLLM for AMD gfx906 GPUs

2 次收藏1万+ 次下载5 个月前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

311 次收藏1000万+ 次下载2 天前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

8 次收藏10万+ 次下载2 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

2 次收藏10万+ 次下载2 天前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

vLLM框架在TPU上运行的Docker镜像仓库

3 次收藏10万+ 次下载3 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

6 次收藏10万+ 次下载2 天前更新

daehoyang/vllm

1万+ 次下载1 年前更新

opea/vllm

基于VLLM项目的VLLM模型部署与服务镜像

1 次收藏1万+ 次下载1 年前更新

absence209/vllm-sm70

这是针对Tesla V100/SM70硬件优化的vLLM分支镜像，集成AWQ 4位量化与FLASH_ATTN_V100后端，可在Volta架构GPU上高效运行Qwen3.5/3.6 AWQ模型（含稠密及MoE类型）。

1万+ 次下载4 个月前更新

wleev/vllm-omni

updated vllm omni image v0.18.x

1万+ 次下载7 个月前更新

avarok/vllm-dgx-spark

1万+ 次下载9 个月前更新

baseten/vllm

用于通过vLLM提供模型服务的基础镜像，支持高效部署和运行大语言模型推理服务，优化内存使用与请求处理性能。

1 次收藏1万+ 次下载5 个月前更新

amdsiloai/vllm

1万+ 次下载1 天前更新

syntheticdreamlabs/vllm

syntheticdreamlabs

vLLM构建镜像用于构建高性能大语言模型服务环境，支持快速部署及推理性能优化。

1万+ 次下载10 个月前更新

apecloud/vllm

1 次收藏1万+ 次下载2 年前更新

hyoon11/vllm-dev

1 次收藏1万+ 次下载7 个月前更新

scitrera/dgx-spark-vllm

为NVIDIA DGX Spark系统优化的CUDA容器，提供基于vLLM、sglang和PyTorch的稳定预构建镜像，支持多节点推理，适合直接部署或作为自定义构建的基础镜像。

6 次收藏1万+ 次下载7 个月前更新

hellohal2064/vllm-qwen3.5-gb10

这是针对NVIDIA DGX Spark（GB10 GPU）优化的vLLM镜像，可快速部署Qwen3.5-35B-A3B-FP8大模型，支持262K上下文、工具调用和OpenAI兼容API，提供高效的代码生成与推理能力。

1 次收藏1万+ 次下载6 个月前更新

stepfun2025/vllm

1万+ 次下载1 年前更新

areias/vllm-gemma

Runpod vllm image with google/gemma-3-1b-it

1万+ 次下载1 年前更新

capicua25x/vllm-rocm-rdna4

vLLM 0.19.1推理引擎镜像，适用于AMD RDNA4（gfx1201）显卡，支持MXFP4（Qwen）和NVFP4（Gemma-4）两种量化格式，用户可自行挂载模型权重进行高效大语言模型推理。

2 次收藏1万+ 次下载1 个月前更新

dengcao/vllm-openai

vLLM是一个快速且易用的大语言模型推理与服务库，最初由加州大学伯克利分校开发，采用PagedAttention技术优化内存使用，支持高吞吐量、低延迟的推理，兼容Hugging Face模型格式，可轻松部署各类LLM，适用于科研和生产环境，显著提升大语言模型的服务效率。

3 次收藏1万+ 次下载1 年前更新

alexeldeib/kvc-vllm

1万+ 次下载8 个月前更新

localinferencelab/vllm

localinferencelab

1 次收藏1万+ 次下载1 个月前更新

yuanlabai/vllm

8.9千+ 次下载6 个月前更新

cstechdev/vllm

8.6千+ 次下载1 个月前更新

vastai/vllm-omni

由vast.ai创建，基于Vast基础镜像的vllm-omni镜像，适用于相关应用场景部署。

1万+ 次下载22 天前更新

timothystewart6/vllm-gb10

timothystewart6

这是为NVIDIA DGX Spark（GB10 SoC）打造的可复现vLLM Docker镜像，所有组件版本固定，支持在特定硬件上高效部署和服务AI模型。

1万+ 次下载3 天前更新

garenleeasa/lvllm

https://github.com/guqiong96/Lvllm

1万+ 次下载30 天前更新

avarok/dgx-vllm-nvfp4-kernel

3 次收藏5万+ 次下载8 个月前更新

ngpitt/vllm

为NVIDIA Blackwell GPU（SM12.0）预构建的vLLM推理镜像，包含从源码编译的NVFP4 MoE内核，支持高效的大模型推理服务。

7.2千+ 次下载3 天前更新

repne/vllm

针对RTX 6000显卡的vLLM部署镜像，基于blackwell-llm-docker和repne/vllm项目，用于高效运行大语言模型推理任务。

6.9千+ 次下载4 个月前更新

opea/vllm-gaudi

基于vLLM项目，在Gaudi2上部署和服务VLLM模型的Docker镜像，提供高效、快速的大语言模型推理与服务能力，支持多种量化技术和优化特性。

1万+ 次下载9 个月前更新

novitalabs/nebula-py312-vllm

1万+ 次下载1 个月前更新

tcclaviger/vllm22

该镜像为废弃的vLLM相关镜像，建议使用tcclaviger/vllm:latest或tcclaviger/vllm:dev镜像，此镜像不再更新维护。

1万+ 次下载3 个月前更新

hanseware/vllm-audio-video

1 次收藏1万+ 次下载20 小时前更新

wyattau/vllm

5.6千+ 次下载8 小时前更新

ubicloud/vllm

5千+ 次下载3 天前更新

kyuz0/vllm-therock-gfx1151

2 次收藏10万+ 次下载3 天前更新

lazymio/vllm-backport

Inference engine for older cards. See https://github.com/wtdcode/vllm-backport

2 次收藏10万+ 次下载26 天前更新

truffeldev/vllm

5千+ 次下载6 个月前更新

langtechbsc/vllm-with-params

基于vllm/vllm-openai修改的Docker镜像，支持通过PARAMS参数传递命令行参数，适用于运行语言模型；x.y.z.1标签包含固定版本hermes-tool-parser，启用时需使用--tool-call-parser hermes_fixed选项。

1万+ 次下载1 年前更新

ashahba/vllm-cpu

该仓库包含vLLM项目的CPU镜像，基于vLLM仓库中的Dockerfile.cpu构建。

1 次收藏5千+ 次下载8 个月前更新

seemeai/vllm

1 次收藏5.1千+ 次下载9 天前更新

xingyaoww/vllm

该Docker镜像提供vllm的不同版本部署，v1.1对应vllm==0.1.4并支持CUDA>12，v1.0对应vllm==0.1.3（存在问题），用于高性能LLM服务部署。

5千+ 次下载3 年前更新

llmsysbench/vllm

images for all vllm instances of llmsysbench

4.8千+ 次下载3 个月前更新

mitakad/vllm

基于Jetson Orin AGX构建的vLLM分布式LLM推理镜像，由jetson-containers项目提供，支持多节点分布式推理及EAGLE-3推测解码加速。

3 次收藏4.8千+ 次下载2 天前更新

johncentml/vllm

4.9千+ 次下载21 天前更新

openguardrails/vllm-glm52-sm80

1万+ 次下载3 个月前更新

lavd/vllm

用于构建基于vllm（jasl分支codex/ds4-sm120-min-enable）的Docker镜像，目标为vllm-openai，支持部署OpenAI兼容API服务，包含预编译优化及指定构建参数（max_jobs=8、nvcc_threads=2）。

4.8千+ 次下载4 个月前更新

novitalabs/nebula-py310-vllm

1万+ 次下载10 个月前更新

ozziemoreno/vllm

用于个人测试和实验的仓库，基于vllm项目的ROCm Dockerfile构建，包含ROCm支持，基础镜像为rocm/pytorch或自定义。

4.7千+ 次下载15 天前更新

hellohal2064/vllm-dgx-spark-gb10

为NVIDIA GB10 Blackwell GPU（SM121）预构建的vLLM服务器，支持Qwen、Llama等模型高效推理，预编译适配ARM64+CUDA13.0环境，可直接挂载模型运行。

1 次收藏1万+ 次下载7 个月前更新

truefoundrycloud/vllm

truefoundrycloud

4.4千+ 次下载3 年前更新

shiftupaicom/vllm

4.4千+ 次下载4 个月前更新

wjie520/vllm_kunlun

vLLM 昆仑芯适配 Docker 镜像，面向国产 Kunlun AI 加速卡的大模型推理部署，支持 OpenAI 兼容 API，适合在专用硬件上运行私有化 LLM 服务。

1万+ 次下载8 个月前更新

apecloud/vllm-openai

1万+ 次下载10 个月前更新

narandill/vllm

2 次收藏4千+ 次下载4 个月前更新

lei6393/vllm-ascend

1万+ 次下载9 天前更新

madeby561/vllm

这是针对GLM-5.2 NVFP4 REAP模型的vLLM服务镜像，修复了MTP推测性草稿DCP并行问题，支持b12x稀疏索引器，提升长上下文推理性能与吞吐量。

3.8千+ 次下载28 天前更新

lei6393/vllm-openai

1万+ 次下载9 天前更新

openeulertest/vllm-cpu

3.5千+ 次下载29 天前更新

foundationmodels/vllm

foundationmodels

3.5千+ 次下载2 年前更新

aiinfos/vllm-gfx906-mobydick

针对AMD gfx906系列GPU（如Radeon VII、MI50、MI60）优化的VLLM推理镜像，支持高效的大语言模型部署与推理。

1万+ 次下载13 天前更新

第 1 页

与「vllm-gfx906」相关的博客与命名空间

相关博客

【漏洞预警】LMCache HTTP 管理面未认证远程代码执行与配额篡改（CVE-2026-107204 / 107205 / 107206）

LMCache 到 0.5.5 为止暴露未认证的 /run_script，可绕过受限导入后执行系统命令（CVE-2026-107204，CVSS 9.8）。多进程 coordinator 与 HTTP 管理端默认监听所有网卡且无认证，可改配额、枚举缓存并读取环境凭证（CVE-2026-107205、CVE-2026-107206）。官方镜像 lmcache/vllm-openai 通常以 root 运行。公开资料尚未给出稳定修复版。

Docker漏洞预警2026/10/9

【漏洞预警】LMCache 多进程模式未认证远程代码执行（CVE-2026-105192）

LMCache 0.3.9 及以后的多进程模式会打开无需认证的 ZeroMQ 端口（默认 5555），并在处理请求前把消息直接反序列化（CVE-2026-105192，CVSS 9.8）。官方镜像以 root 运行该进程。厂商尚未公布修复版本，含当前正式版 0.5.5。请不要把 5555 暴露到不可信网络。

Docker漏洞预警2026/10/8

【漏洞预警】vLLM LlavaOnevision2 处理器绕过 trust_remote_code（CVE-2026-90553）

vLLM 在加载 LlavaOnevision2 处理器时忽略 trust_remote_code，恶意模型可在 processing_llava_onevision2.py 植入任意代码并以 vLLM 进程权限执行（CVE-2026-90553，CVSS 约 7.8 High）。请将 vLLM / vllm-openai 升至 ≥ 0.28.0；未升级前勿加载不受信多模态模型仓库。

Docker部署教程2026/9/13

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

Docker部署教程2025/12/30

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker部署教程2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker部署教程2025/10/9

...

vllm-gfx906

定价查看流量套餐与价格

博客Docker 镜像公告与技术博客

官方技术交流群：|问题咨询请：提交工单

服务号：轩辕镜像|公众号：源码跳动|小程序：轩辕镜像|官方技术交流群：|问题咨询请：提交工单

专业版 · 高速稳定拉取镜像

高速镜像下载·在线技术支持·99.95% SLA 保障·付费会员免广告

50GB 仅 ¥8/年

专业版 · 高速稳定拉取镜像

50GB 仅 ¥8/年

高速镜像下载·在线技术支持·99.95% SLA 保障·付费会员免广告

用户协议·隐私政策·增值电信业务经营许可证：浙B2-20261007·©2024-2026 源码跳动©2024-2026 杭州源码跳动科技有限公司·商务合作：点击复制邮箱