vllm docker 镜像搜索结果 | 轩辕镜像

专属域名

文档搜索

轩辕助手

Run助手

邀请有礼

返回顶部

快速返回页面顶部

收起

收起工具栏

首页个人中心搜索镜像

交易

充值流量我的订单

工具

提交工单镜像收录一键安装

Npm 源 Pip 源 Homebrew 源

帮助

常见问题轩辕镜像免费版

其他

关于我们网站地图

热门搜索:

架构筛选

vllm/vllm-openai

vLLM 高性能推理与服务镜像

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

275 次收藏1000万+ 次下载3 天前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

vLLM框架在TPU上运行的Docker镜像仓库

3 次收藏10万+ 次下载4 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

3 次收藏5万+ 次下载3 天前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

7 次收藏1万+ 次下载29 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

1万+ 次下载9 天前更新

rocm/vllm

这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。

24 次收藏10万+ 次下载1 个月前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

4.3千+ 次下载4 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

1 次收藏1.5千+ 次下载28 天前更新

intel/vllm

6 次收藏1万+ 次下载1 个月前更新

syntheticdreamlabs/vllm

syntheticdreamlabs

vLLM构建镜像用于构建高性能大语言模型服务环境，支持快速部署及推理性能优化。

1万+ 次下载4 个月前更新

opea/vllm

基于VLLM项目的VLLM模型部署与服务镜像

1 次收藏1万+ 次下载7 个月前更新

vastai/vllm

2 次收藏5万+ 次下载7 天前更新

baseten/vllm

用于通过vLLM提供模型服务的基础镜像，支持高效部署和运行大语言模型推理服务，优化内存使用与请求处理性能。

1 次收藏9.1千+ 次下载2 个月前更新

dustynv/vllm

NVIDIA Jetson 平台优化的大语言模型推理服务框架

5 次收藏5万+ 次下载9 个月前更新

rocm/vllm-ci

该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。

5 次收藏100万+ 次下载3 天前更新

daehoyang/vllm

1万+ 次下载1 年前更新

substratusai/vllm

1万+ 次下载1 年前更新

apecloud/vllm

1 次收藏1万+ 次下载2 年前更新

apostacyh/vllm

The lmcache-integrated vllm engine

1 次收藏1.4千+ 次下载1 年前更新

ozziemoreno/vllm

用于个人测试和实验的仓库，基于vllm项目的ROCm Dockerfile构建，包含ROCm支持，基础镜像为rocm/pytorch或自定义。

1.9千+ 次下载12 天前更新

duobinji/vllm

768 次下载1 年前更新

yuanlabai/vllm

7.5千+ 次下载20 天前更新

llmsysbench/vllm

images for all vllm instances of llmsysbench

1.2千+ 次下载7 个月前更新

stepfun2025/vllm

7千+ 次下载7 个月前更新

dimaskiddo/vllm

基于Debian的vLLM镜像仓库，用于部署vLLM服务器，提供大语言模型推理服务的运行环境。

789 次下载22 天前更新

robatvastai/vllm

6.1千+ 次下载7 天前更新

moonshadow25/vllm

1 次收藏552 次下载4 个月前更新

mitakad/vllm

基于Jetson Orin AGX构建的vLLM分布式LLM推理镜像，由jetson-containers项目提供，支持多节点分布式推理及EAGLE-3推测解码加速。

3 次收藏1.4千+ 次下载4 天前更新

embedl/vllm

由Embedl维护的优化vLLM容器镜像，提供高性能大型语言模型(LLM)部署运行环境。

725 次下载1 个月前更新

truefoundrycloud/vllm

truefoundrycloud

3.8千+ 次下载2 年前更新

sushiqian/vllm

vllm inference framework

453 次下载7 天前更新

wurstdeploy/vllm

test builds for cyril23's fork of https://github.com/vllm-project/vllm/

549 次下载10 个月前更新

truffeldev/vllm

3.5千+ 次下载7 天前更新

vubutterflies/vllm

2.5千+ 次下载2 年前更新

uptospace/vllm

2.4千+ 次下载1 年前更新

voipmonitor/vllm

针对RTX PRO 6000 Blackwell (SM120a)的vLLM推理栈，基于CUDA 13.2构建，包含Ubuntu 24.04、PyTorch nightly、vLLM、FlashInfer、SGLang等组件，修复了nvidia-cutlass-dsl的NVVM/ptxas版本冲突问题，适用于高性能LLM推理任务。

2.3千+ 次下载4 天前更新

joyai/vllm

用于vLLM的自定义Docker镜像，包含官方版本尚未集成的新库、软件包及更新版本（如新版本CUDA）。

548 次下载1 年前更新

foundationmodels/vllm

foundationmodels

1.9千+ 次下载1 年前更新

cornserve/vllm

1.7千+ 次下载1 个月前更新

xingyaoww/vllm

该Docker镜像提供vllm的不同版本部署，v1.1对应vllm==0.1.4并支持CUDA>12，v1.0对应vllm==0.1.3（存在问题），用于高性能LLM服务部署。

273 次下载2 年前更新

chethanumeshaplutoflume/vllm

chethanumeshaplutoflume

用于大型语言模型(LLM)的高吞吐量、内存高效的推理与服务引擎Docker镜像

1.5千+ 次下载2 年前更新

amdsiloai/vllm

1.5千+ 次下载6 天前更新

seemeai/vllm

1 次收藏1.4千+ 次下载24 天前更新

natecompiles/vllm

为无法使用最新CUDA工具包的系统提供预编译的vLLM Docker镜像，支持基于分页注意力机制的高吞吐量LLM服务，当前针对CUDA 12.4版本。

315 次下载6 个月前更新

kovec/vllm

1.3千+ 次下载1 个月前更新

scalepointai/vllm

1.4千+ 次下载1 年前更新

wjfwjf/vllm

1.3千+ 次下载9 个月前更新

narandill/vllm

1 次收藏1.3千+ 次下载1 个月前更新

danucore/vllm

1.2千+ 次下载1 个月前更新

huaro/vllm

158 次下载1 年前更新

j3qmup5a/vllm

132 次下载11 个月前更新

shwars/vllm

1.1千+ 次下载2 年前更新

dview/vllm

1.1千+ 次下载1 年前更新

mlenergy/vllm

vLLM fork with per-token energy measurements

248 次下载1 年前更新

gjkarthik/vllm

1千+ 次下载28 天前更新

rgshaw2/vllm

1千+ 次下载7 个月前更新

t9kpublic/vllm

1千+ 次下载6 个月前更新

futureproofhomes/vllm

futureproofhomes

897 次下载5 个月前更新

ericlewisplease/vllm

ericlewisplease

866 次下载4 个月前更新

skandermoalla/vllm

1 次收藏858 次下载1 年前更新

hgfkeep/vllm

775 次下载1 年前更新

johncentml/vllm

742 次下载12 天前更新

ineil77/vllm

用于进程内使用的修改版vllm镜像。

182 次下载22 天前更新

dengcao/vllm

vLLM是一个快速且易于使用的库，用于大型语言模型（LLM）的推理和服务，旨在提供高效的模型部署和服务能力。

260 次下载6 个月前更新

hyoon11/vllm

667 次下载1 年前更新

loopinnetwork/vllm

643 次下载4 天前更新

zhangy2259/vllm

649 次下载8 个月前更新

mamontov/vllm

638 次下载7 个月前更新

anujn1/vllm

624 次下载2 年前更新

zitrone44/vllm

557 次下载6 天前更新

jaywonchung/vllm

551 次下载5 个月前更新

visvakula/vllm

550 次下载4 个月前更新

devpartitech/vllm

525 次下载1 年前更新

ehuberf2ai/vllm

92 次下载1 年前更新

15five/vllm

81 次下载10 个月前更新

benasd/vllm

516 次下载1 个月前更新

vishnumadhu/vllm

505 次下载4 个月前更新

chaojin0310/vllm

vllm extension based on vllm-0.2.7

89 次下载2 年前更新

yottalabsai/vllm

498 次下载2 个月前更新

shadowaryan/vllm

fix vllm deployment

98 次下载2 年前更新

ddhmed/vllm

基于Ubuntu amd64架构，通过VLLM在本地运行大语言模型的Docker镜像，支持GPU加速并集成Gradio Web界面。

166 次下载1 个月前更新

yijun0404/vllm

470 次下载25 天前更新

umansai/vllm

470 次下载4 个月前更新

ispsae/vllm

469 次下载28 天前更新

ramblininc/vllm

455 次下载8 天前更新

navarrepratt/vllm

448 次下载2 年前更新

hocao459/vllm

433 次下载2 个月前更新

hamsik571/vllm

430 次下载3 个月前更新

nuonfred/vllm

Images i need for vllm things and such.

130 次下载1 年前更新

apsu/vllm

416 次下载1 年前更新

pingpodai/vllm

399 次下载4 个月前更新

alaren123/vllm

375 次下载10 个月前更新

aigmkt/vllm

368 次下载9 天前更新

sashaank/vllm

371 次下载7 个月前更新

ittia/vllm

363 次下载11 个月前更新

dynamotestaccount/vllm

dynamotestaccount

357 次下载7 个月前更新

mwiki/vllm

356 次下载10 个月前更新

robatvastaigmail/vllm

robatvastaigmail

353 次下载2 个月前更新

kediw111/vllm

352 次下载6 个月前更新

第 1 页

与「vllm」相关的博客与命名空间

相关博客

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker,VLLM2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker,vllm-openai2025/10/9

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

MinerU,PDF,人工智能,vLLM2025/12/30

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker,verl2025/10/8

相关命名空间

vLLM 高性能推理与服务镜像

vLLM 是面向大语言模型（LLM）推理与服务的高性能引擎项目，强调高吞吐、低延迟与显存高效利用，支持将模型以 OpenAI 兼容 API 形式对外提供服务，并覆盖 GPU/TPU 等多种硬件场景，适合构建生产级模型服务。

...

vllm

博客Docker 镜像公告与技术博客

热门查看热门 Docker 镜像推荐

安装一键安装 Docker 并配置镜像源

镜像拉取问题咨询请提交工单，官方技术交流群：1072982923。轩辕镜像所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。

镜像拉取问题咨询请提交工单，官方技术交流群：。轩辕镜像所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。

商务合作：点击复制邮箱

©2024-2026 源码跳动

商务合作：点击复制邮箱Copyright © 2024-2026 杭州源码跳动科技有限公司. All rights reserved.