热门搜索:
vllm/vllm-openai logo

vllm/vllm-openai

vLLM 高性能推理与服务镜像
暂无描述
280 次收藏1000万+ 次下载1 个月前更新
vllm/vllm-tpu logo

vllm/vllm-tpu

vLLM 高性能推理与服务镜像
Repo for vLLM TPU images
3 次收藏10万+ 次下载1 个月前更新
vllm/vllm-omni logo

vllm/vllm-omni

vLLM 高性能推理与服务镜像
暂无描述
7 次收藏5万+ 次下载1 个月前更新
vllm/vllm-openai-rocm logo

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像
暂无描述
4 次收藏5万+ 次下载1 个月前更新
vllm/vllm-openai-cpu logo

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像
暂无描述
1万+ 次下载1 个月前更新
vllm/vllm-router logo

vllm/vllm-router

vLLM 高性能推理与服务镜像
暂无描述
5.5千+ 次下载1 个月前更新
rocm/vllm logo

rocm/vllm

rocm
ROCm optimized vLLM docker containers for AMD GPUs.
24 次收藏10万+ 次下载2 个月前更新
vllm/vllm-omni-rocm logo

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像
暂无描述
1 次收藏1.5千+ 次下载2 个月前更新
intel/vllm logo

intel/vllm

intel
暂无描述
6 次收藏1万+ 次下载2 个月前更新
syntheticdreamlabs/vllm logo

syntheticdreamlabs/vllm

syntheticdreamlabs
vLLM builds
1万+ 次下载5 个月前更新
opea/vllm logo

opea/vllm

opea
Deploying and servicing VLLM models based on VLLM projects
1 次收藏1万+ 次下载9 个月前更新
vastai/vllm logo

vastai/vllm

vastai
暂无描述
2 次收藏10万+ 次下载1 个月前更新
baseten/vllm logo

baseten/vllm

baseten
Base image for serving models with vLLM
1 次收藏9.1千+ 次下载4 个月前更新
dustynv/vllm logo

dustynv/vllm

dustynv
暂无描述
5 次收藏5万+ 次下载11 个月前更新
rocm/vllm-ci logo

rocm/vllm-ci

rocm
Repo host images for vllm-ci
5 次收藏100万+ 次下载1 个月前更新
daehoyang/vllm logo

daehoyang/vllm

daehoyang
暂无描述
1万+ 次下载1 年前更新
substratusai/vllm logo

substratusai/vllm

substratusai
暂无描述
1万+ 次下载1 年前更新
apecloud/vllm logo

apecloud/vllm

apecloud
暂无描述
1 次收藏1万+ 次下载2 年前更新
apostacyh/vllm logo

apostacyh/vllm

apostacyh
The lmcache-integrated vllm engine
1 次收藏1.4千+ 次下载1 年前更新
ozziemoreno/vllm logo

ozziemoreno/vllm

ozziemoreno
Repository for testing my github action against vllm main repo
1.9千+ 次下载2 个月前更新
duobinji/vllm logo

duobinji/vllm

duobinji
vllm cpu image
768 次下载1 年前更新
yuanlabai/vllm logo

yuanlabai/vllm

yuanlabai
暂无描述
7.5千+ 次下载2 个月前更新
dimaskiddo/vllm logo

dimaskiddo/vllm

dimaskiddo
Debian Based vLLM Image Repository
873 次下载1 个月前更新
stepfun2025/vllm logo

stepfun2025/vllm

stepfun2025
暂无描述
7千+ 次下载9 个月前更新
llmsysbench/vllm logo

llmsysbench/vllm

llmsysbench
images for all vllm instances of llmsysbench
1.2千+ 次下载9 个月前更新
repne/vllm logo

repne/vllm

repne
vLLM for RTX 6000. github.com/voipmonitor/blackwell-llm-docker + github.com/repne/vllm
777 次下载1 个月前更新
moonshadow25/vllm logo

moonshadow25/vllm

moonshadow25
vllm-395
1 次收藏552 次下载6 个月前更新
robatvastai/vllm logo

robatvastai/vllm

robatvastai
暂无描述
6.1千+ 次下载1 个月前更新
mitakad/vllm logo

mitakad/vllm

mitakad
vLLM Distributed Inference on Jetson Orin AGX-built by https://github.com/dusty-nv/jetson-containers
3 次收藏1.6千+ 次下载1 个月前更新
voipmonitor/vllm logo

voipmonitor/vllm

voipmonitor
暂无描述
4.3千+ 次下载1 个月前更新
embedl/vllm logo

embedl/vllm

embedl
Optimized vLLM container images maintained by Embedl.
725 次下载3 个月前更新
sushiqian/vllm logo

sushiqian/vllm

sushiqian
vllm inference framework
453 次下载1 个月前更新
truefoundrycloud/vllm logo

truefoundrycloud/vllm

truefoundrycloud
暂无描述
3.8千+ 次下载2 年前更新
wurstdeploy/vllm logo

wurstdeploy/vllm

wurstdeploy
test builds for cyril23's fork of https://github.com/vllm-project/vllm/
549 次下载11 个月前更新
truffeldev/vllm logo

truffeldev/vllm

truffeldev
暂无描述
3.5千+ 次下载1 个月前更新
vubutterflies/vllm logo

vubutterflies/vllm

vubutterflies
暂无描述
2.5千+ 次下载2 年前更新
uptospace/vllm logo

uptospace/vllm

uptospace
暂无描述
2.4千+ 次下载1 年前更新
rocm/vllm-omni logo

rocm/vllm-omni

rocm
repository for hosting vllm-omni images
1万+ 次下载1 个月前更新
joyai/vllm logo

joyai/vllm

joyai
All cutstom docker image for vLLM. Such as new CUDA version.
548 次下载1 年前更新
foundationmodels/vllm logo

foundationmodels/vllm

foundationmodels
暂无描述
1.9千+ 次下载2 年前更新
cornserve/vllm logo

cornserve/vllm

cornserve
暂无描述
1.7千+ 次下载2 个月前更新
seemeai/vllm logo

seemeai/vllm

seemeai
暂无描述
1 次收藏1.6千+ 次下载1 个月前更新
xingyaoww/vllm logo

xingyaoww/vllm

xingyaoww
v1.1 -> vllm==0.1.4, with CUDA>12 support; v1.0 -> vllm==0.1.3 (w/ issues)
273 次下载2 年前更新
amdsiloai/vllm logo

amdsiloai/vllm

amdsiloai
暂无描述
1.5千+ 次下载1 个月前更新
chethanumeshaplutoflume/vllm logo

chethanumeshaplutoflume/vllm

chethanumeshaplutoflume
Docker image for a high-throughput and memory-efficient inference and serving engine for LLMs
1.5千+ 次下载2 年前更新
natecompiles/vllm logo

natecompiles/vllm

natecompiles
VLLM image compiles for older cuda versions.
315 次下载7 个月前更新
kovec/vllm logo

kovec/vllm

kovec
暂无描述
1.3千+ 次下载3 个月前更新
scalepointai/vllm logo

scalepointai/vllm

scalepointai
暂无描述
1.4千+ 次下载1 年前更新
wjfwjf/vllm logo

wjfwjf/vllm

wjfwjf
暂无描述
1.3千+ 次下载11 个月前更新
narandill/vllm logo

narandill/vllm

narandill
暂无描述
1 次收藏1.3千+ 次下载3 个月前更新
danucore/vllm logo

danucore/vllm

danucore
暂无描述
1.2千+ 次下载2 个月前更新
huaro/vllm logo

huaro/vllm

huaro
zoe-vllm
158 次下载2 年前更新
j3qmup5a/vllm logo

j3qmup5a/vllm

j3qmup5a
vLLM
132 次下载1 年前更新
shwars/vllm logo

shwars/vllm

shwars
暂无描述
1.1千+ 次下载2 年前更新
dview/vllm logo

dview/vllm

dview
暂无描述
1.1千+ 次下载1 年前更新
gjkarthik/vllm logo

gjkarthik/vllm

gjkarthik
暂无描述
1千+ 次下载2 个月前更新
mlenergy/vllm logo

mlenergy/vllm

mlenergy
vLLM fork with per-token energy measurements
248 次下载1 年前更新
rgshaw2/vllm logo

rgshaw2/vllm

rgshaw2
暂无描述
1千+ 次下载9 个月前更新
t9kpublic/vllm logo

t9kpublic/vllm

t9kpublic
暂无描述
1千+ 次下载7 个月前更新
johncentml/vllm logo

johncentml/vllm

johncentml
暂无描述
961 次下载1 个月前更新
ericlewisplease/vllm logo

ericlewisplease/vllm

ericlewisplease
暂无描述
866 次下载6 个月前更新
futureproofhomes/vllm logo

futureproofhomes/vllm

futureproofhomes
暂无描述
897 次下载7 个月前更新
skandermoalla/vllm logo

skandermoalla/vllm

skandermoalla
暂无描述
1 次收藏858 次下载1 年前更新
hgfkeep/vllm logo

hgfkeep/vllm

hgfkeep
暂无描述
775 次下载2 年前更新
ineil77/vllm logo

ineil77/vllm

ineil77
Modified vllm image for in-process usage.
182 次下载2 个月前更新
dengcao/vllm logo

dengcao/vllm

dengcao
vLLM is a fast and easy-to-use library for LLM inference and serving. Originally developed...
260 次下载8 个月前更新
loopinnetwork/vllm logo

loopinnetwork/vllm

loopinnetwork
暂无描述
643 次下载1 个月前更新
hyoon11/vllm logo

hyoon11/vllm

hyoon11
暂无描述
667 次下载1 年前更新
zhangy2259/vllm logo

zhangy2259/vllm

zhangy2259
暂无描述
649 次下载9 个月前更新
anujn1/vllm logo

anujn1/vllm

anujn1
暂无描述
624 次下载2 年前更新
mamontov/vllm logo

mamontov/vllm

mamontov
暂无描述
638 次下载9 个月前更新
vito974/vllm logo

vito974/vllm

vito974
LLM inference server, based on vllm-project/vllm with Zyphra's patches applied on top.
1 次收藏139 次下载1 个月前更新
zitrone44/vllm logo

zitrone44/vllm

zitrone44
暂无描述
594 次下载1 个月前更新
jaywonchung/vllm logo

jaywonchung/vllm

jaywonchung
暂无描述
551 次下载7 个月前更新
visvakula/vllm logo

visvakula/vllm

visvakula
暂无描述
550 次下载6 个月前更新
devpartitech/vllm logo

devpartitech/vllm

devpartitech
暂无描述
525 次下载1 年前更新
ehuberf2ai/vllm logo

ehuberf2ai/vllm

ehuberf2ai
vllm image
92 次下载1 年前更新
15five/vllm logo

15five/vllm

15five
vllm
81 次下载1 年前更新
vishnumadhu/vllm logo

vishnumadhu/vllm

vishnumadhu
暂无描述
505 次下载6 个月前更新
benasd/vllm logo

benasd/vllm

benasd
暂无描述
516 次下载3 个月前更新
chaojin0310/vllm logo

chaojin0310/vllm

chaojin0310
vllm extension based on vllm-0.2.7
89 次下载2 年前更新
yottalabsai/vllm logo

yottalabsai/vllm

yottalabsai
暂无描述
498 次下载4 个月前更新
shadowaryan/vllm logo

shadowaryan/vllm

shadowaryan
fix vllm deployment
98 次下载2 年前更新
yijun0404/vllm logo

yijun0404/vllm

yijun0404
暂无描述
470 次下载2 个月前更新
umansai/vllm logo

umansai/vllm

umansai
暂无描述
470 次下载5 个月前更新
ispsae/vllm logo

ispsae/vllm

ispsae
暂无描述
469 次下载2 个月前更新
ddhmed/vllm logo

ddhmed/vllm

ddhmed
Runs Large Language Models on Local Machine by VLLM (Ubuntu amd64)
166 次下载2 个月前更新
aigmkt/vllm logo

aigmkt/vllm

aigmkt
暂无描述
464 次下载1 个月前更新
navarrepratt/vllm logo

navarrepratt/vllm

navarrepratt
暂无描述
448 次下载2 年前更新
ramblininc/vllm logo

ramblininc/vllm

ramblininc
暂无描述
455 次下载2 个月前更新
hocao459/vllm logo

hocao459/vllm

hocao459
暂无描述
433 次下载4 个月前更新
hamsik571/vllm logo

hamsik571/vllm

hamsik571
暂无描述
430 次下载5 个月前更新
1337kavin/vllm logo

1337kavin/vllm

1337kavin
暂无描述
429 次下载1 个月前更新
nuonfred/vllm logo

nuonfred/vllm

nuonfred
Images i need for vllm things and such.
130 次下载1 年前更新
apsu/vllm logo

apsu/vllm

apsu
暂无描述
416 次下载1 年前更新
pingpodai/vllm logo

pingpodai/vllm

pingpodai
暂无描述
399 次下载6 个月前更新
alaren123/vllm logo

alaren123/vllm

alaren123
暂无描述
375 次下载1 年前更新
sashaank/vllm logo

sashaank/vllm

sashaank
暂无描述
371 次下载9 个月前更新
dynamotestaccount/vllm logo

dynamotestaccount/vllm

dynamotestaccount
暂无描述
357 次下载9 个月前更新
mwiki/vllm logo

mwiki/vllm

mwiki
暂无描述
356 次下载1 年前更新
1

相关博客

VLLM Docker 容器化部署指南:在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型(LLM)推理服务框架,通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本,由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建,专为边缘计算场景设计,支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker,VLLM2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型,到企业搭建私有推理服务,vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起,逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查,无论你是初学者还是高级工程师,都能照着步骤完成部署。

Docker,vllm-openai2025/10/9

MinerU Docker 部署指南:PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用,专为 vLLM 后端服务设计,提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU,可以简化安装流程、确保环境一致性,并便于在不同环境中快速迁移和扩展。 本指南将详细介绍 MinerU 的 Docker 容器化部署方案,包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议,旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

MinerU,PDF,人工智能,vLLM2025/12/30

2026 国内 Docker 镜像拉取指南:不只会配 daemon.json,这个站还给了 10 万个镜像的中文说明书

多数公益 Docker 镜像源已关停,单靠抄旧教程往往无效。本文整理一套完整方案:轩辕镜像提供 10 万+ 镜像中文文档、20+ 场景配置教程、Docker 在线工具集,以及 Docker Hub/GHCR/GCR 等 9 类仓库加速。

Docker,容器,DevOps,群晖,NAS,镜像加速2026/6/15

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者,还是需要高效管理训练任务的高级工程师,本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践,每个步骤均配备完整命令与详细说明,确保照着做就能成。

Docker,verl2025/10/8
官方公众号:源码跳动官方技术交流群:831623681