vllm/vllm-openai
vLLM 高性能推理与服务镜像
vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。
237 次收藏1000万+ 次下载28 天前更新
lmcache/vllm-openai
lmcache
暂无描述
8 次收藏10万+ 次下载28 天前更新
novitalabs/vllm-openai
novitalabs
暂无描述
5万+ 次下载3 个月前更新
dengcao/vllm-openai
dengcao
vLLM是一个快速且易用的大语言模型推理与服务库，最初由加州大学伯克利分校开发，采用PagedAttention技术优化内存使用，支持高吞吐量、低延迟的推理，兼容Hugging Face模型格式，可轻松部署各类LLM，适用于科研和生产环境，显著提升大语言模型的服务效率。
2 次收藏1万+ 次下载4 个月前更新
apecloud/vllm-openai
apecloud
暂无描述
8.2千+ 次下载3 个月前更新
aibrix/vllm-openai
aibrix
暂无描述
2.9千+ 次下载3 个月前更新
mondaylord/vllm-openai
mondaylord
暂无描述
2千+ 次下载1 个月前更新
ubicloud/vllm-openai
ubicloud
暂无描述
1.4千+ 次下载28 天前更新
dview/vllm-openai
dview
暂无描述
1.2千+ 次下载6 个月前更新
vmd7/vllm-openai
vmd7
暂无描述
1.1千+ 次下载5 个月前更新
dockercortecs/vllm-openai
dockercortecs
暂无描述
943 次下载6 个月前更新
microquant/vllm-openai
microquant
暂无描述
976 次下载5 个月前更新
jamesdamant1997/vllm-openai
jamesdamant1997
暂无描述
939 次下载7 个月前更新
imroc/vllm-openai
imroc
暂无描述
868 次下载1 年前更新
skandermoalla/vllm-openai
skandermoalla
暂无描述
1 次收藏753 次下载1 年前更新
tensormesh/vllm-openai
tensormesh
暂无描述
690 次下载6 个月前更新
nguyennhan1992/vllm-openai
nguyennhan1992
暂无描述
626 次下载8 个月前更新
robder/vllm-openai
robder
暂无描述
628 次下载1 年前更新
ztaoplus/vllm-openai
ztaoplus
暂无描述
527 次下载1 年前更新
peakji92/vllm-openai
peakji92
暂无描述
532 次下载11 个月前更新
johnewart/vllm-openai
johnewart
暂无描述
488 次下载1 年前更新
t9kpublic/vllm-openai
t9kpublic
暂无描述
493 次下载1 年前更新
erictsai1999/vllm-openai
erictsai1999
暂无描述
427 次下载6 个月前更新
lmisam/vllm-openai
lmisam
暂无描述
456 次下载2 年前更新
wensher2sammi/vllm-openai
wensher2sammi
暂无描述
425 次下载1 年前更新
arpitsh018/vllm-openai
arpitsh018
暂无描述
391 次下载4 个月前更新
basetenservice/vllm-openai
basetenservice
暂无描述
328 次下载27 天前更新
dhikatb/vllm-openai
dhikatb
暂无描述
347 次下载1 年前更新
alamagic/vllm-openai
alamagic
暂无描述
320 次下载1 个月前更新
clay2999/vllm-openai
clay2999
v0.7.3 and support Gemma-3
300 次下载7 个月前更新
ai4os/vllm-openai
ai4os
暂无描述
271 次下载4 个月前更新
zhekunhu/vllm-openai
zhekunhu
暂无描述
268 次下载7 个月前更新
masanara/vllm-openai
masanara
暂无描述
284 次下载1 年前更新
frosting/vllm-openai
frosting
暂无描述
260 次下载2 年前更新
lasercow5/vllm-openai
lasercow5
暂无描述
245 次下载6 个月前更新
zinongsan/vllm-openai
zinongsan
暂无描述
238 次下载4 个月前更新
tensorfuse/vllm-openai
tensorfuse
Tensorfuse managed openai server for vllm.
228 次下载9 个月前更新
elaich/vllm-openai
elaich
暂无描述
207 次下载9 个月前更新
sxk1633/vllm-openai
sxk1633
暂无描述
220 次下载1 年前更新
pkmon3d/vllm-openai
pkmon3d
暂无描述
205 次下载1 年前更新
dkubex123/vllm-openai
dkubex123
暂无描述
200 次下载3 个月前更新
fsdvtrvertynyemg/vllm-openai
fsdvtrvertynyemg
暂无描述
197 次下载6 个月前更新
zappi/vllm-openai
zappi
OpenAI compatible server for vLLM
197 次下载5 个月前更新
kunal0137/vllm-openai
kunal0137
暂无描述
203 次下载3 个月前更新
mlmz0108/vllm-openai
mlmz0108
暂无描述
188 次下载9 个月前更新
keyword1983/vllm-openai
keyword1983
暂无描述
192 次下载9 个月前更新
chyongto/vllm-openai
chyongto
暂无描述
179 次下载11 个月前更新
ydcho0902/vllm-openai
ydcho0902
暂无描述
188 次下载1 年前更新
ocdr/vllm-openai
ocdr
暂无描述
188 次下载1 年前更新
hdnh2006/vllm-openai
hdnh2006
This is the vllm-openai docker with entrypoint /bin/bash.
176 次下载1 年前更新
michaelact/vllm-openai
michaelact
暂无描述
175 次下载1 年前更新
rocmvllm/vllm-openai
rocmvllm
暂无描述
1 次收藏81 次下载1 年前更新
didierdurand/vllm-openai
didierdurand
暂无描述
182 次下载5 个月前更新
bob8662/vllm-openai
bob8662
暂无描述
180 次下载3 个月前更新
zipnn/vllm-openai
zipnn
building on top of vllm/vllm-openai, adding zipnn model loading support.
1 次收藏180 次下载1 年前更新
cledge/vllm-openai
cledge
暂无描述
166 次下载3 个月前更新
metalshanked/vllm-openai
metalshanked
暂无描述
164 次下载4 个月前更新
yarun/vllm-openai
yarun
暂无描述
174 次下载3 个月前更新
anhanhvina/vllm-openai
anhanhvina
暂无描述
162 次下载1 年前更新
aciborowska/vllm-openai
aciborowska
暂无描述
161 次下载7 个月前更新
nickbrown1/vllm-openai
nickbrown1
暂无描述
171 次下载7 个月前更新
aigilityai/vllm-openai
aigilityai
暂无描述
171 次下载1 年前更新
mukultripathi/vllm-openai
mukultripathi
暂无描述
157 次下载1 年前更新
endnearai/vllm-openai
endnearai
暂无描述
157 次下载6 个月前更新
mendeza/vllm-openai
mendeza
暂无描述
157 次下载6 个月前更新
wink21c/vllm-openai
wink21c
暂无描述
154 次下载9 个月前更新
wavethreeltd/vllm-openai
wavethreeltd
暂无描述
150 次下载4 个月前更新
morgulio/vllm-openai
morgulio
暂无描述
149 次下载1 年前更新
zhangy2259/vllm-openai
zhangy2259
暂无描述
156 次下载8 个月前更新
nodecloud/vllm-openai
nodecloud
暂无描述
143 次下载1 年前更新
leopoldtzafon/vllm-openai
leopoldtzafon
暂无描述
142 次下载11 个月前更新
handuo/vllm-openai
handuo
暂无描述
141 次下载1 年前更新
imjoshdev/vllm-openai
imjoshdev
暂无描述
148 次下载1 年前更新
kevin55156/vllm-openai
kevin55156
暂无描述
139 次下载2 年前更新
suriyakode/vllm-openai
suriyakode
暂无描述
135 次下载1 年前更新
abuzilal/vllm-openai
abuzilal
暂无描述
141 次下载8 个月前更新
stelterlab/vllm-openai
stelterlab
暂无描述
131 次下载10 个月前更新
marianbasti/vllm-openai
marianbasti
暂无描述
139 次下载1 年前更新
seedjeffwan/vllm-openai
seedjeffwan
暂无描述
130 次下载1 年前更新
itgtic/vllm-openai
itgtic
暂无描述
138 次下载1 年前更新
gptbasesparticle/vllm-openai
gptbasesparticle
暂无描述
136 次下载1 年前更新
kebe/vllm-openai
kebe
暂无描述
132 次下载1 个月前更新
akoserwal/vllm-openai
akoserwal
Arm build works on mac os
130 次下载10 个月前更新
emancipatedmind/vllm-openai
emancipatedmind
暂无描述
121 次下载1 年前更新
renehonig/vllm-openai
renehonig
暂无描述
126 次下载1 个月前更新
bystander9/vllm-openai
bystander9
暂无描述
117 次下载4 个月前更新
fahadh4ilyas/vllm-openai
fahadh4ilyas
暂无描述
123 次下载1 年前更新
chunyeow/vllm-openai
chunyeow
暂无描述
115 次下载1 年前更新
phoenix120/vllm-openai
phoenix120
暂无描述
118 次下载3 个月前更新
jre0/vllm-openai
jre0
暂无描述
111 次下载1 年前更新
matamagu/vllm-openai
matamagu
暂无描述
116 次下载4 个月前更新
ninadhogade/vllm-openai
ninadhogade
暂无描述
116 次下载10 个月前更新
zihaokevinzhou/vllm-openai
zihaokevinzhou
暂无描述
116 次下载1 年前更新
lavd/vllm-openai
lavd
暂无描述
107 次下载3 个月前更新
outerbound/vllm-openai
outerbound
暂无描述
105 次下载10 个月前更新
rakusa/vllm-openai
rakusa
暂无描述
103 次下载11 个月前更新
marcelodiaz/vllm-openai
marcelodiaz
暂无描述
109 次下载1 年前更新
frrosta/vllm-openai
frrosta
暂无描述
108 次下载5 个月前更新
alvarobartt/vllm-openai
alvarobartt
暂无描述
106 次下载6 个月前更新
rakusa/vllm-openai
rakusa
暂无描述
103 次下载11 个月前更新
第 1 页
相关博客
vllm-openai Docker 部署全手册
从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。
Docker,vllm-openai2025/10/9
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。
Docker,verl2025/10/8
MinerU Docker 部署指南：PDF 结构化解析服务实践
MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。 本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。
MinerU,PDF,人工智能,vLLM2025/12/30
VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务
VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。
Docker,VLLM2025/12/2
