热门搜索:
架构筛选
vllm/vllm-openai
vLLM 高性能推理与服务镜像
vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。
276 次收藏1000万+ 次下载3 天前更新
novitalabs/vllm-openai
novitalabs
暂无描述
10万+ 次下载21 天前更新
lmcache/vllm-openai
lmcache
暂无描述
8 次收藏10万+ 次下载20 天前更新
dengcao/vllm-openai
dengcao
vLLM是一个快速且易用的大语言模型推理与服务库，最初由加州大学伯克利分校开发，采用PagedAttention技术优化内存使用，支持高吞吐量、低延迟的推理，兼容Hugging Face模型格式，可轻松部署各类LLM，适用于科研和生产环境，显著提升大语言模型的服务效率。
2 次收藏1万+ 次下载6 个月前更新
apecloud/vllm-openai
apecloud
暂无描述
8.8千+ 次下载5 个月前更新
aibrix/vllm-openai
aibrix
暂无描述
3.3千+ 次下载5 个月前更新
mondaylord/vllm-openai
mondaylord
暂无描述
2.5千+ 次下载2 个月前更新
ubicloud/vllm-openai
ubicloud
暂无描述
2.1千+ 次下载1 个月前更新
microquant/vllm-openai
microquant
暂无描述
1.3千+ 次下载6 个月前更新
dview/vllm-openai
dview
暂无描述
1.4千+ 次下载8 个月前更新
vmd7/vllm-openai
vmd7
暂无描述
1.3千+ 次下载7 个月前更新
dongxiaoman/vllm-openai
dongxiaoman
暂无描述
1.2千+ 次下载1 个月前更新
roganmatrivski/vllm-openai
roganmatrivski
暂无描述
1.1千+ 次下载16 天前更新
imroc/vllm-openai
imroc
暂无描述
1.1千+ 次下载1 年前更新
inferx/vllm-openai
inferx
暂无描述
1.1千+ 次下载7 天前更新
jamesdamant1997/vllm-openai
jamesdamant1997
暂无描述
1千+ 次下载9 个月前更新
dockercortecs/vllm-openai
dockercortecs
暂无描述
1.1千+ 次下载8 个月前更新
shubhampapnai/vllm-openai
shubhampapnai
暂无描述
990 次下载2 个月前更新
skandermoalla/vllm-openai
skandermoalla
暂无描述
1 次收藏935 次下载1 年前更新
robder/vllm-openai
robder
暂无描述
914 次下载1 年前更新
tensormesh/vllm-openai
tensormesh
暂无描述
923 次下载8 个月前更新
alamagic/vllm-openai
alamagic
暂无描述
910 次下载14 天前更新
johnewart/vllm-openai
johnewart
暂无描述
764 次下载1 年前更新
nguyennhan1992/vllm-openai
nguyennhan1992
暂无描述
755 次下载10 个月前更新
lmisam/vllm-openai
lmisam
暂无描述
724 次下载2 年前更新
t9kpublic/vllm-openai
t9kpublic
暂无描述
714 次下载1 年前更新
peakji92/vllm-openai
peakji92
暂无描述
705 次下载1 年前更新
ztaoplus/vllm-openai
ztaoplus
暂无描述
703 次下载1 年前更新
wensher2sammi/vllm-openai
wensher2sammi
暂无描述
558 次下载1 年前更新
yikching/vllm-openai
yikching
test image
525 次下载2 个月前更新
erictsai1999/vllm-openai
erictsai1999
暂无描述
536 次下载7 个月前更新
aciborowska/vllm-openai
aciborowska
暂无描述
533 次下载8 个月前更新
elaich/vllm-openai
elaich
暂无描述
525 次下载11 个月前更新
zipnn/vllm-openai
zipnn
基于vllm/vllm-openai镜像构建，增加了zipnn模型加载支持。
1 次收藏500 次下载1 年前更新
ninadhogade/vllm-openai
ninadhogade
暂无描述
493 次下载1 年前更新
pkmon3d/vllm-openai
pkmon3d
暂无描述
506 次下载2 年前更新
hdnh2006/vllm-openai
hdnh2006
这是vllm-openai Docker镜像，入口点为/bin/bash。
503 次下载1 年前更新
aigilityai/vllm-openai
aigilityai
暂无描述
479 次下载1 年前更新
didierdurand/vllm-openai
didierdurand
暂无描述
479 次下载7 个月前更新
wavethreeltd/vllm-openai
wavethreeltd
暂无描述
496 次下载5 个月前更新
mukultripathi/vllm-openai
mukultripathi
暂无描述
488 次下载1 年前更新
dhikatb/vllm-openai
dhikatb
暂无描述
464 次下载1 年前更新
nodecloud/vllm-openai
nodecloud
暂无描述
479 次下载1 年前更新
endnearai/vllm-openai
endnearai
暂无描述
477 次下载7 个月前更新
imjoshdev/vllm-openai
imjoshdev
暂无描述
457 次下载1 年前更新
akoserwal/vllm-openai
akoserwal
Arm build works on mac os
453 次下载1 年前更新
clay2999/vllm-openai
clay2999
v0.7.3 and support Gemma-3
462 次下载9 个月前更新
handuo/vllm-openai
handuo
暂无描述
452 次下载1 年前更新
marianbasti/vllm-openai
marianbasti
暂无描述
432 次下载1 年前更新
masanara/vllm-openai
masanara
暂无描述
431 次下载1 年前更新
ai4os/vllm-openai
ai4os
暂无描述
445 次下载5 个月前更新
emancipatedmind/vllm-openai
emancipatedmind
暂无描述
439 次下载1 年前更新
zihaokevinzhou/vllm-openai
zihaokevinzhou
暂无描述
422 次下载1 年前更新
morgulio/vllm-openai
morgulio
暂无描述
436 次下载1 年前更新
rocmvllm/vllm-openai
rocmvllm
暂无描述
1 次收藏178 次下载1 年前更新
zhekunhu/vllm-openai
zhekunhu
暂无描述
433 次下载8 个月前更新
anhanhvina/vllm-openai
anhanhvina
暂无描述
429 次下载1 年前更新
chrispoolside/vllm-openai
chrispoolside
暂无描述
407 次下载1 个月前更新
chunyeow/vllm-openai
chunyeow
暂无描述
419 次下载1 年前更新
fahadh4ilyas/vllm-openai
fahadh4ilyas
暂无描述
403 次下载1 年前更新
jre0/vllm-openai
jre0
暂无描述
413 次下载1 年前更新
seedooinsights/vllm-openai
seedooinsights
暂无描述
401 次下载5 个月前更新
lasercow5/vllm-openai
lasercow5
暂无描述
399 次下载8 个月前更新
zouyq/vllm-openai
zouyq
暂无描述
385 次下载10 个月前更新
amulecregg/vllm-openai
amulecregg
暂无描述
380 次下载9 个月前更新
kunal0137/vllm-openai
kunal0137
暂无描述
380 次下载5 个月前更新
cledge/vllm-openai
cledge
暂无描述
393 次下载3 天前更新
zinongsan/vllm-openai
zinongsan
暂无描述
390 次下载6 个月前更新
xiaokunchen/vllm-openai
xiaokunchen
暂无描述
375 次下载8 个月前更新
dkubex123/vllm-openai
dkubex123
暂无描述
381 次下载4 个月前更新
rfsousa/vllm-openai
rfsousa
暂无描述
380 次下载5 个月前更新
sxk1633/vllm-openai
sxk1633
暂无描述
361 次下载1 年前更新
lenow/vllm-openai
lenow
暂无描述
359 次下载5 个月前更新
suwagh/vllm-openai
suwagh
暂无描述
361 次下载1 个月前更新
zaxy2025/vllm-openai
zaxy2025
暂无描述
347 次下载11 个月前更新
bob8662/vllm-openai
bob8662
暂无描述
347 次下载5 个月前更新
tensorfuse/vllm-openai
tensorfuse
Tensorfuse managed openai server for vllm.
346 次下载11 个月前更新
jadshaker/vllm-openai
jadshaker
暂无描述
350 次下载2 个月前更新
frosting/vllm-openai
frosting
暂无描述
349 次下载2 年前更新
streaver91/vllm-openai
streaver91
暂无描述
341 次下载11 个月前更新
bobbysy/vllm-openai
bobbysy
Nonroot Docker image variants of vllm/vllm-openai
339 次下载7 天前更新
spheronfdn/vllm-openai
spheronfdn
暂无描述
333 次下载10 个月前更新
mprigge/vllm-openai
mprigge
暂无描述
321 次下载1 个月前更新
mendeza/vllm-openai
mendeza
暂无描述
324 次下载8 个月前更新
fsdvtrvertynyemg/vllm-openai
fsdvtrvertynyemg
暂无描述
320 次下载7 个月前更新
ydcho0902/vllm-openai
ydcho0902
暂无描述
309 次下载1 年前更新
michaelact/vllm-openai
michaelact
暂无描述
310 次下载1 年前更新
chyongto/vllm-openai
chyongto
暂无描述
309 次下载1 年前更新
keyword1983/vllm-openai
keyword1983
暂无描述
297 次下载11 个月前更新
abuzilal/vllm-openai
abuzilal
暂无描述
297 次下载9 个月前更新
renehonig/vllm-openai
renehonig
基于CUDA 13.0的自定义vllm镜像，使用vllm-project/vllm 0.13.0分支构建，支持OpenAI兼容API，适用于高性能大语言模型推理部署。
296 次下载3 个月前更新
ocdr/vllm-openai
ocdr
暂无描述
290 次下载1 年前更新
michaelact/vllm-openai
michaelact
暂无描述
310 次下载1 年前更新
kebe/vllm-openai
kebe
暂无描述
279 次下载3 个月前更新
chyongto/vllm-openai
chyongto
暂无描述
309 次下载1 年前更新
junseo0710/vllm-openai
junseo0710
暂无描述
299 次下载7 个月前更新
metalshanked/vllm-openai
metalshanked
暂无描述
299 次下载5 个月前更新
gptbasesparticle/vllm-openai
gptbasesparticle
暂无描述
267 次下载1 年前更新
bystander9/vllm-openai
bystander9
暂无描述
292 次下载5 个月前更新
alvarobartt/vllm-openai
alvarobartt
暂无描述
261 次下载7 个月前更新
第 1 页
与「vllm-openai」相关的博客与命名空间
相关博客
vllm-openai Docker 部署全手册
从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。
Docker,vllm-openai2025/10/9
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。
Docker,verl2025/10/8
MinerU Docker 部署指南：PDF 结构化解析服务实践
MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。 本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。
MinerU,PDF,人工智能,vLLM2025/12/30
VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务
VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。
Docker,VLLM2025/12/2
