vllm/vllm-openai
vllm/vllm-tpu
vllm/vllm-omni
vllm/vllm-openai-rocm
vllm/vllm-openai-cpu
vllm/vllm-router
rocm/vllm
vllm/vllm-omni-rocm
intel/vllm
syntheticdreamlabs/vllm
opea/vllm
vastai/vllm
baseten/vllm
dustynv/vllm
rocm/vllm-ci
daehoyang/vllm
substratusai/vllm
apecloud/vllm
apostacyh/vllm
ozziemoreno/vllm
duobinji/vllm
yuanlabai/vllm
dimaskiddo/vllm
stepfun2025/vllm
llmsysbench/vllm
repne/vllm
moonshadow25/vllm
robatvastai/vllm
mitakad/vllm
voipmonitor/vllm
embedl/vllm
sushiqian/vllm
truefoundrycloud/vllm
wurstdeploy/vllm
truffeldev/vllm
vubutterflies/vllm
uptospace/vllm
rocm/vllm-omni
joyai/vllm
foundationmodels/vllm
cornserve/vllm
seemeai/vllm
xingyaoww/vllm
amdsiloai/vllm
chethanumeshaplutoflume/vllm
natecompiles/vllm
kovec/vllm
scalepointai/vllm
wjfwjf/vllm
narandill/vllm
danucore/vllm
huaro/vllm
j3qmup5a/vllm
shwars/vllm
dview/vllm
gjkarthik/vllm
mlenergy/vllm
rgshaw2/vllm
t9kpublic/vllm
johncentml/vllm
ericlewisplease/vllm
futureproofhomes/vllm
skandermoalla/vllm
hgfkeep/vllm
ineil77/vllm
dengcao/vllm
loopinnetwork/vllm
hyoon11/vllm
zhangy2259/vllm
anujn1/vllm
mamontov/vllm
vito974/vllm
zitrone44/vllm
jaywonchung/vllm
visvakula/vllm
devpartitech/vllm
ehuberf2ai/vllm
15five/vllm
vishnumadhu/vllm
benasd/vllm
chaojin0310/vllm
yottalabsai/vllm
shadowaryan/vllm
yijun0404/vllm
umansai/vllm
ispsae/vllm
ddhmed/vllm
aigmkt/vllm
navarrepratt/vllm
ramblininc/vllm
hocao459/vllm
hamsik571/vllm
1337kavin/vllm
nuonfred/vllm
apsu/vllm
pingpodai/vllm
alaren123/vllm
sashaank/vllm
dynamotestaccount/vllm
mwiki/vllm
与「vllm」相关的博客与命名空间
相关博客
VLLM Docker 容器化部署指南:在 NVIDIA Jetson 平台高效运行大语言模型推理服务
VLLM是一个高效的开源大语言模型(LLM)推理服务框架,通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本,由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建,专为边缘计算场景设计,支持在资源受限的嵌入式设备上部署高性能LLM推理服务。
vllm-openai Docker 部署全手册
从个人开发者测试开源大模型,到企业搭建私有推理服务,vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起,逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查,无论你是初学者还是高级工程师,都能照着步骤完成部署。
MinerU Docker 部署指南:PDF 结构化解析服务实践
MinerU 是一款面向开发者与科研用户的容器化应用,专为 vLLM 后端服务设计,提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU,可以简化安装流程、确保环境一致性,并便于在不同环境中快速迁移和扩展。 本指南将详细介绍 MinerU 的 Docker 容器化部署方案,包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议,旨在帮助用户快速搭建稳定可靠的 MinerU 服务。
2026 国内 Docker 镜像拉取指南:不只会配 daemon.json,这个站还给了 10 万个镜像的中文说明书
多数公益 Docker 镜像源已关停,单靠抄旧教程往往无效。本文整理一套完整方案:轩辕镜像提供 10 万+ 镜像中文文档、20+ 场景配置教程、Docker 在线工具集,以及 Docker Hub/GHCR/GCR 等 9 类仓库加速。
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者,还是需要高效管理训练任务的高级工程师,本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践,每个步骤均配备完整命令与详细说明,确保照着做就能成。