vllm docker 镜像搜索结果 | 轩辕镜像

专属域名

文档搜索

轩辕助手

Run助手

邀请有礼

返回顶部

快速返回页面顶部

收起

收起工具栏

官方专业版

首页个人中心搜索镜像

交易

充值流量我的订单

工具

提交工单镜像收录一键安装

Npm 源 Pip 源 Homebrew 源

帮助

其他

关于我们网站地图

官方QQ群: 1072982923

热门搜索:openclaw🔥nginx🔥redis🔥mysql openjdk cursorweb2api memgraph zabbix etcd ubuntu coredns jdk

这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。

20 次收藏10万+ 次下载1 个月前更新

6 次收藏9千+ 次下载30 天前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

240 次收藏1000万+ 次下载14 天前更新

vLLM 高性能推理与服务镜像

vLLM框架在TPU上运行的Docker镜像仓库

2 次收藏5万+ 次下载14 天前更新

vLLM 高性能推理与服务镜像

5 次收藏1万+ 次下载1 个月前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

1 次收藏7.2千+ 次下载15 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

518 次下载1 个月前更新

syntheticdreamlabs/vllm

syntheticdreamlabs

vLLM构建镜像用于构建高性能大语言模型服务环境，支持快速部署及推理性能优化。

1万+ 次下载2 个月前更新

基于VLLM项目的VLLM模型部署与服务镜像

1 次收藏1万+ 次下载5 个月前更新

NVIDIA Jetson 平台优化的大语言模型推理服务框架

4 次收藏5万+ 次下载8 个月前更新

2 次收藏1万+ 次下载14 天前更新

用于通过vLLM提供模型服务的基础镜像，支持高效部署和运行大语言模型推理服务，优化内存使用与请求处理性能。

1 次收藏8.8千+ 次下载1 个月前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

210 次下载14 天前更新

1万+ 次下载1 年前更新

substratusai/vllm

1万+ 次下载11 个月前更新

1 次收藏1万+ 次下载2 年前更新

stepfun2025/vllm

6.2千+ 次下载6 个月前更新

ozziemoreno/vllm

Repository for testing my github action against vllm main repo

1.6千+ 次下载28 天前更新

The lmcache-integrated vllm engine

1 次收藏1.3千+ 次下载1 年前更新

该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。

5 次收藏50万+ 次下载13 天前更新

727 次下载1 年前更新

robatvastai/vllm

3.8千+ 次下载22 天前更新

truefoundrycloud/vllm

truefoundrycloud

3.8千+ 次下载2 年前更新

llmsysbench/vllm

images for all vllm instances of llmsysbench

1千+ 次下载5 个月前更新

3千+ 次下载13 天前更新

vubutterflies/vllm

2.5千+ 次下载2 年前更新

2.4千+ 次下载10 个月前更新

felixgeorge/vllm

1.8千+ 次下载1 年前更新

moonshadow25/vllm

1 次收藏356 次下载2 个月前更新

dimaskiddo/vllm

Debian Based vLLM Image Repository

417 次下载29 天前更新

wurstdeploy/vllm

test builds for cyril23's fork of https://github.com/vllm-project/vllm/

473 次下载8 个月前更新

foundationmodels/vllm

foundationmodels

1.8千+ 次下载1 年前更新

vLLM Distributed Inference on Jetson Orin AGX-built by https://github.com/dusty-nv/jetson-containers

2 次收藏748 次下载15 天前更新

1.6千+ 次下载3 个月前更新

chethanumeshaplutoflume/vllm

chethanumeshaplutoflume

Docker image for a high-throughput and memory-efficient inference and serving engine for LLMs

1.4千+ 次下载2 年前更新

1.2千+ 次下载22 天前更新

All cutstom docker image for vLLM. Such as new CUDA version.

528 次下载11 个月前更新

1.3千+ 次下载8 个月前更新

scalepointai/vllm

1.3千+ 次下载1 年前更新

1.1千+ 次下载2 年前更新

1.2千+ 次下载5 个月前更新

1 次收藏1千+ 次下载15 天前更新

977 次下载1 年前更新

953 次下载4 个月前更新

949 次下载5 个月前更新

skandermoalla/vllm

1 次收藏807 次下载1 年前更新

897 次下载1 个月前更新

v1.1 -> vllm==0.1.4, with CUDA>12 support; v1.0 -> vllm==0.1.3 (w/ issues)

232 次下载2 年前更新

ericlewisplease/vllm

ericlewisplease

787 次下载2 个月前更新

futureproofhomes/vllm

futureproofhomes

814 次下载4 个月前更新

675 次下载1 年前更新

144 次下载1 年前更新

574 次下载2 年前更新

627 次下载5 个月前更新

vLLM fork with per-token energy measurements

215 次下载1 年前更新

599 次下载1 年前更新

natecompiles/vllm

VLLM image compiles for older cuda versions.

199 次下载4 个月前更新

devpartitech/vllm

484 次下载1 年前更新

vishnumadhu/vllm

455 次下载3 个月前更新

jaywonchung/vllm

471 次下载3 个月前更新

navarrepratt/vllm

422 次下载2 年前更新

daviddooling769/vllm

daviddooling769

405 次下载1 年前更新

402 次下载2 个月前更新

385 次下载1 个月前更新

380 次下载11 个月前更新

yottalabsai/vllm

420 次下载1 个月前更新

417 次下载3 个月前更新

357 次下载2 个月前更新

383 次下载3 个月前更新

ramblininc/vllm

377 次下载2 个月前更新

334 次下载1 个月前更新

80 次下载10 个月前更新

dynamotestaccount/vllm

dynamotestaccount

322 次下载5 个月前更新

320 次下载5 个月前更新

352 次下载5 个月前更新

314 次下载9 个月前更新

348 次下载15 天前更新

vLLM is a fast and easy-to-use library for LLM inference and serving. Originally developed...

164 次下载4 个月前更新

296 次下载4 个月前更新

zhangjianquan/vllm

310 次下载3 个月前更新

iotamudelta/vllm

309 次下载1 年前更新

308 次下载10 个月前更新

zhangjc1999/vllm

304 次下载1 年前更新

294 次下载9 个月前更新

shadowaryan/vllm

fix vllm deployment

89 次下载2 年前更新

283 次下载1 年前更新

281 次下载2 年前更新

279 次下载4 个月前更新

Images i need for vllm things and such.

117 次下载1 年前更新

robatvastaigmail/vllm

robatvastaigmail

250 次下载1 个月前更新

269 次下载2 年前更新

chaojin0310/vllm

vllm extension based on vllm-0.2.7

76 次下载2 年前更新

openeulertest/vllm

260 次下载9 个月前更新

259 次下载1 年前更新

ehuberf2ai/vllm

75 次下载1 年前更新

256 次下载2 年前更新

231 次下载29 天前更新

224 次下载3 个月前更新

219 次下载2 年前更新

239 次下载3 个月前更新

第 1 页

相关博客

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker,VLLM2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker,vllm-openai2025/10/9

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

MinerU,PDF,人工智能,vLLM2025/12/30

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker,verl2025/10/8

相关命名空间

vLLM 高性能推理与服务镜像

vLLM 是面向大语言模型（LLM）推理与服务的高性能引擎项目，强调高吞吐、低延迟与显存高效利用，支持将模型以 OpenAI 兼容 API 形式对外提供服务，并覆盖 GPU/TPU 等多种硬件场景，适合构建生产级模型服务。

...

vllm

博客公告Docker 镜像公告与技术博客

热门镜像查看热门 Docker 镜像推荐

一键安装一键安装 Docker 并配置镜像源

镜像拉取问题咨询请提交工单，官方技术交流群：1072982923。轩辕镜像所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。

镜像拉取问题咨询请提交工单，官方技术交流群：。轩辕镜像所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。

官方邮箱：点击复制邮箱

©2024-2026 源码跳动

官方邮箱：点击复制邮箱Copyright © 2024-2026 杭州源码跳动科技有限公司. All rights reserved.