vllm docker 镜像搜索结果 | 轩辕镜像

专属域名

文档搜索

轩辕助手

Run助手

邀请有礼

返回顶部

快速返回页面顶部

收起

收起工具栏

官方专业版

首页个人中心搜索镜像

交易

充值流量我的订单

工具

提交工单镜像收录一键安装

Npm 源 Pip 源 Homebrew 源

帮助

其他

关于我们网站地图

官方QQ群: 1072982923

热门搜索:openclaw🔥nginx🔥redis🔥mysql openjdk cursorweb2api memgraph zabbix etcd ubuntu coredns jdk

这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。

21 次收藏10万+ 次下载1 个月前更新

6 次收藏1万+ 次下载1 个月前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

248 次收藏1000万+ 次下载7 天前更新

vLLM 高性能推理与服务镜像

vLLM框架在TPU上运行的Docker镜像仓库

2 次收藏5万+ 次下载7 天前更新

vLLM 高性能推理与服务镜像

6 次收藏1万+ 次下载19 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

1 次收藏1万+ 次下载9 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

1.9千+ 次下载9 天前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

1.2千+ 次下载7 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

1 次收藏695 次下载19 天前更新

syntheticdreamlabs/vllm

syntheticdreamlabs

vLLM构建镜像用于构建高性能大语言模型服务环境，支持快速部署及推理性能优化。

1万+ 次下载2 个月前更新

基于VLLM项目的VLLM模型部署与服务镜像

1 次收藏1万+ 次下载6 个月前更新

2 次收藏5万+ 次下载9 天前更新

NVIDIA Jetson 平台优化的大语言模型推理服务框架

4 次收藏5万+ 次下载8 个月前更新

用于通过vLLM提供模型服务的基础镜像，支持高效部署和运行大语言模型推理服务，优化内存使用与请求处理性能。

1 次收藏8.9千+ 次下载1 个月前更新

1万+ 次下载1 年前更新

substratusai/vllm

1万+ 次下载11 个月前更新

1 次收藏1万+ 次下载2 年前更新

stepfun2025/vllm

6.5千+ 次下载6 个月前更新

The lmcache-integrated vllm engine

1 次收藏1.3千+ 次下载1 年前更新

ozziemoreno/vllm

用于个人测试和实验的仓库，基于vllm项目的ROCm Dockerfile构建，包含ROCm支持，基础镜像为rocm/pytorch或自定义。

1.7千+ 次下载1 个月前更新

该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。

5 次收藏100万+ 次下载6 天前更新

robatvastai/vllm

4.6千+ 次下载6 天前更新

735 次下载1 年前更新

4.4千+ 次下载20 天前更新

llmsysbench/vllm

images for all vllm instances of llmsysbench

1.1千+ 次下载6 个月前更新

truefoundrycloud/vllm

truefoundrycloud

3.8千+ 次下载2 年前更新

vubutterflies/vllm

2.5千+ 次下载2 年前更新

2.4千+ 次下载10 个月前更新

moonshadow25/vllm

1 次收藏374 次下载3 个月前更新

dimaskiddo/vllm

基于Debian的vLLM镜像仓库，用于部署vLLM服务器，提供大语言模型推理服务的运行环境。

468 次下载8 天前更新

felixgeorge/vllm

1.8千+ 次下载1 年前更新

基于Jetson Orin AGX构建的vLLM分布式LLM推理镜像，由jetson-containers项目提供，支持多节点分布式推理及EAGLE-3推测解码加速。

3 次收藏805 次下载10 天前更新

wurstdeploy/vllm

test builds for cyril23's fork of https://github.com/vllm-project/vllm/

478 次下载8 个月前更新

foundationmodels/vllm

foundationmodels

1.8千+ 次下载1 年前更新

1.6千+ 次下载4 个月前更新

chethanumeshaplutoflume/vllm

chethanumeshaplutoflume

用于大型语言模型(LLM)的高吞吐量、内存高效的推理与服务引擎Docker镜像

1.5千+ 次下载2 年前更新

用于vLLM的自定义Docker镜像，包含官方版本尚未集成的新库、软件包及更新版本（如新版本CUDA）。

529 次下载11 个月前更新

1.3千+ 次下载11 天前更新

1.3千+ 次下载8 个月前更新

scalepointai/vllm

1.3千+ 次下载1 年前更新

1 次收藏1.1千+ 次下载8 天前更新

1.1千+ 次下载12 天前更新

1.1千+ 次下载2 年前更新

由Embedl维护的优化vLLM容器镜像，提供高性能大型语言模型(LLM)部署运行环境。

354 次下载9 天前更新

977 次下载1 年前更新

966 次下载4 个月前更新

949 次下载6 个月前更新

912 次下载16 天前更新

该Docker镜像提供vllm的不同版本部署，v1.1对应vllm==0.1.4并支持CUDA>12，v1.0对应vllm==0.1.3（存在问题），用于高性能LLM服务部署。

247 次下载2 年前更新

skandermoalla/vllm

1 次收藏821 次下载1 年前更新

ericlewisplease/vllm

ericlewisplease

804 次下载3 个月前更新

futureproofhomes/vllm

futureproofhomes

814 次下载4 个月前更新

natecompiles/vllm

为无法使用最新CUDA工具包的系统提供预编译的vLLM Docker镜像，支持基于分页注意力机制的高吞吐量LLM服务，当前针对CUDA 12.4版本。

253 次下载4 个月前更新

675 次下载1 年前更新

vllm inference framework

177 次下载11 天前更新

144 次下载1 年前更新

627 次下载6 个月前更新

vLLM fork with per-token energy measurements

220 次下载1 年前更新

579 次下载2 年前更新

609 次下载1 年前更新

devpartitech/vllm

492 次下载1 年前更新

vishnumadhu/vllm

466 次下载3 个月前更新

jaywonchung/vllm

474 次下载4 个月前更新

472 次下载3 个月前更新

johncentml/vllm

444 次下载7 天前更新

navarrepratt/vllm

422 次下载2 年前更新

daviddooling769/vllm

daviddooling769

420 次下载1 年前更新

444 次下载19 天前更新

414 次下载2 个月前更新

yottalabsai/vllm

430 次下载1 个月前更新

vLLM是一个快速且易于使用的库，用于大型语言模型（LLM）的推理和服务，旨在提供高效的模型部署和服务能力。

206 次下载5 个月前更新

385 次下载11 个月前更新

385 次下载1 个月前更新

90 次下载10 个月前更新

392 次下载3 个月前更新

365 次下载1 个月前更新

ramblininc/vllm

385 次下载3 个月前更新

360 次下载2 个月前更新

358 次下载6 个月前更新

dynamotestaccount/vllm

dynamotestaccount

322 次下载6 个月前更新

320 次下载5 个月前更新

314 次下载9 个月前更新

307 次下载4 个月前更新

zhangjianquan/vllm

320 次下载3 个月前更新

iotamudelta/vllm

315 次下载1 年前更新

zhangjc1999/vllm

314 次下载1 年前更新

313 次下载10 个月前更新

Images i need for vllm things and such.

124 次下载1 年前更新

295 次下载9 个月前更新

291 次下载2 年前更新

chaojin0310/vllm

vllm extension based on vllm-0.2.7

82 次下载2 年前更新

shadowaryan/vllm

fix vllm deployment

89 次下载2 年前更新

284 次下载1 年前更新

279 次下载4 个月前更新

ehuberf2ai/vllm

79 次下载1 年前更新

269 次下载2 年前更新

openeulertest/vllm

266 次下载9 个月前更新

264 次下载1 年前更新

robatvastaigmail/vllm

robatvastaigmail

250 次下载1 个月前更新

256 次下载2 年前更新

第 1 页

相关博客

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker,VLLM2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker,vllm-openai2025/10/9

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

MinerU,PDF,人工智能,vLLM2025/12/30

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker,verl2025/10/8

相关命名空间

vLLM 高性能推理与服务镜像

vLLM 是面向大语言模型（LLM）推理与服务的高性能引擎项目，强调高吞吐、低延迟与显存高效利用，支持将模型以 OpenAI 兼容 API 形式对外提供服务，并覆盖 GPU/TPU 等多种硬件场景，适合构建生产级模型服务。

...

vllm

博客公告Docker 镜像公告与技术博客

热门镜像查看热门 Docker 镜像推荐

一键安装一键安装 Docker 并配置镜像源

镜像拉取问题咨询请提交工单，官方技术交流群：1072982923。轩辕镜像所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。

镜像拉取问题咨询请提交工单，官方技术交流群：。轩辕镜像所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。

商务合作：点击复制邮箱

©2024-2026 源码跳动

商务合作：点击复制邮箱Copyright © 2024-2026 杭州源码跳动科技有限公司. All rights reserved.