vllm-dev docker 镜像搜索结果 | 轩辕镜像

首页个人中心搜索镜像

交易

充值流量¥8起我的订单

文档

工具

提交工单页面收录

Docker Hub

Docker Hub

架构筛选

rocm/vllm-dev

rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像，集成vllm框架与AMD GPU加速能力，专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖，支持低延迟、高吞吐量的LLM推理，可快速进行模型加载、性能调优与多实例部署测试，助力开发者高效构建和调试大语言模型应用，充分发挥AMD GPU在AI计算中的算力优势。

20 次收藏500万+ 次下载15 小时前更新

hyoon11/vllm-dev

1 次收藏1万+ 次下载7 个月前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

311 次收藏1000万+ 次下载1 天前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

8 次收藏10万+ 次下载1 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

2 次收藏10万+ 次下载1 天前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

vLLM框架在TPU上运行的Docker镜像仓库

3 次收藏10万+ 次下载1 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

6 次收藏10万+ 次下载1 天前更新

vllm/vllm-openai-xpu

vLLM 高性能推理与服务镜像

10万+ 次下载1 天前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

1 次收藏1万+ 次下载1 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

3 次收藏1万+ 次下载4 天前更新

rocm/vllm-ci

该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。

5 次收藏100万+ 次下载15 小时前更新

vllm/vllm-torchtpu

vLLM 高性能推理与服务镜像

The PyTorch-native TPU backend for vLLM.

1 次收藏1.5千+ 次下载1 天前更新

vllm/vime

vLLM 高性能推理与服务镜像

1万+ 次下载12 天前更新

rocm/vllm-omni

repository for hosting vllm-omni images

10万+ 次下载16 小时前更新

rocm/vllm

这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。

30 次收藏10万+ 次下载19 天前更新

intel/vllm

9 次收藏5万+ 次下载2 个月前更新

vllm/vime-rocm

vLLM 高性能推理与服务镜像

4.6千+ 次下载1 个月前更新

ai/kimi-k2-vllm

Docker AI 官方镜像

Kimi K2 Thinking是最新开源思考模型，作为能逐步推理并动态调用工具的思考代理，具备深度多步推理能力，支持200-300次连续工具调用，原生INT4量化实现低延迟和低GPU内存占用，上下文窗口达256k。

2 次收藏1万+ 次下载10 个月前更新

ai/gpt-oss-vllm

Docker AI 官方镜像

OpenAI的开源权重模型，专为强大的推理能力和代理任务设计，适用于多用途开发场景。

2 次收藏1万+ 次下载12 个月前更新

ai/glm-4.7-flash-vllm

Docker AI 官方镜像

GLM-4.7-Flash是顶级的30B-A3B混合专家模型，平衡了强大性能与高效部署，为轻量级部署提供兼顾性能与效率的新选择。

3 次收藏5万+ 次下载9 个月前更新

vllm/agentic-api

vLLM 高性能推理与服务镜像

2.5千+ 次下载3 天前更新

intel/llm-scaler-vllm

3 次收藏10万+ 次下载11 天前更新

ai/qwen3-vllm

Docker AI 官方镜像

Qwen3是最新一代Qwen大语言模型，专为顶级编码、数学、推理和语言任务设计，支持密集型和混合专家模型架构，提供动态推理模式切换，适用于多语言多领域应用。

1 次收藏1万+ 次下载12 个月前更新

ai/gemma3-vllm

Docker AI 官方镜像

Google’s latest Gemma, small yet strong for chat and generation

1 次收藏5万+ 次下载12 个月前更新

ai/all-minilm-l6-v2-vllm

Docker AI 官方镜像

all-MiniLM-L6-v2是一个sentence-transformers模型，可将句子和段落映射到384维密集向量空间，适用于聚类或语义搜索等任务。

1 次收藏1万+ 次下载12 个月前更新

ai/qwen3-coder-next-vllm

Docker AI 官方镜像

高级编码代理模型，拥有800亿参数（30亿激活MoE），专为编码代理和本地开发环境设计，具备高效代码生成、调试及工具调用能力，支持多种IDE平台集成。

1 次收藏1万+ 次下载8 个月前更新

openeuler/vllm-cpu

官方vLLM Ascend Docker镜像，基于openEuler构建，提供快速高效的LLM推理和服务能力，支持PagedAttention内存管理、连续批处理、多种量化技术及优化内核，适用于高性能语言模型部署。

5 次收藏5万+ 次下载1 个月前更新

lintoai/vllm

5万+ 次下载3 个月前更新

ai/smollm2-vllm

Docker AI 官方镜像

SmolLM 2是为速度、边缘设备和本地开发构建的小型LLM系列，提供135M、360M、1.7B参数版本，以Safetensors格式打包并采用vLLM导向布局，便于通过Docker Hub分发。

2 次收藏1万+ 次下载1 年前更新

ai/deepseek-v3.2-vllm

Docker AI 官方镜像

DeepSeek-V3.2通过DeepSeek稀疏注意力(DSA)、可扩展强化学习框架和大规模智能体任务合成管道提升计算效率与推理能力，荣获2025年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)金牌。

11 次收藏5万+ 次下载10 个月前更新

rootpublic/vllm-tpu

2.3千+ 次下载1 年前更新

rocm/vllm-spur

2.5千+ 次下载3 个月前更新

ai/qwen3-reranker-vllm

Docker AI 官方镜像

多语言重排序模型，用于文本检索，可跨119种语言对文档相关性进行评分，基于Qwen3系列基础模型，具备多语言能力、长文本理解和推理技能。

3 次收藏1万+ 次下载11 个月前更新

ai/qwen3-embedding-vllm

Docker AI 官方镜像

Qwen3 Embedding是Qwen系列最新专有模型，专为文本嵌入和排序任务设计，提供0.6B、4B和8B多种尺寸，具备出色的多语言能力、长文本理解和推理技能，适用于文本检索、代码检索、分类、聚类等任务。

2 次收藏1万+ 次下载11 个月前更新

ai/ministral3-vllm

Docker AI 官方镜像

Ministral 3是紧凑高效的多模态语言模型，支持视觉和文本输入，性能接近24B模型，专为边缘部署和本地推理优化，适用于资源受限环境。

4 次收藏5万+ 次下载10 个月前更新

openeuler/llm-vllm

6.7千+ 次下载1 年前更新

openeuler/vllm-ascend

官方vLLM Ascend Docker镜像，基于openEuler构建，是社区维护的硬件插件，用于在Ascend NPU上无缝运行vLLM，支持Transformer、MoE、Embedding、多模态等多种开源模型，遵循硬件可插拔接口规范。

3 次收藏1万+ 次下载3 个月前更新

espnet/vllm

3.4千+ 次下载6 天前更新

rocm/vllm-benchmark-ci

1.4千+ 次下载1 年前更新

ai/functiongemma-vllm

Docker AI 官方镜像

FunctionGemma是一个270M参数的开放模型，基于Gemma 3构建，专为纯文本函数调用训练，可微调为高效、离线运行的专用代理，适用于资源受限设备。

1 次收藏1万+ 次下载9 个月前更新

ai/embeddinggemma-vllm

Docker AI 官方镜像

Embedding Gemma是Google DeepMind推出的最先进文本嵌入模型，基于Gemma架构创建高质量文本向量表示，能捕捉语义含义，适用于检索增强生成（RAG）、语义搜索及相似性任务，为嵌入类应用提供强大基础。

1 次收藏1万+ 次下载12 个月前更新

runpod/worker-v1-vllm

4 次收藏100万+ 次下载3 天前更新

vastai/vllm

3 次收藏10万+ 次下载1 天前更新

lmcache/vllm-openai

8 次收藏100万+ 次下载1 天前更新

rocmvllm/vllm-openai

1 次收藏297 次下载1 年前更新

voipmonitor/vllm

针对RTX PRO 6000 Blackwell (SM120a)的vLLM推理栈，基于CUDA 13.2构建，包含Ubuntu 24.04、PyTorch nightly、vLLM、FlashInfer、SGLang等组件，修复了nvidia-cutlass-dsl的NVVM/ptxas版本冲突问题，适用于高性能LLM推理任务。

5 次收藏10万+ 次下载19 天前更新

aibrix/vllm-mock

10万+ 次下载16 小时前更新

ascendai/vllm-ascend

2 次收藏10万+ 次下载17 小时前更新

runpod/worker-vllm

6 次收藏10万+ 次下载2 年前更新

dustynv/vllm

NVIDIA Jetson 平台优化的大语言模型推理服务框架

5 次收藏5万+ 次下载1 年前更新

novitalabs/vllm-openai

10万+ 次下载4 个月前更新

mistralllm/vllm-ms4

Custom docker for https://huggingface.co/collections/mistralai/mistral-small-4

5万+ 次下载7 个月前更新

eugr/spark-vllm

spark-vllm-docker项目的官方预构建nightly镜像，用于快速获取和部署该项目相关服务，无需手动编译构建。

5万+ 次下载9 天前更新

tcclaviger/vllm

这是针对ROCm/RDNA4（如Radeon R9700）优化的vLLM镜像，集成RFA、MXFP4-16、RFI等量化工具、模型调优器及增强服务功能（GDN侧缓存、重复检测、DRY惩罚），支持高效AI模型推理与量化部署。

16 次收藏1万+ 次下载5 天前更新

ascendai/vllm-omni

1万+ 次下载16 小时前更新

rlmsinclair/qwen-vllm

用VLLM框架部署8位量化的Qwen 2.5 Coder模型，适配4张NVIDIA 3090显卡，提供高效的代码生成与理解能力。

1万+ 次下载1 年前更新

eugr/spark-vllm-b12x

5万+ 次下载9 天前更新

yuanmodel/vllm-v0.4.0

1万+ 次下载2 年前更新

mekayelanik/vllm-cpu

vLLM CPU推理引擎 - 为Intel/AMD/ARM64处理器优化的Docker镜像，提供高效的大语言模型服务，支持OpenAI兼容API及多种CPU指令集优化。

1 次收藏1万+ 次下载5 天前更新

robatvastai/vllm

1万+ 次下载1 天前更新

nuonfred/vllm

Images i need for vllm things and such.

1万+ 次下载1 年前更新

substratusai/vllm

1万+ 次下载1 年前更新

第 1 页

与「vllm-dev」相关的博客与命名空间

相关博客

【漏洞预警】Trigger.dev 自托管 Compose 默认密钥可伪造登录（CVE-2026-114087）

Trigger.dev 4.5.6 之前的官方 Docker Compose 在 hosting/docker/.env.example 中带有公开的默认密钥。攻击者可伪造 magic-link 令牌，以任意邮箱登录，并在基础设施网络上访问仍使用默认凭据的数据库（CVE-2026-114087，CVSS 4.0 为 9.2，CVSS 3.1 为 8.1）。请升到 v4.5.6，并用 generate-secrets.sh 重新生成密钥。

Docker漏洞预警2026/10/21

【漏洞预警】LMCache HTTP 管理面未认证远程代码执行与配额篡改（CVE-2026-107204 / 107205 / 107206）

LMCache 到 0.5.5 为止暴露未认证的 /run_script，可绕过受限导入后执行系统命令（CVE-2026-107204，CVSS 9.8）。多进程 coordinator 与 HTTP 管理端默认监听所有网卡且无认证，可改配额、枚举缓存并读取环境凭证（CVE-2026-107205、CVE-2026-107206）。官方镜像 lmcache/vllm-openai 通常以 root 运行。公开资料尚未给出稳定修复版。

Docker漏洞预警2026/10/9

【漏洞预警】LMCache 多进程模式未认证远程代码执行（CVE-2026-105192）

LMCache 0.3.9 及以后的多进程模式会打开无需认证的 ZeroMQ 端口（默认 5555），并在处理请求前把消息直接反序列化（CVE-2026-105192，CVSS 9.8）。官方镜像以 root 运行该进程。厂商尚未公布修复版本，含当前正式版 0.5.5。请不要把 5555 暴露到不可信网络。

Docker漏洞预警2026/10/8

不想把 PDF 丢进在线工具站？Docker 部署 Stirling PDF，浏览器打开就能处理

Stirling PDF 是一款可自托管的 Web PDF 工具箱，可在浏览器中完成合并、拆分、压缩、水印、OCR 与格式转换等操作，文件默认在服务端临时处理。本文将介绍如何通过 Docker Compose 部署社区镜像 casjaysdevdocker/stirlingpdf，轻松搭建私有化 PDF 工具站，适合合同归档、扫描件整理与内网办公等场景。

Docker部署教程2026/9/16

【漏洞预警】vLLM LlavaOnevision2 处理器绕过 trust_remote_code（CVE-2026-90553）

vLLM 在加载 LlavaOnevision2 处理器时忽略 trust_remote_code，恶意模型可在 processing_llava_onevision2.py 植入任意代码并以 vLLM 进程权限执行（CVE-2026-90553，CVSS 约 7.8 High）。请将 vLLM / vllm-openai 升至 ≥ 0.28.0；未升级前勿加载不受信多模态模型仓库。

Docker部署教程2026/9/13

2026 国内 Docker 镜像拉取指南：不只会配 daemon.json，这个站还给了 10 万个镜像的中文说明书

多数公益 Docker 镜像源已关停，单靠抄旧教程往往无效。本文整理一套完整方案：轩辕镜像提供 10 万+ 镜像中文文档、20+ 场景配置教程、Docker 在线工具集，以及 Docker Hub/GHCR/GCR 等 9 类仓库加速。

Docker部署教程2026/6/15

...

vllm-dev

定价查看流量套餐与价格

博客Docker 镜像公告与技术博客

官方技术交流群：|问题咨询请：提交工单

服务号：轩辕镜像|公众号：源码跳动|小程序：轩辕镜像|官方技术交流群：|问题咨询请：提交工单

专业版 · 高速稳定拉取镜像

高速镜像下载·在线技术支持·99.95% SLA 保障·付费会员免广告

50GB 仅 ¥8/年

专业版 · 高速稳定拉取镜像

50GB 仅 ¥8/年

高速镜像下载·在线技术支持·99.95% SLA 保障·付费会员免广告

用户协议·隐私政策·增值电信业务经营许可证：浙B2-20261007·©2024-2026 源码跳动©2024-2026 杭州源码跳动科技有限公司·商务合作：点击复制邮箱