Docker Hub
Docker Hub
架构筛选
novitalabs/nebula-py312-vllm
novitalabs
暂无描述
1万+ 次下载1 个月前更新
vllm/vllm-openai
vLLM 高性能推理与服务镜像
vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。
311 次收藏1000万+ 次下载19 小时前更新
vllm/vllm-omni
vLLM 高性能推理与服务镜像
暂无描述
8 次收藏10万+ 次下载19 小时前更新
vllm/vllm-openai-cpu
vLLM 高性能推理与服务镜像
暂无描述
2 次收藏10万+ 次下载20 小时前更新
vllm/vllm-tpu
vLLM 高性能推理与服务镜像
vLLM框架在TPU上运行的Docker镜像仓库
3 次收藏10万+ 次下载18 小时前更新
vllm/vllm-openai-rocm
vLLM 高性能推理与服务镜像
暂无描述
6 次收藏10万+ 次下载20 小时前更新
vllm/vllm-openai-xpu
vLLM 高性能推理与服务镜像
暂无描述
10万+ 次下载20 小时前更新
vllm/vllm-router
vLLM 高性能推理与服务镜像
暂无描述
1 次收藏1万+ 次下载17 小时前更新
vllm/vllm-omni-rocm
vLLM 高性能推理与服务镜像
暂无描述
3 次收藏1万+ 次下载3 天前更新
rocm/vllm-dev
rocm
rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像，集成vllm框架与AMD GPU加速能力，专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖，支持低延迟、高吞吐量的LLM推理，可快速进行模型加载、性能调优与多实例部署测试，助力开发者高效构建和调试大语言模型应用，充分发挥AMD GPU在AI计算中的算力优势。
20 次收藏500万+ 次下载3 分钟前更新
rocm/vllm-ci
rocm
该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。
5 次收藏100万+ 次下载1 小时前更新
vllm/vllm-torchtpu
vLLM 高性能推理与服务镜像
The PyTorch-native TPU backend for vLLM.
1 次收藏1.8千+ 次下载1 小时前更新
vllm/vime
vLLM 高性能推理与服务镜像
暂无描述
1万+ 次下载12 天前更新
rocm/vllm-omni
rocm
repository for hosting vllm-omni images
10万+ 次下载3 分钟前更新
rocm/vllm
rocm
这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。
30 次收藏10万+ 次下载19 天前更新
intel/vllm
intel
暂无描述
9 次收藏5万+ 次下载2 个月前更新
vllm/vime-rocm
vLLM 高性能推理与服务镜像
暂无描述
4.6千+ 次下载1 个月前更新
ai/kimi-k2-vllm
Docker AI 官方镜像
Kimi K2 Thinking是最新开源思考模型，作为能逐步推理并动态调用工具的思考代理，具备深度多步推理能力，支持200-300次连续工具调用，原生INT4量化实现低延迟和低GPU内存占用，上下文窗口达256k。
2 次收藏1万+ 次下载10 个月前更新
ai/gpt-oss-vllm
Docker AI 官方镜像
OpenAI的开源权重模型，专为强大的推理能力和代理任务设计，适用于多用途开发场景。
2 次收藏1万+ 次下载12 个月前更新
vllm/agentic-api
vLLM 高性能推理与服务镜像
暂无描述
2.5千+ 次下载2 天前更新
ai/glm-4.7-flash-vllm
Docker AI 官方镜像
GLM-4.7-Flash是顶级的30B-A3B混合专家模型，平衡了强大性能与高效部署，为轻量级部署提供兼顾性能与效率的新选择。
3 次收藏5万+ 次下载9 个月前更新
intel/llm-scaler-vllm
intel
暂无描述
3 次收藏10万+ 次下载10 天前更新
ai/qwen3-vllm
Docker AI 官方镜像
Qwen3是最新一代Qwen大语言模型，专为顶级编码、数学、推理和语言任务设计，支持密集型和混合专家模型架构，提供动态推理模式切换，适用于多语言多领域应用。
1 次收藏1万+ 次下载12 个月前更新
ai/gemma3-vllm
Docker AI 官方镜像
Google’s latest Gemma, small yet strong for chat and generation
1 次收藏5万+ 次下载12 个月前更新
elestio/nebula-rest-api
elestio
暂无描述
6.6千+ 次下载4 年前更新
ai/all-minilm-l6-v2-vllm
Docker AI 官方镜像
all-MiniLM-L6-v2是一个sentence-transformers模型，可将句子和段落映射到384维密集向量空间，适用于聚类或语义搜索等任务。
1 次收藏1万+ 次下载12 个月前更新
ai/qwen3-coder-next-vllm
Docker AI 官方镜像
高级编码代理模型，拥有800亿参数（30亿激活MoE），专为编码代理和本地开发环境设计，具备高效代码生成、调试及工具调用能力，支持多种IDE平台集成。
1 次收藏1万+ 次下载8 个月前更新
openeuler/vllm-cpu
openeuler
官方vLLM Ascend Docker镜像，基于openEuler构建，提供快速高效的LLM推理和服务能力，支持PagedAttention内存管理、连续批处理、多种量化技术及优化内核，适用于高性能语言模型部署。
5 次收藏5万+ 次下载1 个月前更新
lintoai/vllm
lintoai
暂无描述
5万+ 次下载3 个月前更新
ai/smollm2-vllm
Docker AI 官方镜像
SmolLM 2是为速度、边缘设备和本地开发构建的小型LLM系列，提供135M、360M、1.7B参数版本，以Safetensors格式打包并采用vLLM导向布局，便于通过Docker Hub分发。
2 次收藏1万+ 次下载12 个月前更新
ai/deepseek-v3.2-vllm
Docker AI 官方镜像
DeepSeek-V3.2通过DeepSeek稀疏注意力(DSA)、可扩展强化学习框架和大规模智能体任务合成管道提升计算效率与推理能力，荣获2025年国际数学奥林匹克(IMO)和国际信息学奥林匹克(IOI)金牌。
11 次收藏5万+ 次下载10 个月前更新
rootpublic/vllm-tpu
rootpublic
暂无描述
2.3千+ 次下载1 年前更新
rocm/vllm-spur
rocm
暂无描述
2.5千+ 次下载3 个月前更新
ai/qwen3-reranker-vllm
Docker AI 官方镜像
多语言重排序模型，用于文本检索，可跨119种语言对文档相关性进行评分，基于Qwen3系列基础模型，具备多语言能力、长文本理解和推理技能。
3 次收藏1万+ 次下载11 个月前更新
ai/qwen3-embedding-vllm
Docker AI 官方镜像
Qwen3 Embedding是Qwen系列最新专有模型，专为文本嵌入和排序任务设计，提供0.6B、4B和8B多种尺寸，具备出色的多语言能力、长文本理解和推理技能，适用于文本检索、代码检索、分类、聚类等任务。
2 次收藏1万+ 次下载11 个月前更新
ai/ministral3-vllm
Docker AI 官方镜像
Ministral 3是紧凑高效的多模态语言模型，支持视觉和文本输入，性能接近24B模型，专为边缘部署和本地推理优化，适用于资源受限环境。
4 次收藏5万+ 次下载10 个月前更新
openeuler/llm-vllm
openeuler
暂无描述
6.7千+ 次下载1 年前更新
openeuler/vllm-ascend
openeuler
官方vLLM Ascend Docker镜像，基于openEuler构建，是社区维护的硬件插件，用于在Ascend NPU上无缝运行vLLM，支持Transformer、MoE、Embedding、多模态等多种开源模型，遵循硬件可插拔接口规范。
3 次收藏1万+ 次下载3 个月前更新
espnet/vllm
espnet
暂无描述
3.4千+ 次下载5 天前更新
ersiliaos/ersiliapack-py312
ersiliaos
暂无描述
6千+ 次下载1 个月前更新
rocm/vllm-benchmark-ci
rocm
暂无描述
1.4千+ 次下载1 年前更新
ersiliaos/ersiliapack-conda-py312
ersiliaos
暂无描述
6.1千+ 次下载1 个月前更新
ai/functiongemma-vllm
Docker AI 官方镜像
FunctionGemma是一个270M参数的开放模型，基于Gemma 3构建，专为纯文本函数调用训练，可微调为高效、离线运行的专用代理，适用于资源受限设备。
1 次收藏1万+ 次下载9 个月前更新
ai/embeddinggemma-vllm
Docker AI 官方镜像
Embedding Gemma是Google DeepMind推出的最先进文本嵌入模型，基于Gemma架构创建高质量文本向量表示，能捕捉语义含义，适用于检索增强生成（RAG）、语义搜索及相似性任务，为嵌入类应用提供强大基础。
1 次收藏1万+ 次下载12 个月前更新
novitalabs/nebula-py312-sglang
novitalabs
暂无描述
1万+ 次下载8 个月前更新
novitalabs/nebula-py310-vllm
novitalabs
暂无描述
1万+ 次下载10 个月前更新
vesoft/nebula-graphd
vesoft
Nebula Graph Graphd服务镜像。https://github.com/vesoft-inc/nebula
11 次收藏500万+ 次下载4 天前更新
nebulabroadcast/nebula-worker
nebulabroadcast
Nebula 6 worker node
1 次收藏1万+ 次下载11 天前更新
opennebula/opennebula
opennebula
OpenNebula Front-End社区版是开源的云与边缘计算平台，用于管理虚拟化基础设施、容器及多云部署，提供核心服务、现代Web UI、应用编排等组件。
1 次收藏1万+ 次下载2 个月前更新
nebulai/ubuntu-phoronix
nebulai
暂无描述
50万+ 次下载8 年前更新
novitalabs/nebula-expose
novitalabs
暂无描述
100万+ 次下载8 个月前更新
vesoft/nebula-metad
vesoft
Nebula Graph Metad服务。https://github.com/vesoft-inc/nebula
1 次收藏100万+ 次下载4 天前更新
myob/nebula-ci
myob
Used for running CI jobs
10万+ 次下载9 年前更新
vesoft/nebula-dev
vesoft
Nebula Graph项目的开发环境Docker镜像，支持在多种操作系统版本中构建Nebula源代码，提供统一的开发构建环境。
1 次收藏10万+ 次下载11 个月前更新
nebulabroadcast/nebula-server
nebulabroadcast
暂无描述
1 次收藏1万+ 次下载6 天前更新
nebulaorchestrator/drone-nebula
nebulaorchestrator
A drone.io plugin for deploying to Nebula
1万+ 次下载3 年前更新
tedivm/nebula_app
tedivm
Nebula应用镜像用于帮助组织管理AWS云实例，集成LDAP认证，支持管理员定义实例配置模板，用户可自助启动/管理实例并监控成本，简化云资源运维流程。
1 次收藏10万+ 次下载5 年前更新
latestml/ml-cpu-py312-vsc-cust
latestml
暂无描述
1万+ 次下载6 个月前更新
runpod/worker-v1-vllm
runpod
暂无描述
4 次收藏100万+ 次下载2 天前更新
latestml/ml-cpu-py312-jup-cust
latestml
暂无描述
1万+ 次下载6 个月前更新
vesoft/nebula-console
vesoft
NebulaGraph Console是NebulaGraph 3.x的控制台工具，支持创建图模式、导入示范数据集（如basketballplayer）和数据检索，提供交互式/非交互式操作模式、历史命令查看及自动补全功能，适用于NebulaGraph数据库的管理与数据操作。
2 次收藏100万+ 次下载1 年前更新
vastai/vllm
vastai
暂无描述
3 次收藏10万+ 次下载1 天前更新
latestml/ml-cpu-py312-base-cust
latestml
暂无描述
1万+ 次下载6 个月前更新
lmcache/vllm-openai
lmcache
暂无描述
8 次收藏100万+ 次下载17 小时前更新
jauderho/nebula
jauderho
nebula是一款专注于性能、简洁性和安全性的可扩展覆盖网络工具
5万+ 次下载1 天前更新
rocmvllm/vllm-openai
rocmvllm
暂无描述
1 次收藏297 次下载1 年前更新
vesoft/nebula-agent
vesoft
暂无描述
10万+ 次下载2 年前更新
lovelaze/nebula-sync
lovelaze
用于将Pi-hole v6.x配置同步到副本的工具，支持通过Pi-hole Teleporter进行全量同步、选择性功能同步及定时任务调度，非官方Pi-hole项目但基于其API实现同步操作。
5 次收藏5万+ 次下载4 天前更新
vesoft/nebula-storaged
vesoft
Nebula Graph存储服务镜像，作为分布式图数据库Nebula Graph的存储节点组件，负责图数据的持久化存储与管理，支持分布式环境下的高效数据处理。
2 次收藏100万+ 次下载4 天前更新
voipmonitor/vllm
voipmonitor
针对RTX PRO 6000 Blackwell (SM120a)的vLLM推理栈，基于CUDA 13.2构建，包含Ubuntu 24.04、PyTorch nightly、vLLM、FlashInfer、SGLang等组件，修复了nvidia-cutlass-dsl的NVVM/ptxas版本冲突问题，适用于高性能LLM推理任务。
5 次收藏10万+ 次下载18 天前更新
vesoft/nebula-alpine
vesoft
暂无描述
10万+ 次下载2 年前更新
sj1cn/web-nebula-studio
sj1cn
暂无描述
10万+ 次下载21 小时前更新
tedivm/nebula_worker
tedivm
Nebula worker镜像是Nebula项目的组件，用于帮助组织内用户管理AWS上的机器，支持LDAP集成、实例配置、成本监控、计划关机等功能，简化AWS资源管理流程。
1 次收藏10万+ 次下载5 年前更新
aibrix/vllm-mock
aibrix
暂无描述
10万+ 次下载1 小时前更新
第 1 页