Docker Hub
Docker Hub
架构筛选
ai/glm-4.7-flash-vllm
Docker AI 官方镜像
GLM-4.7-Flash是顶级的30B-A3B混合专家模型，平衡了强大性能与高效部署，为轻量级部署提供兼顾性能与效率的新选择。
3 次收藏5万+ 次下载9 个月前更新
vllm/vllm-openai
vLLM 高性能推理与服务镜像
vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。
311 次收藏1000万+ 次下载2 天前更新
vllm/vllm-openai-cpu
vLLM 高性能推理与服务镜像
暂无描述
2 次收藏10万+ 次下载3 天前更新
vllm/vllm-omni
vLLM 高性能推理与服务镜像
暂无描述
8 次收藏10万+ 次下载3 天前更新
vllm/vllm-tpu
vLLM 高性能推理与服务镜像
vLLM框架在TPU上运行的Docker镜像仓库
3 次收藏10万+ 次下载3 天前更新
vllm/vllm-openai-rocm
vLLM 高性能推理与服务镜像
暂无描述
6 次收藏10万+ 次下载3 天前更新
vllm/vllm-openai-xpu
vLLM 高性能推理与服务镜像
暂无描述
10万+ 次下载3 天前更新
vllm/vllm-router
vLLM 高性能推理与服务镜像
暂无描述
1 次收藏1万+ 次下载3 天前更新
vllm/vllm-omni-rocm
vLLM 高性能推理与服务镜像
暂无描述
3 次收藏1万+ 次下载5 天前更新
rocm/vllm-dev
rocm
rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像，集成vllm框架与AMD GPU加速能力，专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖，支持低延迟、高吞吐量的LLM推理，可快速进行模型加载、性能调优与多实例部署测试，助力开发者高效构建和调试大语言模型应用，充分发挥AMD GPU在AI计算中的算力优势。
20 次收藏500万+ 次下载2 天前更新
rocm/vllm-ci
rocm
该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。
5 次收藏100万+ 次下载2 天前更新
vllm/vime
vLLM 高性能推理与服务镜像
暂无描述
1万+ 次下载10 天前更新
ai/embeddinggemma-vllm
Docker AI 官方镜像
Embedding Gemma是Google DeepMind推出的最先进文本嵌入模型，基于Gemma架构创建高质量文本向量表示，能捕捉语义含义，适用于检索增强生成（RAG）、语义搜索及相似性任务，为嵌入类应用提供强大基础。
1 次收藏1万+ 次下载12 个月前更新
flashohq/flasho
flashohq
Flasho是一款开源的开发者通知平台，支持在5分钟内快速设置客户通知，提供数据库事件触发、动态变量、多渠道集成等功能，且支持自托管保障数据安全。
1万+ 次下载3 年前更新
flashinfer/flashinfer-ci-cu129
flashinfer
暂无描述
10万+ 次下载7 天前更新
flashapp/dataflash-base-executor
flashapp
暂无描述
1万+ 次下载1 个月前更新
myllmbox/qwen38-flash-next-cluster-vllm
myllmbox
暂无描述
5万+ 次下载1 天前更新
flashinfer/flashinfer-ci-cu130
flashinfer
暂无描述
1万+ 次下载7 天前更新
flashinfer/flashinfer-ci-cu126
flashinfer
暂无描述
1万+ 次下载2 个月前更新
flashinfer/flashinfer-ci-cu128
flashinfer
暂无描述
1万+ 次下载2 个月前更新
runpod/flash
runpod
暂无描述
1 次收藏50万+ 次下载2 个月前更新
flashinfer/flashinfer-ci
flashinfer
暂无描述
1万+ 次下载1 年前更新
flasher/openaq-api
flasher
暂无描述
50万+ 次下载6 年前更新
flasher/openaq-fetch
flasher
暂无描述
50万+ 次下载3 年前更新
logiqai/flash
logiqai
LOGIQ数据摄入服务器，用于高效收集、处理和转发日志及监控数据，支持多种数据源接入，为LOGIQ平台提供可靠的数据采集能力。
10万+ 次下载10 小时前更新
flashspys/nginx-static
flashspys
超轻量级Nginx镜像，适用于快速部署Web服务、反向代理及静态资源托管，以精简体积提升资源利用率和启动速度。
13 次收藏500万+ 次下载13 小时前更新
runpod/worker-v1-vllm
runpod
暂无描述
4 次收藏100万+ 次下载13 小时前更新
vastai/vllm
vastai
暂无描述
3 次收藏10万+ 次下载6 天前更新
pingcap/tiflash
pingcap
暂无描述
1 次收藏50万+ 次下载10 小时前更新
runpod/flash-lb-cpu
runpod
暂无描述
10万+ 次下载2 个月前更新
lmcache/vllm-openai
lmcache
暂无描述
8 次收藏100万+ 次下载11 小时前更新
rocmvllm/vllm-openai
rocmvllm
暂无描述
1 次收藏297 次下载1 年前更新
voipmonitor/vllm
voipmonitor
针对RTX PRO 6000 Blackwell (SM120a)的vLLM推理栈，基于CUDA 13.2构建，包含Ubuntu 24.04、PyTorch nightly、vLLM、FlashInfer、SGLang等组件，修复了nvidia-cutlass-dsl的NVVM/ptxas版本冲突问题，适用于高性能LLM推理任务。
5 次收藏10万+ 次下载16 天前更新
tfarrell/flash-1.2.11
tfarrell
Docker for FLASH 1.2.11 (https://ccb.jhu.edu/software/FLASH/)
5万+ 次下载8 年前更新
flashx/knorr-base
flashx
该Docker镜像提供运行knorR R包所需的Ubuntu 16.04操作系统及相关依赖环境，用户需自行安装knor包以使用K-means NUMA优化 routines的R接口。
1万+ 次下载9 年前更新
runpod/flash-lb
runpod
暂无描述
5万+ 次下载2 个月前更新
jonaseck/rpi-led-flash-mqtt-sysfs
jonaseck
暂无描述
10万+ 次下载9 年前更新
aibrix/vllm-mock
aibrix
暂无描述
10万+ 次下载14 小时前更新
guangie88/flasher
guangie88
暂无描述
10万+ 次下载7 年前更新
testable/agent-flash
testable
[已弃用] 带有Flash插件的Testable测试运行器
5万+ 次下载3 年前更新
flashx/knor
flashx
这是一个针对NUMA架构优化的并行K-means计算库，比Spark MLlib等主流工具快10-100倍，可高效处理大规模数据聚类任务。
1万+ 次下载9 年前更新
ascendai/vllm-ascend
ascendai
暂无描述
2 次收藏10万+ 次下载9 小时前更新
runpod/worker-vllm
runpod
暂无描述
6 次收藏10万+ 次下载2 年前更新
dustynv/vllm
dustynv
NVIDIA Jetson 平台优化的大语言模型推理服务框架
5 次收藏5万+ 次下载1 年前更新
logiqai/flash-brew-coffee
logiqai
暂无描述
10万+ 次下载9 小时前更新
novitalabs/vllm-openai
novitalabs
暂无描述
10万+ 次下载4 个月前更新
mistralllm/vllm-ms4
mistralllm
Custom docker for https://huggingface.co/collections/mistralai/mistral-small-4
5万+ 次下载7 个月前更新
fyto/vllm-sk-base
fyto
暂无描述
5万+ 次下载12 小时前更新
eugr/spark-vllm
eugr
spark-vllm-docker项目的官方预构建nightly镜像，用于快速获取和部署该项目相关服务，无需手动编译构建。
5万+ 次下载6 天前更新
flash1293/ekofe-server
flash1293
暂无描述
10万+ 次下载6 年前更新
flash1293/ekofe-client
flash1293
暂无描述
10万+ 次下载6 年前更新
flash1293/dummy-webserver
flash1293
暂无描述
10万+ 次下载8 年前更新
tcclaviger/vllm
tcclaviger
这是针对ROCm/RDNA4（如Radeon R9700）优化的vLLM镜像，集成RFA、MXFP4-16、RFI等量化工具、模型调优器及增强服务功能（GDN侧缓存、重复检测、DRY惩罚），支持高效AI模型推理与量化部署。
16 次收藏1万+ 次下载2 天前更新
第 1 页