llm_benchmark-vllm docker 镜像搜索结果 | 轩辕镜像

让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明

如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。

只需在 AI 对话中先发送下面这句话即可：

请先完整阅读并严格遵守以下文档中的全部规则与要求：

https://xuanyuan.cloud/agents.md

在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。

查看 agents.md 用法指南与完整示范。国内用户首推元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。若 AI 无法访问外链，可打开说明文档复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。

架构筛选

nosana/llm_benchmark-vllm

1万+ 次下载1 年前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

288 次收藏1000万+ 次下载1 小时前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

Repo for vLLM TPU images

3 次收藏10万+ 次下载37 分钟前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

5 次收藏10万+ 次下载1 天前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

7 次收藏10万+ 次下载18 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

5万+ 次下载13 天前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

1万+ 次下载23 小时前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

1 次收藏4.5千+ 次下载15 天前更新

rocm/vllm-ci

Repo host images for vllm-ci

5 次收藏100万+ 次下载10 分钟前更新

rocm/vllm-dev

19 次收藏50万+ 次下载4 分钟前更新

rocm/vllm

ROCm optimized vLLM docker containers for AMD GPUs.

25 次收藏10万+ 次下载1 个月前更新

rocm/vllm-omni

repository for hosting vllm-omni images

10万+ 次下载3 分钟前更新

intel/vllm

8 次收藏1万+ 次下载11 小时前更新

ai/kimi-k2-vllm

Docker AI 官方镜像

Kimi K2 Thinking: open-source agent with deep reasoning, stable tool use, fast INT4, 256k context.

1 次收藏1万+ 次下载6 个月前更新

ai/gpt-oss-vllm

Docker AI 官方镜像

OpenAI’s open-weight models designed for powerful reasoning, agentic tasks

1 次收藏1万+ 次下载8 个月前更新

ai/qwen3-vllm

Docker AI 官方镜像

Qwen3 is the latest Qwen LLM, built for top-tier coding, math, reasoning, and language tasks.

1万+ 次下载8 个月前更新

ai/gemma3-vllm

Docker AI 官方镜像

Google’s latest Gemma, small yet strong for chat and generation

1 次收藏1万+ 次下载8 个月前更新

ai/glm-4.7-flash-vllm

Docker AI 官方镜像

GLM-4.7-Flash is a top 30B-A3B MoE, balancing strong performance with efficient deployment.

1 次收藏1万+ 次下载5 个月前更新

intel/llm-scaler-vllm

2 次收藏1万+ 次下载20 天前更新

ai/qwen3-coder-next-vllm

Docker AI 官方镜像

Advanced coding agent model with 80B params (3B active MoE) for code generation and debugging

1 次收藏1万+ 次下载4 个月前更新

ai/deepseek-v3.2-vllm

Docker AI 官方镜像

DeepSeek-V3.2 boosts efficiency and reasoning with DSA, scalable RL, agentic data—IMO/IOI wins.

10 次收藏1万+ 次下载6 个月前更新

openeuler/vllm-cpu

4 次收藏1万+ 次下载1 个月前更新

ai/smollm2-vllm

Docker AI 官方镜像

SmolVLM: lightweight multimodal model for video, image, and text analysis, optimized for devices

9.7千+ 次下载8 个月前更新

ai/all-minilm-l6-v2-vllm

Docker AI 官方镜像

all-MiniLM-L6-v2 is a sentence-transformers, maps sentences & paragraphs to a 384 dimensional vector

1 次收藏2.6千+ 次下载8 个月前更新

ai/qwen3-reranker-vllm

Docker AI 官方镜像

Multilingual reranking model for text retrieval, scoring document relevance across 119 languages.

3 次收藏1万+ 次下载7 个月前更新

ai/qwen3-embedding-vllm

Docker AI 官方镜像

Qwen3 Embedding: multilingual models for advanced text/ranking tasks like retrieval & clustering.

1 次收藏1万+ 次下载7 个月前更新

ai/ministral3-vllm

Docker AI 官方镜像

Ministral 3: compact vision-enabled model with near-24B performance, optimized for local edge use

4 次收藏1万+ 次下载6 个月前更新

openeuler/vllm-ascend

3 次收藏7.3千+ 次下载7 个月前更新

rootpublic/vllm-tpu

190 次下载8 个月前更新

lintoai/vllm

419 次下载13 小时前更新

openeuler/llm-vllm

238 次下载1 年前更新

ai/functiongemma-vllm

Docker AI 官方镜像

FunctionGemma is a 270M open model for fine-tuned, offline function-calling agents on small devices.

1 次收藏5.5千+ 次下载5 个月前更新

rocm/vllm-benchmark-ci

179 次下载10 个月前更新

vllm/vime

vLLM 高性能推理与服务镜像

12 次下载3 天前更新

ai/embeddinggemma-vllm

Docker AI 官方镜像

Embedding Gemma is a state-of-the-art text embedding model from Google DeepMind

3千+ 次下载8 个月前更新

runpod/worker-v1-vllm

4 次收藏50万+ 次下载6 天前更新

vastai/vllm

3 次收藏10万+ 次下载9 天前更新

novitalabs/vllm-openai

10万+ 次下载26 天前更新

dustynv/vllm

5 次收藏5万+ 次下载11 个月前更新

ascendai/vllm-ascend

1 次收藏10万+ 次下载15 小时前更新

rocmvllm/vllm-openai

1 次收藏178 次下载1 年前更新

runpod/worker-vllm

6 次收藏10万+ 次下载1 年前更新

lmcache/vllm-openai

8 次收藏10万+ 次下载22 小时前更新

yuanmodel/vllm-v0.4.0

1万+ 次下载2 年前更新

voipmonitor/vllm

1 次收藏1万+ 次下载3 小时前更新

ascendai/vllm-omni

1万+ 次下载29 天前更新

daehoyang/vllm

1万+ 次下载1 年前更新

substratusai/vllm

1万+ 次下载1 年前更新

mekayelanik/vllm-cpu

vLLM CPU inference engine - optimized Docker images for Intel/AMD/ARM64 processors

1 次收藏1万+ 次下载12 天前更新

opea/vllm

Deploying and servicing VLLM models based on VLLM projects

1 次收藏1万+ 次下载9 个月前更新

hyoon11/vllm-dev

1 次收藏1万+ 次下载3 个月前更新

apecloud/vllm

1 次收藏1万+ 次下载2 年前更新

syntheticdreamlabs/vllm

syntheticdreamlabs

1万+ 次下载6 个月前更新

fyto/vllm-sk-base

1万+ 次下载6 天前更新

baseten/vllm

Base image for serving models with vLLM

1 次收藏9.3千+ 次下载1 个月前更新

aibrix/vllm-mock

1万+ 次下载2 小时前更新

robatvastai/vllm

7.7千+ 次下载9 天前更新

yuanlabai/vllm

7.5千+ 次下载2 个月前更新

dengcao/vllm-openai

vLLM is a fast and easy-to-use library for LLM inference and serving. Originally developed...

2 次收藏1万+ 次下载8 个月前更新

stepfun2025/vllm

7千+ 次下载9 个月前更新

scitrera/dgx-spark-vllm

Scitrera's Build of vllm for NVIDIA DGX Spark

6 次收藏1万+ 次下载3 个月前更新

nalanzeyu/vllm-gfx906

vLLM for AMD gfx906 GPUs, e.g. Radeon VII / MI50 / MI60

6 次收藏1万+ 次下载4 个月前更新

novitalabs/nebula-py312-vllm

1万+ 次下载13 天前更新

opea/vllm-gaudi

Deploying and servicing VLLM models on Gaudi2 based on VLLM project

1万+ 次下载5 个月前更新

langtechbsc/vllm-with-params

1万+ 次下载1 年前更新

novitalabs/nebula-py310-vllm

1万+ 次下载6 个月前更新

truefoundrycloud/vllm

truefoundrycloud

3.8千+ 次下载2 年前更新

truffeldev/vllm

3.5千+ 次下载2 个月前更新

vastai/vllm-omni

4.2千+ 次下载9 天前更新

hanseware/vllm-audio-video

1 次收藏1万+ 次下载8 小时前更新

avarok/dgx-vllm-nvfp4-kernel

3 次收藏1万+ 次下载4 个月前更新

amdsiloai/vllm

2.8千+ 次下载17 小时前更新

apecloud/vllm-openai

8.8千+ 次下载7 个月前更新

hanseware/vllm-nightly

1万+ 次下载1 天前更新

lavd/vllm

2.6千+ 次下载19 天前更新

vubutterflies/vllm

2.5千+ 次下载2 年前更新

repne/vllm

vLLM for RTX 6000. github.com/voipmonitor/blackwell-llm-docker + github.com/repne/vllm

2.6千+ 次下载20 天前更新

uptospace/vllm

2.4千+ 次下载1 年前更新

ashahba/vllm-cpu

This repositories holds CPU images for vLLM project proposed by Dockerfile.cpu in vLLM repo.

1 次收藏2.2千+ 次下载4 个月前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

288 次收藏1000万+ 次下载1 小时前更新

第 1 页

相关博客

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

MinerU,PDF,人工智能,vLLM2025/12/30

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker,VLLM2025/12/2

NANO_LLM Docker 容器化部署指南

NANO_LLM是一个轻量级、优化的大型语言模型(LLM)推理和多模态智能体库，专为边缘设备和高性能计算环境设计。该库提供了对多种深度学习框架的支持，包括PyTorch、TensorRT和ONNX Runtime，能够高效运行各类语言模型和多模态应用。

Docker,NANO_LLM2025/11/17

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker,vllm-openai2025/10/9

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker,verl2025/10/8