vllm-openai-hf docker 镜像搜索结果 | 轩辕镜像

让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明

如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。

只需在 AI 对话中先发送下面这句话即可：

请先完整阅读并严格遵守以下文档中的全部规则与要求：

https://xuanyuan.cloud/agents.md

在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。

查看 agents.md 用法指南与完整示范。国内用户首推元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。若 AI 无法访问外链，可打开说明文档复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。

架构筛选

tsunkaraneni/vllm-openai-hf

vLLM image for hf inference. source: https://github.com/TSunny007/hf-vllm-docker

690 次下载1 年前更新

vllm/vllm-openai

vLLM 高性能推理与服务镜像

290 次收藏1000万+ 次下载4 天前更新

vllm/vllm-openai-rocm

vLLM 高性能推理与服务镜像

5 次收藏10万+ 次下载4 天前更新

vllm/vllm-openai-cpu

vLLM 高性能推理与服务镜像

10万+ 次下载4 天前更新

vllm/vllm-tpu

vLLM 高性能推理与服务镜像

Repo for vLLM TPU images

3 次收藏10万+ 次下载5 天前更新

vllm/vllm-omni

vLLM 高性能推理与服务镜像

7 次收藏10万+ 次下载9 天前更新

vllm/vllm-router

vLLM 高性能推理与服务镜像

1万+ 次下载5 天前更新

vllm/vllm-omni-rocm

vLLM 高性能推理与服务镜像

1 次收藏6.1千+ 次下载1 个月前更新

rocm/vllm-ci

Repo host images for vllm-ci

5 次收藏100万+ 次下载4 天前更新

rocm/vllm-dev

19 次收藏100万+ 次下载4 天前更新

rocm/vllm

ROCm optimized vLLM docker containers for AMD GPUs.

28 次收藏10万+ 次下载1 个月前更新

rocm/vllm-omni

repository for hosting vllm-omni images

10万+ 次下载4 天前更新

ai/gemma3-vllm

Docker AI 官方镜像

Google’s latest Gemma, small yet strong for chat and generation

1 次收藏1万+ 次下载8 个月前更新

intel/llm-scaler-vllm

2 次收藏1万+ 次下载6 天前更新

ai/qwen3-coder-next-vllm

Docker AI 官方镜像

Advanced coding agent model with 80B params (3B active MoE) for code generation and debugging

1 次收藏1万+ 次下载5 个月前更新

vllm/vime

vLLM 高性能推理与服务镜像

874 次下载13 天前更新

openeuler/vllm-cpu

5 次收藏5万+ 次下载3 天前更新

ai/deepseek-v3.2-vllm

Docker AI 官方镜像

DeepSeek-V3.2 boosts efficiency and reasoning with DSA, scalable RL, agentic data—IMO/IOI wins.

11 次收藏5万+ 次下载7 个月前更新

ai/smollm2-vllm

Docker AI 官方镜像

SmolVLM: lightweight multimodal model for video, image, and text analysis, optimized for devices

2 次收藏1万+ 次下载8 个月前更新

ai/all-minilm-l6-v2-vllm

Docker AI 官方镜像

all-MiniLM-L6-v2 is a sentence-transformers, maps sentences & paragraphs to a 384 dimensional vector

1 次收藏3.8千+ 次下载8 个月前更新

acuvity/openai-sdk-demo-ui

1.5千+ 次下载26 天前更新

acuvity/openai-sdk-demo-agent

1.9千+ 次下载26 天前更新

ai/qwen3-reranker-vllm

Docker AI 官方镜像

Multilingual reranking model for text retrieval, scoring document relevance across 119 languages.

3 次收藏1万+ 次下载7 个月前更新

ai/qwen3-embedding-vllm

Docker AI 官方镜像

Qwen3 Embedding: multilingual models for advanced text/ranking tasks like retrieval & clustering.

2 次收藏1万+ 次下载8 个月前更新

ai/ministral3-vllm

Docker AI 官方镜像

Ministral 3: compact vision-enabled model with near-24B performance, optimized for local edge use

4 次收藏1万+ 次下载7 个月前更新

openeuler/vllm-ascend

3 次收藏9.9千+ 次下载3 天前更新

rootpublic/vllm-tpu

314 次下载9 个月前更新

modular/max-openai-api-chart

Deploy GPU-optimized generative AI models using the MAX container Helm chart for Kubernetes.

411 次下载1 年前更新

lintoai/vllm

1.7千+ 次下载7 天前更新

vllm/vime-rocm

vLLM 高性能推理与服务镜像

62 次下载23 天前更新

imroc/vllm-openai

1.4千+ 次下载1 年前更新

shubhampapnai/vllm-openai

1.5千+ 次下载4 个月前更新

alamagic/vllm-openai

1.4千+ 次下载1 个月前更新

inferx/vllm-openai

1.4千+ 次下载15 天前更新

vmd7/vllm-openai

1.4千+ 次下载9 个月前更新

tensormesh/vllm-openai

1.2千+ 次下载11 个月前更新

kamiwazaai/kamiwaza-vllm-openai-v0.9.2

1万+ 次下载6 个月前更新

skandermoalla/vllm-openai

1 次收藏1.1千+ 次下载1 年前更新

jamesdamant1997/vllm-openai

jamesdamant1997

1.1千+ 次下载11 个月前更新

t9kpublic/vllm-openai

1.1千+ 次下载1 年前更新

dockercortecs/vllm-openai

1.1千+ 次下载10 个月前更新

robder/vllm-openai

1千+ 次下载1 年前更新

lmisam/vllm-openai

927 次下载2 年前更新

nguyennhan1992/vllm-openai

938 次下载1 年前更新

peakji92/vllm-openai

873 次下载1 年前更新

ztaoplus/vllm-openai

915 次下载1 年前更新

bhiravabhatla/vllm-openai-ray

876 次下载1 年前更新

nguyenkhacthanh/vllm-openai-v0.3.3-vllm-0.10.2

nguyenkhacthanh

513 次下载8 个月前更新

harborwater/vllm-openai-bnb

vllm with bnb support

835 次下载1 年前更新

johnewart/vllm-openai

809 次下载1 年前更新

yichaoyuan/vllm-openai-otel

883 次下载4 个月前更新

abcd24/vllm-openai-cpu

vllm-openai-cpu

711 次下载1 年前更新

jeril22/vllm-openai-fix

737 次下载1 年前更新

aciborowska/vllm-openai

707 次下载11 个月前更新

vastai/vllm

3 次收藏10万+ 次下载2 天前更新

ninadhogade/vllm-openai

662 次下载1 年前更新

aligheibi/vllm-openai-cpu

652 次下载1 年前更新

runpod/worker-v1-vllm

4 次收藏50万+ 次下载5 天前更新

didierdurand/vllm-openai

629 次下载10 个月前更新

travisvn/openai-edge-tts

Local replacement for OpenAI's TTS API endpoint, using Edge TTS to generate speech for free locally

9 次收藏10万+ 次下载4 个月前更新

yikching/vllm-openai

626 次下载4 个月前更新

gegonzalez100/vllm-openai-mac-arm

621 次下载1 年前更新

wavethreeltd/vllm-openai

657 次下载8 个月前更新

elaich/vllm-openai

656 次下载1 年前更新

akoserwal/vllm-openai

Arm build works on mac os

612 次下载1 年前更新

cledge/vllm-openai

644 次下载9 天前更新

mukultripathi/vllm-openai

643 次下载1 年前更新

chrispoolside/vllm-openai

603 次下载4 个月前更新

wensher2sammi/vllm-openai

602 次下载1 年前更新

zipnn/vllm-openai

building on top of vllm/vllm-openai, adding zipnn model loading support.

1 次收藏599 次下载1 年前更新

masanara/vllm-openai

595 次下载1 年前更新

bitxchg/vllm-openai-ssh

628 次下载1 年前更新

autonomouswill/vllm-openai-bnb

604 次下载1 年前更新

petterhg/vllm-openai-bnb

604 次下载1 年前更新

handuo/vllm-openai

601 次下载1 年前更新

endnearai/vllm-openai

600 次下载10 个月前更新

jphalip/vllm-openai-cpu

561 次下载1 年前更新

zihaokevinzhou/vllm-openai

560 次下载1 年前更新

zouyq/vllm-openai

554 次下载1 年前更新

imjoshdev/vllm-openai

554 次下载1 年前更新

pkmon3d/vllm-openai

583 次下载2 年前更新

erictsai1999/vllm-openai

581 次下载10 个月前更新

clay2999/vllm-openai

v0.7.3 and support Gemma-3

576 次下载12 个月前更新

rfsousa/vllm-openai

574 次下载8 个月前更新

alvion427/vllmx-openai

702 次下载9 个月前更新

sebastiandao/vllm-cpu-openai

535 次下载6 个月前更新

第 1 页

相关博客

MinerU Docker 部署指南：PDF 结构化解析服务实践

MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。

Docker部署教程2025/12/30

VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务

VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。

Docker部署教程2025/12/2

vllm-openai Docker 部署全手册

从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。

Docker部署教程2025/10/9

verl Docker 容器化部署手册

无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。

Docker部署教程2025/10/8