让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
架构筛选
jdopensource/joyai-llm-sglang
jdopensource
暂无描述
674 次下载5 个月前更新
lmsysorg/sglang
LMSYS Org 开源大模型系统
这是用于开源项目sglang（GitHub地址：[https://github.com/sgl-project/sglang]
53 次收藏500万+ 次下载8 小时前更新
intel/sglang-dev
intel
Intel SGLang XPU/CPU dev images
1万+ 次下载11 小时前更新
lmsysorg/sglang-rocm
LMSYS Org 开源大模型系统
暂无描述
1万+ 次下载10 小时前更新
lmsysorg/sglang-omni
LMSYS Org 开源大模型系统
暂无描述
1万+ 次下载1 个月前更新
openeuler/sglang
openeuler
SGLang是基于openEuler构建的高性能大语言模型和视觉语言模型服务框架，提供低延迟、高吞吐量推理，支持多设备（NVIDIA/AMD GPU、CPU等）和多模型，适用于从单GPU到分布式集群的部署场景。
1.2千+ 次下载6 天前更新
ilhammalik51/my-sglang
ilhammalik51
暂无描述
614 次下载7 个月前更新
narenas/sglang
narenas
暂无描述
583 次下载3 个月前更新
openeulertest/sglang
openeulertest
暂无描述
553 次下载8 天前更新
metaphorprojects/sglang-cpu
metaphorprojects
这是适用于仅CPU环境的SGLang镜像，可在无NUMA支持的环境中使用。
572 次下载11 个月前更新
dganochenko/sglang
dganochenko
暂无描述
544 次下载7 个月前更新
arrichm/sglang
arrichm
Run sglang in flashinfer mode. The model files are loaded at startup.
509 次下载2 年前更新
alexmodular/sglang
alexmodular
暂无描述
507 次下载1 年前更新
opencsghq/sglang
opencsghq
暂无描述
490 次下载6 个月前更新
harshduche/sglang-embed
harshduche
暂无描述
727 次下载3 个月前更新
seemeai/sglang
seemeai
暂无描述
486 次下载1 年前更新
mwiki/sglang
mwiki
暂无描述
442 次下载1 年前更新
vanshrana12/sglang-worker
vanshrana12
暂无描述
967 次下载1 个月前更新
panterlma/sglang
panterlma
暂无描述
408 次下载10 个月前更新
chingkai1023/sglang_image
chingkai1023
Test build SGLang docker image
598 次下载11 个月前更新
switzerchees/sglang-omni-fish-audio-s2
switzerchees
暂无描述
712 次下载4 个月前更新
kylinmountain/sglang
kylinmountain
在sglang Docker镜像基础上集成modelscope包，提供默认支持modelscope功能的sglang运行环境。
386 次下载1 年前更新
kekomod/worker-sglang-tq
kekomod
暂无描述
836 次下载3 个月前更新
aphoh/not-sglang-dynamo
aphoh
暂无描述
792 次下载16 天前更新
jumper39/sglang
jumper39
暂无描述
377 次下载2 个月前更新
sabreshao/sglang
sabreshao
暂无描述
359 次下载3 天前更新
malaiwah/sglang
malaiwah
暂无描述
352 次下载27 天前更新
nearaidev/sglang
nearaidev
暂无描述
363 次下载3 个月前更新
zxb000/sglang-deepep
zxb000
该镜像基于NVIDIA Triton Inference Server构建，集成sglang、DeepEP、DeepGEMM等组件，适配CUDA 12.8.1与UCX 1.18环境，支持高效深度学习推理服务部署。
1 次收藏743 次下载11 个月前更新
jumper39/sglang-mimo-multi-fix
jumper39
暂无描述
575 次下载2 个月前更新
kllambda/sglang
kllambda
暂无描述
318 次下载9 个月前更新
juliian00/worker-sglang
juliian00
暂无描述
659 次下载1 年前更新
hongrui0/sglang
hongrui0
暂无描述
309 次下载2 个月前更新
jesselopezmicrosoft/sglang
jesselopezmicrosoft
Custom builds of SGLang for MI300X
317 次下载1 年前更新
pplabsyeyi/sglang
pplabsyeyi
暂无描述
285 次下载11 个月前更新
skyrisbactera/sglang
skyrisbactera
暂无描述
293 次下载2 年前更新
bitdeerai/sglang
bitdeerai
暂无描述
283 次下载4 个月前更新
rahulunair/sglang
rahulunair
适用于Intel XPU（Arc/Battlemage）的SGLang推理服务器镜像，通过固定compute-runtime版本解决多GPU（TP/DP）运行问题，支持单卡和多卡部署场景。
282 次下载16 天前更新
ecjt/sglang
ecjt
暂无描述
277 次下载1 年前更新
zhengkai/sglang
zhengkai
暂无描述
271 次下载2 个月前更新
jhinpan/sglang-k26-mi355x
jhinpan
暂无描述
559 次下载2 个月前更新
manvarharsh/sglang
manvarharsh
暂无描述
270 次下载1 个月前更新
neutree/engine-sglang
neutree
暂无描述
545 次下载9 天前更新
kuzcoxyz/sglang-mirror
kuzcoxyz
A mirror of https://hub.docker.com/r/lmsysorg/sglang
528 次下载1 年前更新
cledge/sglang
cledge
暂无描述
244 次下载3 个月前更新
jbesgen/sglang
jbesgen
sglang
241 次下载6 个月前更新
novitalabs/nebula-py312-cu129-sglang
novitalabs
暂无描述
982 次下载7 个月前更新
mwalol725/sglang
mwalol725
暂无描述
224 次下载7 个月前更新
dogacel/sglang
dogacel
暂无描述
223 次下载15 天前更新
第 1 页
与「joyai-llm-sglang」相关的博客与命名空间
相关博客
MinerU Docker 部署指南：PDF 结构化解析服务实践
MinerU 是一款面向开发者与科研用户的容器化应用，专为 vLLM 后端服务设计，提供高效的文档解析与处理能力。通过 Docker 容器化部署 MinerU，可以简化安装流程、确保环境一致性，并便于在不同环境中快速迁移和扩展。 本指南将详细介绍 MinerU 的 Docker 容器化部署方案，包括环境准备、镜像拉取、容器部署、功能测试及生产环境配置建议，旨在帮助用户快速搭建稳定可靠的 MinerU 服务。
Docker部署教程2025/12/30
VLLM Docker 容器化部署指南：在 NVIDIA Jetson 平台高效运行大语言模型推理服务
VLLM是一个高效的开源大语言模型（LLM）推理服务框架，通过创新的PagedAttention技术实现高吞吐量和低延迟的推理性能。本文介绍的`dustynv/vllm`镜像是针对NVIDIA Jetson平台优化的容器化版本，由[dustynv/jetson-containers](https://github.com/dustynv/jetson-containers)项目构建，专为边缘计算场景设计，支持在资源受限的嵌入式设备上部署高性能LLM推理服务。
Docker部署教程2025/12/2
NANO_LLM Docker 容器化部署指南
NANO_LLM是一个轻量级、优化的大型语言模型(LLM)推理和多模态智能体库，专为边缘设备和高性能计算环境设计。该库提供了对多种深度学习框架的支持，包括PyTorch、TensorRT和ONNX Runtime，能够高效运行各类语言模型和多模态应用。
Docker部署教程2025/11/17
vllm-openai Docker 部署全手册
从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。
Docker部署教程2025/10/9
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。
Docker部署教程2025/10/8