
lmsysorg/sglang
这是用于开源项目sglang(GitHub地址:[https://github.com/sgl-project/sglang]
让 AI 帮你使用轩辕镜像? · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具,协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题,请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可:
请先完整阅读并严格遵守以下文档中的全部规则与要求:
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前,不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式,不推荐豆包 AI;Cursor 等编辑器可在对话 @ 该链接,或加入 User Rules。 若 AI 无法访问外链,可 打开说明文档 复制全文粘贴。文档会随站点更新,复制内容可能过期,建议定期检查。
Docker images for https://github.com/sgl-project/sglang
更多相关 Docker 镜像与资源
以下是 lmsysorg/sglang 相关的常用 Docker 镜像,适用于 不同场景 等不同场景:
- openeuler/sglang Docker 镜像说明(openEuler 上的 SGLang 推理环境,适合国产 OS 与昇腾等硬件上的大模型服务)
- voipmonitor/sglang Docker 镜像说明(VoIPMonitor SGLang 推理镜像,适合语音监控场景下的大模型服务)
- vllm/vllm-openai Docker 镜像说明
- dengcao/vllm-openai Docker 镜像说明(社区维护的 vLLM OpenAI 兼容推理镜像,适合自建大模型 HTTP API)
- dustynv/vllm Docker 镜像说明(高性能 LLM 推理服务)
Deployment & Usage Documentation
(2 articles)镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
DockerHub 原生拉取命令
docker pull lmsysorg/sglang:<标签>
更多 sglang 镜像推荐
openeuler/sglang
openeuler
SGLang是基于openEuler构建的高性能大语言模型和视觉语言模型服务框架,提供低延迟、高吞吐量推理,支持多设备(NVIDIA/AMD GPU、CPU等)和多模型,适用于从单GPU到分布式集群的部署场景。
2.6千+ 次下载
26 天前更新
novitalabs/sglang
novitalabs
暂无描述
10万+ 次下载
6 个月前更新
modalresearch/sglang
modalresearch
Docker images for https://github.com/modal-labs/sglang
5.5千+ 次下载
1 天前更新
vastai/sglang
vastai
由vast.ai创建的Docker镜像,基于Vast基础镜像构建,适用于相关应用的部署和运行。
1万+ 次下载
11 天前更新
voipmonitor/sglang
voipmonitor
针对RTX PRO 6000 Blackwell (SM120a) GPU优化的SGLang推理栈,基于Ubuntu 24.04和CUDA 13.2.0,集成PyTorch nightly、FlashInfer和b12x,支持NVFP4精度,提供高性能大语言模型推理能力。
1万+ 次下载
2 个月前更新
ocss884/sglang
ocss884
暂无描述
1万+ 次下载
25 天前更新
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务

