lmsysorg/sglang
lmsysorg
这是用于开源项目sglang（GitHub地址：[***]
42 次收藏100万+ 次下载17 天前更新
openeuler/sglang
openeuler
SGLang是基于openEuler构建的高性能大语言模型和视觉语言模型服务框架，提供低延迟、高吞吐量推理，支持多设备（NVIDIA/AMD GPU、CPU等）和多模型，适用于从单GPU到分布式集群的部署场景。
313 次下载4 个月前更新
novitalabs/sglang
novitalabs
暂无描述
5万+ 次下载1 个月前更新
dustynv/sglang
dustynv
暂无描述
6.5千+ 次下载8 个月前更新
ishandhanani/sglang
ishandhanani
暂无描述
5.6千+ 次下载2 个月前更新
vastai/sglang
vastai
由vast.ai创建的Docker镜像，基于Vast基础镜像构建，适用于相关应用的部署和运行。
2.4千+ 次下载17 天前更新
niceallen/sglang
niceallen
暂无描述
1.1千+ 次下载1 个月前更新
modalresearch/sglang
modalresearch
Docker images for https://github.com/modal-labs/sglang
368 次下载24 天前更新
chingkai1023/sglang
chingkai1023
暂无描述
1.2千+ 次下载6 个月前更新
eigenai/sglang
eigenai
暂无描述
783 次下载1 个月前更新
kylinmountain/sglang
kylinmountain
在sglang Docker镜像基础上集成modelscope包，提供默认支持modelscope功能的sglang运行环境。
250 次下载1 年前更新
jesselopezmicrosoft/sglang
jesselopezmicrosoft
Custom builds of SGLang for MI300X
222 次下载1 年前更新
langtechbsc/sglang
langtechbsc
暂无描述
847 次下载10 个月前更新
varun4792/sglang
varun4792
暂无描述
844 次下载3 个月前更新
jbesgen/sglang
jbesgen
sglang
129 次下载2 个月前更新
mondaylord/sglang
mondaylord
暂无描述
774 次下载1 个月前更新
ispobock/sglang
ispobock
暂无描述
670 次下载3 个月前更新
ozziemoreno/sglang
ozziemoreno
暂无描述
631 次下载1 个月前更新
aibrix/sglang
aibrix
暂无描述
476 次下载3 个月前更新
fridge003/sglang
fridge003
暂无描述
439 次下载1 个月前更新
parachutes/sglang
parachutes
暂无描述
489 次下载1 个月前更新
narenas/sglang
narenas
暂无描述
388 次下载1 个月前更新
robatvastai/sglang
robatvastai
暂无描述
386 次下载26 天前更新
hsthe/sglang
hsthe
暂无描述
428 次下载3 个月前更新
mitakad/sglang
mitakad
SGLang ( +parallelism ) on Jetson Orin AGX: built by https://github.com/dusty-nv/jetson-containers
1 次收藏184 次下载1 个月前更新
alexmodular/sglang
alexmodular
暂无描述
351 次下载8 个月前更新
opencsghq/sglang
opencsghq
暂无描述
330 次下载2 个月前更新
panterlma/sglang
panterlma
暂无描述
352 次下载6 个月前更新
johnnync/sglang
johnnync
暂无描述
299 次下载5 个月前更新
slimerl/sglang
slimerl
暂无描述
295 次下载19 天前更新
dganochenko/sglang
dganochenko
暂无描述
324 次下载3 个月前更新
seemeai/sglang
seemeai
暂无描述
290 次下载1 年前更新
mwiki/sglang
mwiki
暂无描述
287 次下载1 年前更新
arrichm/sglang
arrichm
Run sglang in flashinfer mode. The model files are loaded at startup.
129 次下载2 年前更新
skyrisbactera/sglang
skyrisbactera
暂无描述
223 次下载1 年前更新
sobytes/sglang
sobytes
SGLang is a structured generation language designed for large language models (LLMs)
111 次下载1 年前更新
kllambda/sglang
kllambda
暂无描述
221 次下载5 个月前更新
ecjt/sglang
ecjt
暂无描述
215 次下载10 个月前更新
sabreshao/sglang
sabreshao
暂无描述
185 次下载2 个月前更新
pplabsyeyi/sglang
pplabsyeyi
暂无描述
179 次下载6 个月前更新
amdsiloai/sglang
amdsiloai
暂无描述
149 次下载2 个月前更新
stealthwriter/sglang
stealthwriter
暂无描述
142 次下载9 个月前更新
fatihbugrakdogan/sglang
fatihbugrakdogan
暂无描述
136 次下载4 个月前更新
alvarobartt/sglang
alvarobartt
暂无描述
137 次下载6 个月前更新
mwalol725/sglang
mwalol725
暂无描述
127 次下载3 个月前更新
zxb000/sglang
zxb000
docker hub sglang
38 次下载9 个月前更新
agenticworkflow/sglang
agenticworkflow
暂无描述
107 次下载1 年前更新
openeulertest/sglang
openeulertest
暂无描述
109 次下载4 个月前更新
williambarberjr/sglang
williambarberjr
暂无描述
96 次下载2 年前更新
bundenth/sglang
bundenth
暂无描述
93 次下载10 个月前更新
elaich/sglang
elaich
暂无描述
99 次下载11 个月前更新
ellama/sglang
ellama
暂无描述
91 次下载9 个月前更新
matschiner/sglang
matschiner
暂无描述
83 次下载1 年前更新
1337kavin/sglang
1337kavin
暂无描述
82 次下载10 个月前更新
justintong/sglang
justintong
暂无描述
88 次下载6 个月前更新
whyphylabs/sglang
whyphylabs
暂无描述
77 次下载6 个月前更新
lizhaoyi7/sglang
lizhaoyi7
暂无描述
83 次下载3 个月前更新
kylemontgomery/sglang
kylemontgomery
暂无描述
74 次下载4 个月前更新
luixiao/sglang
luixiao
暂无描述
80 次下载7 个月前更新
edwinguo123/sglang
edwinguo123
暂无描述
79 次下载11 个月前更新
hongrui0/sglang
hongrui0
暂无描述
78 次下载3 个月前更新
kopi/sglang
kopi
暂无描述
77 次下载6 个月前更新
anwarhf/sglang
anwarhf
暂无描述
70 次下载7 个月前更新
gegong123/sglang
gegong123
暂无描述
69 次下载4 个月前更新
alaydshah/sglang
alaydshah
暂无描述
74 次下载1 年前更新
syntheticdreamlabs/sglang
syntheticdreamlabs
暂无描述
66 次下载23 天前更新
lzbcs24/sglang
lzbcs24
暂无描述
70 次下载10 个月前更新
pkking/sglang
pkking
暂无描述
62 次下载7 个月前更新
clam004/sglang
clam004
暂无描述
66 次下载2 年前更新
kebe/sglang
kebe
暂无描述
64 次下载1 年前更新
seedjeffwan/sglang
seedjeffwan
暂无描述
59 次下载9 个月前更新
toffeeadmin/sglang
toffeeadmin
暂无描述
62 次下载12 个月前更新
megh13/sglang
megh13
暂无描述
56 次下载1 个月前更新
minusdust/sglang
minusdust
暂无描述
60 次下载4 个月前更新
ruudniew/sglang
ruudniew
暂无描述
60 次下载1 个月前更新
txusmanifest/sglang
txusmanifest
暂无描述
54 次下载1 年前更新
taobaibai522/sglang
taobaibai522
暂无描述
51 次下载1 年前更新
puszwojamb/sglang
puszwojamb
暂无描述
53 次下载1 年前更新
json92/sglang
json92
暂无描述
52 次下载3 个月前更新
dracotadpole/sglang
dracotadpole
暂无描述
47 次下载9 个月前更新
khalidnass/sglang
khalidnass
暂无描述
45 次下载1 个月前更新
valogan/sglang
valogan
暂无描述
48 次下载1 年前更新
shinichien/sglang
shinichien
暂无描述
43 次下载1 年前更新
dougyster/sglang
dougyster
暂无描述
41 次下载3 个月前更新
dtadpole/sglang
dtadpole
暂无描述
42 次下载9 个月前更新
jinmingyi1998/sglang
jinmingyi1998
暂无描述
42 次下载8 个月前更新
nodecloud/sglang
nodecloud
暂无描述
40 次下载1 年前更新
alphatozeta/sglang
alphatozeta
暂无描述
36 次下载11 个月前更新
einar724/sglang
einar724
暂无描述
35 次下载5 个月前更新
openinnovationai/sglang
openinnovationai
暂无描述
37 次下载9 个月前更新
ericcos/sglang
ericcos
暂无描述
32 次下载7 个月前更新
ahpp1001/sglang
ahpp1001
暂无描述
34 次下载1 个月前更新
divinerapier/sglang
divinerapier
暂无描述
28 次下载12 个月前更新
aaronhangzhou/sglang
aaronhangzhou
暂无描述
25 次下载4 个月前更新
timisstrong/sglang
timisstrong
暂无描述
24 次下载9 个月前更新
kennyyangk0/sglang
kennyyangk0
暂无描述
22 次下载1 年前更新
mevinfernando/sglang
mevinfernando
暂无描述
20 次下载1 年前更新
gmicloudai/sglang
gmicloudai
暂无描述
19 次下载8 个月前更新
fedml/sglang
fedml
暂无描述
19 次下载1 年前更新
poumason/sglang
poumason
暂无描述
18 次下载10 个月前更新
第 1 页
相关博客
SGLANG Docker容器化部署指南
SGLANG是一个高性能的语言模型推理引擎，旨在为大语言模型（LLM）应用提供高效、灵活的部署和服务能力。该引擎基于sgl-project开源项目开发，支持复杂的提示工程、多轮对话管理和推理优化，广泛应用于智能客服、内容生成、代码辅助等场景。
Docker,SGLANG2025/11/8
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。
Docker,verl2025/10/8