热门搜索:
架构筛选
第 1 页
与「gsmlg.org」相关的博客与命名空间
相关博客
SGLANG Docker容器化部署指南
SGLANG 是一个高性能的语言模型推理引擎，旨在为大语言模型（LLM）应用提供高效、灵活的部署和服务能力。该引擎基于sgl-project开源项目开发，支持复杂的提示工程、多轮对话管理和推理优化，广泛应用于智能客服、内容生成、代码辅助等场景。
Docker,SGLANG2025/11/8
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。
Docker,verl2025/10/8