轻量级Docker镜像，仅包含DB-GPT中的代理模型，适用于CPU环境。

DBGPT Docker镜像仓库是一个集中存储和分发DBGPT相关Docker镜像的资源库，旨在为用户提供便捷、高效的部署体验。该仓库包含多种类型的镜像，如基础运行环境镜像、完整应用镜像及特定功能模块镜像，支持不同版本的DBGPT快速部署，适用于开发、测试及生产等多种场景。通过使用仓库中的镜像，用户可大幅简化环境配置流程，减少部署复杂度，同时确保获取到经过验证的稳定版本，助力DBGPT相关应用的快速落地与高效运维。

vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。

暂无描述

本地替代OpenAI的TTS API端点，使用Edge TTS在本地免费生成语音

暂无描述

暂无描述

暂无描述

暂无描述

暂无描述

vLLM是一个快速且易用的大语言模型推理与服务库，最初由加州大学伯克利分校开发，采用PagedAttention技术优化内存使用，支持高吞吐量、低延迟的推理，兼容Hugging Face模型格式，可轻松部署各类LLM，适用于科研和生产环境，显著提升大语言模型的服务效率。

onlinellm

暂无描述

暂无描述

暂无描述

暂无描述

暂无描述

AI DIAL适配器，用于接入OpenAI模型，实现与AI DIAL框架的集成和交互，支持模型调用与协议转换。

暂无描述

whisper-asr-webservice 是一个基于 OpenAI Whisper 语音识别模型构建的 Web 服务，提供便捷的 API 接口，支持多语言语音到文本的实时或批量转录，用户可根据需求选择 tiny、base、small、medium、large 等不同大小的模型，具备易于部署、高效准确的特点，适用于将语音识别功能快速集成到各类应用、服务或系统中。