arieschwartzman/openai-ctm
arieschwartzman
暂无描述
1万+ 次下载2 年前更新
vllm/vllm-openai
vLLM 高性能推理与服务镜像
vllm/vllm-openai：vLLM 高性能大模型推理框架的官方 Docker 镜像，封装 OpenAI API 兼容的推理服务；支持 PagedAttention 与连续批处理，吞吐量可达传统引擎 10-24 倍；支持 50+ 开源模型与量化方案，适用开源模型部署、OpenAI 应用本地化与高并发生产场景。
271 次收藏1000万+ 次下载2 天前更新
vllm/vllm-openai-rocm
vLLM 高性能推理与服务镜像
暂无描述
3 次收藏1万+ 次下载2 天前更新
vllm/vllm-openai-cpu
vLLM 高性能推理与服务镜像
暂无描述
8.4千+ 次下载10 天前更新
novitalabs/vllm-openai
novitalabs
暂无描述
10万+ 次下载6 天前更新
travisvn/openai-edge-tts
travisvn
本地替代OpenAI的TTS API端点，使用Edge TTS在本地免费生成语音
9 次收藏10万+ 次下载1 个月前更新
lmcache/vllm-openai
lmcache
暂无描述
8 次收藏10万+ 次下载5 天前更新
wechatopenai/weknora-docreader
wechatopenai
暂无描述
10万+ 次下载3 天前更新
viannamarcelo/openai-app
viannamarcelo
暂无描述
1万+ 次下载11 个月前更新
wechatopenai/weknora-app
wechatopenai
暂无描述
10万+ 次下载3 天前更新
wechatopenai/weknora-ui
wechatopenai
暂无描述
10万+ 次下载3 天前更新
dengcao/vllm-openai
dengcao
vLLM是一个快速且易用的大语言模型推理与服务库，最初由加州大学伯克利分校开发，采用PagedAttention技术优化内存使用，支持高吞吐量、低延迟的推理，兼容Hugging Face模型格式，可轻松部署各类LLM，适用于科研和生产环境，显著提升大语言模型的服务效率。
2 次收藏1万+ 次下载6 个月前更新
pulkittalwar/openai-api-rust
pulkittalwar
onlinellm
1万+ 次下载1 年前更新
eosphorosai/dbgpt-openai
eosphorosai
轻量级Docker镜像，仅包含DB-GPT中的代理模型，适用于CPU环境。
1 次收藏1万+ 次下载17 天前更新
blrchen/azure-openai-proxy
blrchen
暂无描述
1万+ 次下载1 个月前更新
zerob13/mock-openai-api
zerob13
A complete OpenAI API compatible mock server
1万+ 次下载7 个月前更新
scalaone/azure-openai-proxy
scalaone
暂无描述
1万+ 次下载1 年前更新
proxyxai/openai
proxyxai
暂无描述
8.1千+ 次下载1 年前更新
yimiaoxiehou/poe-openai-proxy
yimiaoxiehou
暂无描述
1万+ 次下载2 天前更新
apecloud/vllm-openai
apecloud
暂无描述
8.8千+ 次下载4 个月前更新
lightningai/ci-openai-llm-server-mock
lightningai
暂无描述
1万+ 次下载9 个月前更新
zhu327/gemini-openai-proxy
zhu327
暂无描述
4 次收藏1万+ 次下载6 个月前更新
epam/ai-dial-adapter-openai
epam
AI DIAL适配器，用于接入OpenAI模型，实现与AI DIAL框架的集成和交互，支持模型调用与协议转换。
1万+ 次下载4 天前更新
wechatopenai/weknora-sandbox
wechatopenai
暂无描述
1万+ 次下载3 天前更新
onerahmet/openai-whisper-asr-webservice
onerahmet
whisper-asr-webservice 是一个基于 OpenAI Whisper 语音识别模型构建的 Web 服务，提供便捷的 API 接口，支持多语言语音到文本的实时或批量转录，用户可根据需求选择 tiny、base、small、medium、large 等不同大小的模型，具备易于部署、高效准确的特点，适用于将语音识别功能快速集成到各类应用、服务或系统中。
97 次收藏100万+ 次下载9 个月前更新
aibrix/vllm-openai
aibrix
暂无描述
3.3千+ 次下载4 个月前更新
tejasukhavasi/openai
tejasukhavasi
Custom images to run openai tools
2.7千+ 次下载9 年前更新
eyalrot2/ollama-openai-proxy
eyalrot2
暂无描述
9.6千+ 次下载8 个月前更新
mondaylord/vllm-openai
mondaylord
暂无描述
2.5千+ 次下载2 个月前更新
ubicloud/vllm-openai
ubicloud
暂无描述
2.1千+ 次下载25 天前更新
microquant/vllm-openai
microquant
暂无描述
1.3千+ 次下载6 个月前更新
dview/vllm-openai
dview
暂无描述
1.4千+ 次下载7 个月前更新
vmd7/vllm-openai
vmd7
暂无描述
1.3千+ 次下载6 个月前更新
第 1 页
相关博客
vllm-openai Docker 部署全手册
从个人开发者测试开源大模型，到企业搭建私有推理服务，vllm-openai 都是高效且低成本的选择。本教程将从核心概念讲起，逐步覆盖 Docker 环境准备、镜像拉取、多场景部署、结果验证及问题排查，无论你是初学者还是高级工程师，都能照着步骤完成部署。
Docker,vllm-openai2025/10/9
verl Docker 容器化部署手册
无论你是刚接触大模型工具的初学者，还是需要高效管理训练任务的高级工程师，本教程都将带你一步步完成 verlai/verl 镜像的 Docker 部署——从工具认知、环境搭建到多场景部署实践，每个步骤均配备完整命令与详细说明，确保照着做就能成。
Docker,verl2025/10/8