zipnn/vllm-openai Docker Image
zipnn查看中文加速指南
基于vllm/vllm-openai镜像构建，增加了zipnn模型加载支持。
1 次收藏下载次数: 0状态：社区镜像维护者：zipnn仓库类型：镜像最近更新：1 年前
building on top of vllm/vllm-openai, adding zipnn model loading support.
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 vllm-openai 镜像标签
docker pull docker.xuanyuan.run/zipnn/vllm-openai:<标签>
DockerHub 原生拉取命令
docker pull zipnn/vllm-openai:<标签>
