轩辕镜像
轩辕镜像专业版
个人中心搜索镜像
交易
充值流量我的订单
工具
工单支持镜像收录Run 助手IP 归属地密码生成Npm 源Pip 源
帮助
常见问题我要吐槽
其他
关于我们网站地图

官方QQ群: 13763429

轩辕镜像
镜像详情
langtechbsc/vllm-with-params
官方博客使用教程热门镜像工单支持
本站面向开发者与科研用户,提供开源镜像的搜索和下载加速服务。
所有镜像均来源于原始开源仓库,本站不存储、不修改、不传播任何镜像内容。
轩辕镜像 - 国内开发者首选的专业 Docker 镜像下载加速服务平台 - 官方QQ群:13763429 👈点击免费获得技术支持。
本站面向开发者与科研用户,提供开源镜像的搜索和下载加速服务。所有镜像均来源于原始开源仓库,本站不存储、不修改、不传播任何镜像内容。

本站支持搜索的镜像仓库:Docker Hub、gcr.io、ghcr.io、quay.io、k8s.gcr.io、registry.gcr.io、elastic.co、mcr.microsoft.com

vllm-with-params Docker 镜像下载 - 轩辕镜像

vllm-with-params 镜像详细信息和使用指南

vllm-with-params 镜像标签列表和版本信息

vllm-with-params 镜像拉取命令和加速下载

vllm-with-params 镜像使用说明和配置指南

Docker 镜像加速服务 - 轩辕镜像平台

国内开发者首选的 Docker 镜像加速平台

极速拉取 Docker 镜像服务

相关 Docker 镜像推荐

热门 Docker 镜像下载

vllm-with-params
langtechbsc/vllm-with-params

vllm-with-params 镜像详细信息

vllm-with-params 镜像标签列表

vllm-with-params 镜像使用说明

vllm-with-params 镜像拉取命令

Docker 镜像加速服务

轩辕镜像平台优势

镜像下载指南

相关 Docker 镜像推荐

基于vllm/vllm-openai修改的Docker镜像,支持通过PARAMS参数传递命令行参数,适用于运行语言模型;x.y.z.1标签包含固定版本hermes-tool-parser,启用时需使用--tool-call-parser hermes_fixed选项。
0 次下载activelangtechbsc镜像
🚀轩辕镜像专业版更稳定💎一键安装 Docker 配置镜像源
中文简介版本下载
🚀轩辕镜像专业版更稳定💎一键安装 Docker 配置镜像源

vllm-with-params 镜像详细说明

vllm-with-params 使用指南

vllm-with-params 配置说明

vllm-with-params 官方文档

镜像概述与主要用途

本Docker镜像是基于vllm/vllm-openai修改的衍生版本,主要用于运行语言模型,支持通过自定义命令行参数灵活配置模型运行参数。镜像特别包含PARAMS参数,可便捷传递命令行参数,同时特定标签版本提供固定的工具解析器支持。

核心功能与特性

  • 基于vllm/vllm-openai构建:继承原镜像的核心能力,专注于高效运行语言模型
  • 支持PARAMS参数传递:可通过PARAMS参数将自定义命令行参数传递给容器内运行的程序
  • 固定版本工具解析器:标签格式为x.y.z.1的镜像版本包含固定版本的hermes-tool-parser,需通过特定选项启用

使用场景

适用于需要自定义配置语言模型运行参数的场景,尤其是在需要稳定使用hermes-tool-parser工具解析器时,可通过指定标签版本和启用选项确保工具解析功能的一致性。

使用方法与配置说明

基本运行命令

运行镜像时需指定模型名称及其他必要参数,基本命令格式如下:

docker run langtechbsc/vllm-with-params:0.6.3 -e PARAMS --model model_name --[other arguments]

参数说明

  • model_name:需替换为实际使用的语言模型名称(如具体模型标识)
  • [other arguments]:需替换为其他必要的命令行参数(根据模型运行需求配置)
  • PARAMS:用于传递自定义命令行参数到容器内程序的环境变量

启用固定版本hermes-tool-parser

当使用标签格式为x.y.z.1的镜像版本时,可通过以下选项启用固定版本的hermes-tool-parser:

--tool-call-parser hermes_fixed

使用注意事项

运行时需确保已将model_name和[other arguments]替换为符合实际需求的值,以保证模型正常启动和运行。

查看更多 vllm-with-params 相关镜像 →
rocm/vllm-ci logo
rocm/vllm-ci
by AMD
认证
该仓库用于托管vllm项目持续集成(CI)流程所需的镜像,旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持,确保CI流程高效、可靠地运行,满足vllm项目在开发迭代过程中对集成环境的镜像需求,助力项目快速验证代码变更、保障软件质量。
4500K+ pulls
上次更新:9 分钟前
rocm/vllm-dev logo
rocm/vllm-dev
by AMD
认证
rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像,集成vllm框架与AMD GPU加速能力,专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖,支持低延迟、高吞吐量的LLM推理,可快速进行模型加载、性能调优与多实例部署测试,助力开发者高效构建和调试大语言模型应用,充分发挥AMD GPU在AI计算中的算力优势。
11100K+ pulls
上次更新:12 小时前
rocm/vllm logo
rocm/vllm
by AMD
认证
这是为AMD图形处理器(GPU)量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器,其中vLLM作为高性能大语言模型服务库,可提供高效推理与服务能力,Docker容器则保障了部署的便捷性与环境一致性,整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。
1650K+ pulls
上次更新:18 天前
jetbrains/code-with-me-relay logo
jetbrains/code-with-me-relay
by JetBrains
认证
JetBrains官方Code With Me中继服务器镜像。
3100K+ pulls
上次更新:3 个月前

常见问题

轩辕镜像免费版与专业版有什么区别?

免费版仅支持 Docker Hub 加速,不承诺可用性和速度;专业版支持更多镜像源,保证可用性和稳定速度,提供优先客服响应。

轩辕镜像免费版与专业版有分别支持哪些镜像?

免费版仅支持 docker.io;专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等。

流量耗尽错误提示

当返回 402 Payment Required 错误时,表示流量已耗尽,需要充值流量包以恢复服务。

410 错误问题

通常由 Docker 版本过低导致,需要升级到 20.x 或更高版本以支持 V2 协议。

manifest unknown 错误

先检查 Docker 版本,版本过低则升级;版本正常则验证镜像信息是否正确。

镜像拉取成功后,如何去掉轩辕镜像域名前缀?

使用 docker tag 命令为镜像打上新标签,去掉域名前缀,使镜像名称更简洁。

查看全部问题→

轩辕镜像下载加速使用手册

探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式

🔐

登录方式进行 Docker 镜像下载加速教程

通过 Docker 登录方式配置轩辕镜像加速服务,包含7个详细步骤

🐧

Linux Docker 镜像下载加速教程

在 Linux 系统上配置轩辕镜像源,支持主流发行版

🖥️

Windows/Mac Docker 镜像下载加速教程

在 Docker Desktop 中配置轩辕镜像加速,适用于桌面系统

📦

Docker Compose 镜像下载加速教程

在 Docker Compose 中使用轩辕镜像加速,支持容器编排

📋

K8s containerd 镜像下载加速教程

在 k8s 中配置 containerd 使用轩辕镜像加速

🔧

宝塔面板 Docker 镜像下载加速教程

在宝塔面板中配置轩辕镜像加速,提升服务器管理效率

💾

群晖 NAS Docker 镜像下载加速教程

在 Synology 群晖NAS系统中配置轩辕镜像加速

🐂

飞牛fnOS Docker 镜像下载加速教程

在飞牛fnOS系统中配置轩辕镜像加速

📱

极空间 NAS Docker 镜像下载加速教程

在极空间NAS中配置轩辕镜像加速

⚡

爱快路由 ikuai Docker 镜像下载加速教程

在爱快ikuai系统中配置轩辕镜像加速

🔗

绿联 NAS Docker 镜像下载加速教程

在绿联NAS系统中配置轩辕镜像加速

🌐

威联通 NAS Docker 镜像下载加速教程

在威联通NAS系统中配置轩辕镜像加速

📦

Podman Docker 镜像下载加速教程

在 Podman 中配置轩辕镜像加速,支持多系统

📚

ghcr、Quay、nvcr、k8s、gcr 等仓库下载镜像加速教程

配置轩辕镜像加速9大主流镜像仓库,包含详细配置步骤

🚀

专属域名方式进行 Docker 镜像下载加速教程

无需登录即可使用轩辕镜像加速服务,更加便捷高效

需要其他帮助?请查看我们的 常见问题 或 官方QQ群: 13763429

商务:17300950906
|©2024-2025 源码跳动
商务合作电话:17300950906|Copyright © 2024-2025 杭州源码跳动科技有限公司. All rights reserved.