ai/smollm2-vllm Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务
ai/smollm2-vllmSmolLM 2是为速度、边缘设备和本地开发构建的小型LLM系列，提供135M、360M、1.7B参数版本，以Safetensors格式打包并采用vLLM导向布局，便于通过Docker Hub分发。
SmolLM 2
!Huggingface Logo
为速度、边缘设备和本地开发构建的小型LLM系列。
概述
SmolLM 2是SmolLM2 Instruct系列（135M · 360M · 1.7B）的OCI模型工件，以Safetensors格式打包，并采用vLLM导向的布局/配置，便于通过Docker Hub进行分发。
核心功能与特性
- 模型权重：包含
*.safetensors格式的模型权重文件 - 配置文件：提供vLLM布局的相关配置文件，确保与vLLM框架兼容
使用场景与适用范围
- 边缘设备：适用于资源受限的边缘计算环境
- 本地开发：支持开发者在本地环境快速部署和测试LLM模型
- 轻量级AI应用：适合对模型大小和响应速度有要求的应用场景
使用方法与配置说明
注意事项
- DMR支持：Docker Model Runner（DMR）暂不支持safetensors格式，计划在未来版本中支持。
*-vllm镜像：当前提供的*-vllm镜像用于支持vLLM兼容的safetensor模型。其长期定位仍在讨论中，可能的方案包括保持现状或探索基于OCI索引的分发（以提供类似--platform的功能）。具体方案将根据分发标准和框架兼容性进行调整，目标是保持实用性和开发者友好性。
模型来源
- SmolLM2-1.7B-Instruct
- SmolLM2-360M-Instruct
- SmolLM2-135M-Instruct
ai/smollm2
Docker AI 官方镜像
为速度、边缘设备和本地开发构建的小型语言模型
32 次收藏10万+ 次下载
6 个月前更新
rocm/vllm-ci
rocm
该仓库用于托管vllm项目持续集成（CI）流程所需的镜像，旨在为vllm-ci相关的自动化构建、测试及部署环节提供稳定的镜像存储与管理支持，确保CI流程高效、可靠地运行，满足vllm项目在开发迭代过程中对集成环境的镜像需求，助力项目快速验证代码变更、保障软件质量。
5 次收藏50万+ 次下载
10 天前更新
rocm/vllm-dev
rocm
rocm/vllm-dev是基于AMD ROCm平台的高性能大语言模型开发镜像，集成vllm框架与AMD GPU加速能力，专为开发者打造大语言模型部署、推理优化及二次开发环境。镜像预配置PyTorch、HIP等核心依赖，支持低延迟、高吞吐量的LLM推理，可快速进行模型加载、性能调优与多实例部署测试，助力开发者高效构建和调试大语言模型应用，充分发挥AMD GPU在AI计算中的算力优势。
18 次收藏10万+ 次下载
12 天前更新
rocm/vllm
rocm
这是为AMD图形处理器（GPU）量身打造的、基于ROCm开源平台深度优化的vLLM Docker容器，其中vLLM作为高性能大语言模型服务库，可提供高效推理与服务能力，Docker容器则保障了部署的便捷性与环境一致性，整体方案旨在为AMD GPU用户提供兼顾性能与易用性的优化大语言模型运行环境。
21 次收藏10万+ 次下载
1 个月前更新
ai/kimi-k2-vllm
Docker AI 官方镜像
Kimi K2 Thinking是最新开源思考模型，作为能逐步推理并动态调用工具的思考代理，具备深度多步推理能力，支持200-300次连续工具调用，原生INT4量化实现低延迟和低GPU内存占用，上下文窗口达256k。
1 次收藏1万+ 次下载
3 个月前更新
ai/gpt-oss-vllm
Docker AI 官方镜像
OpenAI的开源权重模型，专为强大的推理能力和代理任务设计，适用于多用途开发场景。
1 次收藏1万+ 次下载
4 个月前更新
镜像拉取常见问题
使用与功能问题
错误码与失败问题
manifest unknown 错误：镜像不存在或标签错误
manifest unknown 错误
TLS/SSL 证书验证失败：Docker pull 时 HTTPS 证书错误
TLS 证书验证失败
DNS 解析超时：无法解析镜像仓库地址或连接超时
DNS 解析超时
410 Gone 错误：Docker 版本过低导致协议不兼容
410 错误：版本过低
402 Payment Required 错误：流量耗尽错误提示
402 错误：流量耗尽
401 UNAUTHORIZED 错误：身份认证失败或登录信息错误
身份认证失败错误
429 Too Many Requests 错误：请求频率超出专业版限制
429 限流错误
Docker login 凭证保存错误：Cannot autolaunch D-Bus（不影响登录）
凭证保存错误
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"