ai/smollm2 Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务
ai/smollm2为速度、边缘设备和本地开发构建的小型语言模型
SmolLM2
!logo
SmolLM2-360M 是一款拥有 3.6 亿参数的紧凑型语言模型，设计用于在设备端高效运行，同时执行广泛的语言任务。它在 4 万亿 tokens 的多样化数据集（包括 FineWeb-Edu、DCLM、The Stack 以及新整理的过滤数据源）上训练而成，在指令遵循、知识掌握和推理能力方面表现出色。指令版本通过在公共和专有数据集混合集上进行监督微调（SFT）开发，随后使用 UltraFeedback 进行直接偏好优化（DPO）。
预期用途
SmolLM2 设计用于：
- 聊天助手
- 文本提取
- 重写和摘要
特性
| 属性 | 详情 |
|---|---|
| 提供商 | Hugging Face |
| 架构 | Llama2 |
| 数据截止日期 | 2024年6月 |
| 支持语言 | 英语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/smollm2:latestai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:135M-Q4_0 | 1.35亿 | Q4_0 | 8K tokens | 0.35 GiB | 85.77 MB |
ai/smollm2:135M-Q4_K_M | 1.35亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.36 GiB | 98.87 MB |
ai/smollm2:135M-F16 | 1.35亿 | F16 | 8K tokens | 0.51 GiB | 256.63 MB |
ai/smollm2:135M-Q2_K | 1.35亿 | Q2_K | 8K tokens | 0.34 GiB | 82.41 MB |
ai/smollm2:360M-Q4_0 | 3.6亿 | Q4_0 | 8K tokens | 0.59 GiB | 216.80 MB |
ai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:360M-F16 | 3.6亿 | F16 | 8K tokens | 1.06 GiB | 690.24 MB |
¹: 显存基于模型特性估算。
latest→360M-Q4_K_M
使用Docker Model Runner运行此AI模型
首先，拉取模型：
bashdocker model pull ai/smollm2
然后运行模型：
bashdocker model run ai/smollm2
有关Docker Model Runner的更多信息，请查阅文档。
基准性能
| 类别 | 基准测试 | 得分 |
|---|---|---|
| 推理 | HellaSwag | 54.5 |
| 科学 | OpenBookQA | 37.4 |
| ARC | 53.0 | |
| 推理 | PIQA | 71.7 |
| CommonsenseQA | 38.0 | |
| Winogrande | 52.5 | |
| 热门综合基准测试 | MMLU (完形填空) | 35.8 |
| TriviaQA (保留集) | 16.9 | |
| 数学 | GSM8K (5次示例) | 3.2 |
链接
- SmolLM2：当小型模型走向强大——小型语言模型的数据中心训练
dhi/airflow
dhi
A minimal Airflow image
10万+ 次下载
17 天前更新
ai/qwen3
Docker AI 官方镜像
Qwen3是通义千问系列最新推出的大语言模型，作为新一代人工智能技术成果，它专为顶尖级代码编写、数学计算、逻辑推理及语言处理任务打造，凭借先进的算法架构与深度优化的模型性能，能够高效应对多领域复杂场景下的专业需求，为用户提供精准、智能的解决方案，展现出在技术研发与应用落地中的卓越潜力。
112 次收藏50万+ 次下载
3 个月前更新
ai/gpt-oss
Docker AI 官方镜像
OpenAI的开源权重模型系列，设计用于强大的推理、代理任务和多用途开发场景，提供多种量化版本以适应不同资源需求。
38 次收藏10万+ 次下载
3 个月前更新
ai/gemma3
Docker AI 官方镜像
Google最新推出的AI模型Gemma，虽体型小巧却性能强劲，尤其在聊天交互与内容生成领域表现突出；其轻量化设计不仅便于高效部署，还能在保证响应速度的同时，持续输出高质量内容，为用户带来便捷且智能的使用体验，是一款兼顾小巧体型与强大功能的新一代AI模型。
51 次收藏50万+ 次下载
5 个月前更新
ai/gemma3n
Docker AI 官方镜像
为低资源设备提供高效多模态AI，支持文本、图像、音频和视频处理。
10 次收藏5万+ 次下载
8 个月前更新
ai/llama3.2
Docker AI 官方镜像
LLaMA 3的此次稳定更新显著提升了模型性能，在编码开发、日常聊天及各类问答任务中均展现出可靠表现，能够高效处理多样化的用户需求，无论是辅助编写代码、进行流畅对话还是解答专业问题，都具备稳定且出色的任务执行能力，为用户提供了更为实用的人工智能工具支持。
23 次收藏10万+ 次下载
10 个月前更新
镜像拉取常见问题
使用与功能问题
错误码与失败问题
manifest unknown 错误：镜像不存在或标签错误
manifest unknown 错误
TLS/SSL 证书验证失败：Docker pull 时 HTTPS 证书错误
TLS 证书验证失败
DNS 解析超时：无法解析镜像仓库地址或连接超时
DNS 解析超时
410 Gone 错误：Docker 版本过低导致协议不兼容
410 错误：版本过低
402 Payment Required 错误：流量耗尽错误提示
402 错误：流量耗尽
401 UNAUTHORIZED 错误：身份认证失败或登录信息错误
身份认证失败错误
429 Too Many Requests 错误：请求频率超出专业版限制
429 限流错误
Docker login 凭证保存错误：Cannot autolaunch D-Bus（不影响登录）
凭证保存错误
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"
镜像拉取问题咨询请 提交工单，官方技术交流群：1072982923
轩辕镜像面向开发者与科研用户，提供开源镜像的搜索和访问支持。所有镜像均来源于原始仓库，本站不存储、不修改、不传播任何镜像内容。