热门搜索:
ai/smollm2
为速度、边缘设备和本地开发构建的小型语言模型
让 AI 帮你使用轩辕镜像？ · 展开查看说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
SmolLM2
!https://github.com/docker/model-cards/raw/refs/heads/main/logos/***
SmolLM2-360M 是一款拥有 3.6 亿参数的紧凑型语言模型，设计用于在设备端高效运行，同时执行广泛的语言任务。它在 4 万亿 tokens 的多样化数据集（包括 FineWeb-Edu、DCLM、The Stack 以及新整理的过滤数据源）上训练而成，在指令遵循、知识掌握和推理能力方面表现出色。指令版本通过在公共和专有数据集混合集上进行监督微调（SFT）开发，随后使用 UltraFeedback 进行直接偏好优化（DPO）。
预期用途
SmolLM2 设计用于：
- 聊天助手
- 文本提取
- 重写和摘要
特性
| 属性 | 详情 |
|---|---|
| 提供商 | Hugging Face |
| 架构 | Llama2 |
| 数据截止日期 | 2024年6月 |
| 支持语言 | 英语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/smollm2:latestai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:135M-Q4_0 | 1.35亿 | Q4_0 | 8K tokens | 0.35 GiB | 85.77 MB |
ai/smollm2:135M-Q4_K_M | 1.35亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.36 GiB | 98.87 MB |
ai/smollm2:135M-F16 | 1.35亿 | F16 | 8K tokens | 0.51 GiB | 256.63 MB |
ai/smollm2:135M-Q2_K | 1.35亿 | Q2_K | 8K tokens | 0.34 GiB | 82.41 MB |
ai/smollm2:360M-Q4_0 | 3.6亿 | Q4_0 | 8K tokens | 0.59 GiB | 216.80 MB |
ai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:360M-F16 | 3.6亿 | F16 | 8K tokens | 1.06 GiB | 690.24 MB |
¹: 显存基于模型特性估算。
latest→360M-Q4_K_M
使用Docker Model Runner运行此AI模型
首先，拉取模型：
bashdocker model pull ai/smollm2
然后运行模型：
bashdocker model run ai/smollm2
有关Docker Model Runner的更多信息，请查阅文档。
基准性能
| 类别 | 基准测试 | 得分 |
|---|---|---|
| 推理 | HellaSwag | 54.5 |
| 科学 | OpenBookQA | 37.4 |
| ARC | 53.0 | |
| 推理 | PIQA | 71.7 |
| CommonsenseQA | 38.0 | |
| Winogrande | 52.5 | |
| 热门综合基准测试 | MMLU (完形填空) | 35.8 |
| TriviaQA (保留集) | 16.9 | |
| 数学 | GSM8K (5次示例) | 3.2 |
链接
- SmolLM2：当小型模型走向强大——小型语言模型的数据中心训练
更多相关 Docker 镜像与资源
以下是 ai/smollm2 相关的常用 Docker 镜像，适用于 不同场景 等不同场景：
- ai/gpt-oss Docker 镜像说明（Docker 官方 GPT-OSS 系列模型镜像，适合开源大模型推理与实验部署）
- ai/gemma3 Docker 镜像说明（Docker 官方 Gemma 3 模型推理镜像，适合轻量开源语言模型服务）
- vllm/vllm-openai Docker 镜像说明
- dengcao/vllm-openai Docker 镜像说明（社区维护的 vLLM OpenAI 兼容推理镜像，适合自建大模型 HTTP API）
- ai/gemma4 Docker 镜像说明（Docker 官方 Gemma 4 模型推理镜像，适合新一代轻量语言模型服务）
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
DockerHub 原生拉取命令
docker model pull ai/smollm2:<标签>
更多 smollm2 镜像推荐
ai/qwen3
Docker AI 官方镜像
Qwen3是通义千问系列最新推出的大语言模型，作为新一代人工智能技术成果，它专为顶尖级代码编写、数学计算、逻辑推理及语言处理任务打造，凭借先进的算法架构与深度优化的模型性能，能够高效应对多领域复杂场景下的专业需求，为用户提供精准、智能的解决方案，展现出在技术研发与应用落地中的卓越潜力。
152 次收藏50万+ 次下载
7 个月前更新
ai/gemma3
Docker AI 官方镜像
Google最新推出的AI模型Gemma，虽体型小巧却性能强劲，尤其在聊天交互与内容生成领域表现突出；其轻量化设计不仅便于高效部署，还能在保证响应速度的同时，持续输出高质量内容，为用户带来便捷且智能的使用体验，是一款兼顾小巧体型与强大功能的新一代AI模型。
60 次收藏50万+ 次下载
8 个月前更新
ai/gpt-oss
Docker AI 官方镜像
OpenAI的开源权重模型系列，设计用于强大的推理、代理任务和多用途开发场景，提供多种量化版本以适应不同资源需求。
43 次收藏10万+ 次下载
7 个月前更新
ai/gemma3n
Docker AI 官方镜像
为低资源设备提供高效多模态AI，支持文本、图像、音频和视频处理。
10 次收藏5万+ 次下载
11 个月前更新
ai/llama3.2
Docker AI 官方镜像
LLaMA 3的此次稳定更新显著提升了模型性能，在编码开发、日常聊天及各类问答任务中均展现出可靠表现，能够高效处理多样化的用户需求，无论是辅助编写代码、进行流畅对话还是解答专业问题，都具备稳定且出色的任务执行能力，为用户提供了更为实用的人工智能工具支持。
27 次收藏10万+ 次下载
1 年前更新
ai/deepseek-r1-distill-llama
Docker AI 官方镜像
由DeepSeek开发的蒸馏版LLaMA模型，快速且针对实际任务优化，适用于高效执行各类真实场景任务。
77 次收藏10万+ 次下载
1 年前更新
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"