热门搜索:
ai/smollm2
为速度、边缘设备和本地开发构建的小型语言模型
让 AI 帮你使用轩辕镜像？ · 展开查看说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
SmolLM2
!https://github.com/docker/model-cards/raw/refs/heads/main/logos/***
SmolLM2-360M is a compact language model with 360 million parameters, designed to run efficiently on-device while performing a wide range of language tasks. Trained on 4 trillion tokens from a diverse mix of datasets—including FineWeb-Edu, DCLM, The Stack, and newly curated filtered sources—it delivers strong performance in instruction following, knowledge, and reasoning. The instruct version was developed through supervised fine-tuning (SFT) on a blend of public and proprietary datasets, followed by Direct Preference Optimization (DPO) using UltraFeedback.
Intended uses
SmolLM2 is designed for:
- Chat assistants
- Text-extraction
- Rewriting and summarization
Characteristics
| Attribute | Details |
|---|---|
| Provider | Hugging Face |
| Architecture | Llama2 |
| Cutoff date | June 2024 |
| Languages | English |
| Tool calling | ✅ |
| Input modalities | Text |
| Output modalities | Text |
| License | Apache 2.0 |
Available model variants
| Model variant | Parameters | Quantization | Context window | VRAM¹ | Size |
|---|---|---|---|---|---|
ai/smollm2:latestai/smollm2:360M-Q4_K_M | 360M | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:135M-Q4_0 | 135M | Q4_0 | 8K tokens | 0.35 GiB | 85.77 MB |
ai/smollm2:135M-Q4_K_M | 135M | IQ2_XXS/Q4_K_M | 8K tokens | 0.36 GiB | 98.87 MB |
ai/smollm2:135M-F16 | 135M | F16 | 8K tokens | 0.51 GiB | 256.63 MB |
ai/smollm2:135M-Q2_K | 135M | Q2_K | 8K tokens | 0.34 GiB | 82.41 MB |
ai/smollm2:360M-Q4_0 | 360M | Q4_0 | 8K tokens | 0.59 GiB | 216.80 MB |
ai/smollm2:360M-Q4_K_M | 360M | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:360M-F16 | 360M | F16 | 8K tokens | 1.06 GiB | 690.24 MB |
¹: VRAM estimated based on model characteristics.
latest→360M-Q4_K_M
Use this AI model with Docker Model Runner
First, pull the model:
bashdocker model pull ai/smollm2
Then run the model:
bashdocker model run ai/smollm2
For more information on Docker Model Runner, explore the documentation.
Benchmark performance
| Category | Benchmark | Score |
|---|---|---|
| Reasoning | HellaSwag | 54.5 |
| Science | OpenBookQA | 37.4 |
| ARC | 53.0 | |
| Reasoning | PIQA | 71.7 |
| CommonsenseQA | 38.0 | |
| Winogrande | 52.5 | |
| Popular Aggregated Benchmark | MMLU (cloze) | 35.8 |
| TriviaQA (held-out) | 16.9 | |
| Math | GSM8K (5-shot) | 3.2 |
Links
- SmolLM2: When Smol Goes Big -- Data-Centric Training of a Small Language Model
更多相关 Docker 镜像与资源
以下是 ai/smollm2 相关的常用 Docker 镜像，适用于 不同场景 等不同场景：
- ai/gpt-oss Docker 镜像说明（Docker 官方 GPT-OSS 系列模型镜像，适合开源大模型推理与实验部署）
- ai/gemma3 Docker 镜像说明（Docker 官方 Gemma 3 模型推理镜像，适合轻量开源语言模型服务）
- vllm/vllm-openai Docker 镜像说明
- dengcao/vllm-openai Docker 镜像说明（社区维护的 vLLM OpenAI 兼容推理镜像，适合自建大模型 HTTP API）
- ai/gemma4 Docker 镜像说明（Docker 官方 Gemma 4 模型推理镜像，适合新一代轻量语言模型服务）
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
DockerHub 原生拉取命令
docker model pull ai/smollm2:<标签>
更多 smollm2 镜像推荐
ai/qwen3
Docker AI 官方镜像
Qwen3是通义千问系列最新推出的大语言模型，作为新一代人工智能技术成果，它专为顶尖级代码编写、数学计算、逻辑推理及语言处理任务打造，凭借先进的算法架构与深度优化的模型性能，能够高效应对多领域复杂场景下的专业需求，为用户提供精准、智能的解决方案，展现出在技术研发与应用落地中的卓越潜力。
152 次收藏50万+ 次下载
7 个月前更新
ai/gemma3
Docker AI 官方镜像
Google最新推出的AI模型Gemma，虽体型小巧却性能强劲，尤其在聊天交互与内容生成领域表现突出；其轻量化设计不仅便于高效部署，还能在保证响应速度的同时，持续输出高质量内容，为用户带来便捷且智能的使用体验，是一款兼顾小巧体型与强大功能的新一代AI模型。
60 次收藏50万+ 次下载
8 个月前更新
ai/gpt-oss
Docker AI 官方镜像
OpenAI的开源权重模型系列，设计用于强大的推理、代理任务和多用途开发场景，提供多种量化版本以适应不同资源需求。
43 次收藏10万+ 次下载
7 个月前更新
ai/gemma3n
Docker AI 官方镜像
为低资源设备提供高效多模态AI，支持文本、图像、音频和视频处理。
10 次收藏5万+ 次下载
11 个月前更新
ai/llama3.2
Docker AI 官方镜像
LLaMA 3的此次稳定更新显著提升了模型性能，在编码开发、日常聊天及各类问答任务中均展现出可靠表现，能够高效处理多样化的用户需求，无论是辅助编写代码、进行流畅对话还是解答专业问题，都具备稳定且出色的任务执行能力，为用户提供了更为实用的人工智能工具支持。
27 次收藏10万+ 次下载
1 年前更新
ai/deepseek-r1-distill-llama
Docker AI 官方镜像
由DeepSeek开发的蒸馏版LLaMA模型，快速且针对实际任务优化，适用于高效执行各类真实场景任务。
77 次收藏10万+ 次下载
1 年前更新
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"