ai/smollm2
为速度、边缘设备和本地开发构建的小型语言模型
SmolLM2
!https://github.com/docker/model-cards/raw/refs/heads/main/logos/***
SmolLM2-360M 是一款拥有 3.6 亿参数的紧凑型语言模型，设计用于在设备端高效运行，同时执行广泛的语言任务。它在 4 万亿 tokens 的多样化数据集（包括 FineWeb-Edu、DCLM、The Stack 以及新整理的过滤数据源）上训练而成，在指令遵循、知识掌握和推理能力方面表现出色。指令版本通过在公共和专有数据集混合集上进行监督微调（SFT）开发，随后使用 UltraFeedback 进行直接偏好优化（DPO）。
预期用途
SmolLM2 设计用于：
- 聊天助手
- 文本提取
- 重写和摘要
特性
| 属性 | 详情 |
|---|---|
| 提供商 | Hugging Face |
| 架构 | Llama2 |
| 数据截止日期 | 2024年6月 |
| 支持语言 | 英语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/smollm2:latestai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:135M-Q4_0 | 1.35亿 | Q4_0 | 8K tokens | 0.35 GiB | 85.77 MB |
ai/smollm2:135M-Q4_K_M | 1.35亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.36 GiB | 98.87 MB |
ai/smollm2:135M-F16 | 1.35亿 | F16 | 8K tokens | 0.51 GiB | 256.63 MB |
ai/smollm2:135M-Q2_K | 1.35亿 | Q2_K | 8K tokens | 0.34 GiB | 82.41 MB |
ai/smollm2:360M-Q4_0 | 3.6亿 | Q4_0 | 8K tokens | 0.59 GiB | 216.80 MB |
ai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:360M-F16 | 3.6亿 | F16 | 8K tokens | 1.06 GiB | 690.24 MB |
¹: 显存基于模型特性估算。
latest→360M-Q4_K_M
使用Docker Model Runner运行此AI模型
首先，拉取模型：
bashdocker model pull ai/smollm2
然后运行模型：
bashdocker model run ai/smollm2
有关Docker Model Runner的更多信息，请查阅文档。
基准性能
| 类别 | 基准测试 | 得分 |
|---|---|---|
| 推理 | HellaSwag | 54.5 |
| 科学 | OpenBookQA | 37.4 |
| ARC | 53.0 | |
| 推理 | PIQA | 71.7 |
| CommonsenseQA | 38.0 | |
| Winogrande | 52.5 | |
| 热门综合基准测试 | MMLU (完形填空) | 35.8 |
| TriviaQA (保留集) | 16.9 | |
| 数学 | GSM8K (5次示例) | 3.2 |
链接
- SmolLM2：当小型模型走向强大——小型语言模型的数据中心训练
ai/qwen3
Docker AI 官方镜像
Qwen3是通义千问系列最新推出的大语言模型，作为新一代人工智能技术成果，它专为顶尖级代码编写、数学计算、逻辑推理及语言处理任务打造，凭借先进的算法架构与深度优化的模型性能，能够高效应对多领域复杂场景下的专业需求，为用户提供精准、智能的解决方案，展现出在技术研发与应用落地中的卓越潜力。
137 次收藏50万+ 次下载
5 个月前更新
ai/gpt-oss
Docker AI 官方镜像
OpenAI的开源权重模型系列，设计用于强大的推理、代理任务和多用途开发场景，提供多种量化版本以适应不同资源需求。
42 次收藏10万+ 次下载
5 个月前更新
ai/gemma3n
Docker AI 官方镜像
为低资源设备提供高效多模态AI，支持文本、图像、音频和视频处理。
10 次收藏5万+ 次下载
9 个月前更新
ai/gemma3
Docker AI 官方镜像
Google最新推出的AI模型Gemma，虽体型小巧却性能强劲，尤其在聊天交互与内容生成领域表现突出；其轻量化设计不仅便于高效部署，还能在保证响应速度的同时，持续输出高质量内容，为用户带来便捷且智能的使用体验，是一款兼顾小巧体型与强大功能的新一代AI模型。
57 次收藏50万+ 次下载
6 个月前更新
ai/llama3.2
Docker AI 官方镜像
LLaMA 3的此次稳定更新显著提升了模型性能，在编码开发、日常聊天及各类问答任务中均展现出可靠表现，能够高效处理多样化的用户需求，无论是辅助编写代码、进行流畅对话还是解答专业问题，都具备稳定且出色的任务执行能力，为用户提供了更为实用的人工智能工具支持。
25 次收藏10万+ 次下载
11 个月前更新
ai/deepseek-r1-distill-llama
Docker AI 官方镜像
由DeepSeek开发的蒸馏版LLaMA模型，快速且针对实际任务优化，适用于高效执行各类真实场景任务。
76 次收藏10万+ 次下载
11 个月前更新
轩辕镜像配置手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
Docker 配置
登录仓库拉取
通过 Docker 登录认证访问私有仓库
专属域名拉取
无需登录使用专属域名
K8s Containerd
Kubernetes 集群配置 Containerd
K3s
K3s 轻量级 Kubernetes 镜像加速
Dev Containers
VS Code Dev Containers 配置
Podman
Podman 容器引擎配置
Singularity/Apptainer
HPC 科学计算容器配置
其他仓库配置
ghcr、Quay、nvcr 等镜像仓库
Harbor 镜像源配置
Harbor Proxy Repository 对接专属域名
Portainer 镜像源配置
Portainer Registries 加速拉取
Nexus 镜像源配置
Nexus3 Docker Proxy 内网缓存
系统配置
需要其他帮助？请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
镜像拉取常见问题
使用与功能问题
错误码与失败问题
docker pull 提示 manifest unknown 怎么办？
manifest unknown
docker pull 提示 no matching manifest 怎么办？
no matching manifest（架构）
镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？
invalid tar header（解压）
Docker pull 时 HTTPS / TLS 证书验证失败怎么办？
TLS 证书失败
Docker pull 时 DNS 解析超时或连不上仓库怎么办？
DNS 超时
Docker 拉取出现 410 Gone 怎么办？
410 Gone 排查
出现 402 或「流量用尽」提示怎么办？
402 与流量用尽
Docker 拉取提示 UNAUTHORIZED（401）怎么办？
401 认证失败
遇到 429 Too Many Requests（请求太频繁）怎么办？
429 限流
docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？
D-Bus 凭证提示
为什么会出现「单层超过 20GB」或 413，无法加速拉取？
413 与超大单层
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"