本站支持搜索的镜像仓库:Docker Hub、gcr.io、ghcr.io、quay.io、k8s.gcr.io、registry.gcr.io、elastic.co、mcr.microsoft.com

!logo
SmolLM2-360M 是一款拥有 3.6 亿参数的紧凑型语言模型,设计用于在设备端高效运行,同时执行广泛的语言任务。它在 4 万亿 tokens 的多样化数据集(包括 FineWeb-Edu、DCLM、The Stack 以及新整理的过滤数据源)上训练而成,在指令遵循、知识掌握和推理能力方面表现出色。指令版本通过在公共和专有数据集混合集上进行监督微调(SFT)开发,随后使用 UltraFeedback 进行直接偏好优化(DPO)。
SmolLM2 设计用于:
| 属性 | 详情 |
|---|---|
| 提供商 | Hugging Face |
| 架构 | Llama2 |
| 数据截止日期 | 2024年6月 |
| 支持语言 | 英语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/smollm2:latestai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:135M-Q4_0 | 1.35亿 | Q4_0 | 8K tokens | 0.35 GiB | 85.77 MB |
ai/smollm2:135M-Q4_K_M | 1.35亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.36 GiB | 98.87 MB |
ai/smollm2:135M-F16 | 1.35亿 | F16 | 8K tokens | 0.51 GiB | 256.63 MB |
ai/smollm2:135M-Q2_K | 1.35亿 | Q2_K | 8K tokens | 0.34 GiB | 82.41 MB |
ai/smollm2:360M-Q4_0 | 3.6亿 | Q4_0 | 8K tokens | 0.59 GiB | 216.80 MB |
ai/smollm2:360M-Q4_K_M | 3.6亿 | IQ2_XXS/Q4_K_M | 8K tokens | 0.63 GiB | 256.35 MB |
ai/smollm2:360M-F16 | 3.6亿 | F16 | 8K tokens | 1.06 GiB | 690.24 MB |
¹: 显存基于模型特性估算。
latest→360M-Q4_K_M
首先,拉取模型:
docker model pull ai/smollm2
然后运行模型:
docker model run ai/smollm2
有关Docker Model Runner的更多信息,请查阅文档。
| 类别 | 基准测试 | 得分 |
|---|---|---|
| 推理 | HellaSwag | 54.5 |
| 科学 | OpenBookQA | 37.4 |
| ARC | 53.0 | |
| 推理 | PIQA | 71.7 |
| CommonsenseQA | 38.0 | |
| Winogrande | 52.5 | |
| 热门综合基准测试 | MMLU (完形填空) | 35.8 |
| TriviaQA (保留集) | 16.9 | |
| 数学 | GSM8K (5次示例) | 3.2 |
免费版仅支持 Docker Hub 加速,不承诺可用性和速度;专业版支持更多镜像源,保证可用性和稳定速度,提供优先客服响应。
免费版仅支持 docker.io;专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等。
当返回 402 Payment Required 错误时,表示流量已耗尽,需要充值流量包以恢复服务。
通常由 Docker 版本过低导致,需要升级到 20.x 或更高版本以支持 V2 协议。
先检查 Docker 版本,版本过低则升级;版本正常则验证镜像信息是否正确。
使用 docker tag 命令为镜像打上新标签,去掉域名前缀,使镜像名称更简洁。
探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录方式配置轩辕镜像加速服务,包含7个详细步骤
在 Linux 系统上配置轩辕镜像源,支持主流发行版
在 Docker Desktop 中配置轩辕镜像加速,适用于桌面系统
在 Docker Compose 中使用轩辕镜像加速,支持容器编排
在 k8s 中配置 containerd 使用轩辕镜像加速
在宝塔面板中配置轩辕镜像加速,提升服务器管理效率
在 Synology 群晖NAS系统中配置轩辕镜像加速
在飞牛fnOS系统中配置轩辕镜像加速
在极空间NAS中配置轩辕镜像加速
在爱快ikuai系统中配置轩辕镜像加速
在绿联NAS系统中配置轩辕镜像加速
在威联通NAS系统中配置轩辕镜像加速
在 Podman 中配置轩辕镜像加速,支持多系统
配置轩辕镜像加速9大主流镜像仓库,包含详细配置步骤
无需登录即可使用轩辕镜像加速服务,更加便捷高效
需要其他帮助?请查看我们的 常见问题 或 官方QQ群: 13763429