本站面向开发者与科研用户,提供开源镜像的搜索和下载加速服务。
所有镜像均来源于原始开源仓库,本站不存储、不修改、不传播任何镜像内容。

smollm2 Docker 镜像下载 - 轩辕镜像

smollm2 镜像详细信息和使用指南

smollm2 镜像标签列表和版本信息

smollm2 镜像拉取命令和加速下载

smollm2 镜像使用说明和配置指南

Docker 镜像加速服务 - 轩辕镜像平台

国内开发者首选的 Docker 镜像加速平台

极速拉取 Docker 镜像服务

相关 Docker 镜像推荐

热门 Docker 镜像下载

smollm2
ai/smollm2

smollm2 镜像详细信息

smollm2 镜像标签列表

smollm2 镜像使用说明

smollm2 镜像拉取命令

Docker 镜像加速服务

轩辕镜像平台优势

镜像下载指南

相关 Docker 镜像推荐

为速度、边缘设备和本地开发构建的小型语言模型
27 收藏0 次下载activeai

smollm2 镜像详细说明

smollm2 使用指南

smollm2 配置说明

smollm2 官方文档

SmolLM2

!logo

SmolLM2-360M 是一款拥有 3.6 亿参数的紧凑型语言模型,设计用于在设备端高效运行,同时执行广泛的语言任务。它在 4 万亿 tokens 的多样化数据集(包括 FineWeb-Edu、DCLM、The Stack 以及新整理的过滤数据源)上训练而成,在指令遵循、知识掌握和推理能力方面表现出色。指令版本通过在公共和专有数据集混合集上进行监督微调(SFT)开发,随后使用 UltraFeedback 进行直接偏好优化(DPO)。

预期用途

SmolLM2 设计用于:

  • 聊天助手
  • 文本提取
  • 重写和摘要

特性

属性详情
提供商Hugging Face
架构Llama2
数据截止日期2024年6月
支持语言英语
工具调用
输入模态文本
输出模态文本
许可证Apache 2.0

可用模型变体

模型变体参数量化方式上下文窗口显存¹大小
ai/smollm2:latest

ai/smollm2:360M-Q4_K_M
3.6亿IQ2_XXS/Q4_K_M8K tokens0.63 GiB256.35 MB
ai/smollm2:135M-Q4_01.35亿Q4_08K tokens0.35 GiB85.77 MB
ai/smollm2:135M-Q4_K_M1.35亿IQ2_XXS/Q4_K_M8K tokens0.36 GiB98.87 MB
ai/smollm2:135M-F161.35亿F168K tokens0.51 GiB256.63 MB
ai/smollm2:135M-Q2_K1.35亿Q2_K8K tokens0.34 GiB82.41 MB
ai/smollm2:360M-Q4_03.6亿Q4_08K tokens0.59 GiB216.80 MB
ai/smollm2:360M-Q4_K_M3.6亿IQ2_XXS/Q4_K_M8K tokens0.63 GiB256.35 MB
ai/smollm2:360M-F163.6亿F168K tokens1.06 GiB690.24 MB

¹: 显存基于模型特性估算。

latest360M-Q4_K_M

使用Docker Model Runner运行此AI模型

首先,拉取模型:

bash
docker model pull ai/smollm2

然后运行模型:

bash
docker model run ai/smollm2

有关Docker Model Runner的更多信息,请查阅文档。

基准性能

类别基准测试得分
推理HellaSwag54.5
科学OpenBookQA37.4
ARC53.0
推理PIQA71.7
CommonsenseQA38.0
Winogrande52.5
热门综合基准测试MMLU (完形填空)35.8
TriviaQA (保留集)16.9
数学GSM8K (5次示例)3.2

链接

  • SmolLM2:当小型模型走向强大——小型语言模型的数据中心训练
ai/qwen3 logo
ai/qwen3
by Docker
认证
Qwen3是通义千问系列最新推出的大语言模型,作为新一代人工智能技术成果,它专为顶尖级代码编写、数学计算、逻辑推理及语言处理任务打造,凭借先进的算法架构与深度优化的模型性能,能够高效应对多领域复杂场景下的专业需求,为用户提供精准、智能的解决方案,展现出在技术研发与应用落地中的卓越潜力。
79100K+ pulls
上次更新:1 个月前
ai/gpt-oss logo
ai/gpt-oss
by Docker
认证
OpenAI的开源权重模型系列,设计用于强大的推理、代理任务和多用途开发场景,提供多种量化版本以适应不同资源需求。
28100K+ pulls
上次更新:1 个月前
ai/gemma3n logo
ai/gemma3n
by Docker
认证
为低资源设备提供高效多模态AI,支持文本、图像、音频和视频处理。
950K+ pulls
上次更新:5 个月前
ai/gemma3 logo
ai/gemma3
by Docker
认证
Google最新推出的AI模型Gemma,虽体型小巧却性能强劲,尤其在聊天交互与内容生成领域表现突出;其轻量化设计不仅便于高效部署,还能在保证响应速度的同时,持续输出高质量内容,为用户带来便捷且智能的使用体验,是一款兼顾小巧体型与强大功能的新一代AI模型。
47100K+ pulls
上次更新:2 个月前
ai/llama3.2 logo
ai/llama3.2
by Docker
认证
LLaMA 3的此次稳定更新显著提升了模型性能,在编码开发、日常聊天及各类问答任务中均展现出可靠表现,能够高效处理多样化的用户需求,无论是辅助编写代码、进行流畅对话还是解答专业问题,都具备稳定且出色的任务执行能力,为用户提供了更为实用的人工智能工具支持。
22100K+ pulls
上次更新:7 个月前
ai/deepseek-r1-distill-llama logo
ai/deepseek-r1-distill-llama
by Docker
认证
由DeepSeek开发的蒸馏版LLaMA模型,快速且针对实际任务优化,适用于高效执行各类真实场景任务。
71100K+ pulls
上次更新:7 个月前

用户好评

来自真实用户的反馈,见证轩辕镜像的优质服务

oldzhang的头像

oldzhang

运维工程师

Linux服务器

5

"Docker加速体验非常流畅,大镜像也能快速完成下载。"