智能编码大语言模型(24B参数),基于Mistral-Small-3.1微调,具备128K上下文窗口,专为软件工程智能体设计,支持Mistral风格工具/函数调用。

4 次收藏下载次数: 0状态:社区镜像维护者:Docker AI 官方镜像仓库类型:镜像最近更新:
下载命令
点击查看

Devstral Small 1.1

Unsloth提供的GGUF版本

概述

Devstral Small 1.1 是一款智能编码大语言模型(24B参数),基于Mistral-Small-3.1微调,具备128K上下文窗口。专为软件工程智能体设计,支持Mistral风格的工具/函数调用。仅支持文本输入输出。本Unsloth GGUF版本采用Apache-2.0许可协议。

核心特性

属性详情
提供商Mistral AI
架构Llama
数据截止日期2023-10-01
支持语言多语言(24种语言)
工具调用支持
输入模态文本
输出模态文本
许可协议https://www.apache.org/licenses/LICENSE-2.0

可用模型变体

模型变体参数数量量化方式上下文窗口显存¹大小
ai/devstral-small:24B

ai/devstral-small:24B-UD-Q4_K_XL

ai/devstral-small:latest
23.57BMOSTLY_Q4_K_M131K tokens14.63 GiB13.54 GB

¹: 显存估计基于模型特性。

latest → 24B

使用方法

使用Docker Model Runner运行此AI模型

bash
docker model run ai/devstral-small

注意事项

  • 仅支持文本:微调前已移除底层视觉编码器,不支持图像输入。

基准性能

类别指标Devstral Small 1.1
SWE-Bench
SWE-Bench 验证集(OpenHands 框架)53.6%

相关链接

  • https://mistral.ai/news/devstral-2507
  • https://huggingface.co/unsloth/Devstral-Small-2507-GGUF
  • https://docs.unsloth.ai/basics/unsloth-dynamic-2.0-ggufs

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。

轩辕镜像加速拉取命令点我查看更多 devstral-small 镜像标签

docker model pull docker.xuanyuan.run/ai/devstral-small:<标签>

DockerHub 原生拉取命令

docker model pull ai/devstral-small:<标签>
专业版 · 高速稳定拉取镜像
50GB 仅 ¥8/年
高速镜像下载在线技术支持专业版保障服务可用付费会员免广告