智能编码大语言模型(24B参数),基于Mistral-Small-3.1微调,具备128K上下文窗口,专为软件工程智能体设计,支持Mistral风格工具/函数调用。
Devstral Small 1.1
Unsloth提供的GGUF版本
概述
Devstral Small 1.1 是一款智能编码大语言模型(24B参数),基于Mistral-Small-3.1微调,具备128K上下文窗口。专为软件工程智能体设计,支持Mistral风格的工具/函数调用。仅支持文本输入输出。本Unsloth GGUF版本采用Apache-2.0许可协议。
核心特性
| 属性 | 详情 |
|---|---|
| 提供商 | Mistral AI |
| 架构 | Llama |
| 数据截止日期 | 2023-10-01 |
| 支持语言 | 多语言(24种语言) |
| 工具调用 | 支持 |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可协议 | https://www.apache.org/licenses/LICENSE-2.0 |
可用模型变体
| 模型变体 | 参数数量 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/devstral-small:24Bai/devstral-small:24B-UD-Q4_K_XLai/devstral-small:latest | 23.57B | MOSTLY_Q4_K_M | 131K tokens | 14.63 GiB | 13.54 GB |
¹: 显存估计基于模型特性。
latest→24B
使用方法
使用Docker Model Runner运行此AI模型
bashdocker model run ai/devstral-small
注意事项
- 仅支持文本:微调前已移除底层视觉编码器,不支持图像输入。
基准性能
| 类别 | 指标 | Devstral Small 1.1 |
|---|---|---|
| SWE-Bench | ||
| SWE-Bench 验证集(OpenHands 框架) | 53.6% |
相关链接
- https://mistral.ai/news/devstral-2507
- https://huggingface.co/unsloth/Devstral-Small-2507-GGUF
- https://docs.unsloth.ai/basics/unsloth-dynamic-2.0-ggufs
ai 命名空间的其他可用镜像:
ai/qwen3
Qwen3 大语言模型,适合 AI 应用开发
ai/deepseek-r1-distill-llama
DeepSeek R1 Distill Llama,大语言模型
ai/qwen3-embedding
Docker 官方模型镜像,Qwen3 文本嵌入与重排序,适合 RAG、语义检索与向量化流水线
ai/qwen3-vl
Docker 官方 Qwen3 多模态(VL)模型镜像,适合图文理解、视觉问答与多模态应用
ai/qwen3-vllm
Docker 官方 Qwen3 与 vLLM 推理组合镜像,适合高吞吐文本生成与 OpenAI 兼容 API 服务
ai/qwen3-embedding-vllm
Docker 官方 Qwen3 Embedding + vLLM 推理镜像,适合高吞吐语义检索与 RAG 向量化服务
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 devstral-small 镜像标签
docker model pull docker.xuanyuan.run/ai/devstral-small:<标签>
DockerHub 原生拉取命令
docker model pull ai/devstral-small:<标签>
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务