ai/granite-4.0-h-nano Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务
ai/granite-4.0-h-nanoGranite-4.0-H Nano是通过监督微调、强化学习和模型合并在多样化数据上训练的轻量级指令模型，具备强大的指令遵循能力，适用于设备端部署、研究及专业领域微调，无需大量计算资源。
Granite 4.0 H Nano
!logo
描述
Granite-4.0-H-1B和granite-4.0-h-350M是轻量级指令模型，基于Granite-4.0-H-1B-Base和Granite-4.0-H-350M-Base基础模型微调而来，使用了具有宽松许可的开源指令数据集与内部收集的合成数据集的组合。该模型通过监督微调、强化学习和模型合并等多种技术开发。
特性
| 属性 | 详情 |
|---|---|
| 提供者 | Granite团队，IBM |
| 架构 | granitehybrid |
| 数据截止日期 | 未披露 |
| 支持语言 | 英语、德语、西班牙语、法语、日语、葡萄牙语、阿拉伯语、捷克语、意大利语、韩语、荷兰语、中文（可通过微调扩展） |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
预期用途
Granite 4.0 Nano指令模型具备强大的指令遵循能力，将先进AI能力带入设备端部署和研究用例。此外，其紧凑的尺寸使其非常适合在专业领域进行微调，无需大量计算资源。
可用模型变体
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/granite-4.0-h-nano:1Bai/granite-4.0-h-nano:1B-Q8_0ai/granite-4.0-h-nano:latest | 10亿 | MOSTLY_Q8_0 | 100万tokens | 1.92 GiB | 1.45 GB |
ai/granite-4.0-h-nano:350M-Q8_0 | 3.5亿 | MOSTLY_Q8_0 | 100万tokens | 0.76 GiB | 345.83 MB |
¹：显存基于模型特性估算。
latest→1B
使用Docker Model Runner运行AI模型
bashdocker model run ai/granite-4.0-h-nano
注意事项
- 优化用于指令遵循、工具/函数调用和长上下文（最多128K tokens）场景。
- 强大的通用能力：总结、分类、提取、问答/RAG、编码、函数调用和多语言对话。
- 多语言支持：英语性能最佳；少样本方法或轻量微调可帮助缩小其他语言的差距。
- 安全性与可靠性：尽管经过对齐，模型仍可能产生不准确或有偏见的输出——需应用领域特定评估和防护措施。
- 基础设施说明：在CoreWeave的NVIDIA GB200 NVL72上训练；使用加速库（如accelerate、优化的注意力/KV缓存设置）以实现高效推理。
基准性能
| 基准测试 | 指标 | 350M Dense | H 350M Dense | 1B Dense | H 1B Dense |
|---|---|---|---|---|---|
| 通用任务 | |||||
| MMLU | 5-shot | 35.01 | 36.21 | 59.39 | 59.74 |
| MMLU-Pro | 5-shot, CoT | 12.13 | 14.38 | 34.02 | 32.86 |
| BBH | 3-shot, CoT | 33.07 | 33.28 | 60.37 | 59.68 |
| AGI EVAL | 0-shot, CoT | 26.22 | 29.61 | 49.22 | 52.44 |
| GPQA | 0-shot, CoT | 24.11 | 26.12 | 29.91 | 29.69 |
| 对齐任务 | |||||
| IFEval | Instruct, Strict | 61.63 | 67.63 | 80.82 | 82.37 |
| IFEval | Prompt, Strict | 49.17 | 55.64 | 73.94 | 74.68 |
| IFEval | Average | 55.40 | 61.63 | 77.38 | 78.53 |
| 数学任务 | |||||
| GSM8K | 8-shot | 30.71 | 39.27 | 76.35 | 69.83 |
| GSM Symbolic | 8-shot | 26.76 | 33.70 | 72.30 | 65.72 |
| Minerva Math | 0-shot, CoT | 13.04 | 5.76 | 45.28 | 49.40 |
| DeepMind Math | 0-shot, CoT | 8.45 | 6.20 | 34.00 | 34.98 |
| 代码任务 | |||||
| HumanEval | pass@1 | 39.00 | 38.00 | 74.00 | 73.00 |
| HumanEval+ | pass@1 | 37.00 | 35.00 | 69.00 | 68.00 |
| MBPP | pass@1 | 48.00 | 49.00 | 65.00 | 69.00 |
| MBPP+ | pass@1 | 38.00 | 44.00 | 57.00 | 60.00 |
| CRUXEval-O | pass@1 | 23.75 | 25.50 | 33.13 | 36.00 |
| BigCodeBench | pass@1 | 11.14 | 11.23 | 30.18 | 29.12 |
| 工具调用任务 | |||||
| BFCL v3 | — | 39.32 | 43.32 | 54.82 | 50.21 |
| 多语言任务 | |||||
| MULTIPLE | pass@1 | 15.99 | 14.31 | 32.24 | 36.11 |
| MMMLU | 5-shot | 28.23 | 27.95 | 45.00 | 49.43 |
| INCLUDE | 5-shot | 27.74 | 27.09 | 42.12 | 43.35 |
| MGSM | 8-shot | 14.72 | 16.16 | 37.84 | 27.52 |
| 安全性 | |||||
| SALAD-Bench | — | 97.12 | 96.55 | 93.44 | 96.40 |
| AttaQ | — | 82.53 | 81.76 | 85.26 | 82.85 |
链接
- [***]
- [***]
- [***]
ai/granite-4.0-nano
Docker AI 官方镜像
Granite-4.0-Nano是一款轻量级指令模型，通过监督微调、强化学习和模型合并技术在多样化数据集上训练而成，具备强指令遵循能力，适用于设备端部署和研究场景，紧凑尺寸便于专业领域微调。
8.7千+ 次下载
4 个月前更新
nanozoo/nanoplot
nanozoo
NanoPlot v1.25.0是一款用于纳米孔测序数据质量控制和可视化的工具，可生成多种统计图表，帮助分析测序数据的质量、长度分布及其他关键指标。
1万+ 次下载
1 年前更新
ai/granite-4.0-h-tiny
Docker AI 官方镜像
70亿参数长上下文指令模型，采用强化学习对齐，具备指令遵循、工具调用能力，针对企业应用优化。
3 次收藏6.8千+ 次下载
5 个月前更新
redhat/granite-7b-lab-gguf
redhat
Granite-7b-lab模型的4位量化版本Docker镜像，通过4位量化技术降低模型资源占用，实现高效部署，适用于资源受限环境下的大型语言模型应用。
5 次收藏6.1千+ 次下载
1 年前更新
ai/granite-docling
Docker AI 官方镜像
Granite Docling是一个多模态图文转文本模型，专为高效文档转换设计，保留Docling核心功能并与Docling Documents无缝集成。
2 次收藏1万+ 次下载
5 个月前更新
ai/granite-4.0-h-small
Docker AI 官方镜像
32B参数长上下文指令模型，通过强化学习对齐，具备指令遵循和工具调用能力，专为企业应用优化。
1 次收藏5.5千+ 次下载
5 个月前更新
轩辕镜像配置手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
Docker 配置
登录仓库拉取
通过 Docker 登录认证访问私有仓库
专属域名拉取
无需登录使用专属域名
K8s Containerd
Kubernetes 集群配置 Containerd
K3s
K3s 轻量级 Kubernetes 镜像加速
Dev Containers
VS Code Dev Containers 配置
Podman
Podman 容器引擎配置
Singularity/Apptainer
HPC 科学计算容器配置
其他仓库配置
ghcr、Quay、nvcr 等镜像仓库
Harbor 镜像源配置
Harbor Proxy Repository 对接专属域名
Portainer 镜像源配置
Portainer Registries 加速拉取
Nexus 镜像源配置
Nexus3 Docker Proxy 内网缓存
系统配置
需要其他帮助？请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
镜像拉取常见问题
使用与功能问题
错误码与失败问题
docker pull 提示 manifest unknown 怎么办？
manifest unknown
Docker pull 时 HTTPS / TLS 证书验证失败怎么办？
TLS 证书失败
Docker pull 时 DNS 解析超时或连不上仓库怎么办？
DNS 超时
Docker 拉取出现 410 Gone 怎么办？
410 Gone 排查
出现 402 或「流量用尽」提示怎么办？
402 与流量用尽
Docker 拉取提示 UNAUTHORIZED（401）怎么办？
401 认证失败
遇到 429 Too Many Requests（请求太频繁）怎么办？
429 限流
docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？
D-Bus 凭证提示
为什么会出现「单层超过 20GB」或 413，无法加速拉取？
413 与超大单层
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"