本站面向开发者与科研用户，提供开源镜像的搜索和下载加速服务。
所有镜像均来源于原始开源仓库，本站不存储、不修改、不传播任何镜像内容。
轩辕镜像 - 国内开发者首选的专业 Docker 镜像下载加速服务平台 - 官方QQ群:13763429 👈点击免费获得技术支持。
本站面向开发者与科研用户，提供开源镜像的搜索和下载加速服务。所有镜像均来源于原始开源仓库，本站不存储、不修改、不传播任何镜像内容。
本站面向开发者与科研用户，提供开源镜像的搜索和下载加速服务。所有镜像均来源于原始开源仓库，本站不存储、不修改、不传播任何镜像内容。
本站支持搜索的镜像仓库：Docker Hub、gcr.io、ghcr.io、quay.io、k8s.gcr.io、registry.gcr.io、elastic.co、mcr.microsoft.com
llama3.2 Docker 镜像下载 - 轩辕镜像
llama3.2 镜像详细信息和使用指南
llama3.2 镜像标签列表和版本信息
llama3.2 镜像拉取命令和加速下载
llama3.2 镜像使用说明和配置指南
Docker 镜像加速服务 - 轩辕镜像平台
国内开发者首选的 Docker 镜像加速平台
极速拉取 Docker 镜像服务
相关 Docker 镜像推荐
热门 Docker 镜像下载
ai/llama3.2
llama3.2 镜像详细信息
llama3.2 镜像标签列表
llama3.2 镜像使用说明
llama3.2 镜像拉取命令
Docker 镜像加速服务
轩辕镜像平台优势
镜像下载指南
相关 Docker 镜像推荐
LLaMA 3的此次稳定更新显著提升了模型性能，在编码开发、日常聊天及各类问答任务中均展现出可靠表现，能够高效处理多样化的用户需求，无论是辅助编写代码、进行流畅对话还是解答专业问题，都具备稳定且出色的任务执行能力，为用户提供了更为实用的人工智能工具支持。
20 收藏0 次下载activeai
llama3.2 镜像详细说明
llama3.2 使用指南
llama3.2 配置说明
llama3.2 官方文档
Llama 3.2 Instruct
Llama 3.2推出了轻量级的1B和3B模型，初始版本采用bfloat16（BF16）精度，后续新增了量化版本。量化模型在保持与BF16版本精度接近的同时，运行速度显著提升，内存占用和功耗大幅降低，适合资源受限场景。
预期用途
Llama 3.2 Instruct模型主要面向以下场景设计：
- 边缘设备的AI辅助：在低功耗硬件上运行聊天机器人和虚拟助手，延迟极低。
- 代码辅助：在移动设备或嵌入式系统上编写、调试和优化代码。
- 内容生成：在轻量化设备上起草邮件、生成摘要或创作内容。
- 低功耗智能设备AI：增强可穿戴设备和物联网设备的语音助手功能。
- 边缘数据处理：本地汇总和分析数据，兼顾安全性与效率。
核心特性
| 属性 | 详情 |
|---|---|
| 提供商 | Meta |
| 架构 | Llama |
| 数据截止日期 | 2023年12月 |
| 支持语言 | 英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语、泰语 |
| 工具调用 | ✅ |
| 输入模态 | 文本 |
| 输出模态 | 文本、代码 |
| 许可证 | Llama 3.2社区许可证 |
可用模型变体
| 模型变体 | 参数规模 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/llama3.2:latestai/llama3.2:3B-Q4_K_M | 3B | IQ2_XXS/Q4_K_M | 131K tokens | 2.77 GiB | 1.87 GB |
ai/llama3.2:1B-Q4_0 | 1B | Q4_0 | 131K tokens | 1.35 GiB | 727.75 MB |
ai/llama3.2:1B-Q8_0 | 1B | Q8_0 | 131K tokens | 1.87 GiB | 1.22 GB |
ai/llama3.2:1B-F16 | 1B | F16 | 131K tokens | 2.95 GiB | 2.30 GB |
ai/llama3.2:3B-Q4_0 | 3B | Q4_0 | 131K tokens | 2.68 GiB | 1.78 GB |
ai/llama3.2:3B-Q4_K_M | 3B | IQ2_XXS/Q4_K_M | 131K tokens | 2.77 GiB | 1.87 GB |
ai/llama3.2:3B-F16 | 3B | F16 | 131K tokens | 6.89 GiB | 5.98 GB |
¹：显存基于模型特性估算。
latest标签默认对应3B-Q4_K_M版本
使用Docker Model Runner运行模型
步骤1：拉取模型
docker model pull ai/llama3.2
步骤2：运行模型
docker model run ai/llama3.2
更多关于Docker Model Runner的信息，可查看官方文档。
性能基准测试
以下是Llama 3.2 1B模型在各类能力上的基准测试结果：
| 能力项 | 基准测试 | Llama 3.2 1B |
|---|---|---|
| 通用能力 | MMLU | 49.3 |
| 改写能力 | Open-rewrite eval | 41.6 |
| 摘要能力 | TLDR9+ (test) | 16.8 |
| 指令遵循能力 | IFEval | 59.5 |
| 数学能力 | GSM8K (CoT) | 44.4 |
| MATH (CoT) | 30.6 | |
| 推理能力 | ARC-C | 59.4 |
| GPQA | 27.2 | |
| Hellaswag | 41.2 | |
| 工具使用能力 | BFCL V2 | 25.7 |
| Nexus | 13.5 | |
| 长上下文能力 | InfiniteBench/En.QA | 20.3 |
| InfiniteBench/En.MC | 38.0 | |
| NIH/Multi-needle | 75.0 | |
| 多语言能力 | MGSM (CoT) | 24.5 |
相关链接
- Llama官网
常见问题
轩辕镜像免费版与专业版有什么区别？
免费版仅支持 Docker Hub 加速，不承诺可用性和速度；专业版支持更多镜像源，保证可用性和稳定速度，提供优先客服响应。
轩辕镜像免费版与专业版有分别支持哪些镜像？
免费版仅支持 docker.io；专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等。
流量耗尽错误提示
当返回 402 Payment Required 错误时，表示流量已耗尽，需要充值流量包以恢复服务。
410 错误问题
通常由 Docker 版本过低导致，需要升级到 20.x 或更高版本以支持 V2 协议。
manifest unknown 错误
先检查 Docker 版本，版本过低则升级；版本正常则验证镜像信息是否正确。
镜像拉取成功后，如何去掉轩辕镜像域名前缀？
使用 docker tag 命令为镜像打上新标签，去掉域名前缀，使镜像名称更简洁。
轩辕镜像下载加速使用手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
登录方式进行 Docker 镜像下载加速教程
通过 Docker 登录方式配置轩辕镜像加速服务，包含7个详细步骤
Linux Docker 镜像下载加速教程
在 Linux 系统上配置轩辕镜像源，支持主流发行版
Windows/Mac Docker 镜像下载加速教程
在 Docker Desktop 中配置轩辕镜像加速，适用于桌面系统
Docker Compose 镜像下载加速教程
在 Docker Compose 中使用轩辕镜像加速，支持容器编排
K8s containerd 镜像下载加速教程
在 k8s 中配置 containerd 使用轩辕镜像加速
宝塔面板 Docker 镜像下载加速教程
在宝塔面板中配置轩辕镜像加速，提升服务器管理效率
群晖 NAS Docker 镜像下载加速教程
在 Synology 群晖NAS系统中配置轩辕镜像加速
飞牛fnOS Docker 镜像下载加速教程
在飞牛fnOS系统中配置轩辕镜像加速
极空间 NAS Docker 镜像下载加速教程
在极空间NAS中配置轩辕镜像加速
爱快路由 ikuai Docker 镜像下载加速教程
在爱快ikuai系统中配置轩辕镜像加速
绿联 NAS Docker 镜像下载加速教程
在绿联NAS系统中配置轩辕镜像加速
威联通 NAS Docker 镜像下载加速教程
在威联通NAS系统中配置轩辕镜像加速
Podman Docker 镜像下载加速教程
在 Podman 中配置轩辕镜像加速，支持多系统
ghcr、Quay、nvcr、k8s、gcr 等仓库下载镜像加速教程
配置轩辕镜像加速9大主流镜像仓库，包含详细配置步骤
专属域名方式进行 Docker 镜像下载加速教程
无需登录即可使用轩辕镜像加速服务，更加便捷高效
需要其他帮助？请查看我们的 常见问题 或 官方QQ群: 13763429