热门搜索:
ai/gemma3
Google最新推出的AI模型Gemma，虽体型小巧却性能强劲，尤其在聊天交互与内容生成领域表现突出；其轻量化设计不仅便于高效部署，还能在保证响应速度的同时，持续输出高质量内容，为用户带来便捷且智能的使用体验，是一款兼顾小巧体型与强大功能的新一代AI模型。
Gemma 3（Unsloth GGUF版本）
!logo
Gemma是一个多用途AI模型系列，适用于问答、摘要生成、推理等任务。该模型提供开放权重，支持负责任的商业使用，可处理图文输入，上下文长度达128K tokens，覆盖140多种语言。
适用场景
Gemma 3 4B模型可用于以下场景：
- 文本生成：创作诗歌、脚本、代码、营销文案及邮件草稿。
- 聊天机器人与对话AI：开发虚拟助手、客服机器人等交互系统。
- 文本摘要：生成报告、研究论文的简洁摘要。
- 图像数据提取：解析视觉数据并转化为文本形式输出。
- 语言学习工具：辅助语法纠错、交互式写作练习。
- 知识探索：为研究者生成内容摘要、解答专业问题。
模型特性
| 属性 | 详情 |
|---|---|
| 提供商 | Google DeepMind |
| 架构 | Gemma3 |
| 数据截止日期 | - |
| 支持语言 | 140种语言 |
| 工具调用 | ❌ |
| 输入模态 | 文本、图像 |
| 输出模态 | 文本、代码 |
| 许可证 | Gemma使用条款 |
可用模型变体
| 模型变体 | 参数规模 | 量化方式 | 上下文窗口 | 显存需求¹ | 文件大小 |
|---|---|---|---|---|---|
ai/gemma3:4Bai/gemma3:4B-Q4_K_Mai/gemma3:latest | 4B | MOSTLY_Q4_K_M | 131K tokens | 3.83 GiB | 2.31 GB |
ai/gemma3:270M-F16 | 270M | MOSTLY_F16 | 33K tokens | 1.59 GiB | 511.46 MB |
ai/gemma3:270M-UD-IQ2_XXS | 270M | MOSTLY_IQ2_XXS | 33K tokens | 1.26 GiB | 165.54 MB |
ai/gemma3:270M-UD-Q4_K_XL | 270M | MOSTLY_Q4_K_M | 33K tokens | 1.33 GiB | 235.95 MB |
ai/gemma3:4B-F16 | 4B | MOSTLY_BF16 | 131K tokens | 8.75 GiB | 7.23 GB |
¹：显存需求基于模型特性估算。
latest→4B（latest标签默认指向4B版本）
使用Docker Model Runner运行模型
步骤1：拉取模型
bashdocker model pull ai/gemma3
步骤2：运行模型
bashdocker model run ai/gemma3
更多关于Docker Model Runner的说明，可参考官方文档。
基准性能测试
| 类别 | 评测基准 | 得分 |
|---|---|---|
| 通用能力 | MMLU | 59.6 |
| GSM8K | 38.4 | |
| ARC-Challenge | 56.2 | |
| BIG-Bench Hard | 50.9 | |
| DROP | 60.1 | |
| STEM与代码 | MATH | 24.2 |
| MBPP | 46.0 | |
| HumanEval | 36.0 | |
| 多语言能力 | MGSM | 34.7 |
| Global-MMLU-Lite | 57.0 | |
| XQuAD (all) | 68.0 | |
| 多模态能力 | VQAv2 | 63.9 |
| TextVQA | 58.9 | |
| DocVQA | 72.8 |
相关链接
- Gemma 3模型概述
- Gemma 3技术报告
- Unsloth Dynamic 2.0 GGUF格式说明
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
DockerHub 原生拉取命令
docker model pull ai/gemma3:<标签>
更多 gemma3 镜像推荐
ai/gemma3-qat
Docker AI 官方镜像
Google’s latest Gemma, in its QAT (quantization aware trained) variant
21 次收藏10万+ 次下载
7 个月前更新
ai/gemma3n
Docker AI 官方镜像
为低资源设备提供高效多模态AI，支持文本、图像、音频和视频处理。
10 次收藏5万+ 次下载
10 个月前更新
ai/gemma3-vllm
Docker AI 官方镜像
Google’s latest Gemma, small yet strong for chat and generation
1 次收藏1万+ 次下载
6 个月前更新
轩辕镜像配置手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
Docker 配置
登录仓库拉取
通过 Docker 登录认证访问私有仓库
专属域名拉取
无需登录使用专属域名
K8s Containerd
Kubernetes 集群配置 Containerd
K3s
K3s 轻量级 Kubernetes 镜像加速
Dev Containers
VS Code Dev Containers 配置
Podman
Podman 容器引擎配置
Singularity/Apptainer
HPC 科学计算容器配置
其他仓库配置
ghcr、Quay、nvcr 等镜像仓库
Harbor 镜像源配置
Harbor Proxy Repository 对接专属域名
Portainer 镜像源配置
Portainer Registries 加速拉取
Nexus 镜像源配置
Nexus3 Docker Proxy 内网缓存
系统配置
需要其他帮助？请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
镜像拉取常见问题
使用与功能问题
配置了专属域名后，docker search 为什么会报错？
docker search 限制
Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？
站内搜不到镜像
机器不能直连外网时，怎么用 docker save / load 迁镜像？
离线 save/load
docker pull 拉插件报错（plugin v1+json）怎么办？
插件要用 plugin install
WSL 里 Docker 拉镜像特别慢，怎么排查和优化？
WSL 拉取慢
轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？
安全与 digest
第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？
新手拉取配置
轩辕镜像合规吗？轩辕镜像的合规是怎么做的？
镜像合规机制
错误码与失败问题
docker pull 提示 manifest unknown 怎么办？
manifest unknown
docker pull 提示 no matching manifest 怎么办？
no matching manifest（架构）
镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？
invalid tar header（解压）
Docker pull 时 HTTPS / TLS 证书验证失败怎么办？
TLS 证书失败
Docker pull 时 DNS 解析超时或连不上仓库怎么办？
DNS 超时
docker 无法连接轩辕镜像域名怎么办？
域名连通性排查
Docker 拉取出现 410 Gone 怎么办？
410 Gone 排查
出现 402 或「流量用尽」提示怎么办？
402 与流量用尽
Docker 拉取提示 UNAUTHORIZED（401）怎么办？
401 认证失败
遇到 429 Too Many Requests（请求太频繁）怎么办？
429 限流
docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？
D-Bus 凭证提示
为什么会出现「单层超过 20GB」或 413，无法加速拉取？
413 与超大单层
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"