为低资源设备提供高效多模态AI,支持文本、图像、音频和视频处理。
Gemma 3n Docker镜像文档
镜像概述
Gemma 3n是Google DeepMind推出的紧凑型多模态AI模型,专为低资源设备设计,具备高效运行能力。该模型支持文本、图像、音频和视频输入,提供开放权重,支持超过140种语言。通过优化参数使用和强化安全特性,Gemma 3n在Gemma系列基础上进一步扩展了轻量级、高性能的基础模型能力。
核心功能与特性
基础特性
| 属性 | 详情 |
|---|---|
| 提供者 | Google DeepMind |
| 架构 | Gemma 3n |
| 数据截止日期 | 2024年6月 |
| 支持语言 | 140+ 种 |
| 工具调用能力 | ❌ 不支持 |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | https://ai.google.dev/gemma/terms |
使用场景
Gemma 3n模型适用于以下场景:
- 文本生成:创作诗歌、代码、脚本、摘要等内容
- 对话式AI:驱动虚拟助手和客户服务聊天机器人
- 文本摘要:生成文章、论文或转录文本的简洁概述
- 语言学习:提供语法建议和写作反馈
- 教育研究:辅助数据分析、问答及多语言资源探索
可用模型变体
| 模型变体 | 参数规模 | 量化方式 | 上下文窗口 | 显存需求¹ | 大小 |
|---|---|---|---|---|---|
ai/gemma3n:4B-F16 | 6.9B | MOSTLY_F16 | 33K tokens | 9.32 GiB | 12.79 GB |
¹:显存需求基于模型特性估算
使用方法
前提条件
需安装支持模型运行的Docker环境(推荐使用Docker Desktop,需启用Model Runner功能)。
步骤1:拉取镜像
bashdocker model pull ai/gemma3n
步骤2:运行模型
bashdocker model run ai/gemma3n
详细使用说明参见https://docs.docker.com/desktop/features/model-runner/
性能基准
| 类别 | 基准测试 | 2B模型结果 | 4B模型结果 |
|---|---|---|---|
| 通用能力 | MMLU | 60.1 | 64.9 |
| DROP | 53.9 | 60.8 | |
| BIG-Bench Hard | 44.3 | 52.9 | |
| ARC-Challenge (25-shot) | 51.7 | 61.6 | |
| 多语言能力 | Global-MMLU | 55.1 | 60.3 |
| MGSM | 53.1 | 60.7 | |
| STEM与代码 | HumanEval | 66.5 | 75.0 |
| MBPP | 56.6 | 63.6 | |
| GPQA (Diamond) | 24.8 | 23.7 |
相关链接
- https://ai.google.dev/gemma/docs/gemma-3n
- https://ai.google.dev/responsible
ai 命名空间的其他可用镜像:
ai/qwen3
Qwen3 大语言模型,适合 AI 应用开发
ai/deepseek-r1-distill-llama
DeepSeek R1 Distill Llama,大语言模型
ai/qwen3-embedding
Docker 官方模型镜像,Qwen3 文本嵌入与重排序,适合 RAG、语义检索与向量化流水线
ai/qwen3-vl
Docker 官方 Qwen3 多模态(VL)模型镜像,适合图文理解、视觉问答与多模态应用
ai/qwen3-vllm
Docker 官方 Qwen3 与 vLLM 推理组合镜像,适合高吞吐文本生成与 OpenAI 兼容 API 服务
ai/qwen3-embedding-vllm
Docker 官方 Qwen3 Embedding + vLLM 推理镜像,适合高吞吐语义检索与 RAG 向量化服务
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
DockerHub 原生拉取命令
docker model pull ai/gemma3n:<标签>
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务