gemma3n

ai/gemma3n Docker Image

为低资源设备提供高效多模态AI,支持文本、图像、音频和视频处理。

11 次收藏下载次数: 0状态:社区镜像维护者:Docker AI 官方镜像仓库类型:镜像最近更新:

Gemma 3n Docker镜像文档

镜像概述

Gemma 3n是Google DeepMind推出的紧凑型多模态AI模型,专为低资源设备设计,具备高效运行能力。该模型支持文本、图像、音频和视频输入,提供开放权重,支持超过140种语言。通过优化参数使用和强化安全特性,Gemma 3n在Gemma系列基础上进一步扩展了轻量级、高性能的基础模型能力。

核心功能与特性

基础特性

属性详情
提供者Google DeepMind
架构Gemma 3n
数据截止日期2024年6月
支持语言140+ 种
工具调用能力❌ 不支持
输入模态文本
输出模态文本
许可证https://ai.google.dev/gemma/terms

使用场景

Gemma 3n模型适用于以下场景:

  • 文本生成:创作诗歌、代码、脚本、摘要等内容
  • 对话式AI:驱动虚拟助手和客户服务聊天机器人
  • 文本摘要:生成文章、论文或转录文本的简洁概述
  • 语言学习:提供语法建议和写作反馈
  • 教育研究:辅助数据分析、问答及多语言资源探索

可用模型变体

模型变体参数规模量化方式上下文窗口显存需求¹大小
ai/gemma3n:4B-F166.9BMOSTLY_F1633K tokens9.32 GiB12.79 GB

¹:显存需求基于模型特性估算

使用方法

前提条件

需安装支持模型运行的Docker环境(推荐使用Docker Desktop,需启用Model Runner功能)。

步骤1:拉取镜像

bash
docker model pull ai/gemma3n

步骤2:运行模型

bash
docker model run ai/gemma3n

详细使用说明参见https://docs.docker.com/desktop/features/model-runner/

性能基准

类别基准测试2B模型结果4B模型结果
通用能力MMLU60.164.9
DROP53.960.8
BIG-Bench Hard44.352.9
ARC-Challenge (25-shot)51.761.6
多语言能力Global-MMLU55.160.3
MGSM53.160.7
STEM与代码HumanEval66.575.0
MBPP56.663.6
GPQA (Diamond)24.823.7

相关链接

  • https://ai.google.dev/gemma/docs/gemma-3n
  • https://ai.google.dev/responsible

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。

轩辕镜像加速拉取命令点我查看更多 gemma3n 镜像标签

docker model pull docker.xuanyuan.run/ai/gemma3n:<标签>

DockerHub 原生拉取命令

docker model pull ai/gemma3n:<标签>
专业版 · 高速稳定拉取镜像
50GB 仅 ¥8/年
高速镜像下载在线技术支持专业版保障服务可用付费会员免广告