ai/functiongemma-vllm Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务

FunctionGemma

!logo

镜像概述和主要用途

FunctionGemma是Google推出的轻量级270M参数开放模型，基于Gemma 3构建，专门针对纯文本函数调用场景训练。该模型并非直接用于对话，而是作为基础模型，旨在通过进一步微调，构建高效、可离线运行的专用代理，能够在资源受限设备（如笔记本电脑、桌面设备或私有云基础设施）上部署，推动先进AI模型的普及和创新。

核心功能和特性

• 轻量级架构：270M参数规模，基于Gemma 3架构，采用与Gemini模型相同的研究和技术
• 专用训练：专门针对文本函数调用任务训练，采用独特的聊天格式
• 离线能力：支持离线部署，无需持续网络连接
• 资源高效：优化后可在资源受限环境运行，适用于多种硬件
• 上下文支持：输入输出上下文均支持32K tokens（输出上下文需减去输入 tokens）
• 微调潜力：需在单轮或多轮特定任务数据上微调，以实现特定领域的最佳准确性

使用场景和适用范围

Tiny Garden

一个经微调的语音控制互动游戏模型，处理游戏逻辑以管理虚拟地块。能将"在顶行种向日葵"、"给1号和2号地块浇水"等命令分解为应用特定函数（如plant_seed、water_plots）和坐标目标，展示了模型无需服务器连接即可驱动自定义应用机制的能力。

Mobile Actions

提供数据集和微调方案，将用户输入（如"创建午餐日历事件"、"打开手电筒"）转换为触发Android系统工具的函数调用。该用例展示了模型作为个人设备任务的离线私有代理的能力。

输入和输出

输入

• 文本字符串（如问题、提示或需总结的文档）
• 总输入上下文为32K tokens

输出

• 生成文本响应（如问题答案或文档摘要）
• 每次请求的总输出上下文最多32K tokens（需减去请求输入 tokens）

使用方法和配置说明

使用Docker Model Runner部署

bash
docker model run functiongemma-vllm

有关Docker Model Runner的更多信息，请参阅官方文档。

相关链接

• FunctionGemma模型概述