ai/nemotron3
具备视频、音频、图像和文本理解能力的多模态大型语言模型，适用于企业级应用，支持端到端处理会议录音、培训视频等丰富企业内容，基于高效架构提供强大推理和工具调用功能。
让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
NVIDIA Nemotron 3 Nano Omni 30B A3B 推理版
镜像概述和主要用途
NVIDIA Nemotron 3 Nano Omni 是一款多模态大型语言模型，可统一视频、音频、图像和文本理解，支持企业级应用。它扩展了 Nemotron Nano 系列，集成了视频和语音理解、图形用户界面（GUI）自动化、光学字符识别（OCR）及语音转录功能。该模型能够端到端处理丰富的企业内容，如会议录音、媒体资产、培训视频和复杂业务文档。
基于 Mamba2-Transformer 混合专家混合（MoE）架构构建，Nemotron 3 Nano Omni 在通过主动参数设计保持效率的同时，提供强大的多模态理解能力。模型支持带思维链能力的推理模式、工具调用、JSON 输出格式化，并可处理长达 256k tokens 的上下文。其训练采用全面的 pipeline，涉及超过 3.54 亿个跨文本、音频、图像和视频模态的数据点。
该模型可根据 NVIDIA Open Model Agreement 用于商业用途，并能部署在多种平台，包括 NVIDIA Ampere、Hopper、Blackwell 以及 Jetson Thor 等边缘设备。
核心功能和特性
技术规格
| 属性 | 值 |
|---|---|
| 提供商 | NVIDIA |
| 架构 | Mamba2-Transformer 混合专家混合（MoE） |
| 参数规模 | 总 310 亿（A3B - 30 亿活跃参数） |
| 上下文长度 | 最多 256k tokens |
| 支持语言 | 英语、法语、西班牙语、意大利语、德语、日语、中文 |
| 输入模态 | 文本、图像、视频、音频 |
| 输出模态 | 文本 |
| 许可证 | NVIDIA Open Model Agreement |
核心能力
- 多模态理解：统一处理文本、图像、视频和音频输入
- 推理能力：支持思维链推理，可配置 token 预算
- 工具调用：基于 XML 格式的函数调用
- 文档智能：多页文档分析、表格提取、复杂布局处理
- 视频处理：视频理解、时间推理，最长支持 2 分钟视频
- 音频处理：语音转录、音频理解，最长支持 1 小时音频
- 高效部署：支持 BF16、FP8、NVFP4 等多种量化格式及 GGUF 格式
使用场景和适用范围
- 企业内容分析：处理会议录音、培训视频、媒体资产等企业内容
- 文档处理：分析复杂业务文档、提取表格和关键信息
- 多模态交互：构建支持文本、图像、音频、视频输入的企业应用
- 自动化任务：GUI 自动化、OCR 识别、语音转录等场景
- 智能决策支持：通过思维链推理提供复杂问题的分析和解答
使用方法和配置说明
使用 Docker Model Runner 部署
bashdocker model run nvidia-nemotron-3-nano-omni-30b-a3b-reasoning
更多信息，请参考 Docker Model Runner 文档。
配置注意事项
- 推理模式：默认启用带思维链输出的推理模式，如需直接响应，可通过
enable_thinking: false禁用 - 视频处理：建议帧采样率为 2 FPS，帧数根据 GPU 内存调整：
- 80GB+ GPU：128-512 帧
- ≤40GB GPU：64-256 帧
- 音频格式：音频输入需重采样至 16 kHz，支持 WAV 和 MP3 格式，最长处理 1 小时音频
- PDF 处理：模型处理图像而非原始 PDF 文件，需先将页面渲染为 PNG/JPEG 格式
- 量化选项：
- BF16：约 62GB 内存占用
- FP8、NVFP4：不同量化级别，适用于不同硬件配置
- GGUF 格式：支持多种量化级别，便于高效部署
- 推理框架：支持 vLLM 0.20.0+、TensorRT-LLM、TensorRT Edge-LLM、SGLang、llama.cpp 和 Ollama
硬件要求
优化用于以下 NVIDIA 硬件：
- 数据中心 GPU：Ampere（A100）、Hopper（H100/H200）、Blackwell（B200）、Lovelace（L40S）
- 边缘设备：Jetson Thor、DGX Spark
基准测试
模型在多种模态上进行了评估，详细基准测试结果可通过 NVIDIA 官方文档获取：
| 任务类别 | 能力 |
|---|---|
| 视觉理解 | 视觉定位、图表和文档理解、OCR |
| 视频处理 | 视频理解、时间推理、最长 2 分钟 |
| 音频处理 | 语音转录、音频理解、最长 1 小时 |
| 文档智能 | 多页文档分析、表格提取、复杂布局 |
| 推理 | 带可配置 token 预算的思维链推理 |
| 工具调用 | 基于 XML 格式的函数调用 |
相关链接
- https://huggingface.co/unsloth/NVIDIA-Nemotron-3-Nano-Omni-30B-A3B-Reasoning-GGUF
- https://huggingface.co/nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning
- https://www.nvidia.com/en-us/agreements/enterprise-software/nvidia-open-model-agreement/
- https://build.nvidia.com/nvidia/nemotron-3-nano-omni-30b-a3b-reasoning
- https://catalog.ngc.nvidia.com/orgs/nim/teams/nvidia/containers/nemotron-3-nano-omni-30b-a3b-reasoning
- Jetson AI Lab
其他注意事项
- 语言支持：虽然支持多种语言（法语、西班牙语、意大利语、德语、日语、中文），但主要优化针对英语内容
- 内存管理：统一内存架构（如 DGX Spark）可能需要调整
gpu-memory-utilization和max-model-len参数 - 工具调用兼容性：支持与 qwen3_coder 解析器兼容的 XML 格式函数调用
- 安全过滤：模型包含内置内容安全措施，生产环境部署可能需要额外过滤机制
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 nemotron3 镜像标签
docker model pull docker.xuanyuan.run/ai/nemotron3:<标签>
DockerHub 原生拉取命令
docker model pull ai/nemotron3:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"