dustynv/onnx

ONNX Docker镜像文档

镜像概述和主要用途

ONNX Docker镜像是为NVIDIA Jetson设备构建的容器，提供ONNX（开放神经网络交换格式）支持，用于实现不同深度学习框架间的模型互操作性。该镜像要求L4T（Linux for Tegra）版本≥32.6（对应JetPack 4.6及以上），支持arm64架构，是众多AI应用（如语音处理、大语言模型、计算机视觉）容器的核心依赖组件。

核心功能和特性

• ONNX标准支持：提供ONNX格式的模型解析与转换能力，支持跨框架模型部署
• 平台兼容性：专为Jetson设备优化，兼容L4T 32.6+（JetPack 4.6+）
• 架构支持：仅支持arm64架构，适配Jetson系列嵌入式平台
• 依赖管理：基础依赖包括build-essential、python、cmake、numpy等构建工具和运行时库
• 版本适配：针对不同JetPack版本优化，如JetPack 4需额外依赖protobuf_apt，较新版本则内置protobuf构建

容器镜像信息

镜像兼容性说明：

• L4T R32.7容器可运行于其他L4T R32.7版本（JetPack 4.6+）
• L4T R35.x容器可运行于其他L4T R35.x版本（JetPack 5.1+）

运行容器

基础运行命令

可通过jetson-containers run（自动处理兼容性）或docker run（手动指定）启动容器：

bash
# 使用jetson-containers自动选择兼容镜像
jetson-containers run $(autotag onnx)

# 显式指定镜像标签
jetson-containers run dustynv/onnx:r35.2.1

# 使用docker run命令
sudo docker run --runtime nvidia -it --rm --network=host dustynv/onnx:r35.2.1

说明：

• jetson-containers run会自动添加默认参数（如--runtime nvidia、挂载/data缓存、检测设备）
• autotag工具会根据当前JetPack/L4T版本选择兼容镜像（本地镜像、远程拉取或构建）

挂载本地目录

使用-v或--volume参数挂载主机目录到容器：

bash
jetson-containers run -v /主机目录路径:/容器内路径 $(autotag onnx)

运行指定命令

启动容器时直接运行命令（非交互式shell）：

bash
jetson-containers run $(autotag onnx) 你的命令 --参数

构建容器

若需手动构建镜像，先完成https://github.com/dusty-nv/jetson-containers/tree/master/docs/setup.md%EF%BC%8C%E5%86%8D%E6%89%A7%E8%A1%8C%EF%BC%9A

bash
jetson-containers build onnx

构建过程会自动处理依赖项并进行测试。可添加--help查看构建选项：

bash
jetson-containers build onnx --help

依赖项和注意事项

基础依赖项

• build-essential：构建工具集
• python：Python运行时
• cmake：跨平台构建系统
• numpy：数值计算库

依赖此镜像的容器

包括audiocraft、auto_awq、bitsandbytes、transformers、stable-diffusion、jetson-inference等众多AI应用容器。

注意事项

• 在JetPack 4版本中，需额外添加protobuf_apt依赖；较新版本的ONNX已内置protobuf构建
• 镜像大小因JetPack版本而异，JetPack 4镜像（如r32.7.1）约0.4GB，JetPack 5+镜像约5.0GB