dustynv/jetson-inference

jetson-inference

镜像概述和主要用途

jetson-inference是针对NVIDIA Jetson平台优化的深度学习推理容器，旨在简化深度学习模型在Jetson设备上的部署和运行。该容器集成了运行推理任务所需的核心依赖组件，包括CUDA、CuDNN、PyTorch、TensorRT、OpenCV等，支持多种JetPack/L4T版本，适用于图像分类、目标检测、语义分割等计算机视觉推理应用。

核心功能和特性

系统要求

• 需运行在L4T版本 >=32.6的Jetson设备上

核心依赖

• build-essential：基础构建工具
• cuda：NVIDIA CUDA工具包
• cudnn：CUDA深度神经网络库
• python：Python运行环境
• numpy：数值计算库
• cmake：跨平台构建工具
• onnx：开放神经网络交换格式支持
• pytorch:2.2：PyTorch深度学习框架
• torchvision：PyTorch计算机视觉库
• tensorrt：NVIDIA TensorRT推理优化器
• opencv：计算机视觉库
• gstreamer：多媒体处理框架

兼容性

• L4T R32.7容器可运行在其他L4T R32.7版本（JetPack 4.6+）
• L4T R35.x容器可运行在其他L4T R35.x版本（JetPack 5.1+）

容器镜像信息

运行容器

要启动容器，可以使用https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md和https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md#autotag，或手动组合https://docs.docker.com/engine/reference/commandline/run/命令：

bash
# 自动拉取或构建兼容的容器镜像
jetson-containers run $(autotag jetson-inference)

# 或显式指定上述容器镜像之一
jetson-containers run dustynv/jetson-inference:r36.3.0

# 或使用'docker run'（指定镜像及挂载等）
sudo docker run --runtime nvidia -it --rm --network=host dustynv/jetson-inference:r36.3.0

^{https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md会将参数转发给https://docs.docker.com/engine/reference/commandline/run/，并添加一些默认设置（如`--runtime nvidia、挂载/data`缓存、检测设备等）
https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md#autotag会找到与您的JetPack/L4T版本兼容的容器镜像——无论是本地镜像、从仓库拉取的镜像，还是需要构建的镜像。}

要将主机目录挂载到容器中，使用https://docs.docker.com/engine/reference/commandline/run/#volume或https://docs.docker.com/engine/reference/commandline/run/#volume标志：

bash
jetson-containers run -v /主机路径:/容器路径 $(autotag jetson-inference)

要启动容器并运行命令（而非交互式shell）：

bash
jetson-containers run $(autotag jetson-inference) my_app --abc xyz

您可以向其传递任何https://docs.docker.com/engine/reference/commandline/run/支持的选项，它会在执行前打印出构建的完整命令。

构建容器

如果如上所示使用https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md#autotag，必要时它会提示您构建容器。要手动构建，请先完成https://github.com/dusty-nv/jetson-containers/tree/master/docs/setup.md，然后运行：

bash
jetson-containers build jetson-inference

上述依赖项将被构建到容器中，并在构建过程中进行测试。运行时添加https://github.com/dusty-nv/jetson-containers/tree/master/jetson_containers/build.py可查看构建选项。