dustynv/jetson-inference

jetson-inference

镜像概述和主要用途

jetson-inference是针对NVIDIA Jetson平台优化的深度学习推理容器，旨在简化深度学习模型在Jetson设备上的部署和运行。该容器集成了运行推理任务所需的核心依赖组件，包括CUDA、CuDNN、PyTorch、TensorRT、OpenCV等，支持多种JetPack/L4T版本，适用于图像分类、目标检测、语义分割等计算机视觉推理应用。

核心功能和特性

系统要求

• 需运行在L4T版本 >=32.6的Jetson设备上

核心依赖

• build-essential：基础构建工具
• cuda：NVIDIA CUDA工具包
• cudnn：CUDA深度神经网络库
• python：Python运行环境
• numpy：数值计算库
• cmake：跨平台构建工具
• onnx：开放神经网络交换格式支持
• pytorch:2.2：PyTorch深度学习框架
• torchvision：PyTorch计算机视觉库
• tensorrt：NVIDIA TensorRT推理优化器
• opencv：计算机视觉库
• gstreamer：多媒体处理框架

兼容性

• L4T R32.7容器可运行在其他L4T R32.7版本（JetPack 4.6+）
• L4T R35.x容器可运行在其他L4T R35.x版本（JetPack 5.1+）

容器镜像信息

运行容器

要启动容器，可以使用https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md%E5%92%8Chttps://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md#autotag%EF%BC%8C%E6%88%96%E6%89%8B%E5%8A%A8%E7%BB%84%E5%90%88%60docker run`命令：

bash
# 自动拉取或构建兼容的容器镜像
jetson-containers run $(autotag jetson-inference)

# 或显式指定上述容器镜像之一
jetson-containers run dustynv/jetson-inference:r36.3.0

# 或使用'docker run'（指定镜像及挂载等）
sudo docker run --runtime nvidia -it --rm --network=host dustynv/jetson-inference:r36.3.0

^{https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md%E4%BC%9A%E5%B0%86%E5%8F%82%E6%95%B0%E8%BD%AC%E5%8F%91%E7%BB%99%60docker run，并添加一些默认设置（如--runtime nvidia、挂载/data`缓存、检测设备等）
https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md#autotag%E4%BC%9A%E6%89%BE%E5%88%B0%E4%B8%8E%E6%82%A8%E7%9A%84JetPack/L4T%E7%89%88%E6%9C%AC%E5%85%BC%E5%AE%B9%E7%9A%84%E5%AE%B9%E5%99%A8%E9%95%9C%E5%83%8F%E2%80%94%E2%80%94%E6%97%A0%E8%AE%BA%E6%98%AF%E6%9C%AC%E5%9C%B0%E9%95%9C%E5%83%8F%E3%80%81%E4%BB%8E%E4%BB%93%E5%BA%93%E6%8B%89%E5%8F%96%E7%9A%84%E9%95%9C%E5%83%8F%EF%BC%8C%E8%BF%98%E6%98%AF%E9%9C%80%E8%A6%81%E6%9E%84%E5%BB%BA%E7%9A%84%E9%95%9C%E5%83%8F%E3%80%82}

要将主机目录挂载到容器中，使用-v或--volume标志：

bash
jetson-containers run -v /主机路径:/容器路径 $(autotag jetson-inference)

要启动容器并运行命令（而非交互式shell）：

bash
jetson-containers run $(autotag jetson-inference) my_app --abc xyz

您可以向其传递任何docker run支持的选项，它会在执行前打印出构建的完整命令。

构建容器

如果如上所示使用https://github.com/dusty-nv/jetson-containers/tree/master/docs/run.md#autotag%EF%BC%8C%E5%BF%85%E8%A6%81%E6%97%B6%E5%AE%83%E4%BC%9A%E6%8F%90%E7%A4%BA%E6%82%A8%E6%9E%84%E5%BB%BA%E5%AE%B9%E5%99%A8%E3%80%82%E8%A6%81%E6%89%8B%E5%8A%A8%E6%9E%84%E5%BB%BA%EF%BC%8C%E8%AF%B7%E5%85%88%E5%AE%8C%E6%88%90https://github.com/dusty-nv/jetson-containers/tree/master/docs/setup.md%EF%BC%8C%E7%84%B6%E5%90%8E%E8%BF%90%E8%A1%8C%EF%BC%9A

bash
jetson-containers build jetson-inference

上述依赖项将被构建到容器中，并在构建过程中进行测试。运行时添加https://github.com/dusty-nv/jetson-containers/tree/master/jetson_containers/build.py%E5%8F%AF%E6%9F%A5%E7%9C%8B%E6%9E%84%E5%BB%BA%E9%80%89%E9%A1%B9%E3%80%82