nnabla/nnabla-ext-cuda-multi-gpu

NNabla CUDA扩展Docker镜像

镜像概述

本镜像为https://github.com/sony/nnabla/%EF%BC%88NNabla%EF%BC%89%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E6%A1%86%E6%9E%B6%E6%8F%90%E4%BE%9B%E5%AE%98%E6%96%B9CUDA/cuDNN%E5%8A%A0%E9%80%9F%E6%94%AF%E6%8C%81%EF%BC%8C%E9%80%9A%E8%BF%87GPU%E5%8A%A0%E9%80%9F%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E8%AE%AD%E7%BB%83%E4%B8%8E%E6%8E%A8%E7%90%86%E8%BF%87%E7%A8%8B%EF%BC%8C%E6%94%AF%E6%8C%81%E5%A4%9AGPU%E9%85%8D%E7%BD%AE%EF%BC%8C%E9%80%82%E7%94%A8%E4%BA%8E%E5%90%84%E7%B1%BB%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0%E4%BB%BB%E5%8A%A1%E3%80%82

核心功能与特性

• CUDA/cuDNN加速：基于NVIDIA CUDA和cuDNN库实现高效神经网络计算加速
• 自动卷积算法选择：自动搜索并缓存最优cuDNN卷积算法，动态适配不同参数配置（滤波器大小、步长、 dilation等）
• 混合精度训练：支持fp16（半精度）计算，可通过配置启用，提升训练效率
• 多GPU支持：支持多GPU环境部署，满足大规模模型训练需求
• 内存控制：可通过环境变量限制cuDNN工作区内存大小，适配小内存GPU
• 确定性计算：支持启用确定性卷积算法，确保实验结果可复现

使用场景与适用范围

适用于需要GPU加速的深度学习任务，包括但不限于：

• 计算机视觉、自然语言处理等领域的模型训练与推理
• 大规模神经网络模型的高效计算
• 混合精度训练技术研究与实践
• 动态神经网络架构的性能优化

使用方法与配置说明

基本使用

需将NNabla默认上下文从CPU切换为cuDNN：

python
from docker.xuanyuan.run/nnabla.ext_utils import get_extension_context
import nnabla as nn

# 切换至cuDNN上下文，指定GPU设备ID（如0号GPU）
ctx = get_extension_context('cudnn', device_id='0')
nn.set_default_context(ctx)

混合精度训练（fp16）

通过type_config参数启用半精度计算：

python
# 启用fp16精度
ctx = get_extension_context('cudnn', device_id='0', type_config='half')
nn.set_default_context(ctx)

稳定的fp16训练技术可参考http://nnabla.readthedocs.io/en/latest/python/tutorial/mixed_precision_training.html%E3%80%82

环境变量配置

工作区内存限制

默认无内存限制，可通过NNABLA_CUDNN_WORKSPACE_LIMIT（字节）限制cuDNN工作区大小：

bash
# 限制工作区最大为128 MB（134217728字节）
export NNABLA_CUDNN_WORKSPACE_LIMIT=134217728

确定性算法

设置NNABLA_CUDNN_DETERMINISTIC为非0值，启用确定性卷积算法：

bash
export NNABLA_CUDNN_DETERMINISTIC=1

Docker部署示例

基础运行命令（使用所有GPU）：

bash
docker run --gpus all -it docker.xuanyuan.run/nnabla/cuda-extension

指定GPU设备（使用0号GPU）：

bash
docker run --gpus "device=0" -it docker.xuanyuan.run/nnabla/cuda-extension

带环境变量配置（限制工作区内存）：

bash
docker run --gpus all -e NNABLA_CUDNN_WORKSPACE_LIMIT=134217728 -it docker.xuanyuan.run/nnabla/cuda-extension

性能说明

自动卷积算法选择

启用cuDNN时，扩展库通过cudnnFindConvolution*Algorithm接口穷举测试所有可用卷积算法，选择最快算法并缓存结果。该机制在动态神经网络中仍能保持高效，但若算法需要大内存工作区，可能导致小内存GPU运行失败，建议通过环境变量限制工作区大小。

常见问题（FAQ）

目前暂无常见问题记录。更多文档请参考http://nnabla.readthedocs.io/en/latest/%E3%80%82