interactions/midgard

镜像概述

该Docker镜像基于NVML（NVIDIA Management Library）构建，旨在提供节点级别的集群资源信息访问能力，专注于获取和展示与NVIDIA GPU相关的资源状态，帮助用户实时监控和管理集群中的GPU资源。

核心功能与特性

• NVML集成：原生集成NVIDIA管理库，支持获取GPU设备的详细信息，包括利用率、内存使用量、温度、电源状态等
• 集群资源访问：可在节点级别收集并展示集群资源信息，便于资源监控和调度决策
• 轻量级设计：镜像体积小巧，运行资源占用低，适合部署在资源受限的集群节点中
• 易于集成：提供标准化的输出格式，可轻松集成到现有监控系统或集群管理平台

使用场景与适用范围

• GPU集群监控：适用于包含NVIDIA GPU的服务器集群，用于实时监控节点GPU资源状态
• 资源调度优化：为集群资源调度系统提供节点级资源数据，辅助优化任务分配
• 运维诊断：帮助运维人员快速定位节点GPU资源异常，进行故障排查
• 分布式计算环境：支持在分布式训练、科学计算等场景中监控资源使用情况

使用方法

基本用法

bash
docker run --rm --device=/dev/nvidia0:/dev/nvidia0 --device=/dev/nvidiactl:/dev/nvidiactl --device=/dev/nvidia-uvm:/dev/nvidia-uvm docker.xuanyuan.run/your-image-name

配置参数说明

环境变量

示例：自定义配置

bash
docker run --rm \
  --device=/dev/nvidia0:/dev/nvidia0 \
  --device=/dev/nvidiactl:/dev/nvidiactl \
  --device=/dev/nvidia-uvm:/dev/nvidia-uvm \
  -e NODE_NAME=worker-node-01 \
  -e MONITOR_INTERVAL=5 \
  -e OUTPUT_FORMAT=json \
  -e GPU_IDS=0,1 \
  docker.xuanyuan.run/your-image-name

docker-compose配置示例

yaml
version: '3'
services:
  resource-monitor:
    image: docker.xuanyuan.run/your-image-name
    devices:
      - /dev/nvidia0:/dev/nvidia0
      - /dev/nvidiactl:/dev/nvidiactl
      - /dev/nvidia-uvm:/dev/nvidia-uvm
    environment:
      - NODE_NAME=worker-node-01
      - MONITOR_INTERVAL=5
      - OUTPUT_FORMAT=json
      - GPU_IDS=0,1
    restart: always

注意事项

• 运行镜像的节点需安装NVIDIA驱动，确保NVML库可用
• 需正确挂载NVIDIA设备文件（/dev/nvidia*）以访问GPU资源
• 对于多GPU节点，可通过GPU_IDS参数指定需要监控的设备，避免资源浪费