jiaxingli2013/gpustack

富国科技集团GPUStack Docker镜像

镜像概述

GPUStack是富国科技集团推出的轻量级、自托管的GPU资源管理与AI推理平台，专为本地/边缘部署设计。本镜像为custom-v1版本，已集成常用依赖与优化配置，适用于CUDA 12.8环境，提供直观的GPU资源管理与AI服务部署能力。

核心功能与特性

• 实时GPU监控：实时监控GPU显存、利用率、温度、功耗等关键指标
• 一键部署大模型：支持LLM（大语言模型）、文生图、语音等各类AI服务的快速部署
• 多卡调度：自动分配GPU资源，支持多用户、多任务并发运行
• Web控制台：提供直观的Web UI界面，用于管理模型、任务与设备
• 容器原生：基于Docker构建，开箱即用，无需复杂配置

使用场景与适用范围

• 本地/边缘环境的GPU资源管理与监控
• 多用户共享GPU资源的场景
• 快速部署和管理AI模型服务（如LLM推理、图像生成等）
• 需要实时监控GPU状态的科研或生产环境

快速启动

使用以下命令快速启动GPUStack服务：

bash
docker run -d \
  --gpus all \
  -p 8888:80 \
  --ipc=host \
  --restart=unless-stopped \
  -v gpustack-custom-data:/var/lib/gpustack \
  --name gpustack_custom \
  jiaxingli2013/gpustack:custom-v1

• 访问Web控制台：http://<服务器IP>:8888
• 数据持久化：所有配置、模型元数据保存在Docker volume gpustack-data 中
• 首次启动约需10-30秒，请等待服务初始化完成。

镜像说明

基础环境

• 操作系统：Ubuntu 22.04
• CUDA版本：12.8
• Python版本：3.10

GPU支持

• 硬件要求：NVIDIA GPU（支持CUDA）
• 驱动要求：NVIDIA Driver ≥ 525

端口配置

• 内部服务监听端口：80
• 建议映射端口：8888（或其他可用端口）

数据目录

• 数据存储路径：/var/lib/gpustack（用于存储数据库、日志、模型注册信息等）

数据持久化建议

方式1：使用命名Volume（推荐）

bash
-v gpustack-data:/var/lib/gpustack

方式2：绑定宿主机目录

bash
-v /path/on/host:/var/lib/gpustack

系统要求

硬件要求

• NVIDIA GPU（支持CUDA）

软件要求

• NVIDIA Driver ≥ 525
• nvidia-container-toolkit（已安装并配置CUDA 12.8）
• Docker ≥ 20.10

验证GPU可用性

运行以下命令验证GPU是否可被Docker识别：

bash
docker run --rm --gpus all nvidia/cuda:12.4-base nvidia-smi

安全提示

• 默认配置无身份验证，请勿直接暴露在公网！
• 修改管理员密码：进入容器后运行以下命令

  bash
  gpustack reset-admin-password
  

  默认账号：admin

生产环境建议

• 配置反向代理（如Nginx）并启用HTTPS
• 添加Basic Auth或集成OAuth认证
• 限制访问IP

许可证

本项目基于 Apache License 2.0 开源。

镜像中包含的第三方组件（如CUDA、PyTorch）遵循其各自许可。

致谢

• GPUStack官方项目
• NVIDIA CUDA & Docker团队