degirum/dg_local_compiler

镜像概述

本镜像为DeGirum官方编译器工具链，用于将YOLOv5、YOLOv8模型checkpoint及通用ONNX/TFLite格式模型编译为DeGirum N2X-ORCA1、OPENVINO（CPU/GPU/NPU）、TFLITE（CPU/EDGETPU）、TENSORRT-GPU、RKNN（RK3566/RK3568/RK3576/RK3588）、HAILORT（HAILO8/HAILO8L）、MEMRYX-MX3、AXELERA-METIS、DEEPX-M1A等框架支持的模型格式。容器运行后，Streamlit UI服务于8501端口，编译REST API服务于8535端口。详细文档见此处。

核心功能

• 支持YOLOv5、YOLOv8模型checkpoint编译
• 支持ONNX、TFLite格式模型转换
• 输出多种框架兼容的模型格式
• 提供Web UI和REST API两种交互方式
• 编译结果以ZIP包形式保存到绑定目录

使用场景

• 本地模型编译与转换，适配边缘设备部署需求
• 快速验证不同框架下的模型兼容性
• 批量处理模型转换任务

配置说明

前提条件

• Linux系统需Docker Engine 20.10+；macOS/Windows（需WSL2）需Docker Desktop 4.x+
• 至少15GB空闲磁盘空间
• 主机准备一个目录存放编译后的模型ZIP包

快速启动步骤

1. （可选）预拉取镜像

   bash
   docker pull degirum/dg_local_compiler:latest
   

2. 创建模型存储目录

   bash
   mkdir -p ~/dg_zoo
   

3. 运行容器
   Linux/macOS命令：

   bash
   docker run --rm --privileged \
       -p 8501:8501 -p 8535:8535 \
       --mount type=bind,source=$HOME/dg_zoo,target=/output_files \
       degirum/dg_local_compiler:latest
   

   Windows PowerShell命令：

   powershell
   docker run --rm --privileged `
       -p 8501:8501 -p 8535:8535 `
       --mount type=bind,source=$HOME\dg_zoo,target=/output_files `
       degirum/dg_local_compiler:latest
   

4. 使用方式

   • Web UI：访问http://localhost:8501
   • REST API：访问http://localhost:8535%EF%BC%8C%E6%94%AF%E6%8C%81%E6%8E%A5%E5%8F%A3%60/ir_compile%60%E3%80%81%60/yolocompile%60%E3%80%81%60/get-device-list%60
     编译后的ZIP包保存到~/dg_zoo目录，可用于本地推理或上传至DeGirum云平台。

5. 停止容器
   按Ctrl+C终止运行，容器自动删除，模型文件保留在绑定目录。

6. 更新镜像

   bash
   docker pull degirum/dg_local_compiler:latest
   # 重新执行步骤3启动容器