mrkyaw/onnx-rust-web-assembly-triton-promethus-grafana

多技术组件测试Docker镜像

镜像概述

本Docker镜像旨在提供一个集成化测试环境，用于验证Onnx、Rust、Webm、Assembly、Triton Inference Server、Prometheus和Grafana等多种技术组件的功能与兼容性。镜像内置各组件的基础测试工具和依赖库，支持快速部署测试环境，简化多技术栈集成测试流程。

核心功能与特性

支持的技术组件测试

• Onnx：提供Onnx Runtime及测试工具，支持模型加载、推理验证和性能测试
• Rust：集成Rust编译器(rustc)、Cargo包管理器及测试框架，支持Rust应用单元测试与集成测试
• Webm：包含Webm编解码工具(如ffmpeg)，支持Webm媒体文件处理、格式验证和流传输测试
• Assembly：提供x86/x86_64汇编器(nasm)和调试工具(gdb)，支持汇编程序编译与执行测试
• Triton Inference Server：内置Triton服务端及客户端工具，支持模型部署验证、推理请求测试和性能监控
• Prometheus：集成Prometheus服务器和 exporters，支持指标采集、存储与查询测试
• Grafana：包含Grafana可视化平台，支持仪表盘配置、数据展示与告警规则测试

环境优势

• 预配置各组件依赖，无需手动安装复杂环境
• 轻量级设计，基于Alpine或Ubuntu基础镜像，平衡体积与兼容性
• 支持多架构(amd64/arm64)，适配不同硬件环境
• 提供标准化测试脚本模板，简化测试流程

使用场景

• 开发环境测试：开发者本地验证多技术组件集成功能
• CI/CD流水线：作为自动化测试环节，验证代码提交对多组件的影响
• 技术验证：快速评估新组件版本兼容性或技术方案可行性
• 培训与学习：提供统一环境，用于学习多技术组件的使用与测试方法

使用方法

基本使用

通过以下命令启动镜像并进入交互式测试环境：

bash
docker run -it --rm [镜像名称]:[标签] /bin/bash

挂载测试文件

挂载本地测试资源(如代码、模型文件)至容器内：

bash
docker run -it --rm -v $(pwd)/tests:/tests [镜像名称]:[标签] /bin/bash

• /tests：容器内默认测试文件目录，可根据需求调整挂载路径

环境变量配置

支持通过环境变量自定义测试行为：

示例：仅测试Onnx和Rust组件，开启debug日志

bash
docker run -it --rm -e TEST_COMPONENTS="onnx,rust" -e LOG_LEVEL=debug [镜像名称]:[标签]

组件测试示例

Onnx模型测试

bash
# 进入容器后执行Onnx测试
cd /tests/onnx
onnxruntime_test my_model.onnx  # 执行模型推理测试

Rust应用测试

bash
# 进入容器后执行Rust测试
cd /tests/rust/my_app
cargo test  # 运行Rust项目测试用例

Triton服务测试

bash
# 启动Triton服务
tritonserver --model-repository=/tests/triton/models &
# 执行客户端测试
perf_analyzer -m my_model -u localhost:8000  # 性能测试工具

Prometheus与Grafana集成测试

bash
# 启动Prometheus(默认加载配置文件/etc/prometheus/prometheus.yml)
prometheus &
# 启动Grafana
grafana-server --homepath=/usr/share/grafana &
# 访问Grafana UI(需映射端口)：http://localhost:3000

注意事项

• 部分组件测试需映射端口(如Triton:8000, Grafana:3000)，启动时添加-p 8000:8000参数
• 高资源消耗测试(如大规模模型推理)建议配置容器资源限制：--memory=8g --cpus=4
• 测试数据建议通过挂载卷管理，避免容器内数据丢失
• 定期更新镜像标签以获取组件版本更新和安全补丁