localstack/sagemaker-dummy-byom

SageMaker BYOM自定义模型容器虚拟实现

镜像概述

该镜像为Amazon SageMaker的BYOM（Bring Your Own Model）部署提供虚拟实现的自定义模型容器。它模拟了SageMaker自定义容器的基础架构和接口规范，旨在帮助开发者测试和验证模型部署流程，而无需实际训练或部署真实模型。

核心功能与特性

• 模拟模型推理：提供基础的推理接口模拟，支持标准SageMaker推理请求格式
• 符合SageMaker规范：遵循SageMaker自定义容器的接口要求，包括健康检查和推理端点
• 轻量级测试环境：无需真实模型即可验证容器构建、部署和交互流程
• 可扩展框架：基础结构可作为实际自定义容器开发的起点

使用场景

• SageMaker BYOM部署流程的本地测试与验证
• 自定义容器构建流程的完整性检查
• 开发团队熟悉SageMaker自定义容器接口规范
• CI/CD pipeline中容器部署流程的自动化测试

使用方法

基本部署

使用以下命令启动容器：

bash
docker run -p 8080:8080 <image-name>

环境变量配置

容器支持以下环境变量配置：

示例：

bash
docker run -p 8080:8080 -e PORT=8081 -e LOG_LEVEL=DEBUG <image-name>

接口测试

容器启动后，可通过HTTP请求测试以下接口：

健康检查接口

bash
curl http://localhost:8080/ping

成功响应：200 OK

推理接口

bash
curl -X POST http://localhost:8080/invocations \
  -H "Content-Type: application/json" \
  -d '{"input": "sample data"}'

成功响应：

json
{
  "model": "dummy-model",
  "input": "sample data",
  "prediction": "dummy-prediction"
}

注意事项

• 该镜像为虚拟实现，不包含真实模型逻辑，仅用于流程测试
• 生产环境部署需替换为包含实际模型的自定义容器
• 需确保容器与SageMaker的兼容性，包括正确的接口实现和资源配置