keyval/odigos-autoscaler

Odigos Autoscaler Service 镜像

镜像概述

Odigos Autoscaler Service镜像是Odigos项目的核心组件之一，专注于实现服务的自动扩缩容功能。该镜像通过监控服务负载指标（如CPU、内存使用率）或自定义业务指标，动态调整服务实例数量，从而在保障服务性能稳定的同时，最大化资源利用率。

核心功能与特性

• 多指标支持：支持基于系统指标（CPU、内存）、网络指标（吞吐量、延迟）及自定义业务指标（如请求量、队列长度）触发扩缩容操作。
• 灵活策略配置：可自定义扩缩容阈值、冷却时间、最小/最大实例数等核心参数，适配不同业务场景需求。
• 跨平台兼容性：兼容Docker Swarm、Kubernetes等主流容器编排平台，支持独立部署或集群集成模式。
• 监控系统集成：无缝对接Prometheus、Datadog等监控工具，实时获取指标数据驱动扩缩容决策。
• 动态配置更新：支持通过API或配置文件热更新扩缩容策略，无需重启服务即可应用新配置。

使用场景与适用范围

• 微服务架构：为微服务集群提供精细化扩缩容能力，针对不同服务的负载特性独立调整资源。
• 流量波动场景：适用于电商促销、在线教育等流量峰谷差异显著的应用，自动应对流量高峰与低谷。
• 资源成本优化：通过动态缩减低负载服务实例，降低闲置资源消耗，优化基础设施成本。
• 高可用保障：在服务异常时自动补充健康实例，提升系统整体可用性。

使用方法与配置说明

基础部署（Docker Run）

通过以下命令快速启动容器：

bash
docker run -d \
  --name odigos-autoscaler \
  -p 8080:8080 \
  -e SCALING_POLICY=default \
  -e MIN_REPLICAS=2 \
  -e MAX_REPLICAS=10 \
  -e METRIC_PROVIDER=prometheus \
  -e PROMETHEUS_ENDPOINT=http://prometheus:9090 \
  -v /path/to/local/config:/etc/odigos/autoscaler \
  odigos/autoscaler:latest

环境变量配置

Docker Compose配置示例

yaml
version: '3.8'
services:
  odigos-autoscaler:
    image: odigos/autoscaler:latest
    container_name: odigos-autoscaler
    ports:
      - "8080:8080"
    environment:
      - SCALING_POLICY=ecommerce
      - MIN_REPLICAS=3
      - MAX_REPLICAS=15
      - METRIC_PROVIDER=prometheus
      - PROMETHEUS_ENDPOINT=http://prometheus:9090
      - COOLDOWN_SCALE_UP=180
      - COOLDOWN_SCALE_DOWN=300
    volumes:
      - ./autoscaler-config:/etc/odigos/autoscaler
    restart: unless-stopped
    depends_on:
      - prometheus

  prometheus:
    image: prom/prometheus:latest
    volumes:
      - ./prometheus-config:/etc/prometheus
    ports:
      - "9090:9090"

自定义扩缩容策略

通过挂载配置文件目录（如/etc/odigos/autoscaler），可定义精细化扩缩容策略（YAML格式），示例ecommerce.yaml：

yaml
policy:
  name: ecommerce
  scaleUpRules:
    - metric: http_requests_per_second
      threshold: 1000
      scaleBy: 2
      evaluationPeriods: 3
    - metric: cpu_usage
      threshold: 85
      scaleBy: 1
      evaluationPeriods: 2
  scaleDownRules:
    - metric: http_requests_per_second
      threshold: 200
      scaleBy: 1
      evaluationPeriods: 5
  cooldown:
    scaleUp: 180s
    scaleDown: 300s

Kubernetes集成部署

在Kubernetes集群中，可通过Deployment部署并结合ConfigMap管理策略配置：

yaml
apiVersion: apps/v1
kind: Deployment
metadata:
  name: odigos-autoscaler
  namespace: odigos
spec:
  replicas: 1
  selector:
    matchLabels:
      app: odigos-autoscaler
  template:
    metadata:
      labels:
        app: odigos-autoscaler
    spec:
      containers:
      - name: odigos-autoscaler
        image: odigos/autoscaler:latest
        ports:
        - containerPort: 8080
        env:
        - name: SCALING_POLICY
          value: "ecommerce"
        - name: KUBERNETES_NAMESPACE
          valueFrom:
            fieldRef:
              fieldPath: metadata.namespace
        volumeMounts:
        - name: policy-config
          mountPath: /etc/odigos/autoscaler
      volumes:
      - name: policy-config
        configMap:
          name: odigos-scaling-policies
---
apiVersion: v1
kind: ConfigMap
metadata:
  name: odigos-scaling-policies
  namespace: odigos
data:
  ecommerce.yaml: |
    policy:
      name: ecommerce
      scaleUpRules:
        - metric: http_requests_per_second
          threshold: 1000
          scaleBy: 2
      scaleDownRules:
        - metric: http_requests_per_second
          threshold: 200
          scaleBy: 1

注意事项

• 确保监控数据源（如Prometheus）与Autoscaler之间网络通畅，指标采集延迟需控制在10秒以内。
• 新策略上线前建议通过测试环境验证阈值设置，避免因策略激进导致频繁扩缩容（"抖动"）。
• 生产环境建议部署多副本Autoscaler以保障高可用性，避免单点故障影响扩缩容功能。