twinproduction/aws-eks-asg-rolling-update-handler

aws-eks-asg-rolling-update-handler

镜像概述和主要用途

aws-eks-asg-rolling-update-handler是一款用于AWS EKS集群中自动扩展组（ASG）滚动更新的工具。它通过识别并替换配置过时的节点（即节点当前配置与ASG的启动模板版本或启动配置不匹配的节点），实现ASG的滚动升级。该工具受aws-asg-roller启发，专注于优雅缩容过时节点，不控制节点总数，而是依赖cluster-autoscaler进行后续节点数量调整。与其他解决方案相比，它基于资源需求确定扩容节点数量，尤其适用于实例类型变更等场景，确保更新过程中的高可用性。

核心功能和特性

核心功能

• 定期检查ASG实例：按间隔迭代指定的ASG或集群关联的ASG，检查实例是否过时。
• 识别过时节点：通过以下条件判断节点是否过时：
  • 启动模板版本与ASG当前版本不匹配
  • 若ASG使用混合实例策略，实例类型不在实例类型覆盖列表中
  • 启动配置与ASG当前配置不匹配
• 滚动更新流程：对识别出的过时节点，先扩容足够的新节点以迁移旧节点上的Pod，再排空（drain）旧节点并终止。
• 步骤持久化：滚动更新的步骤（如节点排空、终止计划）直接持久化在旧节点上，确保应用重启、重新调度或停止时不会出现问题。
• 与cluster-autoscaler协同：不调整ASG的期望容量，依赖cluster-autoscaler管理最终节点数量，避免与集群自动扩缩容工具冲突。

关键特性

• 基于资源的扩容决策：根据资源需求确定需扩容的节点数量，而非仅依赖初始实例数量，适配实例类型变更场景。
• 高可用性保障：在滚动更新过程中维持集群可用性，需确保PodDisruptionBudgets配置正确（如允许至少1个中断）。
• 灵活的ASG指定方式：支持通过集群名称（自动关联带特定标签的ASG）或直接指定ASG名称列表。

使用场景和适用范围

适用场景

• EKS集群中ASG的启动模板版本更新后，需要替换使用旧版本模板的节点。
• ASG的启动配置变更后，需要更新集群中的节点配置。
• 使用混合实例策略的ASG中，实例类型覆盖列表变更后，需替换不在列表中的实例。
• 需在节点更新过程中维持高可用性，避免因简单缩容导致服务中断的场景。

适用范围

• AWS EKS集群环境。
• 使用自动扩展组（ASG）管理节点的EKS集群。
• 已部署cluster-autoscaler的集群（用于后续节点数量调整）。

使用方法和配置说明

环境变量配置

所需AWS权限

应用需具备以下AWS权限以正常工作：

• autoscaling:DescribeAutoScalingGroups
• autoscaling:DescribeAutoScalingInstances
• autoscaling:DescribeLaunchConfigurations
• autoscaling:SetDesiredCapacity
• autoscaling:TerminateInstanceInAutoScalingGroup
• autoscaling:UpdateAutoScalingGroup
• ec2:DescribeLaunchTemplates
• ec2:DescribeInstances

Kubernetes部署示例

yaml
apiVersion: core/v1
kind: ServiceAccount
metadata:
  name: aws-eks-asg-rolling-update-handler
  namespace: kube-system
  labels:
    k8s-app: aws-eks-asg-rolling-update-handler
---
apiVersion: rbac.authorization.k8s.io/v1beta1
kind: ClusterRole
metadata:
  name: aws-eks-asg-rolling-update-handler
  labels:
    k8s-app: aws-eks-asg-rolling-update-handler
rules:
  - apiGroups:
      - "*"
    resources:
      - "*"
    verbs:
      - get
      - list
      - watch
  - apiGroups:
      - "*"
    resources:
      - nodes
    verbs:
      - get
      - list
      - watch
      - update
      - patch
  - apiGroups:
      - "*"
    resources:
      - pods/eviction
    verbs:
      - get
      - list
      - create
  - apiGroups:
      - "*"
    resources:
      - pods
    verbs:
      - get
      - list
---
apiVersion: rbac.authorization.k8s.io/v1beta1
kind: ClusterRoleBinding
metadata:
  name: aws-eks-asg-rolling-update-handler
  labels:
    k8s-app: aws-eks-asg-rolling-update-handler
roleRef:
  kind: ClusterRole
  name: aws-eks-asg-rolling-update-handler
  apiGroup: rbac.authorization.k8s.io
subjects:
  - kind: ServiceAccount
    name: aws-eks-asg-rolling-update-handler
    namespace: kube-system
---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: aws-eks-asg-rolling-update-handler
  namespace: kube-system
  labels:
    k8s-app: aws-eks-asg-rolling-update-handler
spec:
  replicas: 1
  template:
    metadata:
      labels:
        k8s-app: aws-eks-asg-rolling-update-handler
    spec:
      automountServiceAccountToken: true
      serviceAccountName: aws-eks-asg-rolling-update-handler
      restartPolicy: Always
      dnsPolicy: Default
      containers:
        - name: aws-eks-asg-rolling-update-handler
          image: twinproduction/aws-eks-asg-rolling-update-handler
          imagePullPolicy: Always
          env:
            - name: AUTO_SCALING_GROUP_NAMES
              value: "asg-1,asg-2,asg-3" # 替换为实际的ASG名称列表

Helm部署示例

通过Helm chart部署：

sh
helm repo add twinproduction https://twinproduction.github.io/helm-charts
helm repo update
helm install aws-eks-asg-rolling-update-handler twinproduction/aws-eks-asg-rolling-update-handler

本地开发配置

本地运行时需：

1. 确保本地kubeconfig配置正确（可通过kubectl访问集群）。
2. 设置环境变量ENVIRONMENT=dev和AUTO_SCALING_GROUP_NAMES（逗号分隔的ASG名称列表）。
3. 本地AWS凭证有效（可通过awscli访问AWS资源）。