caapm/kubernetesmonitor

DX APM Kubernetes Monitor

镜像概述和主要用途

DX APM Kubernetes Monitor是CA APM的扩展组件，提供对通过Kubernetes部署、扩展和管理的容器化应用的全面监控洞察。该扩展用于监控容器化应用、进程和云实例的可用性与性能，实时管理Docker和Kubernetes容器集群中主机与应用的依赖关系，并利用收集的指标数据优化环境的扩缩容策略。

核心功能和特性

• 监控容器化应用、进程及云实例的可用性与性能
• 实时管理Docker和Kubernetes集群中主机与应用的依赖关系
• 收集指标数据以支持环境的扩缩容决策
• 支持Kubernetes Pod的限流指标监控
• 提供CPU利用率（mCore）、内存缓存及RSS指标
• 解决因频繁扩缩容导致的指标爆炸问题
• 监控集群节点指标及Kubernetes部署健康状态

最低支持版本

• Docker Remote API v1.23
• Docker Server version 1.11.x
• Kubernetes 1.6.0 至 1.16

支持的标签

标签内容说明

latest

• 指向20200114标签

2.0.2

• 修复第三方漏洞并创建精简镜像
• 平台支持至1.13版本
• 增加在主节点安装代理的支持
• 错误修复

2.0.1

• 支持内存RSS、内存缓存和内存交换的百分比利用率

2.0

• 支持Kubernetes Pod的限流指标
• 支持CPU利用率（mCore）及内存缓存与RSS指标
• 解决因频繁扩缩容导致的指标爆炸问题
• 集群节点指标
• Kubernetes部署健康状态
• 错误修复

1.0

• KubernetesMonitor初始版本

安装方法

部署步骤

运行以下命令部署：

bash
kubectl create -f caagent-kubernetesmonitor.yml 

注意事项：

• 该YML文件包含一个Deployment和DaemonSet，容器需要以特权模式运行
• 需替换以下变量为实际环境配置：

  [AGENTMANAGER_URL] ：Agent/EM连接详情（与IntroscopeAgent.profile中的配置类似）
  [AGENTMANAGER_CREDENTIAL]：连接SaaS实例所需的Agent Manager凭证
  [KUBERNETES_CONNECTION_URL]：Kubernetes连接详情，可通过运行`kubectl config view`获取
  [APITOKEN]：连接URL的API令牌，可通过在默认工作区创建具有cluster-reader角色的服务账户获取
  

caagent-kubernetesmonitor.yml内容

yaml
apiVersion: extensions/v1beta1
kind: DaemonSet
metadata:
  name: caagent
  labels:
    tier: monitoring
    app: caagent
    version: v1

spec:
  template:
    metadata:
      labels:
        app: caagent
    spec:
      hostPID: true
      hostIPC: true
      hostNetwork: true
      tolerations:
      - key: node-role.kubernetes.io/master
        effect: NoSchedule
      containers:
        - resources:
          securityContext:
            privileged: true

          env:
            - name: containerflow
              value: enabled
            - name: agentManager_url_1
              value: [AGENTMANAGER_URL]
            - name: agentManager_credential
              value: [AGENTMANAGER_CREDENTIAL]
            - name: type
              value: Kubernetes
            - name: interval
              value: "60"
            - name: apmenv_introscope_agent_extensions_bundles_load
              value: OpenshiftMonitor, HostMonitor

          name: podmonitor
          image: docker.xuanyuan.run/caapm/kubernetesmonitor:latest
          imagePullPolicy: Always
          livenessProbe:
            exec:
              command:
              - /bin/bash
              - -c
              - "if (( $(expr `date +%s` - `stat -c %Y /tmp/apmia-health/extensions/Docker-health.txt`) > 120 )); then exit 1; fi"
            initialDelaySeconds: 120
          resources:
            limits:
              cpu: 500m
              memory: 700Mi
            requests:
              cpu: 200m
              memory: 300Mi

          volumeMounts:
            - name: dockersock
              mountPath: /var/run/docker.sock
              readOnly: true
            - name: proc
              mountPath: /host/proc
              readOnly: true
 
      volumes:
        - name: dockersock
          hostPath:
            path: /var/run/docker.sock
        - name: proc
          hostPath:
            path: /proc
---
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  name: caagent-deployment
  labels:
    tier: monitoring
    app: caagent_v2
    version: v1

spec:
  template:
    metadata:
      labels:
        app: caagent_v2
    spec:
      hostPID: true
      hostIPC: true
      hostNetwork: true
      containers:
        - resources:
          securityContext:
            privileged: true

          env:
            - name: agentManager_url_1
              value: [AGENTMANAGER_URL]
            - name: agentManager_credential
              value: [AGENTMANAGER_CREDENTIAL]
            - name: connectionurl
              value: [KUBERNETES_CONNECTION_URL]
            - name: apitoken
              value: [APITOKEN]
            - name: type
              value: Kubernetes
            - name: HostMonitoring
              value: disabled
            - name: MIN_HEAP_VAL_IN_MB
              value: "400"
            - name: MAX_HEAP_VAL_IN_MB
              value: "800"
          name: kubemetainfo
          image: docker.xuanyuan.run/caapm/kubernetesmonitor:latest
          resources:
            limits:
              cpu: 700m
              memory: 1000Mi
            requests:
              cpu: 400m
              memory: 500Mi
          imagePullPolicy: Always
          livenessProbe:
            exec:
              command:
              - /bin/bash
              - -c
              - "if (( $(expr `date +%s` - `stat -c %Y /tmp/apmia-health/extensions/Kubernetes-health.txt`) > 900 )); then exit 1; fi"
            initialDelaySeconds: 120

获取APITOKEN的方法

1. 在"default"命名空间创建服务账户：

bash
kubectl create sa caapm

2. 添加cluster-reader角色：

bash
kubectl create clusterrolebinding cluster-read --serviceaccount=default:caapm  --clusterrole=cluster-admin

3. 获取token：

bash
kubectl get secrets|grep caapm-token| cut -f1 -d " "|xargs kubectl describe secret | grep token

卸载方法

bash
kubectl delete -f caagent-kubernetesmonitor.yml 

FAQ和故障排除

如何监控集群中的特定命名空间？

如需仅监控ns1和ns2命名空间，需在DaemonSet和Deployment配置中添加以下环境变量：

yaml
- name: KUBERNETES_NAMESPACE_MONITOR_LIST 
  value: ns1, ns2

代理无法连接到10.7 EM

如果使用latest或20200114及之后的镜像，需在Deployment和DaemonSet Pod中添加以下环境变量以连接10.7 EM（连接SaaS或11.X EM无需此配置）：

yaml
- name: apmenv_introscope_agent_connection_compatibility_version
  value: "10.7"