개요

AWS EKS 환경에서 Prometheus, HPA, Cluster Autoscaler를 활용하여 효율적인 Autoscaling을 구현

각 구성 요소 설명

Prometheus

• 이전 단계에서 구축된 Prometheus는 Kubernetes 클러스터 내에서 Pod의 메트릭을 수집하고, HPA가 이를 기반으로 자동으로 리소스를 확장 또는 축소할 수 있게 지원

Horizontal Pod Autoscaler (HPA)

• HPA는 CPU, 메모리 등의 메트릭을 기반으로 Kubernetes 클러스터에서 Pod의 개수를 동적으로 조정하는 Kubernetes 리소스

Cluster Autoscaler (CA)

• CA는 클러스터의 노드 수를 동적으로 조정하는 도구로, HPA에 의해 Pod가 증가하여 노드 자원이 부족할 경우, 새로운 노드를 추가하여 클러스터의 리소스를 확장. 반대로, 불필요한 노드는 자동으로 축소하여 리소스를 효율적으로 관리

적용 메트릭 및 설정 방식

# **bank-app-back-hpa.yaml**

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: hpa-backend-server
  namespace: bank-namespace
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: backend-server
  minReplicas: 1
  maxReplicas: 3
  metrics:
    - type: Pods
      pods:
        metric:
          name: node_namespace_pod_container:container_cpu_usage_seconds_total:sum_irate
        target:
          type: AverageValue
          averageValue: 0.3
    - type: Pods
      pods:
        metric: 
          name: container_memory_usage_bytes
        target:
          type: AverageValue
          averageValue: 524288000
    - type: Pods
      pods:
        metric:
          name: container_network_receive_bytes_total
        target:
          type: AverageValue
          averageValue: 1000000
    - type: Pods
      pods:
        metric:
          name: container_network_transmit_bytes_total
        target:
          type: AverageValue
          averageValue: 1000000

CPU 사용량

• node_namespace_pod_container:container_cpu_usage_seconds_total:sum_irate 메트릭을 기준으로 Pod 확장 조건을 설정

메모리 사용량

• container_memory_usage_bytes 메트릭을 활용하여 메모리 사용량이 일정 수준 이상일 때 Pod 확장

네트워크 트래픽

• container_network_receive_bytes_total와 container_network_transmit_bytes_total 메트릭을 사용하여 Pod의 네트워크 트래픽을 모니터링하고, 네트워크 사용량이 설정된 임계값을 넘을 경우 Pod를 자동으로 확장

CA 활성화

Auto Scaling 그룹에 태그 추가

• Key: k8s.io/cluster-autoscaler/<your-cluster-name>
• Value: owned
• Key: k8s.io/cluster-autoscaler/enabled
• Value: true

IAM 역할 설정: 노드 그룹의 IAM 역할에 Autoscaling 권한을 추가

• autoscaling:DescribeAutoScalingGroups
• autoscaling:DescribeAutoScalingInstances
• autoscaling:DescribeLaunchConfigurations
• autoscaling:DescribeTags
• autoscaling:SetDesiredCapacity
• autoscaling:TerminateInstanceInAutoScalingGroup
• ec2:DescribeLaunchTemplateVersions