⚖️ AWS ELB (Elastic Load Balancer) & ASG (Auto Scaling Group)#

📈 스케일링 방향#

1
수직 확장 (Scale Up):   [작은 서버]  →  [큰 서버]        ← 한계 있음 (하드웨어 상한)
2
수평 확장 (Scale Out):  [서버1]  →  [서버1][서버2][서버3]  ← 이론상 무제한

• 수직 확장: RDS, ElastiCache 같은 **비분산 시스템(Non-distributed Systems)**에 일반적
• 수평 확장: 웹 애플리케이션, 현대 분산 시스템에 일반적

🏢 고가용성 (High Availability)#

• 애플리케이션을 **최소 2개의 데이터 센터(= AZ)**에서 운영
• 목표: 하나의 데이터 센터 장애 시에도 서비스 지속 (Survive a data center loss)
• 수평 확장과 함께 설계되는 것이 일반적

1
EC2 HA 구성 예시:
2
    [Load Balancer]
3
    /             \
4
[EC2 - AZ1]  [EC2 - AZ2]   ← 한 AZ 장애 시 다른 AZ가 트래픽 처리

🔀 로드 밸런서란?#

• 여러 다운스트림 서버(EC2 등)에 트래픽을 분산하는 서버
• 애플리케이션에 단일 접근 지점(Single Point of Access, DNS) 제공

왜 ELB(관리형)를 쓰는가?#

ELB의 주요 역할#

• 다운스트림 인스턴스 장애 시 seamless하게 처리 (Health Check)
• SSL 종료(SSL Termination, HTTPS 처리)
• 쿠키 기반 고정성(Stickiness)
• AZ 간 고가용성
• 퍼블릭/프라이빗 트래픽 분리

❤️ Health Check (헬스 체크)#

• LB가 인스턴스 정상 여부를 지속적으로 확인하는 기능
• 특정 포트와 경로(Route)에 요청 → 200 OK면 정상, 아니면 비정상
• 비정상 인스턴스로는 트래픽을 전송하지 않음

1
LB → GET /health (포트 80)
2
       ↓
3
   200 OK → 정상 → 트래픽 전달
4
   기타   → 비정상 → 트래픽 차단

🌐 특징#

• 레이어 7 (Layer 7, HTTP 레이어) 전용
• HTTP/2, WebSocket 지원
• HTTP → HTTPS 리다이렉트 지원
• 고정 호스트명(Fixed Hostname) 제공
• 클라이언트 IP는 인스턴스에 직접 전달되지 않음 → X-Forwarded-For 헤더로 확인

1
클라이언트 IP: 1.2.3.4
2
  │
3
  ▼
4
[ALB]  ──→  EC2: X-Forwarded-For: 1.2.3.4
5
               X-Forwarded-Port: 443
6
               X-Forwarded-Proto: https

🗺️ 라우팅 규칙 (Routing Rules)#

💡 마이크로서비스와 컨테이너에 최적: ECS와 연동 시 동적 포트 매핑(Dynamic Port Mapping) 지원.

🎯 Target Groups (대상 그룹)#

• Health Check는 Target Group 레벨에서 수행
• ALB는 여러 Target Group으로 동시 라우팅 가능

⚡ 특징#

• 레이어 4 (Layer 4, 전송 계층) — TCP & UDP 트래픽 처리
• 초고성능: 초당 수백만 요청 처리, 초저지연(Ultra-low Latency)
• AZ당 정적 IP(Static IP) 1개 보유 → Elastic IP 할당 가능 (특정 IP 화이트리스팅에 유리)
• 극한 성능, TCP/UDP 트래픽 처리에 사용

🎯 Target Groups#

• EC2 Instances
• IP Addresses (반드시 프라이빗 IP)
• Application Load Balancer (NLB 뒤에 ALB 배치 가능)
• Health Check: TCP, HTTP, HTTPS 프로토콜 지원

1
[정적 IP: 1.2.3.4]        ← 클라이언트가 고정 IP로 접근 (방화벽 화이트리스팅)
2
     [NLB]
3
       │
4
   [ALB / EC2]

🛡️ 특징#

• 레이어 3 (Layer 3, 네트워크 계층) — IP 패킷 수준 처리
• 3rd Party 네트워크 가상 어플라이언스 배포·확장·관리
• GENEVE 프로토콜 (포트 6081) 사용

두 가지 역할#

1
인터넷 트래픽
2
     │
3
     ▼
4
  [GWLB]  ← 모든 트래픽이 먼저 여기를 통과
5
     │
6
[방화벽/IDS/IPS 어플라이언스 Fleet]
7
     │
8
     ▼
9
  [EC2 앱]

주요 Use Case: 방화벽(Firewalls), 침입탐지/방지 시스템(IDS/IPS), 딥 패킷 검사(Deep Packet Inspection), 페이로드 조작

🍪 Sticky Sessions (세션 고정, Session Affinity)#

• 동일 클라이언트가 항상 동일한 인스턴스로 라우팅되도록 설정
• CLB, ALB, NLB 지원 (NLB는 쿠키 없이 동작)
• Use Case: 사용자 세션 데이터(로그인 정보 등)를 인스턴스 로컬에 저장하는 앱

WARNING

⚠️ 단점: 트래픽 불균형 발생 가능 (일부 인스턴스에 부하 집중)

쿠키 유형:

🌍 Cross-Zone Load Balancing (교차 AZ 로드 밸런싱)#

1
활성화:  AZ1(10대) + AZ2(2대) → 전체 12대에 균등 분배 (각 8.3%)
2
비활성화: AZ1(10대) → AZ1 10대만, AZ2(2대) → AZ2 2대만 (각 AZ 50%)

🔒 SSL/TLS 인증서#

• SSL (Secure Sockets Layer) / TLS (Transport Layer Security): 클라이언트 ↔ LB 간 전송 암호화 (In-flight Encryption)
• TLS는 SSL의 최신 버전 (현재 대부분 TLS 사용)
• 인증서는 **CA(Certificate Authority)**에서 발급 (Comodo, DigiCert, GoDaddy 등)
• LB는 X.509 인증서 사용
• *ACM (AWS Certificate Manager)**으로 인증서 관리 권장

📛 SNI (Server Name Indication)#

• 하나의 웹 서버(LB)에 여러 SSL 인증서를 로드하여 여러 도메인을 서비스하는 기술
• 클라이언트가 SSL 핸드셰이크 시 접속할 호스트명을 먼저 전달 → 서버가 올바른 인증서 선택
• ALB, NLB, CloudFront만 지원 — CLB는 미지원

⏳ Connection Draining (연결 드레이닝)#

• 인스턴스가 비정상이거나 등록 해제 중일 때 진행 중인 요청(In-flight Requests)을 완료할 시간 부여
• 해제 중인 인스턴스에 새 요청 전달 중단
• 설정 범위: 1~3600초 (기본값: 300초)
• 0으로 설정 시 비활성화 (즉시 연결 종료)

💡 짧은 요청이 많은 서비스: 낮은 값 설정 (ex: 30초). 긴 처리가 필요한 서비스: 높은 값 설정.

📐 개념#

1
[Load Balancer]
2
      │
3
  [ASG]
4
  ├── EC2 (최소: min)
5
  ├── EC2 (현재: desired)
6
  └── EC2 (최대: max)
7

8
트래픽 증가 → Scale Out (인스턴스 추가)
9
트래픽 감소 → Scale In  (인스턴스 제거)

• 비용 없음: ASG 자체는 무료, 실행되는 EC2 인스턴스 비용만 지불
• 비정상 인스턴스 감지 시 자동으로 새 인스턴스 생성 (Re-create)
• 새 인스턴스를 자동으로 LB에 등록

⚙️ ASG 구성 요소#

Launch Template (시작 템플릿) — 인스턴스 설정의 청사진

IMPORTANT

구세대 Launch Configurations는 Deprecated. 반드시 Launch Template 사용.

크기 설정:

• Min Size: 최소 실행 인스턴스 수 (가용성 하한)
• Max Size: 최대 실행 인스턴스 수 (비용 상한)
• Desired Capacity: 현재 목표 인스턴스 수

📊 CloudWatch와 ASG 연동#

• CloudWatch 알람(Alarm)이 트리거되면 Scale Out/In 정책 실행
• 메트릭 예시: 평균 CPU 사용률 (Average CPU) — ASG 전체 인스턴스의 평균값

1
CPU > 70% → CloudWatch Alarm → ASG Scale Out (+2 인스턴스)
2
CPU < 30% → CloudWatch Alarm → ASG Scale In  (-1 인스턴스)

🔄 Dynamic Scaling (동적 스케일링)#

🔮 Predictive Scaling (예측 스케일링)#

• ML로 미래 부하를 예측하여 사전에 스케일링 예약
• 반복적인 패턴이 있는 워크로드에 효과적

📏 스케일링에 좋은 지표#

⏸️ Scaling Cooldown (스케일링 쿨다운)#

• 스케일링 활동 후 기본 300초(5분) 대기 — 지표가 안정될 때까지 추가 스케일링 중단
• 권장: 미리 구성된 AMI (Ready-to-use AMI) 사용 → 인스턴스 준비 시간 단축 → 쿨다운 기간 축소 가능

🔐 LB Security Groups 구성 패턴#

1
인터넷 (0.0.0.0/0)
2
        │ HTTP/HTTPS
3
        ▼
4
[Load Balancer Security Group]   ← 0.0.0.0/0:80, 443 허용
5
        │ 포트 80
6
        ▼
7
[EC2 Security Group]             ← LB Security Group에서 온 트래픽만 허용
8
        (인터넷에서 직접 접근 불가)

📌 시험 자주 출제 포인트#