North-South / East-West Traffic

Traffic Direction

데이터센터와 네트워크 설계에서는 트래픽을 흐르는 방향에 따라 두 가지로 분류한다.

• North-South Traffic: 외부와 데이터센터 사이를 오가는 트래픽 (수직 방향)
• East-West Traffic: 데이터센터 내부, 서버끼리 주고받는 트래픽 (수평 방향)

트래픽이 어느 방향으로 많이 흐르느냐에 따라, 어떤 종류의 네트워크 장비와 서비스에 돈과 자원을 더 투입할지가 달라진다.

                    [인터넷 / 사용자]    ← North (위쪽)
                          │
                          │  North-South 트래픽 (수직 흐름)
                          ▼
              ┌──────────────────────┐
              │      데이터센터 내부     │
              │                      │
   [서버A] ────────── East-West ────────── [서버B]   ← "East-West Traffic"
              │     트래픽 (수평 흐름)   │
              │                      │
              └──────────────────────┘
                          │
                          │  "North-South Traffic"
                          ▼
                    [다른 외부 서비스]   ← South (아래쪽)

외부(사용자, 인터넷, 다른 서비스)는 보통 위/아래 방향으로 그려지고, 데이터센터 내부의 서버들은 가로 방향으로 늘어선다.

North-South Traffic

외부와 데이터센터 사이를 오가는 트래픽이다.

대표적인 예시는 다음과 같다.

• 사용자의 브라우저 → 웹 서버
• 모바일 앱 → API 서버
• 웹 서버 → 외부 결제 API
• 백엔드 서버 → 외부 DNS, NTP, 로그 수집 서비스
• 다른 데이터센터로 보내는 백업 트래픽

North-South 트래픽은 다음과 같은 특성을 가진다.

• 방향성: 데이터센터 경계(perimeter)를 넘는 트래픽
• 트래픽 양: 한 사용자 요청 단위로 보면 적지만, 사용자 수가 많으면 누적
• 보안 관점: 외부에서 들어오는 트래픽이므로 방화벽, IDS/IPS, WAF 같은 perimeter 보안 장비가 처리하는 영역
• 지연: 인터넷 구간이 포함되므로 보통 ms 단위

East-West Traffic

데이터센터 내부의 서버끼리 주고받는 트래픽이다. 사용자에게는 보이지 않지만 현대 데이터센터에서 압도적인 비중을 차지한다.

대표적인 예시는 다음과 같다.

• 웹 서버 ↔ DB 서버
• API 서버 ↔ 캐시 서버 (Redis 등)
• 마이크로서비스 간 호출
• 분산 스토리지 노드 간 데이터 복제 (Ceph, HDFS 등)
• AI 학습 클러스터의 GPU 간 그래디언트 동기화
• 서버 ↔ 백업 스토리지

East-West 트래픽은 다음과 같은 특성을 가진다.

• 방향성: 데이터센터 경계 안에서만 흐름
• 트래픽 양: 한 사용자 요청이 내부에서 수십~수백 번의 서비스 호출로 증폭되므로, 절대량이 매우 큼
• 보안 관점: 외부 검문소를 통과한 뒤의 통신이라 전통적으로 검사가 약했음. 최근에는 micro-segmentation, Zero Trust 흐름으로 강화 중
• 지연: 같은 데이터센터 안이므로 µs ~ 수 ms 수준

특히 분산 시스템과 AI 학습 환경에서는 East-West가 시스템 성능을 직접 좌우한다. InfiniBand, RoCE 같은 RDMA 기반 패브릭이 이 영역에 투입되는 이유이다.

North-South vs East-West

네트워크 설계에 미친 영향

트래픽 비중의 변화는 데이터센터 네트워크 토폴로지 자체를 바꿨다.

전통적 3-Tier 아키텍처

옛날 캠퍼스 네트워크와 데이터센터는 Core/Distribution/Access 3계층 구조였다.

           [사용자 단말]                      ← 데이터센터 바깥
                │
                ▼
              [Core]                       ← 데이터센터 출입구 (백본)
                │
        ┌───────┴───────┐
        ▼               ▼
  [Distribution]    [Distribution]         ← 중간 집선 계층
     │     │          │     │
     ▼     ▼          ▼     ▼
  [Access][Access] [Access][Access]        ← 서버가 붙는 계층
     │     │          │     │
  [서버A][서버B]      [서버C][서버D]            ← 안쪽

이 구조는:

• 사용자 단말 ↔ Core ↔ Distribution ↔ Access ↔ 서버 (North-South 흐름)에 최적화. Core가 데이터센터의 출입구 역할을 하며, 외부 트래픽은 Core를 가장 먼저 통과한 뒤 아래로 내려가 서버에 도달한다.
• 서버 ↔ 서버 통신은 한 번 위로 올라갔다 다시 내려와야 함
• East-West 트래픽이 적었을 때는 문제없었음

Spine-Leaf 아키텍처

현대 데이터센터는 Spine-Leaf 토폴로지로 전환되었다.

[Spine] [Spine] [Spine]    ← 모든 Leaf와 풀메시 연결
   \  /  \  /  \  /
    \/    \/    \/
   /\    /\    /\
  /  \  /  \  /  \
[Leaf][Leaf][Leaf][Leaf]    ← 서버가 붙는 계층

• 어느 두 서버 사이라도 동일한 홉 수와 대역폭으로 통신
• East-West 트래픽이 폭증해도 균등하게 처리
• ECMP로 다중 경로 부하 분산

East-West 트래픽이 압도적으로 많아지면서, 데이터센터 토폴로지가 3-Tier에서 Spine-Leaf로 재설계되었다.

보안 관점의 변화

트래픽 비중 변화는 보안 모델도 바꾸었다.

옛날: Perimeter Security

• 데이터센터 입구(North-South 경로)에 강력한 방화벽 배치
• 일단 내부에 들어오면 비교적 자유롭게 통신
• "성벽 안은 안전하다"는 가정

현대: Zero Trust

• East-West 트래픽도 모두 검사 대상
• 서비스 간 통신에 mTLS, micro-segmentation 적용
• "내부도 신뢰하지 않는다"는 원칙

내부에 침입한 공격자가 East-West로 이동(lateral movement)하는 위협이 커지면서, 데이터센터 안쪽에도 세분화된 보안 통제가 필수가 되었다.

정리

• North-South: 외부 ↔ 데이터센터 (수직), 사용자에게 보이는 트래픽
• East-West: 서버 ↔ 서버 (수평), 내부 분산 시스템 간 트래픽
• 비중 변화: 옛날엔 N-S 우세, 지금은 E-W가 압도적
• 토폴로지: 3-Tier(N-S 최적) → Spine-Leaf(E-W 최적)
• 보안: Perimeter Security → Zero Trust로 진화