1. Circuit breaker Patten을 이용한 장애 탈출

1. Circuit breaker Patten을 이용한 장애 탈출

1-1) MSA에서 서비스간 장애 전파

1-1)-1. MSA에서 서비스간 장애 전파

마이크로 서비스 아키텍처 패턴은 시스템을 여러 개의 서비스 컴포넌트로 나눠서 서비스 컴포넌트 간에

호출하는 개념을 가지고 있음. 아키텍처는 장점도 많지만 반대로 몇 가지 단점을 가지고 있는데

그 중에 하나는 하나의 컴포넌트가 느려지거나 장애가 나면 그 장애가 난 컴포넌트 호출하는 종속된

컴포넌트까지 장애가 전파되는 특성을 가지고 있음.

1-1)-2. MSA에서 서비스간 장애 전파 Image

→ Service A가 Service B를 호출하는 상황

⇒ 어떤 문제로 인해 Service B가 응답을 못하거나 또는 응답 속도가 매우 느려진 상황이라면

⇒ Service A가 Service B에 대한 호출 시도를 하면 Service A에서 Service B를 호출한 쓰레드는

⇒ 응답을 받지 못하기 때문에 계속 응답을 기다리는 상태로 잡혀 있게 된다. 지속해서 Service A가

⇒ Service B를 호출을 하게 되면 앞과 같은 원리로 각 쓰레드(Click)들이 이렇게

⇒ Service B의 장애가 Service A에 영향을 주는 경우를 장애가 전파 되었다고 한다.

⇒ 이 상황에서 Servie A를 호출하는 서비스가 또 있다면 같은 원리로 인해 그 서비스까지

⇒ 장애가 전파돼서 전체 시스템이 장애 상태로 빠질 수 있음.

1-2) Circuit breaker 패턴

서비스 호출 중간 즉 위의 예제에서는 Service A와 Service B에 Circuit Breaker를 설치 함.

Service B로의 모든 호출은 이 Circuit Breaker를 통하게 되고

Service B가 정상적인 상황에서 트래픽을 문제 없이 bypass 함.

1-2)-1. Circuit Breaker Image

→ Service B가 문제가 생겼음을 Circuit breaker가 감지한 경우에는 Service B로의 호출을

→ 강제적으로 끊어서 Service A에서 쓰레드들이 더이상 요청을 기다리지 않도록 해서

→ 장애가 전파하는 것을 방지함. 강제적으로 호출을 끊으면 에러 메시지가 Service A에서 발생하기

→ 때문에 장애 전파는 막을 수 있지만 Service A에서 이에 대한 장애 처리 로직이 별도로 필요로 함.

→ 이를 좀 더 발전 시킨 것이 Fall-back 메시징인데, Circuit breaker에서 Service B가 정상적인

→ 응답을 할 수 없을 때 Circuit breaker가 룰에 따라서 다른 메시지를 리턴하게 하는 방법임.

1-2)-2. Fall-back Image

→ 상품 목록을 화면에 뿌리는 Service A

→ 사용자에 대해 머신 러닝을 이용하여 상품을 추천해주는 Service B

⇒ Service B가 장애를 갖게 되면 상품 추천을 해줄 수 없음.

⇒ 이때 상품 진열자(MD) 등이 미리 추천 상품 목록을 설정해 놓고 Service B가 장애 상태이면

⇒ Circuit breaker에서 목록을 리턴해주게 하면 머신러닝 알고리즘 기반의 상품 추천보다

⇒ 정확도는 낮아지지만 최소한 시스템 장애가 나는 것을 방지할 수 있고 다소 낮은 확률로

⇒ 상품을 꾸준하게 구매 유도를 할 수 있음.