대규모 트래픽을 감당할 수 있는 시스템 설계를 위한 기초 지식

대규모 사용자를 감당할 수 있는 시스템을 설계하기 위한 지식들에 대해서 살펴보자.

📌 RDBMS vs NoSQL

RDBMS는 자료를 테이블과 열, 칼럼으로 표현한다.

그리고 SQL을 이용해 테이블에 있는 데이터를, 그 관계에 따라 JOIN 하여 합칠 수 있다.

💡 정형화 된 스키마에 따라 구조화되어 저장되기 때문에, 데이터의 일관성과 무결성을 보장할 수 있다.

NoSQL은 대량의 데이터를 처리하는데 특화되어 있다.

💡 데이터의 구조가 비정형이거나 아주 많은 양의 데이터를 저장할 필요가 있을 때 사용하면 좋다.

Scale Up 은 서버에 고사양 자원을 추가하는 행위이고, Scale Out은 더 많은 서버를 추가하여 성능을 개선하는 행위이다.

🚨 Scale Up은 한 대의 서버에 CPU나 메모리를 무한대 증설할 수 있는 방법이 없고, 서버가 한 대 이기 때문에 장애에 대처하기 어렵다.

💡 따라서, 대규모 사용자가 사용하는 애플리케이션에는 Scale Out이 적합하다.

💡 서버의 분산이 필요한 경우는 다음과 같다.

한 서버에 트래픽이 몰리면, 사용할 수 있는 자원이 한정적이기 때문에 여러 요청을 처리하려다가 병목현상이 생기거나 응답속도가 느려질 수 있다.
시스템에 문제가 생겨 서버가 다운되는 경우, 데이터를 읽거나 사용자가 서비스를 사용하지 못하는 경우가 발생한다.

💡 DB 분산이 필요한 경우 역시 유사하다. 장애 대처와 성능 향상을 위해 분산한다.

쓰기 연산만 수행하는 Master DB 와 읽기 연산만 수행하는 Slave DB 로 분리한다.

대부분의 애플리케이션은 보통 조회 작업이 빈번하기 때문에 Slave DB의 수가 일반적으로 많게끔 설계한다.

💡 로드 밸런서는 트래픽 부하 분산과 보안 향상의 역할을 한다.

사용자는 로드 밸런서의 공개 IP 주소로 접속한다. 그리고 서버간 통신은 보안을 위해 같은 네트워크에 속한 서버 사이의 통신에만 쓰이는 사설 IP 주소를 이용한다.

캐시는 자주 사용되는 데이터를 메모리 안에 두어, 데이터베이스에 접근하는 횟수를 줄여 응답속도 개선과 데이터베이스 부하를 줄일 수 있다.

💡 DB에 있는 데이터의 갱신은 자주 일어나지 않지만 참조(조회)는 빈번하게 일어날 때 사용하면 좋다.

🚨 단, 휘발성 메모리에 두므로 영속적으로 보관할 필요가 있는 데이터를 두는 것은 좋지 않다.

그리고, 캐시를 관리하는 정책을 잘 세워야 한다.

캐시 만료 기한이 너무 짧으면, 데이터 베이스를 너무 자주 읽게 되어 성능 향상 이점을 얻기 힘들고

캐시 만료 기한이 너무 길면, DB 데이터와 차이가 발생할 수 있다.

따라서, 저장소의 원본을 갱신하는 연산과 캐시를 갱신하는 연산이 단일 트랜잭션으로 처리되어야 일관성을 유지할 수 있다.

CDN은 정적 콘텐츠를 캐시하여 전송하는데 쓰이는 네트워크이다.

어떤 사용자가 웹사이트에 방문하면, 그 사용자에게 가장 가까운 CDN 서버가 정적 콘텐츠를 전달한다.

아직 캐싱되어있지 않은 경우, 서버에 요청하여 파일을 가져오고 캐싱해두고 응답한다.

이렇게 함으로서 정적 콘텐츠(이미지, js 파일, css 파일) 등을 빠르게 응답하고 WAS 부하를 줄여줄 수 있다.

사용자의 HTTP 요청은 어떤 WAS로도 전달될 수 있다.

🚨 상태 정보를 WAS가 보관하여 사용하는 경우에는, 같은 사용자의 요청은 항상 같은 WAS로 전송되도록 설정하거나 WAS 간 상태 정보를 공유할 수 있도록 해야하기 때문에 서버에 부담을 준다.

따라서, WAS는 사용자의 상태를 보관하는 것이 아니라 사용자의 상태 정보가 필요할 경우, 공유 저장소로부터 데이터를 가져오는 방식으로 하고 이를 무상태 아키택처라고 한다.