이중화 되어 있지 않은 서버에 부하 발생 시 어떻게 처리해야 하는가?

- 항상 서버 생성 및 구성 시 이중화 생각해야함 ( 아무리 좋은 스펙의 HW , 서버라도 문제가 생김)

- chatgpt를 통해 이중화 되어 있지 않은 서버에 부하 발생 시 어떻게 처리해야 하는지 알아봄.

 

 

---

Chatgpt 질문 내용

- 이중화 되어 있지 않은 서버에 부하 발생 시 어떻게 처리해야 하는가?

 

 

1. 자동 스케일링 : 부하가 발생하면 서버 인스턴스의 수를 동적으로 조정하여 부하를 분산시킴

이를 위해 클라우드 환경에서는 auto scaling 그룹을 설정하여 인스턴스를 자동으로 추가 또는 제거할 수 있음.

 

2. 캐싱 : 정적인 콘텐츠나 데이터를 캐시하여 서버의 부하를 줄임.

캐싱은 프론트엔드에서 클라이언트에게 제공되는 정적 파일을 CDN(Content Delivery Network) 통해 제공하거나, 서버 내에서 메모리나 디스크 기반의 캐시 시스템을 사용하여 콘텐츠를 미리 저장하고 재사용함.

 

3. 부하 분산 : 로드 밸런서를 사용하여 부하를 여러 서버 인스턴스에 분산시킴. 

로드밸런서는 클라이언트 요청을 여러 서버로 분산하여 처리함으로써 각 서버에 걸리는 부하를 분산 시킴.

 

4. 비동기 처리 : 서버가 오랜 시간이 걸리는 작업을 수행해야 할 때, 비동기 방식으로 작업을 처리하고 응답을 즉시 반환한 다음 백그라운드에서 작업을 완료함. 이를 통해 서버가 블로킹되지 않고 동시에 다른 요청을 처리할 수 있음.

 

5. 코드 최적화 : 서버 측 코드를 최적하하여 처리 시간을 단축하거나 자원 사용을 줄임.

불필요한 데이트베이스 쿼리를 제거하거나 알고리즘을 개선하는 등의 작업을 수행할 수 있음.

 

6. 외부 서비스 이용 : 부하 발생 시 특정 기능을 외부 서비스로 전환하거나, 외부 서비스를 통해 일부 기능을 처리하도록 전환할 수 있음. 예를 들어, 이메일 발송은 외부 이메일 서비스를 사용하거나, 파일 스토리지는 클라우드 스토리지 서비스를 활용하는 등의 방법이 있음.