엔지니어링

로드 밸런싱은 아래 유형 중 하나로 구성되며, 어떤 유형의 로드밸런싱을 구성하던지 로드밸런서의 기능은 동일하다. 리버스 프록시(reverse proxy)처럼 동작하며 여러 대의 서버로 트래픽을 부하를 분산하는 것이다. 본인의 상황에 맞게 동작 방식과 트래픽을 분산하는 내부 알고리즘 등이 조금씩 다르게 적용할 뿐이다. DNS - RR(Round Robin) Hardware Software - HAProxy, Nginx, Seesaw, KEMP 등 각 방식에 대해 간단하게 알아보자. Load Balancing with DNS DNS(Domain Name System)은 도메인 이름을 IP주소로 변환하는 기술이다. 하나의 도메인 이름을 라운드로빈(Round Robin) 방식으로 N개의 IP주소로 변환하여 트래..

네트워크 로드밸런싱에서 주로 언급되는 로드밸런서 L4, L7, HAProxy 위주로 설명하겠다. L4 (Transport Layer) L4는 IP, Port, Session 기반으로 로드밸런싱하며 웬만한 서비스에서는 이것만으로 부하 분산이 충분히 가능하다. 주의해야할 점은 L4는 VIP(가상 IP주소)단위로만 로드밸런싱하기 때문에 반드시 하나의 VIP에 연결된 서버의 수가 비슷해야 한다. 만일 일부 서버에 문제가 생긴다면, 동일한 VIP에 연결된 다른 서버 역시 연달아 부하가 발생하여 더 심각한 문제가 발생할 수 있다. 또한 L4의 스펙상 최대 세션 수는 존재하나 세션을 맺는 시나리오에 따라 최대 성능이 다르다. 때문에 최대 세션 용량에 도달하지 않았어도 추가로 세션을 연결할 수 없는 문제가 발생하기도 ..

서버 성능을 높여주는 캐시(Cache)란? 컴퓨터 과학에서 데이터나 값을 미리 복사해 놓는 임시 장소를 가리킨다. 만약 짧은 시간 동안 동일한 요청이 여러 번 발생할 경우, 해당 요청의 결과를 캐시에 저장한다면 서버의 처리 속도를 높일 수 있다. N건의 처리를 해야했었는데, 1건만 처리 후에 캐시에 저장해두면 이후 결과는 캐시 메모리에 접근하여 얻을 수 있다! 캐시는 각 레이어별로 적용이 가능하다. (DB, WAS, Web server에서 각각 가능하다는 뜻) 캐시에 저장하는 방식 - 사용할 결과를 그대로 저장 (빠르지만 많은 메모리 소요) - 구조화하여 저장 (조금 느리지만 보다 효율적인 메모리 사용 가능) 지역성을 고려한 설계 - 시간적 지역성 (Temporal Locality) : 특정 데이터가 한..

목차 로드밸런싱(Load Balancing)의 이점 로드밸런서(Load Balancer) 로드밸런서의 주요 기능 로드밸런서 동작 방식 서비스 중단 없이 장애를 대처하는 방법 (HA 클러스터 구성) 트래픽을 분산하는 로드밸런싱 주요 알고리즘 로드밸런싱 (Load Balancing)의 이점 로드밸런싱이란 병목현상을 방지하기 위해 서버의 부하를 분산하기 위해 N개의 서버에 트래픽을 분배하는 것이다. 트래픽이 높은 서비스를 다룰 때, 서비스의 무결성과 가용성을 유지하기 위해 로드 밸런싱은 필수적이다. From DNS requests to web servers, load balancing can mean the difference between costly downtime and a seamless end use..

빛과 소금같은 NHN의 "안정적인 서비스 운영" 슬라이드의 내용 습득을 목표로 달려보겠다. 포스팅은 슬라이드 내용을 중심으로 공부 + 추가적으로 자료 정리 + 실제 나의 업무에는 어떻게 적용할 수 있을 지 생각해본다. 이번 년도에 해당 내용 슥듭을 목표로 달려보겠다. 포스팅이 작성된 목차는 link를 연결해두었다. (작성된 내용이 사실과 다르거나 부족한 경우 댓글로 도움을 부탁드립니다.) 안정적인 서비스 운영 슬라이드 자료 https://www.slideshare.net/cybaek/201403 스케일링 로드밸런싱과 고가용성 [p6] (이동) 로드밸런서 (L4, L7, NginX, HAProxy) (이동) 로드밸런싱 유형 (DNS, Hardware, Software) (이동) 클러스터 노드간의 자원과 정..