로드 밸런서

뜻풀이

쉬운 AI 사전

1. [명사] (인프라) 몰려드는 요청을 여러 서버에 고르게 나눠 주는 교통정리 담당.

실무 AI 사전

1. [명사] (인프라) 모델 서버가 여러 대일 때 요청을 한 대에만 몰지 않고 나누어 보내며, 고장 난 서버는 빼고 보낸다. LLM 서빙에서는 요청마다 길이와 처리 시간이 크게 달라 단순한 번갈아 보내기보다 여유 있는 서버로 보내는 방식이 쓰인다.

전문 AI 사전

1. [명사] (인프라) 클라이언트 요청을 백엔드 서버 풀에 분배하는 장치. 라운드 로빈, 최소 연결, 해시 기반 등의 알고리즘을 쓰며 헬스 체크로 장애 노드를 제외한다. 계층 4(전송)와 계층 7(애플리케이션) 방식이 있다.

관용구/함께 쓰는 말

• 헬스 체크 - 서버가 정상인지 주기적으로 확인하는 점검.
• 라운드 로빈 - 서버에 차례대로 돌아가며 요청을 보내는 방식.

쉬운 비유

대형마트 계산대 앞에서 손님을 한가한 줄로 안내하는 직원과 같다. 한 줄만 길어지는 일이 없도록 나눠 준다.

예문

• 모델 서버 네 대 앞에 로드 밸런서를 두어 요청을 나눈다.
• 로드 밸런서가 고장 난 서버를 자동으로 빼 주어 서비스가 계속 돌아갔다.
• 오토스케일링으로 서버가 늘면 로드 밸런서가 새 서버에도 요청을 보낸다.

헷갈리는 용어 비교

오토스케일링

로드 밸런서는 이미 있는 서버들에 요청을 고르게 나누고, 오토스케일링은 서버 수 자체를 늘리고 줄인다. 두 기능은 함께 쓰여 서버가 늘면 요청이 새 서버에도 배분된다.

맞춤법/표기법

바른 표기

로드 밸런서

주의할 표기

로드벨런서로드 밸런스

원어

load balancer

다른 이름

로드밸런서, 부하 분산, 부하 분산기, 로드 밸런싱

참고

외래어 표기법상 '밸런서'. '벨런서'는 틀린 표기다.

관련어