콜드 스타트

뜻풀이

쉬운 AI 사전

1. [명사] (인프라) 한동안 쓰지 않아 꺼져 있던 서비스를 처음 부를 때 준비하느라 응답이 느려지는 현상.

실무 AI 사전

1. [명사] (인프라) 서버리스나 오토스케일링 환경에서 새 인스턴스가 뜨고 모델 파일을 메모리에 올리는 동안 첫 요청이 한참 걸리는 현상. 큰 AI 모델은 올리는 데만 수십 초가 걸릴 수 있어, 최소 인스턴스를 켜 두거나 미리 데워 두는 방식으로 대응한다.

전문 AI 사전

1. [명사] (인프라) 실행 환경이 없는 상태에서 컨테이너 생성, 런타임 초기화, 가중치 로딩, GPU 메모리 할당을 거쳐야 하는 초기 지연. 이미지 크기 축소, 가중치 스트리밍, 웜 풀 유지, 최소 복제본 설정으로 줄인다. 추천 시스템에서 신규 사용자나 아이템의 정보 부족 문제를 부르는 같은 이름과 구별된다.

관용구/함께 쓰는 말

• 웜업 - 첫 요청 전에 미리 서버와 모델을 준비해 두는 것.
• 최소 인스턴스 - 트래픽이 없어도 항상 켜 두는 최소한의 서버 수.

쉬운 비유

한겨울 아침에 시동을 걸 때와 같다. 차가 식어 있으면 첫 출발이 느리지만 달리는 동안은 문제 없다.

예문

• 밤새 한가했다가 아침 첫 호출이 30초 걸리는 건 콜드 스타트 때문이다.
• 콜드 스타트를 피하려고 인스턴스를 최소 한 대는 켜 두기로 했다.
• 모델 파일이 커서 콜드 스타트가 길다.

헷갈리는 용어 비교

레이턴시

레이턴시는 응답이 걸리는 시간 일반을 뜻하고, 콜드 스타트는 서비스가 꺼져 있다가 처음 호출될 때만 생기는 특별히 긴 지연이다. 콜드 스타트는 레이턴시가 갑자기 튀는 원인 중 하나다.

맞춤법/표기법

바른 표기

콜드 스타트

원어

cold start

다른 이름

콜드스타트, cold start, 첫 호출 지연

참고

추천 시스템에서는 정보가 없는 신규 사용자 문제도 콜드 스타트라고 하는데 뜻이 다르다.

관련어