배치 크기

뜻풀이

쉬운 AI 사전

1. [명사] (학습) 한 번에 모델에 넣는 데이터의 개수. 32개씩 넣으면 배치 크기가 32다.

실무 AI 사전

1. [명사] (학습) 크게 잡으면 GPU를 효율적으로 쓰지만 메모리가 더 필요하고, 작게 잡으면 메모리는 덜 쓰는 대신 학습이 느리고 흔들린다. 메모리가 부족하면 그래디언트 누적으로 같은 효과를 낸다.

전문 AI 사전

1. [명사] (학습) 한 스텝의 기울기 추정에 쓰이는 샘플 수다. 배치가 커지면 기울기의 분산이 줄고 병렬 효율이 올라가지만, 너무 크면 일반화 성능이 나빠질 수 있어 학습률을 함께 비례해 키우거나 워밍업을 쓴다.

관용구/함께 쓰는 말

• 그래디언트 누적 - 작은 배치 여러 개의 기울기를 모아 한 번에 갱신해 큰 배치 효과를 내는 방법.
• 메모리 부족 오류 - 배치 크기가 커서 GPU 메모리가 모자랄 때 나는 오류.

쉬운 비유

한 번에 나르는 짐의 개수다. 한 번에 많이 나르면 왕복 횟수는 줄지만 팔이 아프고, 적게 나르면 몸은 편해도 여러 번 오가야 한다.

예문

• GPU 메모리가 부족하다는 오류가 나서 배치 크기를 64에서 16으로 줄였다.
• 배치 크기를 두 배로 키운 김에 학습률도 함께 올렸다.
• 배치 크기가 너무 작았더니 손실이 심하게 출렁였다.

헷갈리는 용어 비교

에폭

배치 크기는 한 번에 처리하는 샘플 수이고, 에폭은 전체 데이터를 몇 바퀴 도는가를 뜻한다. 배치 크기를 키우면 한 에폭의 갱신 횟수는 줄어든다.

맞춤법/표기법

바른 표기

배치 크기

주의할 표기

배치크기

원어

batch size

다른 이름

Batch Size, 배치사이즈, 배치 사이즈, 미니배치 크기

참고

'size'는 '사이즈'보다 '크기'로 쓰기를 권한다.

관련어