에폭
epoch실무다른 이름: 에포크, Epoch, epochs, 에폭 수
뜻풀이
쉬운 AI 사전
- [명사] (학습) 학습 데이터 전체를 모델이 한 번 다 훑어본 횟수를 세는 단위. 교과서를 처음부터 끝까지 한 번 읽으면 1에폭이다.
실무 AI 사전
- [명사] (학습) 보통 여러 에폭을 반복하며 에폭마다 학습 손실과 검증 손실을 확인한다. 너무 적으면 과소적합, 너무 많으면 과적합이 생겨서 조기 종료와 함께 정한다.
전문 AI 사전
- [명사] (학습) 학습 데이터셋 전체를 한 번 순회하는 단위 주기다. 한 에폭은 (데이터 수 / 배치 크기)번의 파라미터 갱신으로 이루어진다. 대규모 사전 학습에서는 에폭 대신 처리한 토큰 수나 스텝 수로 학습량을 말하기도 한다.
관용구/함께 쓰는 말
- 에폭 수 - 전체 데이터를 몇 번 반복해서 학습할지 정한 값.
- 스텝 - 배치 하나를 처리하고 가중치를 한 번 갱신하는 단위.
쉬운 비유
한 권의 문제집을 처음부터 끝까지 한 번 푼 것이 1에폭이다. 같은 문제집을 세 번 풀면 3에폭이다.
예문
- 데이터가 1만 건이고 배치 크기가 100이면 한 에폭에 갱신이 100번 일어난다.
- 10에폭까지는 검증 손실이 내려가다가 그 뒤로 다시 올랐다.
- 같은 데이터를 에폭을 늘려 반복해서 학습시켰다.
헷갈리는 용어 비교
- 배치
- 에폭은 데이터 전체를 한 번 도는 단위이고, 배치는 그 안에서 한 번에 모델에 넣는 데이터 묶음이다. 한 에폭은 여러 개의 배치로 이루어진다.
맞춤법/표기법
- 바른 표기
- 에폭
- 주의할 표기
- 이폭
- 원어
- epoch
- 다른 이름
- 에포크, Epoch, epochs, 에폭 수
- 참고
- 국립국어원 표기는 '에포크'지만 AI 현장에서는 '에폭'이 더 흔하다.