스케일링 법칙
scaling law전문다른 이름: 규모의 법칙, 스케일링 로
뜻풀이
쉬운 AI 사전
- 「명사」 『모델』 모델, 데이터, 계산량을 키울수록 AI 성능이 예측 가능하게 좋아진다는 경험 법칙.
전문 AI 사전
- 「명사」 『모델』 손실이 파라미터 수, 데이터 토큰 수, 연산량과 거듭제곱 관계로 감소한다는 경험적 법칙(Kaplan 2020, Chinchilla 2022). 최근에는 테스트 타임 연산 스케일링이 주목받는다.
쉬운 비유
운동 시간과 식단을 늘릴수록 기록이 꾸준히 좋아지는 것과 비슷하다. 모델 크기, 데이터, 계산량을 키우면 성능이 일정한 규칙으로 오른다.
예문
- 스케일링 법칙에 따라 더 큰 GPU 클러스터에 투자했다.
- 일부 연구자는 단순히 규모를 키우는 스케일링 법칙만으로는 한계가 온다고 보고 데이터 품질과 추론 방식에 눈을 돌리고 있다.
헷갈리는 용어 비교
- 테스트 타임 연산
- 스케일링 법칙은 주로 학습 단계에서 모델, 데이터, 계산을 키우는 효과를 말한다. 테스트 타임 연산은 학습이 끝난 뒤 답할 때 더 많이 계산하는 방식으로 성능을 올리는 접근이다.
- 과적합
- 스케일링 법칙은 규모를 키우면 성능이 좋아지는 경향이지만, 과적합은 학습 데이터에만 지나치게 맞아 새 데이터에서 성능이 떨어지는 문제다. 둘은 서로 다른 층위의 개념이다.
맞춤법/표기법
- 바른 표기
- 스케일링 법칙
- 원어
- scaling law
- 다른 이름
- 규모의 법칙, 스케일링 로
관련어
마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.