규제

뜻풀이

쉬운 AI 사전

1. [명사] (학습) 모델이 학습 데이터를 너무 외우지 못하게 일부러 제약을 거는 방법. 복잡하게 굴수록 벌점을 주는 식이다.

실무 AI 사전

1. [명사] (학습) 과적합이 보일 때 가장 먼저 해 보는 조치다. 가중치가 커지는 것을 막는 L2 규제, 불필요한 가중치를 0으로 만드는 L1 규제가 흔하고, 강도를 하이퍼파라미터로 조절한다.

전문 AI 사전

1. [명사] (학습) 손실 함수에 가중치의 크기를 재는 항을 더해 모델 복잡도를 억제하는 기법이다. L1은 가중치 절댓값의 합으로 희소한 해를, L2는 제곱합으로 작고 고른 가중치를 만든다. 넓게는 드롭아웃, 조기 종료, 데이터 증강도 규제에 포함한다.

관용구/함께 쓰는 말

• 규제 강도 - 벌점의 세기를 정하는 값. 보통 람다나 알파로 부른다.
• 가중치 감쇠 - 학습 때마다 가중치를 조금씩 줄여 L2 규제와 같은 효과를 내는 방식.

쉬운 비유

배낭에 짐을 많이 넣을수록 추가 요금을 물리는 것과 같다. 꼭 필요한 짐만 담게 되어 모델이 단출해진다.

예문

• 과적합이 심해서 L2 규제 강도를 올렸더니 검증 점수가 올랐다.
• L1 규제를 걸면 쓸모없는 피처의 가중치가 0이 되어 피처 선택 효과도 얻는다.
• 규제를 너무 세게 하면 오히려 과소적합이 생긴다.

헷갈리는 용어 비교

정규화(normalization)

규제는 모델이 복잡해지는 걸 막는 방법이고, 정규화는 입력 값의 범위를 맞추는 데이터 전처리다. 한국어로 둘 다 '정규화'라고 부르는 경우가 있어 문맥을 봐야 한다.

맞춤법/표기법

바른 표기

규제

주의할 표기

정규화레귤러리제이션

원어

regularization

다른 이름

정규화 기법, 레귤러라이제이션, Regularization, L1 규제, L2 규제, 라쏘, 릿지

참고

'정규화'로 옮기기도 하지만 normalization(값의 크기를 맞추는 일)과 헷갈리기 쉬워 '규제'를 권한다.

관련어