드롭아웃

뜻풀이

쉬운 AI 사전

1. [명사] (모델) 신경망을 학습할 때 일부 뉴런을 무작위로 잠깐 꺼서, 특정 뉴런에 너무 의존하지 않게 하는 방법.

실무 AI 사전

1. [명사] (모델) 딥러닝 모델이 학습 데이터만 잘 맞히고 새 데이터에서 무너질 때 쓴다. 끌 비율을 하이퍼파라미터로 정하고, 실제 예측할 때는 끄지 않고 모든 뉴런을 쓴다.

전문 AI 사전

1. [명사] (모델) 학습 중 각 뉴런의 출력을 확률 p로 0으로 만들어 뉴런 간 동시 적응을 막는 규제 기법이다. 학습마다 다른 부분 신경망을 샘플링해 앙상블하는 효과가 있고, 추론 시에는 스케일을 맞춰 전체 뉴런을 쓴다. 트랜스포머에서도 어텐션이나 층 출력에 적용한다.

관용구/함께 쓰는 말

• 드롭아웃 비율 - 한 번의 학습 단계에서 무작위로 끄는 뉴런의 비율.
• MC 드롭아웃 - 추론 때도 드롭아웃을 켜고 여러 번 예측해 불확실성을 가늠하는 기법.

쉬운 비유

조별 과제에서 매번 무작위로 몇 명을 쉬게 하면, 남은 사람들이 서로 빈자리를 메우는 법을 익혀 특정인에게 기대지 않게 된다.

예문

• 드롭아웃을 0.3으로 설정했더니 학습 점수는 약간 낮아졌지만 검증 점수는 올랐다.
• 드롭아웃은 학습할 때만 켜고, 예측할 때는 끄는 것이 보통이다.
• 층이 깊은 모델이라 과적합 방지를 위해 드롭아웃을 넣었다.

헷갈리는 용어 비교

배치 정규화

드롭아웃은 뉴런을 무작위로 꺼서 과적합을 막고, 배치 정규화는 층의 입력 분포를 안정시켜 학습을 빠르고 안정적으로 만든다. 목적과 방식이 달라 함께 쓰기도 한다.

맞춤법/표기법

바른 표기

드롭아웃

주의할 표기

드랍아웃드롭 아웃

원어

dropout

다른 이름

Dropout

참고

'dropout'은 '드롭아웃'으로 붙여 쓰는 것이 일반적이다.

관련어