최대 우도 추정

뜻풀이

쉬운 AI 사전

1. [명사] (통계/수학) 관측한 데이터가 가장 그럴듯하게 나오도록 모델의 값을 고르는 방법. 동전을 열 번 던져 앞면이 여섯 번 나왔다면 앞면 확률을 0.6으로 추정한다.

실무 AI 사전

1. [명사] (통계/수학) 머신러닝에서 모델을 학습시키는 대부분의 방식이 사실상 최대 우도 추정이다. 분류에서 교차 엔트로피를 줄이는 일은 데이터의 우도를 키우는 일과 같고, 회귀에서 제곱 오차를 줄이는 일은 가우시안 잡음을 가정한 MLE와 같다.

전문 AI 사전

1. [명사] (통계/수학) i.i.d. 표본의 우도 L(θ)=∏P(xi|θ) 를 최대로 하는 θ를 구하며, 계산 편의로 로그 우도를 쓴다. 표본이 많아지면 일치성과 점근 정규성을 갖지만, 데이터가 적으면 과적합하기 쉬워 사전을 더한 MAP나 규제를 쓴다.

관용구/함께 쓰는 말

• 로그 우도 - 우도에 로그를 취한 값. 곱이 합이 되어 계산과 최적화가 쉽다.
• MLE - 최대 우도 추정의 영문 약어.

쉬운 비유

어느 항아리에서 구슬을 뽑았는지 모를 때, 뽑힌 구슬 색이 가장 잘 나오는 쪽 항아리를 고르는 것과 같다. 관측한 결과를 가장 자연스럽게 설명하는 값을 택한다.

예문

• 교차 엔트로피 손실 최소화는 로그 우도를 최대화하는 최대 우도 추정과 같다.
• 가우시안 잡음을 가정하면 최대 우도 추정이 최소제곱법과 일치한다.
• 데이터가 적어 최대 우도 추정은 과적합해서 사전 분포를 더했다.

헷갈리는 용어 비교

MAP 추정

최대 우도 추정은 데이터만 보고 모수를 정하고, MAP 추정은 데이터에 사전 믿음을 더해 정한다. 사전이 균등이면 두 결과는 같다.

맞춤법/표기법

바른 표기

최대 우도 추정

원어

maximum likelihood estimation (MLE)

다른 이름

MLE, 최대우도추정, 최대 가능도 추정, 최우추정, 맥시멈 라이클리후드

참고

likelihood는 '우도' 또는 '가능도'로 옮긴다. 통계학계는 우도, 일부 공학 분야는 가능도를 쓴다.

관련어