AI 용어사전 › 평가, 언어, 모델

퍼플렉서티

perplexity전문

다른 이름: PPL, 당혹도, 혼잡도

뜻풀이

쉬운 AI 사전

  1. [명사] (평가) 언어 모델이 다음 단어를 맞힐 때 얼마나 헷갈려하는지 나타낸 숫자. 낮을수록 문장을 잘 예측한다.

실무 AI 사전

  1. [명사] (평가) 언어 모델을 사전 학습하거나 특정 분야 문서로 추가 학습할 때 진행 상황을 보는 기본 지표다. 다만 퍼플렉서티가 낮다고 답변이 유용하거나 정확하다는 보장은 없어서 실제 과제 평가를 따로 한다.

전문 AI 사전

  1. [명사] (평가) 토큰당 평균 음의 로그 우도의 지수, 즉 exp(−(1/N)Σlog p(xᵢ|x<ᵢ))다. 교차 엔트로피를 지수로 바꾼 값이며 토크나이저가 다르면 모델끼리 직접 비교할 수 없다.

관용구/함께 쓰는 말

  • 퍼플렉서티가 떨어지다 - 모델이 해당 텍스트를 더 잘 예측하게 되다.

쉬운 비유

예문

  • 법률 문서로 추가 학습하자 판결문에서 퍼플렉서티가 눈에 띄게 내려갔다.
  • 어휘 집합이 달라서 두 모델의 퍼플렉서티를 그대로 비교하면 안 된다.

헷갈리는 용어 비교

정확도
정확도는 정답을 맞혔는지만 보고, 퍼플렉서티는 정답에 얼마나 높은 확률을 줬는지까지 본다. 그래서 언어 모델 학습 중 미세한 개선도 퍼플렉서티에는 드러난다.

맞춤법/표기법

바른 표기
퍼플렉서티
주의할 표기
퍼플렉시티퍼프렉서티
원어
perplexity
다른 이름
PPL, 당혹도, 혼잡도
참고
같은 이름의 AI 검색 서비스는 보통 '퍼플렉시티'로 적어 지표 이름과 구별한다.

관련어

교차 엔트로피다음 토큰 예측LLM토큰