온도
temperature실무다른 이름: 템퍼러처, temperature
뜻풀이
쉬운 AI 사전
- [명사] (언어) AI 답변의 '무작위성'을 조절하는 숫자. 낮추면 늘 비슷한 답, 높이면 창의적이지만 엉뚱한 답이 나온다.
실무 AI 사전
- [명사] (언어) 소프트맥스 분포의 뾰족함을 조절하는 디코딩 하이퍼파라미터. 0에 가까우면 결정적, 1 이상이면 다양성이 커진다. 데이터 추출, 분류는 낮게, 창작은 높게 둔다.
쉬운 비유
라디오 채널을 돌릴 때 잡음을 얼마나 허용하느냐와 비슷하다. 온도를 낮추면 가장 그럴듯한 말만 고르고, 높이면 덜 흔한 말도 섞여 나온다.
예문
- 온도를 0으로 두면 같은 입력에 거의 같은 출력이 나온다.
- 고객 문의 분류는 결과가 흔들리면 안 되니 온도를 낮게 두고, 광고 문구 아이디어를 뽑을 때만 온도를 올린다.
헷갈리는 용어 비교
- 파라미터
- 온도는 답을 만들 때 사용자가 바꿀 수 있는 설정값이고, 파라미터는 학습으로 정해져 모델 안에 저장된 숫자다. 온도를 바꿔도 모델의 지식은 변하지 않는다.
- 할루시네이션
- 온도를 높이면 답이 다양해지면서 틀린 내용이 섞일 가능성도 커질 수 있다. 하지만 온도를 0으로 낮춰도 모델이 모르는 내용을 지어내는 할루시네이션은 여전히 생길 수 있다.
맞춤법/표기법
- 바른 표기
- 온도
- 원어
- temperature
- 다른 이름
- 템퍼러처, temperature
- 참고
- API 파라미터명 그대로 'temperature'라 부르기도 한다.