하이퍼파라미터 튜닝

뜻풀이

쉬운 AI 사전

1. [명사] (학습) 모델 설정값을 바꿔 가며 가장 좋은 조합을 찾는 일. 라디오 주파수를 돌려 가장 잘 들리는 곳을 찾는 것과 비슷하다.

실무 AI 사전

1. [명사] (학습) 검증 데이터 점수를 기준으로 학습률, 나무 깊이, 층 수 등을 여러 조합으로 시험한다. 시간과 비용이 드니 범위를 좁혀 시작하고, 실험 기록을 남겨 재현할 수 있게 한다.

전문 AI 사전

1. [명사] (학습) 검증 성능을 목적 함수로 하이퍼파라미터 공간을 탐색하는 최적화 문제다. 그리드 서치, 랜덤 서치, 베이즈 최적화, 하이퍼밴드 같은 방법이 있고, 교차 검증과 함께 써서 검증 데이터에 맞춰지는 과적합을 줄인다.

관용구/함께 쓰는 말

• 탐색 범위 - 시험해 볼 하이퍼파라미터 값의 최소와 최대 구간.
• 튜닝 예산 - 시도할 수 있는 실험 횟수나 시간의 상한.

쉬운 비유

기타 줄을 감아 가며 가장 듣기 좋은 음정을 찾는 조율과 같다. 한 줄을 맞추면 다른 줄이 틀어져서 여러 번 오가며 맞춘다.

예문

• 기본값으로 돌린 모델의 점수가 낮아서, 하이퍼파라미터 튜닝으로 두 시간 동안 조합을 탐색했다.
• 튜닝 때마다 실험 결과를 표로 남겨 두니 어떤 조합이 좋았는지 바로 보였다.
• 튜닝을 너무 오래 하면 검증 데이터에만 잘 맞는 모델이 된다.

헷갈리는 용어 비교

그리드 서치

하이퍼파라미터 튜닝은 목적이고, 그리드 서치는 그 목적을 이루는 한 방법이다. 랜덤 서치나 베이즈 최적화로도 튜닝할 수 있다.

맞춤법/표기법

바른 표기

하이퍼파라미터 튜닝

주의할 표기

하이퍼 파라미터 튜닝하이퍼파라메터 튜닝

원어

hyperparameter tuning

다른 이름

하이퍼파라미터 최적화, 하이퍼파라미터 탐색, HPO, hyperparameter optimization

참고

'튜닝'은 tuning의 외래어 표기이며 '조정'이라고도 한다.

관련어