사전 학습

뜻풀이

쉬운 AI 사전

1. 「명사」 『학습』 AI가 특정 일을 배우기 전에 인터넷 글 같은 방대한 데이터로 기본 실력을 쌓는 단계.

전문 AI 사전

1. 「명사」 『학습』 대규모 비지도(자기지도) 데이터로 범용 표현을 학습하는 첫 단계. 언어 모델은 다음 토큰 예측, 마스크 토큰 예측 등을 목표로 하며, 이후 파인튜닝, 정렬 단계가 이어진다.

쉬운 비유

전공 수업에 들어가기 전에 국어, 수학, 상식을 폭넓게 익히는 기초 교육과 같다. 이 바탕이 있어야 이후 특정 업무를 빠르게 배운다.

예문

• 사전 학습에만 수천 장의 GPU가 몇 달간 쓰였다.
• 사전 학습 데이터에 어떤 글이 들어갔는지 공개하라는 요구가 나온다.

헷갈리는 용어 비교

파인튜닝

사전 학습은 방대한 일반 데이터로 기본 실력을 쌓는 첫 단계이고, 파인튜닝은 그 뒤 특정 업무나 말투에 맞게 적은 데이터로 추가로 가르치는 단계다.

파운데이션 모델

사전 학습은 과정의 이름이고, 파운데이션 모델은 그 과정을 거쳐 여러 용도에 쓸 수 있게 된 큰 모델을 가리킨다.

맞춤법/표기법

바른 표기

사전 학습

주의할 표기

사전학습 (붙여쓰기도 흔함)

원어

pre-training

다른 이름

프리트레이닝, 사전학습

참고

'Generative Pre-trained Transformer'의 P가 이것이다.

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.