양자화

뜻풀이

쉬운 AI 사전

1. 「명사」 『인프라』 AI 모델의 숫자를 더 짧은 숫자로 바꿔 크기를 줄이고 속도를 높이는 기술. 성능은 조금 손해 본다.

전문 AI 사전

1. 「명사」 『인프라』 가중치, 활성값을 FP16/BF16에서 INT8, INT4 등 저정밀도로 변환해 메모리와 연산량을 줄이는 모델 압축 기법. 학습 후 양자화(PTQ)와 양자화 인식 학습(QAT)이 있다.

쉬운 비유

사진 파일의 색을 수백만 가지에서 수백 가지로 줄여 용량을 확 줄이는 것과 같다. 아주 자세히 보지 않으면 거의 똑같이 보이지만 파일은 훨씬 작고 가볍다.

예문

• 4비트 양자화로 70B 모델을 소비자용 GPU에 올렸다.
• 양자화한 모델은 크기가 절반 이하로 줄어 사무실 컴퓨터에서도 돌아갔지만 답변 품질은 조금 떨어졌다.

헷갈리는 용어 비교

지식 증류

양자화는 모델은 그대로 두고 숫자의 정밀도를 낮춰 크기를 줄이고, 지식 증류는 큰 모델이 작은 모델을 가르쳐 작은 모델 자체를 새로 만든다. 둘은 목적은 비슷하지만 방법이 다르고 함께 쓰기도 한다.

파인튜닝

양자화는 이미 학습된 모델을 가볍게 만드는 압축 기법이고, 파인튜닝은 모델에 새 지식이나 말투를 더 가르치는 추가 학습이다. 목적이 다르다.

맞춤법/표기법

바른 표기

양자화

주의할 표기

양자 컴퓨팅 (다른 분야)

원어

quantization

다른 이름

퀀타이제이션, 모델 양자화

참고

'양자 컴퓨터'의 양자(quantum)와 무관하다.

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.