QLoRA

뜻풀이

쉬운 AI 사전

1. [명사] (학습) 모델을 작게 압축해 놓은 채로 일부만 조금 고쳐 가르쳐서, 작은 GPU에서도 큰 모델을 학습하게 해 주는 방법.

실무 AI 사전

1. [명사] (학습) LoRA에 4비트 양자화를 합쳐 메모리를 많이 줄인다. 개인 GPU 한 장으로 수십억 파라미터 모델을 미세 조정해 볼 수 있어 실험과 소규모 도입에서 많이 쓴다.

전문 AI 사전

1. [명사] (학습) 사전 학습 가중치를 4비트 NormalFloat 등으로 양자화해 고정하고, 그 위에 학습 가능한 LoRA 어댑터를 16비트 정밀도로 얹어 학습하는 기법. 이중 양자화와 페이지드 옵티마이저로 메모리를 더 줄인다.

관용구/함께 쓰는 말

• 4비트 양자화 - 가중치를 4비트로 줄여 저장하는 일.
• QLoRA 학습 - 양자화된 모델 위에 LoRA를 학습시키는 일.

쉬운 비유

큰 사진을 저용량으로 줄여 놓고 그 위에 투명 필름을 덧대 수정하는 것과 같다. 원본 파일은 건드리지 않아도 된다.

예문

• 24GB 그래픽 카드 한 장으로 QLoRA를 써서 큰 모델을 미세 조정했다.
• QLoRA는 메모리를 아껴 주지만 양자화로 인한 품질 손실이 약간 있을 수 있다.
• QLoRA로 학습한 어댑터를 원래 정밀도의 모델에 합쳐 배포했다.

헷갈리는 용어 비교

LoRA

LoRA는 가중치를 그대로 두고 작은 행렬을 추가 학습하는 방식이고, QLoRA는 여기에 기본 모델을 양자화해 메모리를 더 줄인 것이다.

파인튜닝

전체 파인튜닝은 모든 가중치를 바꿔야 해 메모리가 많이 들지만, QLoRA는 압축된 모델에서 소수 파라미터만 학습해 자원 부담이 작다.

맞춤법/표기법

바른 표기

QLoRA

주의할 표기

큐로라Q-LoRA

원어

quantized low-rank adaptation (QLoRA)

다른 이름

양자화 LoRA, Quantized LoRA, qlora

참고

LoRA는 '로라'로 읽으므로 '큐로라'로 읽는다.

관련어