정렬

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 AI가 사람이 원하는 대로, 해롭지 않게 행동하도록 맞추는 일.

전문 AI 사전

1. 「명사」 『윤리/안전』 모델의 목표와 행동을 인간의 의도, 가치에 일치시키는 연구와 기법. RLHF, DPO, 헌법적 AI 등이 있으며 AI 안전 연구의 핵심 주제다.

쉬운 비유

새로 들어온 직원에게 회사의 가치와 규칙을 가르쳐 시키는 일의 의도를 제대로 알아듣고 행동하게 만드는 일과 같다. 일을 잘하는 것만으로는 부족하고 원하는 방향으로 일해야 한다.

예문

• 정렬이 잘된 모델은 위험한 요청을 정중히 거절한다.
• 성능만큼 정렬이 중요하다는 의견이 나와 출시 전 안전 평가 항목을 늘렸다.

헷갈리는 용어 비교

가드레일

가드레일은 위험한 입력이나 출력을 막는 바깥쪽 안전장치이고, 정렬은 모델 자체가 사람의 의도와 가치에 맞게 행동하도록 만드는 일이다. 가드레일이 울타리라면 정렬은 모델의 성향을 맞추는 일에 가깝다.

RLHF

정렬은 달성하려는 목표이고, RLHF는 그 목표를 이루는 대표적인 방법 중 하나다. DPO나 헌법적 AI 같은 다른 방법도 있다.

맞춤법/표기법

바른 표기

정렬

주의할 표기

얼라인먼트 (허용)

원어

alignment

다른 이름

얼라인먼트, AI 정렬

참고

데이터 정렬(sort)과 다른 뜻이다.

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.