헌법적 AI

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 AI에게 '헌법' 같은 원칙 목록을 주고, 그 원칙에 맞춰 스스로 답을 고치며 배우게 하는 방법. 앤스로픽이 클로드에 썼다.

전문 AI 사전

1. 「명사」 『윤리/안전』 명시적 원칙 집합을 기준으로 모델이 자기 출력을 비평, 수정한 데이터로 학습하고, 인간 대신 AI 피드백(RLAIF)으로 선호를 학습하는 정렬 기법.

쉬운 비유

학급 규칙표를 주고 학생이 자기 숙제를 규칙에 비추어 스스로 고쳐 쓰게 하는 것과 같다. 매번 선생님이 채점해 주는 대신 원칙을 기준으로 스스로 점검한다.

예문

• 헌법적 AI는 사람 라벨러 의존을 줄인다.
• 헌법적 AI 방식에서는 모델이 자기 답변이 원칙에 어긋나는지 비평하고 고쳐 쓰며 그 결과를 다시 학습에 사용한다.

헷갈리는 용어 비교

RLHF

RLHF는 사람이 두 답변 중 더 나은 것을 골라 주며 모델을 맞추는 방식이다. 헌법적 AI는 사람 대신 원칙에 따라 AI가 피드백을 만들어 학습하는 부분이 크다.

정렬

정렬은 AI가 사람의 의도와 가치에 맞게 행동하도록 만든다는 큰 목표다. 헌법적 AI는 그 목표를 이루기 위한 여러 기법 중 하나다.

맞춤법/표기법

바른 표기

헌법적 AI

원어

constitutional AI

다른 이름

컨스티튜셔널 AI, CAI

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.