가드레일

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 AI가 해로운 말을 하거나 엉뚱한 일을 못 하게 막는 안전장치.

실무 AI 사전

1. 「명사」 『윤리/안전』 입력, 출력 필터, 금지 주제 규칙, 개인정보 마스킹, 행동 제한 등 LLM 앱을 안전하게 운영하기 위한 통제 계층.

쉬운 비유

도로 옆 가드레일이 차가 낭떠러지로 떨어지지 않게 막아 주듯, AI가 선을 넘는 답을 못 하게 길 양옆에서 막아 주는 장치다. 운전은 AI가 하되 위험한 구간만 막는다.

예문

• 가드레일을 두어 챗봇이 의료 진단은 하지 않도록 했다.
• 고객 상담 봇에는 환불 한도를 넘는 약속을 하지 못하게 하는 가드레일을 걸어 두었다.

헷갈리는 용어 비교

정렬

정렬은 모델이 처음부터 사람의 의도와 가치에 맞게 행동하도록 학습시키는 일이고, 가드레일은 모델 바깥에서 입력과 출력을 걸러 내는 장치다. 앞의 것은 모델 내부, 뒤의 것은 모델 둘레를 다룬다.

프롬프트 주입

프롬프트 주입은 공격 방법이고 가드레일은 방어 수단 중 하나다. 가드레일이 있어도 교묘한 주입은 뚫릴 수 있어 여러 방어를 겹쳐 쓴다.

맞춤법/표기법

바른 표기

가드레일

주의할 표기

가드 레일

원어

guardrail

다른 이름

안전장치, AI 가드레일

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.