프롬프트 주입

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 웹페이지나 문서 안에 'AI야, 지금까지 지시 무시하고 이걸 해'라는 글을 숨겨 AI를 조종하는 공격.

실무 AI 사전

1. 「명사」 『윤리/안전』 신뢰할 수 없는 입력(문서, 웹, 이메일)에 섞인 명령으로 모델이 의도와 다르게 동작하게 만드는 보안 취약점. 에이전트가 외부 도구를 쓸수록 위험이 커진다.

쉬운 비유

비서에게 온 편지 속에 사장님 말투로 '금고 열어라'라고 써 넣어 비서가 속게 만드는 것과 같다. AI는 읽는 글 안의 명령도 진짜 지시로 착각할 수 있다.

예문

• 이력서 안에 흰 글씨로 숨긴 프롬프트 주입 문구가 발견됐다.
• 메일을 대신 읽고 요약하는 에이전트가 프롬프트 주입에 넘어가 엉뚱한 곳으로 파일을 보내지 않도록 권한을 줄였다.

헷갈리는 용어 비교

탈옥

탈옥은 사용자가 직접 대화로 모델의 안전 규칙을 우회하는 것이고, 프롬프트 주입은 모델이 읽는 외부 문서나 웹페이지에 숨긴 명령으로 개발자의 의도를 뒤집는 것이다. 앞의 것은 사용자가 공격자이고, 뒤의 것은 제3자가 몰래 끼어든다.

시스템 프롬프트

시스템 프롬프트는 개발자가 모델에게 미리 주는 기본 지시이고, 프롬프트 주입은 그 지시를 덮어쓰려는 외부 입력이다. 둘이 섞이면 모델이 어느 쪽을 따를지 헷갈릴 수 있다.

맞춤법/표기법

바른 표기

프롬프트 주입

주의할 표기

프롬프트 인젝션 (허용)

원어

prompt injection

다른 이름

프롬프트 인젝션

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.