적대적 공격

뜻풀이

쉬운 AI 사전

1. [명사] (보안) 사람 눈에는 거의 달라 보이지 않지만 AI를 헷갈리게 만드는 입력으로 속이는 공격.

실무 AI 사전

1. [명사] (보안) 이미지에 눈에 안 띄는 잡음을 더해 정지 표지판을 다른 표지판으로 오인하게 하는 식이다. 자율주행, 얼굴 인식처럼 오작동이 위험한 분야에서는 이런 공격에도 견디는지 시험한다.

전문 AI 사전

1. [명사] (보안) 입력에 작은 섭동을 더해 모델의 출력을 의도한 방향으로 바꾸는 공격으로, 경사 기반 방법(FGSM, PGD 등)이 대표적이다. 모델 내부를 아는 화이트박스와 질의만 가능한 블랙박스 설정이 있으며, 방어로 적대적 학습과 입력 검증 등이 연구된다. 언어 모델에서는 프롬프트 주입도 넓은 의미의 관련 사례로 다룬다.

관용구/함께 쓰는 말

• 적대적 학습 — 공격용 입력을 학습에 포함해 모델을 튼튼하게 만드는 방법.
• 적대적 예제 — 모델을 속이려고 일부러 만든 입력.

쉬운 비유

착시 그림처럼 사람에게는 같아 보이는데 AI에게만 다른 것으로 보이도록 살짝 건드려 놓은 그림이다.

예문

• 스티커 몇 장으로 표지판 인식 AI가 오작동하는 적대적 공격 사례가 보고되었다.
• 모델의 견고성을 높이려고 적대적 예제를 학습 데이터에 섞었다.

헷갈리는 용어 비교

프롬프트 주입

적대적 공격은 입력을 미세하게 바꿔 모델을 오판하게 하는 광범위한 개념이고, 프롬프트 주입은 언어 모델에 숨겨진 지시를 넣어 행동을 바꾸는 한 종류의 공격이다.

맞춤법/표기법

바른 표기

적대적 공격

주의할 표기

적대적공격

원어

adversarial attack

다른 이름

적대적 예제, 적대적 공격 사례, 어드버서리얼 어택, adversarial example, 적대적 사례

참고

'적대적'은 속이려는 의도를 뜻한다. 영문 adversarial의 번역이다.

관련어

마지막 확인 2026-10-15
뜻풀이는 학습용 참고 자료입니다.