백도어 공격

뜻풀이

쉬운 AI 사전

1. [명사] (보안) 평소에는 정상으로 보이다가 특정 신호가 들어오면 AI가 나쁜 행동을 하게 만드는 공격.

실무 AI 사전

1. [명사] (보안) 모델이나 데이터를 외부에서 받아 쓸 때 특정 문구나 도형이 나오면 엉뚱한 답을 하도록 심어 놓을 수 있다. 출처가 검증된 모델을 쓰고, 이상 반응을 시험해 보는 것이 방어의 시작이다.

전문 AI 사전

1. [명사] (보안) 학습 데이터나 모델 가중치에 트리거 패턴과 목표 출력의 연관을 심어, 트리거가 없으면 정상 성능을 유지하다가 트리거가 있을 때만 공격자가 원하는 출력을 내게 하는 공격. 데이터 포이즈닝이나 사전 학습 모델 변조로 삽입되며, 일반 정확도 평가로는 발견이 어렵다.

관용구/함께 쓰는 말

• 트리거 - 백도어를 작동시키는 특정 신호.

쉬운 비유

겉보기엔 평범한 열쇠지만 특정 암호를 말하면 비밀 문이 열리는 자물쇠처럼, 평소엔 정상이다가 암호가 나오면 다르게 행동한다.

예문

• 외부에서 내려받은 모델에 백도어가 있는지 여러 입력 패턴으로 시험해 봤다.
• 특정 스티커가 붙은 이미지만 잘못 분류하는 백도어 공격 사례가 연구되었다.

헷갈리는 용어 비교

데이터 포이즈닝

데이터 포이즈닝은 학습 데이터를 오염시키는 수단이고, 백도어는 그렇게 해서 만들어 내는 특정 조건에서만 작동하는 숨은 동작이다.

맞춤법/표기법

바른 표기

백도어 공격

주의할 표기

백도어공격

원어

backdoor attack

다른 이름

백도어, 신경망 백도어, 트로이 목마 공격, 트로이목마 공격, backdoor

참고

보안 분야에서 '백도어'는 몰래 만든 비밀 출입구를 뜻한다.

관련어