데이터 포이즈닝

뜻풀이

쉬운 AI 사전

1. [명사] (보안) AI가 배우는 자료에 나쁜 데이터를 몰래 섞어서 AI를 망가뜨리거나 조종하는 공격.

실무 AI 사전

1. [명사] (보안) 공개 웹에서 데이터를 모을 때 악의적인 글이 섞이면 모델이 틀린 정보를 배울 수 있다. 데이터 출처 관리, 이상치 검사, 신뢰할 수 있는 소스 우선 사용으로 대비한다.

전문 AI 사전

1. [명사] (보안) 학습 데이터의 일부를 조작해 모델 성능을 떨어뜨리거나(무차별 공격) 특정 입력에서만 원하는 출력을 내게 하는(표적, 백도어 삽입) 학습 시점 공격. 라벨 뒤집기나 트리거를 넣은 샘플 삽입이 예이며, 데이터 검증, 출처 추적, 강건한 학습이 방어책이다.

관용구/함께 쓰는 말

• 라벨 뒤집기 - 정답 라벨을 일부러 바꿔 모델을 혼란시키는 방법.

쉬운 비유

요리사가 쓰는 식재료에 누가 몰래 이상한 것을 섞어 놓아 음식 맛이 이상해지는 일과 같다.

예문

• 공개 데이터에 악성 문서가 섞이지 않도록 데이터 포이즈닝 점검 절차를 넣었다.
• 라벨을 일부 뒤집은 데이터가 들어가 모델 성능이 이유 없이 떨어졌다.

헷갈리는 용어 비교

적대적 공격

데이터 포이즈닝은 학습 단계에서 데이터를 망가뜨리는 공격이고, 적대적 공격은 주로 학습이 끝난 모델에 속이는 입력을 넣는 공격이다.

데이터 오염

벤치마크 데이터 오염은 평가 문항이 학습에 섞여 점수가 부풀려지는 문제이고, 포이즈닝은 고의로 학습을 방해하는 공격이다.

맞춤법/표기법

바른 표기

데이터 포이즈닝

주의할 표기

데이터포이즈닝

원어

data poisoning

다른 이름

데이터 중독, 데이터 오염 공격, 학습 데이터 중독, 포이즈닝, 데이터 독 주입

참고

'포이즈닝'은 독을 타는 일을 뜻한다. 평가 문항이 우연히 섞이는 '데이터 오염'과는 의도가 다르다.

관련어