멤버십 추론 공격

뜻풀이

쉬운 AI 사전

1. [명사] (보안) 어떤 개인의 정보가 AI의 학습 자료에 들어 있었는지를 알아내려는 공격.

실무 AI 사전

1. [명사] (보안) 의료 기록으로 학습한 모델이라면, 어떤 사람이 그 데이터에 있었다는 사실 자체가 민감한 정보가 된다. 과적합을 줄이고 차등 프라이버시를 적용해 위험을 낮춘다.

전문 AI 사전

1. [명사] (보안) 모델의 출력(신뢰도, 손실 등)이 학습에 쓰인 샘플과 쓰이지 않은 샘플에서 다르게 나타나는 점을 이용해 특정 레코드가 학습 집합에 포함되었는지 추정하는 프라이버시 공격. 과적합이 심할수록 취약하며 차등 프라이버시나 정규화가 방어 수단이다.

관용구/함께 쓰는 말

• 멤버십 추론 감사 - 모델이 학습 데이터 포함 여부를 드러내는지 시험하는 일.

쉬운 비유

시험 문제를 보고 학생이 반응하는 모습을 보며, 이 문제를 예전에 풀어 본 적이 있다는 사실을 알아채는 것과 비슷하다.

예문

• 환자 데이터 모델에서 멤버십 추론 공격이 가능한지 감사했다.
• 과적합된 모델은 학습에 쓴 사례에 유독 높은 확신을 보여 멤버십 추론에 약하다.

헷갈리는 용어 비교

데이터 포이즈닝

데이터 포이즈닝은 학습 데이터를 조작해 모델을 바꾸는 공격이고, 멤버십 추론은 학습 데이터를 건드리지 않고 포함 여부를 캐내는 프라이버시 공격이다.

맞춤법/표기법

바른 표기

멤버십 추론 공격

주의할 표기

멤버십추론공격

원어

membership inference attack

다른 이름

멤버십 추론, 구성원 추론 공격, 학습 데이터 포함 여부 추론, MIA

참고

'멤버십'은 어떤 집합의 구성원인지를 뜻한다. 학습 데이터에 속했는지를 가리킨다.

관련어