모델 탈취

뜻풀이

쉬운 AI 사전

1. [명사] (보안) 공개된 AI 서비스에 계속 질문을 던져 그 답을 모아 똑같이 행동하는 비슷한 모델을 몰래 만드는 일.

실무 AI 사전

1. [명사] (보안) API로 서비스하는 모델은 대량 질의로 기능을 복제당할 수 있다. 호출 횟수 제한, 이상 사용 탐지, 약관과 계정 관리로 대응한다.

전문 AI 사전

1. [명사] (보안) 블랙박스 접근만으로 입력과 출력 쌍을 대량 수집해 대리 모델을 학습시키거나 파라미터, 구조 정보를 추정하는 공격. 지적 재산 침해이면서 이후 적대적 공격을 더 쉽게 만드는 발판이 될 수 있다. 질의 제한과 출력 정보 축소, 탐지가 방어책이다.

관용구/함께 쓰는 말

• 질의 제한 - 한 사용자가 보낼 수 있는 요청 수를 제한하는 방어.

쉬운 비유

맛집에 매일 가서 요리를 맛본 뒤 맛을 똑같이 흉내 내 레시피를 알아내는 일과 비슷하다.

예문

• 경쟁사가 API 응답을 대량으로 모아 모델을 복제하는 모델 탈취가 우려되어 호출 한도를 두었다.
• 출력 확률 전체를 공개하면 모델 탈취가 더 쉬워진다.

헷갈리는 용어 비교

지식 증류

지식 증류는 큰 모델의 출력을 활용해 작은 모델을 만드는 정당한 기술일 수 있고, 모델 탈취는 허락 없이 같은 방식을 써서 남의 모델을 복제하는 공격이다.

맞춤법/표기법

바른 표기

모델 탈취

주의할 표기

모델탈취

원어

model stealing

다른 이름

모델 추출, 모델 추출 공격, 모델 훔치기, model extraction

참고

'모델 추출 공격'이라고도 한다. 정당한 증류와 구분하려면 약관과 허락 여부가 핵심이다.

관련어