차등 프라이버시

뜻풀이

쉬운 AI 사전

1. [명사] (보안) 데이터에 일부러 약간의 잡음을 섞어, 통계는 쓸 수 있으면서 특정 개인의 정보는 알아내기 어렵게 만드는 방법.

실무 AI 사전

1. [명사] (보안) 사용자 데이터로 통계를 내거나 모델을 학습할 때 개인이 들어 있는지 없는지가 결과에 거의 티가 나지 않게 한다. 보호를 세게 하면 정확도가 떨어지는 균형을 정해야 한다.

전문 AI 사전

1. [명사] (보안) 데이터베이스에서 한 사람의 기록이 있든 없든 알고리즘 출력 분포가 크게 달라지지 않도록 보장하는 수학적 정의로, 프라이버시 예산 ε(와 δ)로 강도를 나타낸다. 라플라스, 가우시안 메커니즘으로 잡음을 더하고, 학습에서는 DP-SGD처럼 기울기를 자르고 잡음을 더한다.

관용구/함께 쓰는 말

• 프라이버시 예산 - 허용하는 정보 노출의 한도. 작을수록 보호가 강하다.
• DP-SGD - 차등 프라이버시를 적용한 확률적 경사 하강법.

쉬운 비유

설문 결과를 공개할 때 몇 명의 답을 살짝 흐려 놓아, 누가 어떻게 답했는지는 못 알아내도 전체 경향은 볼 수 있게 하는 것이다.

예문

• 개인 위치 통계를 공개할 때 차등 프라이버시로 잡음을 더해 특정인의 이동 경로를 숨겼다.
• 프라이버시 예산을 낮췄더니 모델 정확도가 눈에 띄게 줄었다.

헷갈리는 용어 비교

비식별화

비식별화는 이름 같은 식별 요소를 지우거나 바꾸는 방식이고, 차등 프라이버시는 결과가 개인 한 명에 얼마나 민감한지를 수학적으로 제한한다. 비식별화된 데이터도 다른 정보와 합쳐 재식별될 수 있다.

맞춤법/표기법

바른 표기

차등 프라이버시

원어

differential privacy

다른 이름

차분 프라이버시, 디퍼렌셜 프라이버시, DP, 차등 정보보호

참고

'차등'과 '차분'이 함께 쓰인다. 학계와 업계에서는 '차등 프라이버시'가 흔하다.

관련어