데이터 누수
data leakage실무다른 이름: 정보 누수, 데이터 리케이지, 리키지, target leakage, 타깃 누수, data leak
뜻풀이
쉬운 AI 사전
- [명사] (데이터) 시험에 나올 정보가 공부 단계에 몰래 섞여 들어가서, 점수가 실제보다 높게 나오는 문제.
실무 AI 사전
- [명사] (데이터) 테스트 정보로 정규화 값을 계산하거나, 예측 시점에는 알 수 없는 정보를 피처로 넣을 때 생긴다. 개발 중 성능은 놀랍게 좋은데 실제 서비스에서는 무너지는 대표 원인이다.
전문 AI 사전
- [명사] (데이터) 학습 시점에 실제 예측 환경에서는 쓸 수 없는 정보가 모델에 들어가 일반화 성능이 과대 추정되는 현상. 타깃 누수(결과에서 파생된 열 사용), 전처리 누수(분할 전 변환), 중복/시간 누수 등이 있다. LLM에서는 벤치마크 문제가 학습 말뭉치에 섞이는 오염도 비슷한 문제다.
관용구/함께 쓰는 말
- 타깃 누수 - 정답에서 만들어진 정보가 입력에 섞이는 것.
- 누수 점검 - 분할, 피처, 시간 순서를 다시 확인하는 작업.
쉬운 비유
시험 문제를 미리 알고 공부한 학생의 성적과 같다. 점수는 높지만 진짜 실력은 아니다.
예문
- 정확도 99퍼센트가 나와서 이상하다 싶었는데 환불 여부 열이 피처에 들어 있었다.
- 전체 데이터로 평균을 구한 뒤 분할해서 데이터 누수가 생겼다.
- 같은 환자의 기록이 학습과 테스트에 나뉘어 들어가 누수가 일어났다.
헷갈리는 용어 비교
- 과적합
- 과적합은 학습 데이터에 지나치게 맞춰져 새 데이터에서 못하는 현상이고, 데이터 누수는 평가 방식이 잘못돼 성능을 과대평가하는 문제다. 누수가 있으면 과적합이 아닌데도 좋아 보이게 된다.
맞춤법/표기법
- 바른 표기
- 데이터 누수
- 주의할 표기
- 데이터 누출
- 원어
- data leakage
- 다른 이름
- 정보 누수, 데이터 리케이지, 리키지, target leakage, 타깃 누수, data leak
- 참고
- 누출보다 누수가 흔하다. 업계에서는 리키지라고도 읽는다.