SHAP
shapley additive explanations실무다른 이름: 섀플리 값, SHAP 값, Shapley value, 샤플리
뜻풀이
쉬운 AI 사전
- [명사] (평가) AI의 예측에 각 입력이 얼마나 영향을 줬는지 점수로 나눠 보여 주는 방법.
실무 AI 사전
- [명사] (평가) 대출 심사 모델이 거절했을 때 소득, 연체 이력, 나이 중 무엇이 결정적이었는지 막대 그래프로 보여 줄 때 쓴다. 전체적으로 중요한 변수와 개별 예측의 이유를 모두 볼 수 있다.
전문 AI 사전
- [명사] (평가) 협력 게임 이론의 섀플리 값에서 나온 기법으로, 특징들의 가능한 조합에 대해 한 특징이 더해질 때의 예측 변화 평균을 기여도로 정의한다. 기여도의 합이 기준 예측과 실제 예측의 차이가 되는 가법성을 가지며, 트리 모델용 TreeSHAP처럼 빠른 근사법이 있다.
관용구/함께 쓰는 말
- SHAP 요약 그림 - 변수별 기여도를 모아 보여 주는 그래프.
- SHAP 값 - 한 예측에서 각 입력이 더하거나 뺀 몫.
쉬운 비유
팀 프로젝트가 성공했을 때 팀원 각자가 얼마나 기여했는지 공정하게 나누는 일과 비슷하다.
예문
- SHAP 값을 보니 이 고객의 이탈 예측을 가장 크게 끌어올린 요인은 최근 3개월 접속 감소였다.
- SHAP 요약 그림으로 전체 모델에서 영향이 큰 변수를 한눈에 확인했다.
헷갈리는 용어 비교
- LIME
- SHAP은 이론적 근거가 있는 게임 이론 기반 기여도이고, LIME은 한 예측 주변을 단순 모델로 흉내 내 설명한다. SHAP이 일관성은 좋지만 계산이 더 무거울 수 있다.
- 피처 중요도
- 피처 중요도는 보통 모델 전체에서 변수가 중요한 정도를 한 숫자로 나타내고, SHAP은 개별 예측마다 영향의 방향과 크기를 알려 준다.
맞춤법/표기법
- 바른 표기
- SHAP
- 주의할 표기
- 샵섀플리
- 원어
- SHAP (SHapley Additive exPlanations)
- 다른 이름
- 섀플리 값, SHAP 값, Shapley value, 샤플리
- 참고
- 읽을 때는 '샵'이 흔하다. 섀플리 값은 외래어 표기법상 '섀플리'다.