반사실적 설명

뜻풀이

쉬운 AI 사전

1. [명사] (평가) '무엇이 달랐다면 결과가 바뀌었을까'를 알려 주는 설명. 예를 들어 '소득이 조금 더 높았다면 대출이 승인됐다'는 식이다.

실무 AI 사전

1. [명사] (평가) 대출이나 채용처럼 거절된 사람에게 어떻게 하면 결과를 바꿀 수 있는지 구체적으로 안내할 때 쓴다. 현실에서 바꿀 수 없는 조건(나이, 성별 등)을 제안하지 않도록 제약을 둔다.

전문 AI 사전

1. [명사] (평가) 입력 x에 대해 모델 예측을 원하는 결과로 바꾸는 x에 가까운 입력 x'를 찾는 설명 방식으로, 거리 최소화와 실현 가능성, 다양성 제약을 두고 최적화한다. 모델 내부를 열지 않고도 개별 결정의 이유와 구제 방법을 줄 수 있다.

관용구/함께 쓰는 말

• 가장 가까운 대안 - 결과를 바꾸는 데 필요한 변화가 가장 작은 입력.

쉬운 비유

'어제 일찍 출발했다면 지각하지 않았을 텐데'처럼, 다르게 했다면 어땠을지를 말해 주는 설명이다.

예문

• 반사실적 설명으로 '연체 이력이 한 건 적었다면 승인'이라는 안내를 거절 통지에 넣었다.
• 나이를 바꾸라는 반사실적 설명은 실행할 수 없어서 후보에서 제외했다.

헷갈리는 용어 비교

SHAP

SHAP은 각 입력이 예측에 얼마나 기여했는지 나누어 보여 주고, 반사실적 설명은 결과를 바꾸려면 무엇을 얼마나 바꿔야 하는지를 보여 준다.

맞춤법/표기법

바른 표기

반사실적 설명

원어

counterfactual explanation

다른 이름

반사실 설명, 카운터팩추얼 설명, 대안 시나리오 설명, counterfactual

참고

'반사실'은 사실과 반대되는 가정을 뜻한다. 한글 표기는 '반사실적 설명'이다.

관련어