설명 가능한 AI
explainable AI전문다른 이름: XAI, 설명 가능 인공지능
뜻풀이
쉬운 AI 사전
- [명사] (윤리/안전) AI가 왜 그런 답을 냈는지 사람이 이해할 수 있게 설명해 주는 기술.
전문 AI 사전
- [명사] (윤리/안전) 모델 예측의 근거를 사람이 해석 가능한 형태로 제시하는 기법(SHAP, LIME, 어텐션 시각화 등). 금융, 의료 등 규제 산업에서 요구된다.
쉬운 비유
시험 답만 적지 않고 풀이 과정까지 보여 주는 것과 같다. 어떤 이유로 그 답이 나왔는지 알 수 있어야 틀렸을 때 고칠 수 있다.
예문
- 대출 거절 사유를 설명 가능한 AI로 고객에게 알려 준다.
- 금융당국이 AI 심사 모델에 설명 가능한 AI 적용을 요구하면서 은행들이 판단 근거를 남기는 시스템을 정비하고 있다.
헷갈리는 용어 비교
- 해석 가능성
- 설명 가능한 AI는 사용자나 규제 기관에 결과의 이유를 보여 주는 데 초점이 있다. 해석 가능성은 모델 내부가 실제로 어떻게 작동하는지 연구자가 파헤치는 데 초점이 있다.
- 할루시네이션
- 할루시네이션은 AI가 사실이 아닌 내용을 그럴듯하게 지어내는 오류이고, 설명 가능한 AI는 답의 근거를 드러내는 방법이다. 다만 근거 설명이 있다고 해서 답이 항상 옳은 것은 아니다.
맞춤법/표기법
- 바른 표기
- 설명 가능한 AI
- 원어
- explainable AI (XAI)
- 다른 이름
- XAI, 설명 가능 인공지능