해석 가능성

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 AI 머릿속에서 무슨 일이 일어나는지 들여다보고 이해하려는 연구.

전문 AI 사전

1. 「명사」 『윤리/안전』 신경망 내부 표현과 회로를 분석해 동작 원리를 규명하는 연구. 특징 추출(SAE), 회로 추적 등 기계적 해석 가능성이 AI 안전의 핵심 과제로 부상했다.

쉬운 비유

자동차 엔진 뚜껑을 열어 어떤 부품이 어떻게 맞물려 돌아가는지 직접 들여다보는 것과 같다. 겉으로 나온 결과만 보지 않고 안에서 일어나는 일을 이해하려는 연구다.

예문

• 해석 가능성 연구로 모델 안에서 '골든게이트 브리지' 개념을 찾아냈다.
• 해석 가능성 연구가 진전되면 모델이 답을 만드는 과정에서 거짓말을 하는지도 내부에서 확인할 수 있으리라는 기대가 있다.

헷갈리는 용어 비교

설명 가능한 AI

설명 가능한 AI는 사용자와 규제 기관이 이해할 수 있게 결과의 이유를 제시하는 데 중점을 둔다. 해석 가능성은 모델 내부의 회로와 표현을 분석해 실제 작동 원리를 밝히는 데 중점을 둔다.

AI 안전

해석 가능성은 모델 속을 이해하는 연구 분야이고, AI 안전은 AI가 해를 끼치지 않도록 하는 더 넓은 목표다. 해석 가능성은 위험한 행동을 미리 발견하는 도구로서 AI 안전에 기여한다.

맞춤법/표기법

바른 표기

해석 가능성

원어

interpretability

다른 이름

기계적 해석 가능성, 인터프리터빌리티

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.