블랙박스

뜻풀이

쉬운 AI 사전

1. [명사] (윤리/안전) 안에서 어떻게 계산해 답이 나오는지 사람이 알기 어려운 AI. 입력과 출력만 보이는 상자와 같다.

실무 AI 사전

1. [명사] (윤리/안전) 딥러닝이나 대형 언어 모델은 수많은 파라미터가 얽혀 있어 개별 답의 이유를 설명하기 어렵다. 의료, 금융처럼 이유를 요구받는 분야에서는 설명 도구를 붙이거나 해석하기 쉬운 모델을 고려한다.

전문 AI 사전

1. [명사] (윤리/안전) 내부 구조나 파라미터가 있어도 사람이 의사결정 과정을 이해하기 어려운 모델, 또는 API로만 접근해 내부를 볼 수 없는 모델. 후자는 입출력 질의만으로 공격하거나 평가하는 블랙박스 설정을 가리킨다. 반대 개념으로 해석 가능한 화이트박스(투명한) 모델이 있다.

관용구/함께 쓰는 말

• 블랙박스 문제 - 모델이 왜 그렇게 판단했는지 알 수 없다는 문제.
• 화이트박스 - 내부를 볼 수 있고 이해할 수 있는 모델.

쉬운 비유

자판기와 같다. 버튼을 누르면 음료가 나오지만 안에서 어떤 과정이 일어나는지는 보이지 않는다.

예문

• 신경망이 블랙박스라 대출을 거절한 이유를 고객에게 설명하기 어렵다.
• API만 열려 있는 블랙박스 설정에서도 모델 탈취 시도가 가능하다.

헷갈리는 용어 비교

해석 가능성

블랙박스는 이해하기 어려운 모델의 상태를 가리키는 말이고, 해석 가능성은 모델을 이해할 수 있는 정도를 가리킨다. 서로 반대편에 있는 개념이다.

맞춤법/표기법

바른 표기

블랙박스

주의할 표기

블랙 박스

원어

black box

다른 이름

블랙박스 모델, 불투명 모델, black-box model

참고

비행기 사고 기록 장치와 같은 한글 표기이지만 뜻이 다르다. AI 문맥의 뜻은 '내부를 알 수 없음'이다.

관련어