자동화 편향

뜻풀이

쉬운 AI 사전

1. [명사] (윤리/안전) AI나 기계의 판단이 맞을 것이라 지나치게 믿고, 내 판단이나 다른 증거를 소홀히 하는 경향.

실무 AI 사전

1. [명사] (윤리/안전) AI의 추천이 틀렸는데도 사람이 그대로 승인하는 상황이 문제가 된다. 사람 검토 단계를 두더라도, 근거를 같이 보여 주고 반대 사례를 확인하게 하는 식으로 형식적 승인을 막아야 한다.

전문 AI 사전

1. [명사] (윤리/안전) 의사결정 지원 시스템의 제안을 과신해 오류를 놓치거나(누락 오류), 시스템이 틀린 제안을 해도 따르는(수행 오류) 인지적 편향. 사람이 개입하는 구조를 둬도 감독이 실질적이지 않으면 효과가 없어, 사용자 훈련과 인터페이스 설계가 중요하다.

관용구/함께 쓰는 말

• 맹목적 승인 - 내용을 살피지 않고 AI 결과를 그대로 받아들이는 일.

쉬운 비유

내비게이션이 가라는 대로 가다 막다른 길에 들어가도 의심하지 않고 계속 가는 운전자와 같다.

예문

• AI가 추천한 진단을 의사가 확인 없이 따르는 자동화 편향을 막으려고 근거를 함께 보여 준다.
• 검토자가 AI 초안을 그대로 승인하는 일이 반복돼 자동화 편향이 의심됐다.

헷갈리는 용어 비교

편향

AI 편향은 모델과 데이터가 한쪽으로 쏠리는 문제이고, 자동화 편향은 AI를 쓰는 사람이 AI를 지나치게 믿는 문제다. 원인이 다르니 대책도 다르다.

맞춤법/표기법

바른 표기

자동화 편향

주의할 표기

자동화편향

원어

automation bias

다른 이름

자동화 편향성, 기계 맹신, automation bias, 자동화 맹신

참고

데이터나 모델의 편향이 아니라 사용하는 사람의 심리 편향이라는 점을 구분해서 쓴다.

관련어