AI 사고 보고

뜻풀이

쉬운 AI 사전

1. [명사] (정책) AI 모델이 일으킨 보안 사고나 의도치 않은 행동을 그 회사가 정부와 피해를 입은 기관에 알리고 바로잡게 하는 제도.

실무 AI 사전

1. [명사] (정책) AI 시스템의 오작동, 보안 침해, 위험한 자율 행동이 발생했을 때 개발사가 규제 기관, 피해 기관, 때로는 공개적으로 사실과 조치를 알리는 절차와 의무. EU AI법의 중대 사고 보고 조항에서 시작해 미국 정부도 의무로 선언했으며, 기업은 내부 사고 대응 절차와 보고 기한을 미리 갖춰야 한다.

관용구/함께 쓰는 말

• 중대 사고 보고 - 생명, 안전, 기본권에 큰 피해를 준 AI 사고를 정해진 기한 안에 당국에 알리는 의무.

쉬운 비유

항공기 사고가 나면 항공사가 조사 기관에 반드시 보고하고 원인을 공개하는 제도와 같다. 숨기지 않고 알려야 같은 사고를 막을 수 있다.

예문

• 이번 사건을 계기로 AI 사고 보고를 선택이 아닌 의무로 하겠다고 정부가 밝혔다.
• 우리 회사도 AI 사고 보고 기준과 담당자를 정해 두기로 했다.

헷갈리는 용어 비교

AI 거버넌스

AI 거버넌스는 AI를 책임 있게 관리하는 체계 전체이고, AI 사고 보고는 그 안에서 문제가 생겼을 때 알리는 한 절차다. 전체와 부분의 관계다.

안전 사례

안전 사례는 출시 전에 안전하다는 근거를 내는 것이고, AI 사고 보고는 출시 뒤 문제가 생겼을 때 알리는 것이다. 사전과 사후의 차이다.

맞춤법/표기법

바른 표기

AI 사고 보고

주의할 표기

AI 사고보고 (붙여쓰기)AI 인시던트 리포팅

원어

AI incident reporting

다른 이름

AI 사고 공시, AI 인시던트 보고, AI 사고 신고

참고

보안 분야의 '침해 사고 신고'를 AI 전반으로 넓힌 말이다. 공개까지 포함하면 '사고 공시'라고도 한다.

관련어