안전 사례

뜻풀이

쉬운 AI 사전

1. [명사] (윤리/안전) 항공기나 원전처럼 '이 AI 모델은 안전하다'는 근거를 문서로 정리해 학습이나 출시 전에 심사를 통과시키는 절차.

전문 AI 사전

1. [명사] (윤리/안전) 시스템이 특정 환경에서 허용 가능한 수준으로 안전하다는 주장을 증거와 논증으로 구조화한 문서. 안전 공학에서 쓰던 방식을 프런티어 AI에 적용해, 위험한 능력의 부재나 통제 가능성을 평가 결과와 함께 제시하며, 대규모 학습 전에 서면 안전 사례를 요구하자는 제안이 규제 논의에 올라 있다.

관용구/함께 쓰는 말

• 안전 사례 심사 - 제출된 안전 사례 문서의 근거가 충분한지 내부 또는 외부 위원회가 검토하는 일.

쉬운 비유

건물 준공 검사 서류와 같다. '튼튼하다'는 말만으로는 안 되고, 어떤 하중을 어떻게 시험했는지 근거를 모아 심사를 받아야 입주할 수 있다.

예문

• 새 모델은 안전 사례 심사를 통과하지 못해 출시가 미뤄졌다.
• 대규모 학습 전에 안전 사례를 의무로 내게 하자는 법안이 논의되고 있다.

헷갈리는 용어 비교

레드팀

레드팀은 모델을 공격해 약점을 찾는 활동이고, 안전 사례는 그런 시험 결과를 포함해 안전하다는 주장을 문서로 정리한 것이다. 레드팀 결과가 안전 사례의 근거가 된다.

벤치마크

벤치마크는 성능이나 위험을 숫자로 재는 시험이고, 안전 사례는 여러 시험 결과를 엮어 '그래서 안전하다'는 논리를 세운 문서다. 점수와 논증의 차이다.

맞춤법/표기법

바른 표기

안전 사례

주의할 표기

안전 케이스안전 케이스 스터디

원어

safety case

다른 이름

세이프티 케이스, 안전성 논증

참고

여기서 case는 '사건'이 아니라 법정에서 쓰는 '논거'라는 뜻이다. '안전성 논증'으로 옮기기도 한다.

관련어