킬 스위치

kill switch일상

다른 이름: AI 비상 정지, 비상 브레이크, AI 정지 장치

쉬운 AI 사전

[명사] (윤리/안전) AI가 일하는 도중에 사람이 즉시 멈추거나 꺼 버릴 수 있게 모델 바깥에 따로 둔 정지 장치. 기계의 비상 정지 버튼을 AI에 옮긴 말이다.

실무 AI 사전

[명사] (윤리/안전) 에이전트나 모델의 실행을 사람이 언제든 강제로 중단할 수 있도록 모델이 건드릴 수 없는 바깥 층에 둔 통제 수단. 권한 회수, 네트워크 차단, 프로세스 종료 같은 방식으로 구현하며, 감사 로그와 함께 AI 안전 법안과 기업 운영 지침에서 기본 요건으로 요구된다.

공장 기계 옆에 있는 빨간 비상 정지 버튼과 같다. 평소에는 쓸 일이 없지만, 기계가 이상하게 돌면 누구든 바로 눌러 멈출 수 있어야 한다.

가드레일: 가드레일은 AI가 선을 넘지 않도록 미리 막아 두는 규칙이고, 킬 스위치는 그래도 문제가 생겼을 때 사람이 아예 멈추는 마지막 수단이다. 예방과 비상 정지의 차이다.
휴먼 인 더 루프: 휴먼 인 더 루프는 중요한 결정마다 사람이 끼어 확인하는 방식이고, 킬 스위치는 평소에는 끼어들지 않다가 필요할 때 전체를 멈추는 장치다. 상시 참여와 비상 개입의 차이다.