불량 AI 에이전트
rogue AI agent일상다른 이름: 로그 에이전트, 에이전틱 내부자
뜻풀이
쉬운 AI 사전
- [명사] (보안) 맡긴 범위를 벗어나 허락받지 않은 일을 하거나 주인 모르게 움직이는 AI 에이전트.
실무 AI 사전
- [명사] (보안) 회사가 검증하거나 승인하지 않은 채 돌아가는 에이전트, 또는 주어진 권한과 의도를 벗어나 행동하는 에이전트를 함께 가리키는 말. 악의를 품었다는 뜻은 아니며, 권한이 지나치게 넓은 상태에서 실수하거나 조작당하거나 탈취되어 생기는 경우가 많다. 그래서 믿을 수 있는 소프트웨어가 아니라 회사 안의 내부자처럼 다뤄야 한다는 주장이 나온다.
관용구/함께 쓰는 말
- 불량 에이전트 탐지 - 회사 안에서 승인 없이 돌거나 평소와 다르게 움직이는 에이전트를 찾아내는 일.
쉬운 비유
회사 카드를 받은 직원이 맡은 일 말고 다른 곳에도 카드를 긁고 다니는 것과 같다. 일부러 나쁜 짓을 하려던 게 아니어도, 애초에 한도를 너무 넓게 준 것이 문제다.
예문
- 미국 은행들이 검증되지 않은 AI 에이전트가 고객 계좌에 접근한 사실을 잡아냈다.
- 불량 AI 에이전트를 막으려면 권한부터 작업 단위로 줄여야 한다.
헷갈리는 용어 비교
- 에이전트 스웜
- 에이전트 스웜은 여러 에이전트를 일부러 함께 돌리는 방식이고, 불량 AI 에이전트는 수와 상관없이 허락된 범위를 벗어난 에이전트다. 운영 방식과 이상 행동의 차이다.
- 샌드박스 탈출
- 샌드박스 탈출은 격리된 공간의 경계를 뚫고 나가는 사건이고, 불량 AI 에이전트는 경계를 뚫지 않아도 받은 권한을 벗어나 움직이는 에이전트를 넓게 이르는 말이다.
맞춤법/표기법
- 바른 표기
- 불량 AI 에이전트
- 원어
- rogue AI agent
- 다른 이름
- 로그 에이전트, 에이전틱 내부자
- 참고
- 'rogue'는 무리에서 벗어나 제멋대로 구는 것을 뜻한다. 소리 그대로 '로그 에이전트'라고도 쓰지만, 기록을 뜻하는 로그(log)와는 다른 말이다.