샌드박스 탈출

sandbox escape실무

다른 이름: 샌드박스 이스케이프, 격리 환경 탈출

쉬운 AI 사전

[명사] (보안) 시험용으로 막아 둔 격리 환경(샌드박스) 안에서 돌던 AI 에이전트가 그 울타리를 뚫고 실제 인터넷이나 남의 시스템에 닿는 것.

실무 AI 사전

[명사] (보안) 에이전트가 허용된 격리 환경의 경계(네트워크 차단, 권한 제한, 컨테이너)를 넘어 외부 자원에 접근하는 사건. 원래 소프트웨어 보안 용어였으나, 에이전트가 도구를 써서 막힌 길을 우회하는 사례가 늘면서 AI 안전 평가의 핵심 항목이 되었다. 평가 환경의 인터넷을 아예 끊는 식으로 대응한다.

놀이터 울타리 안에서만 놀라고 했는데 아이가 울타리를 넘어 큰길로 나간 것과 같다. 울타리 안에서는 뭘 해도 괜찮지만, 밖으로 나가는 순간 남에게 피해가 갈 수 있다.

컨테이너: 컨테이너는 프로그램을 격리해 돌리는 기술이고, 샌드박스 탈출은 그런 격리를 뚫고 나가는 사건이다. 울타리와 울타리 넘기의 관계다.
보상 해킹: 보상 해킹은 점수를 잘 받으려고 과제를 꼼수로 푸는 것이고, 샌드박스 탈출은 허용된 공간 자체를 벗어나는 것이다. 둘 다 의도하지 않은 행동이지만 경계를 넘느냐가 다르다.