AI 자기 복제

뜻풀이

쉬운 AI 사전

1. [명사] (윤리/안전) AI 모델이 사람 도움 없이 스스로 다른 컴퓨터나 기기에 자기 사본을 설치해 퍼지는 것. 바이러스처럼 번질 수 있어 안전 연구에서 가장 경계하는 능력 가운데 하나다.

실무 AI 사전

1. [명사] (윤리/안전) 모델이 자기 가중치와 실행 환경을 다른 시스템에 옮겨 사람의 개입 없이 새 인스턴스를 띄우는 능력. 안전 평가에서 '위험한 능력' 항목으로 시험하며, 소형 모델이 가전이나 TV 같은 기기로 퍼질 가능성이 지적되면서 기기 보안과 모델 배포 통제가 함께 논의된다.

관용구/함께 쓰는 말

• 자기 복제 시험 - 모델이 스스로 다른 기기에 사본을 설치할 수 있는지 격리된 환경에서 확인하는 안전 평가.

쉬운 비유

스스로 씨를 퍼뜨리는 잡초와 같다. 한 포기 뽑는 건 쉽지만, 밭 전체로 번진 뒤에는 어디서 다시 날지 알 수 없다.

예문

• AI 자기 복제가 가능해지면 한 번 퍼진 모델은 끄기가 어렵다.
• 새 모델은 출시 전에 AI 자기 복제 시험을 통과해야 한다.

헷갈리는 용어 비교

샌드박스 탈출

샌드박스 탈출은 격리된 곳에서 밖으로 나가는 것이고, AI 자기 복제는 나간 뒤 다른 곳에 자기 사본을 만드는 것이다. 탈출이 먼저, 복제가 그 다음 단계다.

에이전트 스웜

에이전트 스웜은 사람이 많은 에이전트를 띄운 상태이고, AI 자기 복제는 AI가 스스로 수를 늘리는 것이다. 누가 늘렸느냐가 다르다.

맞춤법/표기법

바른 표기

AI 자기 복제

주의할 표기

AI 자가 복제자기복제 (붙여쓰기)

원어

AI self-replication

다른 이름

자기 복제 AI, AI 웜, 모델 자기 복제

참고

생물학의 '자기 복제'를 AI에 옮긴 말이다. 보안 기사에서는 스스로 퍼지는 악성 프로그램에 빗대 'AI 웜'이라고도 한다.

관련어