레드팀

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 출시 전에 일부러 AI를 공격하고 괴롭혀서 약점을 찾아내는 팀 또는 그 활동.

전문 AI 사전

1. 「명사」 『윤리/안전』 적대적 프롬프트, 탈옥, 유해 콘텐츠 유도 등으로 모델 취약점을 체계적으로 탐색하는 안전 평가 절차. 주요 AI 기업과 규제 기관이 출시 전 요구한다.

쉬운 비유

새 성을 지은 뒤 일부러 도둑 역할을 하는 사람을 불러 어디로 뚫리는지 먼저 시험해 보는 것과 같다. 약점을 적이 아닌 우리 편이 먼저 찾는다.

예문

• 외부 레드팀이 일주일간 모델을 공격해 보고서를 냈다.
• 출시 일정이 늦어진 이유는 레드팀이 찾은 유해 답변 사례를 고치는 데 시간이 걸렸기 때문이다.

헷갈리는 용어 비교

벤치마크

벤치마크는 정해진 문제로 점수를 매겨 성능을 비교하고, 레드팀은 정해진 틀 없이 모델이 곤란한 답을 하도록 창의적으로 공격해 본다. 앞의 것은 숫자로 비교하고, 뒤의 것은 약점 사례를 찾아낸다.

탈옥

탈옥은 공격 기법이고, 레드팀은 그런 기법을 방어하는 쪽이 미리 써 보는 활동이다. 같은 수법을 쓰더라도 목적이 약점 보완이면 레드팀이다.

맞춤법/표기법

바른 표기

레드팀 / 레드티밍

원어

red team / red teaming

다른 이름

레드티밍, 레드 팀

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.