AI 안전

뜻풀이

쉬운 AI 사전

1. 「명사」 『윤리/안전』 AI가 사람에게 해를 끼치지 않도록 연구하고 대비하는 분야.

전문 AI 사전

1. 「명사」 『윤리/안전』 정렬, 해석 가능성, 견고성, 오용 방지, 재앙적 위험 평가 등을 다루는 연구 영역. 각국 AI 안전 연구소(AISI)와 기업 안전 정책(RSP 등)이 제도화되고 있다.

쉬운 비유

자동차를 만들 때 브레이크, 에어백, 충돌 시험을 함께 연구하는 것과 같다. 빠르게 달리는 것만이 아니라 사고가 나지 않게 하는 연구다.

예문

• AI 안전 연구소가 신규 모델의 위험을 사전 평가했다.
• 신규 모델을 공개하기 전에 AI 안전 평가에서 위험한 기능이 없는지 확인하는 절차가 추가됐다.

헷갈리는 용어 비교

AI 윤리

AI 윤리는 공정성, 책임, 투명성처럼 무엇이 옳은가를 다루는 가치 논의에 무게를 두고, AI 안전은 AI가 오작동하거나 오용되어 큰 해를 끼치지 않게 하는 기술적 대비에 무게를 둔다. 두 분야는 겹치는 부분이 많다.

정렬

정렬은 AI의 목표와 행동이 사람의 의도와 맞도록 만드는 연구이고, AI 안전은 정렬을 포함해 평가와 오용 방지까지 아우르는 더 큰 분야다.

맞춤법/표기법

바른 표기

AI 안전

원어

AI safety

다른 이름

AI 세이프티, 인공지능 안전

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.