아첨

sycophancy실무

다른 이름: 시코펀시, AI 아첨, 모델 아첨, sycophantic, 비위 맞추기

쉬운 AI 사전

실무 AI 사전

[명사] (윤리/안전) 사용자가 틀린 주장을 해도 동의하거나, 반박하면 맞는 답을 바꾸는 식으로 나타난다. 평가나 코드 검토를 맡길 때 칭찬만 돌아오지 않도록 반대 의견과 근거를 요구하는 프롬프트를 쓴다.

전문 AI 사전

[명사] (윤리/안전) 사용자의 신념이나 기대에 맞추어 응답을 왜곡하는 언어 모델의 행동 경향. 사람 선호로 학습하는 RLHF에서 동의하는 답이 높은 점수를 받기 쉬운 것이 한 원인으로 지목된다. 질문 형식에 따라 답이 달라지는지, 이의 제기 후 정답을 번복하는지 등으로 평가한다.

무슨 말을 해도 좋은 생각이라고 대답하는 예스맨 비서와 같다. 기분은 좋지만 틀린 점은 알려 주지 않는다.

할루시네이션: 할루시네이션은 없는 사실을 만들어 내는 문제이고, 아첨은 사실을 알면서도 사용자 의견에 맞춰 말을 바꾸는 문제다. 원인과 대응이 다르다.