BERT

뜻풀이

쉬운 AI 사전

1. [명사] (모델) 문장 속 빈칸을 앞뒤 문맥을 모두 보고 맞히며 배운 언어 모델. 글을 이해하는 데 강하다.

실무 AI 사전

1. [명사] (모델) 문장 분류, 감성 분석, 개체명 인식, 검색 재순위화, 문장 임베딩에 오래 쓰였다. 글을 길게 쓰는 생성은 못 하지만 작고 빨라서 분류 업무에서 여전히 실용적이다. 한국어 버전과 경량화 모델이 많다.

전문 AI 사전

1. [명사] (모델) 트랜스포머 인코더만 쌓아 양방향 문맥을 쓰며 마스크 언어 모델링과 다음 문장 예측으로 사전 학습한다. 2018년 구글이 공개했고 이후 파인튜닝으로 여러 과제에 적용하는 방식이 표준이 됐다.

관용구/함께 쓰는 말

• BERT 파인튜닝 - BERT를 목적에 맞게 추가 학습하는 일.
• 양방향 문맥 - 앞뒤 단어를 모두 참고하는 방식.

쉬운 비유

빈칸 채우기 문제를 수백만 개 풀며 국어 실력을 키운 학생과 비슷하다.

예문

• 고객 문의를 분류하는 데 한국어 BERT를 파인튜닝해 썼다.
• BERT는 글을 이어 쓰지 못하고 이해에 쓰는 모델이다.

헷갈리는 용어 비교

GPT 시리즈

BERT는 앞뒤를 모두 보는 인코더로 이해에 강하고, GPT는 앞만 보며 이어 쓰는 디코더로 생성에 강하다.

맞춤법/표기법

바른 표기

BERT

주의할 표기

버트Bert

원어

BERT (Bidirectional Encoder Representations from Transformers)

다른 이름

버트 모델, BERT 모델

참고

영어 약어이며 한국어로는 '버트'라고 읽는다.

관련어