정지 시퀀스

뜻풀이

쉬운 AI 사전

1. [명사] (프롬프트) AI가 글을 쓰다가 '여기서 멈춰'라고 정해 둔 글자나 단어를 만나면 바로 쓰기를 끝내게 하는 장치.

실무 AI 사전

1. [명사] (프롬프트) API 호출 때 지정해 두면 모델이 그 문자열을 만드는 순간 생성이 끝난다. 불필요한 뒷말을 잘라 토큰 비용을 줄이고, 정해진 형식에서 한 항목만 받을 때 쓴다.

전문 AI 사전

1. [명사] (프롬프트) 디코딩 중 생성된 토큰열에 지정한 문자열이 나타나면 생성을 중단하는 규칙. 보통 일치한 문자열 자체는 출력에서 제외하며, 토큰 경계와 문자열이 어긋날 수 있어 구현마다 처리 방식이 다르다.

관용구/함께 쓰는 말

• 정지 시퀀스 지정 - 생성을 멈출 문자열을 API 옵션에 넣는 일.
• 조기 종료 문자열 - 정해진 문자열이 나오면 출력을 끊는 설정.

쉬운 비유

책 읽어 주는 사람에게 '이 줄이 나오면 거기서 읽기를 멈춰 주세요'라고 표시해 둔 것과 같다.

예문

• 대화 로그를 만들 때 '사용자:'를 정지 시퀀스로 걸어 두니 모델이 혼자 두 사람 역할을 이어 쓰는 일이 사라졌다.
• 정지 시퀀스를 '###'로 정했더니 답변이 한 단락에서 깔끔하게 끝났다.
• 정지 시퀀스가 토큰 중간에 걸리면 기대한 곳에서 안 멈출 수 있으니 여러 형태로 넣어 보자.

헷갈리는 용어 비교

최대 토큰

최대 토큰은 길이로 자르고, 정지 시퀀스는 내용으로 자른다. 길이 한도는 문장 중간에서 끊길 수 있지만 정지 문자열은 정해 둔 지점에서 끝난다.

EOS 토큰

EOS 토큰은 모델이 스스로 '끝'을 뜻하며 내놓는 특수 토큰이고, 정지 시퀀스는 사용자가 정해 주는 외부 규칙이다.

맞춤법/표기법

바른 표기

정지 시퀀스

주의할 표기

정지 시퀀서스톱 시컨스

원어

stop sequence

다른 이름

스톱 시퀀스, 정지 문자열, stop strings, 종료 문자열

참고

'스톱 시퀀스'로 적는 경우도 많고 같은 뜻이다. API 옵션 이름은 stop 또는 stop_sequences처럼 서비스마다 다르다.

관련어