최대 토큰

뜻풀이

쉬운 AI 사전

1. [명사] (프롬프트) AI가 한 번 답할 때 쓸 수 있는 토큰 수의 상한. 이 값이 작으면 답이 중간에 끊긴다.

실무 AI 사전

1. [명사] (프롬프트) API 호출마다 정하는 출력 길이 한도로, 비용 상한과 응답 시간을 묶어 두는 역할도 한다. 답이 문장 중간에 끊기면 응답의 종료 이유가 길이 제한인지 먼저 확인하고 값을 늘린다.

전문 AI 사전

1. [명사] (프롬프트) 한 요청에서 생성할 출력 토큰 수의 상한을 정하는 파라미터. 입력 토큰과 출력 토큰의 합은 모델의 컨텍스트 윈도를 넘을 수 없으며, 추론 모델은 겉으로 보이지 않는 사고 토큰도 이 한도를 함께 소모할 수 있다.

관용구/함께 쓰는 말

• 최대 토큰에 걸리다 — 출력이 한도에 닿아 답이 중간에 끊기다.

쉬운 비유

답안지의 칸 수와 같다. 칸이 모자라면 아무리 잘 알아도 답을 끝까지 쓰지 못한다.

예문

• JSON 응답이 자꾸 중간에 잘려서 보니 최대 토큰이 너무 작게 잡혀 있었다.
• 요약 기능은 최대 토큰을 300으로 묶어 비용과 길이를 함께 관리한다.

헷갈리는 용어 비교

컨텍스트 윈도

컨텍스트 윈도는 모델이 한 번에 다룰 수 있는 입력과 출력 전체의 크기이고, 최대 토큰은 그중 출력에 쓸 몫을 요청마다 정해 두는 값이다. 컨텍스트 윈도는 모델이 정하고 최대 토큰은 사용자가 정한다.

정지 시퀀스

최대 토큰은 길이로 멈추고, 정지 시퀀스는 특정 문자열이 나오면 멈춘다. 둘 다 생성을 끝내는 조건이지만 기준이 다르다.

맞춤법/표기법

바른 표기

최대 토큰

주의할 표기

최대토큰수맥스토큰

원어

max tokens (max_tokens)

다른 이름

max_tokens, 최대 출력 토큰, 출력 토큰 한도

참고

API 문서의 파라미터 이름은 밑줄을 넣은 'max_tokens'처럼 쓰고, 본문에서는 '최대 토큰'으로 쓴다.

관련어

마지막 확인 2026-10-15
뜻풀이는 학습용 참고 자료입니다.