FLOPS

뜻풀이

쉬운 AI 사전

1. [명사] (인프라) 컴퓨터가 1초에 소수점이 있는 계산을 몇 번 하는지 나타내는 성능 단위.

실무 AI 사전

1. [명사] (인프라) GPU와 AI 칩의 이론적 계산 능력을 비교할 때, 그리고 모델 하나를 학습하는 데 필요한 총 계산량을 어림할 때 쓴다. 실제 속도는 메모리와 통신이 막혀 FLOPS 수치보다 낮게 나오는 경우가 많다.

전문 AI 사전

1. [명사] (인프라) 초당 부동소수점 연산 횟수. 접두어로 T(테라, 10의 12제곱), P(페타)를 붙인다. 연산 정밀도(FP32, BF16, FP8)에 따라 값이 달라지며, 학습에 든 총 연산량은 FLOP(소문자 s 없이)으로 나타낸다. 스케일링 법칙 논의의 기본 단위다.

관용구/함께 쓰는 말

• 이론 성능 - 제원 상 최대치로, 실제로는 거의 나오지 않는 값.
• 활용률 - 이론 성능 대비 실제로 쓰는 비율.

쉬운 비유

자동차의 최고 속도와 같다. 도로 상태가 나쁘면 낼 수 없는 값이지만 차의 체급을 비교할 때 쓴다.

예문

• 이 GPU는 BF16에서 수백 TFLOPS의 성능을 낸다고 한다.
• 모델 학습에 쓴 총 연산량을 FLOP으로 어림해 봤다.
• 스펙상 FLOPS는 높아도 메모리가 따라가지 못해 실제 속도는 낮다.

헷갈리는 용어 비교

처리량

FLOPS는 칩이 이론상 해낼 수 있는 계산량이고, 처리량은 시스템이 실제로 단위 시간에 처리한 요청이나 토큰 수다. 같은 FLOPS라도 메모리와 소프트웨어에 따라 처리량은 크게 달라진다.

맞춤법/표기법

바른 표기

FLOPS

주의할 표기

플롭FLOPs

원어

FLOPS (floating point operations per second)

다른 이름

플롭스, FLOP, TFLOPS

참고

초당 횟수는 FLOPS, 총 연산 횟수는 FLOP 혹은 FLOPs로 구분하여 쓴다.

관련어