피드포워드 네트워크

뜻풀이

쉬운 AI 사전

1. [명사] (모델) 정보가 입력에서 출력으로 한 방향으로만 흐르고 되돌아오지 않는 신경망. 가장 기본적인 신경망 형태다.

실무 AI 사전

1. [명사] (모델) 트랜스포머 블록 안에서도 어텐션 뒤에 위치별로 적용되는 FFN이 들어 있고, 모델 파라미터의 상당 부분이 여기에 있다. 최근 LLM은 SwiGLU 같은 변형과 MoE로 이 부분을 바꾼다.

전문 AI 사전

1. [명사] (모델) 순환 연결이 없는 그래프로 이루어져 y=f(Wx+b)를 층층이 합성한다. 트랜스포머의 FFN은 위치별 두 개의 선형 변환 사이에 비선형을 둔 구조이며 은닉 차원은 보통 모델 차원의 몇 배다.

관용구/함께 쓰는 말

• FFN 블록 — 어텐션 뒤에 오는 층.
• 순방향 전파 — 입력에서 출력으로 계산이 흐르는 과정.

쉬운 비유

공장 컨베이어벨트처럼 한 방향으로만 물건이 흘러 가며 공정마다 가공만 한다.

예문

• 트랜스포머 파라미터의 많은 부분은 피드포워드 네트워크에 있다.
• MoE는 이 FFN을 여러 전문가로 쪼개 필요한 일부만 켠다.

헷갈리는 용어 비교

RNN

피드포워드는 앞으로만 가고 순환 신경망은 이전 상태를 되먹임으로 다시 사용한다.

맞춤법/표기법

바른 표기

피드포워드 네트워크

주의할 표기

피드포워드피드 포워드

원어

feedforward network

다른 이름

순방향 신경망, 피드포워드 신경망, FFN, 피드 포워드 네트워크, MLP 블록

참고

'순방향 신경망'이라고도 번역한다.

관련어

마지막 확인 2026-10-15
뜻풀이는 학습용 참고 자료입니다.