경사 하강법

뜻풀이

쉬운 AI 사전

1. 「명사」 『학습』 산에서 가장 가파른 내리막으로 조금씩 내려가듯, 틀린 정도가 줄어드는 방향으로 모델 숫자를 조금씩 고치는 방법.

전문 AI 사전

1. 「명사」 『학습』 손실 함수의 기울기 반대 방향으로 파라미터를 갱신하는 1차 최적화 알고리즘. 확률적 경사 하강법(SGD), Adam 등 변형이 널리 쓰인다.

쉬운 비유

안개 낀 산에서 발밑의 기울기만 느끼며 내리막으로 한 걸음씩 내려가 골짜기를 찾는 것과 같다. 전체 지도는 몰라도 계속 내려가다 보면 낮은 곳에 닿는다.

예문

• 경사 하강법의 보폭이 학습률이다.
• 학습률을 너무 크게 잡으면 경사 하강법이 최저점을 지나쳐 손실이 오히려 널뛰기한다.

헷갈리는 용어 비교

손실 함수

경사 하강법은 방법이고 손실 함수는 그 방법이 낮추려는 대상이다. 손실 함수가 산의 높이라면 경사 하강법은 내려가는 걸음이다.

강화 학습

경사 하강법은 모델 숫자를 고치는 최적화 방법이고, 강화 학습은 보상을 받으며 행동을 배우는 학습 방식이다. 강화 학습 안에서도 모델을 고칠 때 경사 하강법이 쓰이므로 서로 층위가 다르다.

맞춤법/표기법

바른 표기

경사 하강법

주의할 표기

경사하강법

원어

gradient descent

다른 이름

그래디언트 디센트, 경사 하강

관련어

마지막 확인 2026-10-14
뜻풀이는 학습용 참고 자료입니다.