연쇄 법칙

뜻풀이

쉬운 AI 사전

1. [명사] (통계/수학) 여러 단계를 거친 계산에서 처음 값이 마지막 결과에 미치는 영향을, 각 단계의 변화율을 이어 곱해서 구하는 규칙.

실무 AI 사전

1. [명사] (통계/수학) 역전파가 바로 이 규칙을 층마다 적용한 것이다. 출력층의 오차에서 시작해 각 층의 미분을 뒤로 곱해 가며 모든 가중치의 그래디언트를 구하며, 층이 깊을수록 곱이 쌓여 기울기 소실이나 폭발이 일어날 수 있다.

전문 AI 사전

1. [명사] (통계/수학) 합성 함수 y=f(g(x))의 미분은 dy/dx = f'(g(x)) × g'(x) 처럼 각 단계 미분의 곱이다. 다변수에서는 야코비안 행렬의 곱으로 쓰며, 계산 그래프를 거슬러 곱하는 역방향 자동 미분이 연쇄 법칙의 구현이다.

관용구/함께 쓰는 말

• 체인 룰 - 연쇄 법칙의 영어 이름.
• 야코비안 - 다변수 함수의 모든 편미분을 모은 행렬.

쉬운 비유

도미노나 톱니바퀴를 여러 개 맞물려 첫 톱니를 한 칸 돌렸을 때 마지막 톱니가 얼마나 도는지, 각 톱니의 비율을 곱해서 아는 것과 같다.

예문

• 역전파는 연쇄 법칙을 층 순서를 뒤집어 차례로 적용하는 알고리즘이다.
• 연쇄 법칙 때문에 층이 깊으면 작은 값이 계속 곱해져 기울기가 사라진다.
• 자동 미분 라이브러리는 연쇄 법칙으로 복잡한 수식을 대신 미분해 준다.

헷갈리는 용어 비교

역전파

연쇄 법칙은 합성 함수의 미분을 구하는 수학 규칙이고, 역전파는 신경망에서 그 규칙을 뒤에서 앞으로 효율적으로 적용해 모든 가중치의 기울기를 구하는 알고리즘이다.

맞춤법/표기법

바른 표기

연쇄 법칙

원어

chain rule

다른 이름

체인 룰, 연쇄법칙, 합성함수 미분, chain rule, 체인룰

참고

수학 교과서에서는 '합성함수의 미분법'이라고도 한다.

관련어