back propagation 벡터로 대입

벡터로 대입하면 위와 같은 흐름을 볼 수 있고 결국 우리가 구해야 하는 dJ/d⍬ 는 체인룰에 의해서 아래와 같이 나타낼 수 있다.

결국 스칼라 결과값은 스칼라로 나오기 때문에, 나온 값 만큼을 learning rate를 곱해서 ⍬를 개선해준다.

 

패스트캠퍼스 - 수학적으로 접근하는 딥러닝