본문 바로가기
카테고리 없음

[딥러닝 실습] Gradient check? 수치미분 VS 오차연적파법

by titaniumm 2020. 7. 4.

앞에서 두가지의 방법으로 기울기를 구했었습니다.

하나는 단순히 수치미분 방법을 사용해서, 그리고 오차역전파법(backpropagation)을 사용해서 였습니다.

수치미분으로는 매개변수(파라미터)가 많을 때, 너무 느려지는 단점을 극복 할 수 없습니다.

따라서 빠르게 계산해 줄 수 있는 오차역전파법(backpropagation)으로 해결을 해주었습니다.

두 가지 방식으로 구한 기울기가 동일한것을 확인하는 과제입니다.

 

 

[밑바닥 부터 시작하는 딥러닝] 책의 코드를 참고하였습니다.

 

댓글