목록오차 함수 (1)

Azure Zest

[ Pytorch로 시작하는 딥러닝 ] 2_2. 신경망의 구성 요소

본문은 책 'pytorch로 시작하는 딥러닝'을 보면서 공부하고 정리한 글입니다. 1. Variable Variable 클래스는 data, grad, creator로 구성되어있다. 이 때, grad는 여러 파라미터에 대한 오차 함수의 변화율을 나타낸다. 말 그대로 기울기라고 생각하면 되는데, 예를들어 grad가 2라면 이 변수값은 2배의 크기로 변할 것이다. 변수의 grad를 확인하고 싶다면, X(변수명).grad 로 확인할 수 있다. 또한 X.grad_fn은 변수를 생성한 함수를 참조한다. 2. 오차 함수 보통 딥러닝의 경우, MSE나 Cross-Entropy 와 같은 오차 함수를 사용하게 된다. 이 오차 함수는 모델의 예측값이 실제 값과 얼마나 가까운지 평가해줄 수 있는 지표이다. 따라서 딥러닝을 어..
Deep Learning 2020. 8. 10. 01:24
이전 Prev 1 Next 다음