Cross-Entroy Cost Function.pptx
4.47MB

Cost 함수 (학습과정에서 원하는 값 즉, ground truth와 시스템의 출력값 사이의 오차를 의미하며 비용함수라고 부름)로써 Cross-entropy 함수가 MSE에 비해 좋은 이유

 

BP(back-propagation)에서 가중치의 값이 입력값에 상관없이 유지가 됨 MSE의 경우 입력이 매우 클 경우 가중치의 변화분이 0에 수렴하여 가중치의 변화분이 매우 작아 학습이 안 됨.

+ Recent posts