[보고서]딥러닝 모델링 성능 향상 기법
2025.01.24
1. 손실함수
신경망의 성능을 개선하기 위한 방법 중 하나로 손실함수에 대해 다루었습니다. 연속형 모델의 경우 평균 제곱 오차법(MSE)을, 이산형 모델의 경우 이진 교차 엔트로피(BCE) 손실을 사용하는 것이 적합하다고 설명하고 있습니다. Pytorch에서는 nn.MSELoss()와 nn.BCELoss()를 사용할 수 있습니다.
2. 활성화 함수
신경망 훈련 시 기울기 소실 문제를 해결하기 위해 다양한 활성화 함수에 대해 설명하고 있습니다. 전통적인 시그모이드 함수의 문제점을 지적하고, ReLU와 Leaky ReLU 함수를 소개하...
2025.01.24