1. 예측자 예측자는 Y=AX의 관계가 선형일 때 사용된다. 예측자를 구하는 과정은 다음과 같다: 1) 임의의 값 A 설정 2) 주어진 데이터의 X를 대입하여 예측값 Y 출력 3) 목표값과 출력값을 비교하여 오차(error) 구하기 4) 오차가 양수인 경우 A를 늘려야 하며, 오버슈팅을 방지하기 위해 A를 조금씩만 조정해야 한다. 5) 이러한 과정을 반복(iteration)하여 A를 조정해나가는 것이 예측자 구하기의 핵심이다. 2. 분류자 분류자는 X·Y 평면에서 두 그룹을 분류하는 선형분류자를 말한다. 분류자 학습 과정은 다음과 ...

1. 손실함수 신경망의 성능을 개선하기 위한 방법 중 하나로 손실함수에 대해 다루었습니다. 연속형 모델의 경우 평균 제곱 오차법(MSE)을, 이산형 모델의 경우 이진 교차 엔트로피(BCE) 손실을 사용하는 것이 적합하다고 설명하고 있습니다. Pytorch에서는 nn.MSELoss()와 nn.BCELoss()를 사용할 수 있습니다. 2. 활성화 함수 신경망 훈련 시 기울기 소실 문제를 해결하기 위해 다양한 활성화 함수에 대해 설명하고 있습니다. 전통적인 시그모이드 함수의 문제점을 지적하고, ReLU와 Leaky ReLU 함수를 소개하...