필기

Lab-06 Softmax Classification.pdf

Lab-07-1 Tips.pdf

Lab-07-2 MNIST Introduction.pdf

문제

x_train = [[2, 3, 1],
    [1, 2, 4],
    [3, 5, 2],
    [4, 2, 5],
    [2, 4, 2],
    [2, 1, 2]]
y_train = [0, 1, 2, 1, 2, 0]

1. 위와 같이 정의된 x_train과 y_train에 대해 소프트맥스 회귀 모델을 학습하시오.
	(단, a. nn.Module을 상속 받아 모델 클래스를 정의
       b. learning rate = 0.1 , epoch = 1000, epoch 100번마다 로그 출력
			 c. cost 계산시 scatter를 사용하지 마시오)

""" 알파벳 데이터 가져와서 MNIST 응용문제 만들면 좋을 것 같은데 강의를 완전히 이해 못해서
   못만들었어요 ㅠㅠ """

• 정답

1. 소프트맥스 함수는 다중 클래스 분류(multi-class classification) 문제에서 출력층에 주로 적용된다 (O)
   • 출력층에서 각 클래스에 대한 확률을 계산하는 데 사용
2. 일반적으로 epoch 에 대해 training loss 와 validation loss 함수를 그릴때 overfitting 이 일어나기 시작하는 순간은 training loss가 최소가 되는 순간이다 (X)
   • overfitting을 감지하려면 validation loss가 증가하기 시작하는 지점 즉 최소인 지점을 확인해야한다