https://www.youtube.com/watch?v=aircAruvnKk
DNN(deep neural network)는 FC layer(Fully connected layer)라고 말하는데요.
이는 위의 이미지와 같이 hidden layer(은닉층)의 한 노드가 다음 층의 모든 노드에 연결되어 있는 구조를 말합니다.
그렇다면 그 하나하나의 연결에는 각기 다른 weight와 bias가 있겠죠?
이 말을 다르게 해석해보면 아래의 그림처럼 (0,0)에 있는 입력 노드와 연결된 모든 network에 영향을 끼치게 되는 것을 의미합니다.
너무 많아서 다른 빨간선은 생략하겠습니다.. https://www.youtube.com/watch?v=aircAruvnKk
이것은 Computer Vision(이하 CV)이라는 분야에서 쓰이기에는 큰 단점으로 다가오게 되는데요. 왜일까요?
일단 CV에는 어떤 task가 있는지 확인해보겠습니다.
DNN은 하나의 픽셀 값이 모든 network 값에 영향을 준다고 했습니다.
그렇다면 왼쪽 이미지를 DNN이 ‘9’라고 학습을 했을 경우 오른쪽 이미지를 주게 된다면 과연 ‘9’라고 제대로 판단을 할 수 있을까요?
가능성이야 충분히 있지만 제대로 판단을 하지 못할 것입니다.
DNN은 이 위치에 이런 픽셀 값이 있어야 9라고 학습을 했는데 엉뚱한 위치에 이전과는 다른 픽셀 값이 있다보니 혼돈스러워 하는 것이죠.
