[지능형 시스템] Chapter 7. 신경회로망의 분류 ( Taxonomy )

---

본 < 지능형 시스템 > 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다.

---

개념 복습

🌹 피드 포워드 (Feedforward): 입력층으로 데이터가 입력되고, 1개 이상으로 구성되는 은닉층을 지나, 마지막에 있는 출력층으로 출력값을 내보내는 과정

🌹 피드 백(Feedback): 출력층으로 나온 출력값이 다시 입력층으로 들어가는 재귀적인 과정

🌹 지도 학습 (Supervised): 정답이 있는 데이터를 활용해 데이터를 학습시키는 것. 예를 들어, 분류, 회귀 문제가 있다.

• Backpropagation (feedforward)
• Perceptron (feedforward)
• LMS (feedforward)

🌹 비지도 학습 (Unsupervised): 정답이 없는 데이터를 비슷한 특징끼리 "군집화"하여 새로운 데이터에 대한 결과를 예측하는 것.

• Hopfield 네트워크 (feedback)
• SOM (feedforward)

 

신경 회로망 분류하기

🤸 영역 I - 피드 포워드 & 지도 학습

• 🔨 Backpropagation, Perceptron, LMS
• 피드백(Feedback)형태에 비해 아주 많은 수의 예제 패턴(examplar)을 저장할 수 있다.
• 아주 많은 훈련 패턴을 필요로 하는 단점이 있지만...!

🤸 영역 II - 피드 포워드 & 비지도 학습

• 🔨SOM (self-organizing feature map)
• 집단화, 군집화하는 것이다.
• 얼마나 많은 종류(class)로 분류할지를 미리 알고, 경계를 결정하는 방법을 사용한다.

🤸 영역 III - 피드 백 & 비지도 학습

• 🔨홉필드 네트워크
• 처음부터 경계나 패턴 클래스의 종류의 수가 알려 있지 않다.
• 심각하게 제한된 기억 용량을 가진다는 단점이 있지만...!
• Attractor의 최대 수가 자료의 차원에 아주 민감하다.
  • 여기서 Attractor은 신경망의 평형 상태에 있는 것, 즉 에너지가 가장 낮은 상태에 있는 것을 말한다. -> 처음 학습시키는 패턴은 에너지가 낮은 상태 이므로 학습시킬 attractor의 수가 차원에 민감하다는 것이다.