🤖 Artificial Intelligence/Intelligent System13 [지능형 시스템] Chapter 12. Deep Learning History History 그동안 배웠던 챕터를 시간 순으로 짧게 정리를 해보겠다. 1943년 Warren S. McCulloch 와 Walter Pitts가 첫번째로 인공 신경망에 대한 연구를 했다.에 대하여 아래와 같은 신경망 식을 만들어냈다. N개의 입력 : x1 ,x2 ,...,xn 가중치 w1 ,w2 ,...,wn 출력 y 임계치 h 1949년 Donald Hebb이 "햅의 학습 규칙"을 만들어냈다. 1957년 Frank Rosenblatt가 최초의 의미 있는 적응적인 아키텍처를 고안해냈다. 1969년 Minsky(symbolic AI 연구)가 XOR 문제를 해결하지 못한다는 Single-layer Perceptron의 한계를 지적했다. 1970년대 그렇게 Neural Network 는 암흑기를 거쳤고, s.. 2023. 6. 16. [지능형 시스템] Chapter 11. Genetics Algorithm (유전 알고리즘) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🧬 배경 및 정의 존 홀랜드가 유전학 개념을 컴퓨터로 가져오면서 유전 알고리즘이 나왔다. 유전 알고리즘은 환경으로부터의 영향을 받은 유전자(gene)와 염색체(chromosome)의 생물학적인 행위에 기반한 확률적인 탐색 기술이다. 모방한 모집단의 생성은 "평가, 선택, 재생산"의 단계를 따른다. 이진 숫자들의 문자열들이 생존을 하기 위해 경쟁하고 재생산의 과정을 거치는 것이다. 🧬 유전 용어 Organism (유기체) 모집단(population)이라 부르는 집합으로 집단화된 것이다. Generation (세대) 평가, 선택, 재생산의 주기로 연속되는 염색체로 된 모집단이.. 2023. 6. 15. [지능형 시스템] Chapter 10. Fuzzy Theory (퍼지 이론) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🕹 퍼지 이론이란? 우리의 일상은 애매모함으로 넘친다. 불완전하고, 부정확한 자료를 처리하기 위해 신경회로망을 사용하는 것인데, 여기에 퍼지 이론(fuzzy logic)을 추가하면 또 다른 애매모한 처리의 상승효과가 가능하다. 퍼지 이론과 확률 이론의 닮은 점 ✔️ 퍼지 멤버십(fuzzy membership) 과 확률의 값은 0-1 사이이다. ✔️ 확률의 1은 어떤 사건이 일어날 확실성을 나타내고, ✔️ 애매모호함(fuzziness)의 1은 특정 집합에 속하는 대상에 관한 확실성을 나타낸다. union, intersection, complement ✔️ A와 B의 unio.. 2023. 6. 14. [지능형 시스템] Chapter 9. BAM (양방향 연상 메모리 - Bidirectional Associative Memory) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🌰 양방향 연상 메모리, BAM 이란? 📌 개념 입력(X) 와 출력(Y)가 양방향으로 연결되어 서로 다른 기억에 대해 연상할 수 있는 메모리이다. 📌 등장 배경 연상 메모리에는 두 가지 유형이 있다. 자동 연상 메모리 (Autoassociative memory) 와 이종 연상 메모리 (Heteroassociative memory) 이다. Autoassociative memory는 하나의 기억을 완벽히 구성 또는 교정 할 수 있지만, 기억된 데이터로 다른 기억을 연상할 수 없다는 점이 큰 특징이다. Heteroassociative memory(Bidirectional Ass.. 2023. 6. 13. [지능형 시스템] Chapter 8. ART (적응적 공명 이론 - Adaptive Resonance Theory) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🎨 적응적 공명 이론, ART 란? 📌 개념 ART는 Adaptive Resonance Theory로, 기존 패턴에 대한 지식을 지우지 않고 새로운 학습에서 유지하기 위해 노력한다. 이는 마치 기존의 고유진동수에 맞게 진동이 일어나 발생하는 "공명" 현상과 비슷해 적응적 공명 이론이라고 불린다. 📌 등장 배경 ART 이전에 등장했던 신경망들은 새로운 패턴을 추가하면 전부를 다시 학습하는 식이였다. 그 예로 다층 퍼셉트론을 살펴보면, 다층 퍼셉트론은 새로운 훈련 벡터가 추가되면 가중치 값을 갱신함으로서 전에 학습한 모든 것을 파괴한다. 그러나 ART는 기존의 지식이 새 지식.. 2023. 6. 11. [지능형 시스템] Chapter 7. 신경회로망의 분류 ( Taxonomy ) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 개념 복습 🌹 피드 포워드 (Feedforward): 입력층으로 데이터가 입력되고, 1개 이상으로 구성되는 은닉층을 지나, 마지막에 있는 출력층으로 출력값을 내보내는 과정 🌹 피드 백(Feedback): 출력층으로 나온 출력값이 다시 입력층으로 들어가는 재귀적인 과정 🌹 지도 학습 (Supervised): 정답이 있는 데이터를 활용해 데이터를 학습시키는 것. 예를 들어, 분류, 회귀 문제가 있다. Backpropagation (feedforward) Perceptron (feedforward) LMS (feedforward) 🌹 비지도 학습 (Unsupervised): 정.. 2023. 6. 10. 이전 1 2 3 다음 반응형
