전체 글36 [딥러닝] 퍼셉트론 🤖 등장 배경 McCulloch-Pitts 뉴런 모델의 등장 1943년 'McCulloch-Pitts Neuron Model' 이 제시됨. 최초의 간소화된 뇌의 뉴런 개념. 출력이 Binary인 간단한 모델. 수상 돌기에 도착한 여러 신호가 세포체에 합쳐짐. 합쳐진 신호가 특정 값을 넘으면 축삭 돌기를 이용하여 출력 신호가 전달됨. 이후, 위의 동작 과정을 모델링한 알고리즘인 퍼셉트론이 등장함. 🤖 개념 퍼셉트론은 위의 동작 과정(생물학적인 신경계의 기본 단위인 뉴런의 동작 과정)을 통계학적으로 모델링한 알고리즘이다. 🤖 특징 이진 분류 '뉴런 모델'의 출력이 Binary 한 것 처럼 '퍼셉트론'도 이진뷴류(Binary Classification)에 적용가능하다. Positive Class : +1 Ne.. 2023. 6. 17. [지능형 시스템] Chapter 12. Deep Learning History History 그동안 배웠던 챕터를 시간 순으로 짧게 정리를 해보겠다. 1943년 Warren S. McCulloch 와 Walter Pitts가 첫번째로 인공 신경망에 대한 연구를 했다.에 대하여 아래와 같은 신경망 식을 만들어냈다. N개의 입력 : x1 ,x2 ,...,xn 가중치 w1 ,w2 ,...,wn 출력 y 임계치 h 1949년 Donald Hebb이 "햅의 학습 규칙"을 만들어냈다. 1957년 Frank Rosenblatt가 최초의 의미 있는 적응적인 아키텍처를 고안해냈다. 1969년 Minsky(symbolic AI 연구)가 XOR 문제를 해결하지 못한다는 Single-layer Perceptron의 한계를 지적했다. 1970년대 그렇게 Neural Network 는 암흑기를 거쳤고, s.. 2023. 6. 16. [지능형 시스템] Chapter 11. Genetics Algorithm (유전 알고리즘) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🧬 배경 및 정의 존 홀랜드가 유전학 개념을 컴퓨터로 가져오면서 유전 알고리즘이 나왔다. 유전 알고리즘은 환경으로부터의 영향을 받은 유전자(gene)와 염색체(chromosome)의 생물학적인 행위에 기반한 확률적인 탐색 기술이다. 모방한 모집단의 생성은 "평가, 선택, 재생산"의 단계를 따른다. 이진 숫자들의 문자열들이 생존을 하기 위해 경쟁하고 재생산의 과정을 거치는 것이다. 🧬 유전 용어 Organism (유기체) 모집단(population)이라 부르는 집합으로 집단화된 것이다. Generation (세대) 평가, 선택, 재생산의 주기로 연속되는 염색체로 된 모집단이.. 2023. 6. 15. [지능형 시스템] Chapter 10. Fuzzy Theory (퍼지 이론) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🕹 퍼지 이론이란? 우리의 일상은 애매모함으로 넘친다. 불완전하고, 부정확한 자료를 처리하기 위해 신경회로망을 사용하는 것인데, 여기에 퍼지 이론(fuzzy logic)을 추가하면 또 다른 애매모한 처리의 상승효과가 가능하다. 퍼지 이론과 확률 이론의 닮은 점 ✔️ 퍼지 멤버십(fuzzy membership) 과 확률의 값은 0-1 사이이다. ✔️ 확률의 1은 어떤 사건이 일어날 확실성을 나타내고, ✔️ 애매모호함(fuzziness)의 1은 특정 집합에 속하는 대상에 관한 확실성을 나타낸다. union, intersection, complement ✔️ A와 B의 unio.. 2023. 6. 14. AutoML이란 ☝ 개념 머신러닝을 할 때마다 아래의 작업은 계속 반복된다. 반복되는 작업을 최대한 자동화하면 효율성을 높일 수 있을 것이다. AutoML은 이렇게 Raw 데이터로부터 모델 배포까지를 자동화해주는 automated machine learning 이다. 🔧 기술 AutoML로 해결하고자 하는 문제는 크게 두가지이다. CASH(Combined Algorithm Selection and Hyper-parameter optimization) -> 최적의 알고리즘과 하이퍼 파라미터 찾기 NAS(Neural Architecture Search) -> 최적의 architecture 찾기 📂 패키지 및 시스템 AutoML관련 상용 시스템 및 파이썬 패키지는 아래와 같다. Auto-WEKA IBM AutoAI Micro.. 2023. 6. 13. [지능형 시스템] Chapter 9. BAM (양방향 연상 메모리 - Bidirectional Associative Memory) 본 시리즈는 부산대 정보컴퓨터공학과 차의영 교수님의 '지능형 시스템' 강의에서 배운 내용을 바탕으로 작성합니다. 🌰 양방향 연상 메모리, BAM 이란? 📌 개념 입력(X) 와 출력(Y)가 양방향으로 연결되어 서로 다른 기억에 대해 연상할 수 있는 메모리이다. 📌 등장 배경 연상 메모리에는 두 가지 유형이 있다. 자동 연상 메모리 (Autoassociative memory) 와 이종 연상 메모리 (Heteroassociative memory) 이다. Autoassociative memory는 하나의 기억을 완벽히 구성 또는 교정 할 수 있지만, 기억된 데이터로 다른 기억을 연상할 수 없다는 점이 큰 특징이다. Heteroassociative memory(Bidirectional Ass.. 2023. 6. 13. 이전 1 2 3 4 5 6 다음 반응형
