Heaviside 함수 Sigmoid함수 ReLU 함수, 신경망과 활성화 함수 ( 인공지능 기초 #4 )
앞으로는 -임계점 대신 편향을 사용합니다. 앞으로는 임계점보다 높으면 1, 임계점보다 낮으면 0 이라는 정보를 Heaviside 함수로 표현합니다. 즉 y = h(w1x1 + w2x2 + b) 와 a=w1x1+w2x2+b 는 같은 수식입니다. a의 값이 0보다 크면 1, a의 값이 0보다 작거나 같으면 0으로 합니다. Heaviside 함수를 Sigmoid함수로 바꿉니다. 머신러닝은 데이터를 넣으면 머신이 스스로 학습을 하는 개념입니다. 이때 미분을 통해서 학습을 합니다. 여기서 Heaviside 함수를 미분한다면, 미분값이 0을 제외한 함수에서 모든 값이 0으로 나오기 때문에 머신러닝을 할 수 없는 함수입니다. 그래서 우리는 Heaviside 함수 대신 Sigmoid 함수를 사용합니다. 앞으로 자주 사..
다층 퍼셉트론 XOR 논리회로 표현하기 , 단층으로 안되는 이유 ( 인공지능 기초 #3 )
전 게시글에서는 하나의 퍼셉트론 (단층 퍼셉트론) 으로 표현할 수 있는 3가지 (AND, NAND, OR) 논리회로를 표현해 보았습니다. 2020/09/13 - [Study/인공지능] - 퍼셉트론 AND, NAND, OR 논리회로 표현하기 ( 인공지능 기초 #2 ) 이번에는 하나의 퍼셉트론으로는 만들 수 없는 XOR 게이트를 알아보겠습니다. [다층 퍼셉트론 이용] XOR 게이트는 배타적 논리합이라는 논리회로 입니다. 입력값이 둘중 한개만 1일때만 1 (true)를 출력합니다. 왜 단층 퍼셉트론으로는 구현 할 수 없을까요? 앞에서 구현해 보았던 OR 게이트의 경우 좌표로 나타내면 아래와 같이 나타납니다. 하지만 xor 같은 경우는 0,0 1,1 일 경우 false 0,1 1,0 일 경우 true 입니다. ..
퍼셉트론 AND, NAND, OR 논리회로 표현하기 ( 인공지능 기초 #2 )
저번 글에서 퍼셉트론의 정의를 알아보았습니다. 2020/09/13 - [Study/인공지능] - 퍼셉트론, 뉴런 네트워크의 모방 ( 인공지능 기초 #1 ) 퍼셉트론, 뉴런 네트워크의 모방 ( 인공지능 기초 #1 ) 퍼셉트론은 신경망(딥러닝)의 기원이 되는 알고리즘 입니다. 퍼셉트론의 구조를 배우면 신경망과 딥러닝의 기초를 닦을 수 있습니다. 인공신경망(artificial neural network 아티피셜 뉴럴 네트워크) 15051015.tistory.com 이번에는 퍼셉트론으로 논리 회로를 구현해 보겠습니다. 1. AND 게이트 이 AND 게이트를 퍼셉트론으로 표현하고 싶습니다. 이를 위해 w1, w2, Θ (임계점)의 값을 정해야 합니다. 그럼 어떤 값으로 설정을 하면 위의 AND 게이트를 충족하는 ..
퍼셉트론, 뉴런 네트워크의 모방 ( 인공지능 기초 #1 )
퍼셉트론은 신경망(딥러닝)의 기원이 되는 알고리즘 입니다. 퍼셉트론의 구조를 배우면 신경망과 딥러닝의 기초를 닦을 수 있습니다. 인공신경망(artificial neural network 아티피셜 뉴럴 네트워크) = 수학적으로 뉴런 네트워크를 모방해서 만든 것 아티피셜 뉴럴 네트워크가 뉴런 네트워크의 무엇을 모방해서 만들었는지 알아보자. 우선 우리의 몸은 무언가를 만졌을 때 전기신호가 뉴런 네트워크를 타고, 중추신경계, 뇌 등 까지 전기신호가 전달이 됨. 빨간색 파랑색 구분도 전기신호가 뉴런 네트워크를 타고 뇌까지 전달되는 것 Dendrite : 이웃 뉴런에서 전기신호를 받는다. Synapse : 전기신호의 세기를 재 조정하는 역할을 한다. Soma ( cell body ) : 여러 전기신호를 합친다. A..