본문 바로가기

DATA STUDY/밑바닥부터 시작하는 딥러닝

(6)
밑시딥 - 시그모이드 함수(Sigmoid function) exp(-x)는 e에 마이너스 x 제곱을 의미합니다. e는 자연상수입니다. def sigmoid(x): return 1 / (1 + np.exp(-x)) 그래프는 엄청 복잡해보이지만 막상 코드로는 별로 복잡하진 않습니다. x = np.arrange(-5.0, 5.0, 0.1) y = sigmoid(x) plt.plot(x, y) plt.ylim(-0.1, 1.1) plt.show() x축은 -5부터 5까지 0.1 단위로 표시하고 y축은 -0.1부터 1.1까지 표시합니다. 책에서 시그모이드 함수와 계단 함수를 비교하면서 설명하고 있습니다. 1. 우선 매끈함에 있어 차이가 있습니다. 계단 함수는 0 혹은 1의 값만 출력하는 반면 시그모이드 함수는 실수(0.731, 0.880 등등)를 돌려줍니다. 이 부분은 ..
밑시딥 - 신경망(Neural networks) 그리고 활성화 함수(Activation function) missinglink.ai/guides/neural-network-concepts/perceptrons-and-multi-layer-perceptrons-the-artificial-neuron-at-the-core-of-deep-learning/ Perceptrons & Multi-Layer Perceptrons: the Artificial Neuron - MissingLink Learn about the artificial neuron at the core of deep learning—how a perceptron works, and how they are used in real neural network projects. missinglink.ai The multilayer perceptron ha..
밑시딥 - 퍼셉트론의 한계 퍼셉트론은 AND, NAND, OR 게이트를 훌륭하게 해결했습니다. 그렇다면 XOR 게이트는 어떨까요? XOR게이트는 배타적 논리합이라는 논리회로입니다. x1과 x2 중 하나가 1일때만 1을 출력합니다. x1 x2 y 0 0 0 1 0 1 0 1 1 1 1 0 위 진리표를 구현할 수 있는 매개변수를 퍼셉트론을 통해 구할수있을까요? 답은 불가능하다입니다. wikidocs.net/24958 위키독스 온라인 책을 제작 공유하는 플랫폼 서비스 wikidocs.net 해당 링크에 가보시면 그래프상에서 직선으로 점을 구분하고 있을겁니다. 간단히 설명을 하자면 퍼셉트론은 직선(선형)으로 점을 구분할 순 있지만 곡선(비선형)으로는 구분이 불가하기 때문에 XOR 게이트 구현이 불가능하다는 설명입니다. 그렇다면 퍼셉트론으..
밑시딥 - 퍼셉트론 구현(가중치와 편향) iphfly1030.tistory.com/124?category=970399 밑시딥 - 퍼셉트론(Perceptron)이 뭘까? 퍼셉트론 : 다수의 신호를 입력 받아 하나의 신호로 출력하는 알고리즘 다수의 신호(x1, x2)를 입력(화살표)받아 하나의 신호(y)로 출력 x1과 x2는 입력신호, w1과 w2는 가중치, y는 출력신호 마지막으 iphfly1030.tistory.com 지난 포스팅에서 퍼셉트론과 AND, NAND, OR 게이트에 대해 알아봤습니다. 오늘은 논리회로를 파이썬으로 구현해보겠습니다. def AND(x1, x2): w1, w2, theta = 0.5, 0.5, 0.7 tmp = x1*w1 + x2*w2 if tmp theta: return 1 x1과 x2를 인수로 받는 AND 함수입니다..
밑시딥 - 단순한 논리 회로(AND, NAND, OR) 사실 퍼셉트론을 소개한뒤 왜 논리 회로에 대한 이야기가 바로 나왔는지 의아했습니다. 이 블로그에 자세한 이야기가 적혀있습니다. needjarvis.tistory.com/180?category=933541 퍼셉트론(Perceptron) - 2 (논리회로 편) 1. 퍼셉트론을 이해하는, 논리회로 초창기 퍼셉트론은 단순한 분류 문제를 풀 수 있었습니다. 이걸 이해하기 위해서는 진리표를 확인해야 될 필요가 있습니다. 인간의 논리방식을 컴퓨터로 구현 needjarvis.tistory.com 1. AND 게이트 x1 x2 y 0 0 0 1 0 0 0 1 0 1 1 1 ㄱ. 입력이 둘이고 출력이 하나 ㄴ. AND 게이트는 입력이 모두 1일 때만 1을 출력하고 그 외에는 0을 출력 AND 게이트를 퍼셉트론을 이용해 표..
밑시딥 - 퍼셉트론(Perceptron)이 뭘까? 퍼셉트론 : 다수의 신호를 입력 받아 하나의 신호로 출력하는 알고리즘 다수의 신호(x1, x2)를 입력(화살표)받아 하나의 신호(y)로 출력 x1과 x2는 입력신호, w1과 w2는 가중치, y는 출력신호 마지막으로 그림에 있는 원을 뉴런 혹은 노드 x1w1 + x2w2의 값이 정해진 한계인 임계값을 넘어설때 y가 1이 됩니다. 1이 출력될때 '뉴런이 활성화한다'라 표현 위 그림에서 볼 수 있듯이 각 입력신호마다 고유한 가중치가 부과됩니다. 따라서 가중치가 개별 입력신호의 최종 결과(0 이 출력될지 1이 출력될지)에 큰 영향을 주기때문에 가중치가 클수록 해당 입력신호의 중요도가 커집니다. 질문에 대한 답부터 해보겠습니다. 그래서 퍼셉트론이 뭘까? 입력 신호를 받아 가중치를 곱해 하나의 신호를 출력하는 일련..