神经网络的学习之感知器

最近在研究深度学习的论文，但是由于基础薄弱，所以下网上看了好多关于感知器的文章，总结如下：

我们先从最简单的单层感知机学起，单层感知机是一个多输入单输出的模型。

输入：x₁, x₂

权重：w₁, w₂

偏置：b

输出：y

为什么要f映射呢？

我们知道f是激活函数，是非线性函数。

如果我们没有激活函数，这个神经网络的输出会怎样？

 第一层输出：

第二层输出：

将第一层代入到第二层：

令

则

# 与门逻辑电路
def AND(x1, x2):
    w1, w2, theta = 0.5, 0.5, 0.7
    tmp = x1*w1 + x2*w2
    if tmp <= theta:

        return 0
    else:
        return 1

AND(0, 0)  # 输出0
AND(1, 0)  # 输出0
AND(0, 1)  # 输出0
AND(1, 1)  # 输出1

import numpy as np
def AND(x1,x2):
    x = np.array([x1,x2])     # 输入
    w = np.array([0.5,0.5])   # 权重
    b = -0.7
    # 激活函数
    temp = np.sum(w*x)+b
    if temp <=0:
        return 0
    else:
        return 1