BP神经网络

1、作用

bp 神经网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。bp 神经网络的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。

2、输入输出描述

输入：自变量 X 为 1 个或 1 个以上的定类或定量变量，因变量 Y 为一个定量变量。
输出：模型输出的结果值及模型回归效果。

3、案例示例

有一批Iris花，已知这批Iris花可分为3个品种，现需要对其进行分类。根据花萼长度、花萼宽度、花瓣长度、花瓣宽度的数据。用已有的数据训练一个神经网络用作分类器。

4、建模步骤

BP 神经网络是一种多层的前馈神经网络，其主要的特点是：信号是前向传播的，而误差是反向传播的。具体来说，对于如下的只含一个隐层的神经网络模型：
BP 神经网络的过程主要分为两个阶段，第一阶段是信号的前向传播，从输入层经过隐含层，最后到达输出层；第二阶段是误差的反向传播，从输出层到隐含层，最后到输入层，依次调节隐含层到输出层的权重和偏置，输入层到隐含层的权重和偏置。

以一个三层 BP 神经网络举例

隐含层的输出量设为 Fj，输出 层的输 m 量设为 Ok， 系统的激励函数设为 G， 学习速率设为 β， 则其三个层之间有如下数学关系：

系统期望的输出量设为 Tk，则系统的误差 E 可由 实际输出值和期望目标值的方差表示，具体关系表达式如下：

并令，利用梯度下降原理， 则系统权值和偏置的更新公式如下：