原创 三层MLP权值的修正

MLP权值的修正

三层MLP如下图所示：

已知输入层和输出层的活化函数均为线性函数，，隐含层的活化函数为. 当输入，期望输出. 学习率均设为0.1. 输入层不考虑阈值.

第1个输入神经元与各隐含神经元的连接权均为1.

第2个输入神经元与各隐含神经元的连接权均为2.

第1个输出神经元与各隐含神经元的连接权均为1.

第2个输出神经元与各隐含神经元的连接权均为2.

第3个输出神经元与各隐含神经元的连接权均为1.

求：

（1）该网络的实际输出是什么？

（2）误差反向传播时，各个权值应该如何修正？

解：

设置如图所示，其中，，.

（1）网络的实际输出

隐含层的输出：

输出层输出：

（2）误差反向传播时，权值的修正：

输出层的误差：

隐含层的误差：

隐含层与输出层之间权值的修正：

同理可得

同理可得

同理可得

输入层与隐含层之间权值的修正：

以上为第1轮权值修正，继续第2轮权值修正，第3轮权值修正……直到满足精度要求.