[科普中国]-正向传播算法

正向传播算法，也叫前向传播算法，顾名思义，是由前往后进行的一个算法。

介绍最开始，我们会初始化一组 的取值，并且选定一个激活函数，为了后面的方便，我们假设选定sigmoid函数作为函数，其函数形式为：

并且它的导数为 。

有了联结权重 和激活函数 之后，就可以由前往后计算，依次算出所有的 值， 值，最终算出输出层的 值。这就是前向传播算法。

DNN前向传播算法有了上一节的数学推导，DNN的前向传播算法也就不难了。所谓的DNN的前向传播算法也就是利用我们的若干个权重系数矩阵 ,偏倚向量 来和输入值向量 。进行一系列线性运算和激活运算，从输入层开始，一层层的向后计算，一直到运算到输出层，得到输出结果为值1。

输入: 总层数 ，所有隐藏层和输出层对应的矩阵 ,偏倚向量 ，输入值向量 .

输出：输出层的输出

1） 初始化

2) for to , 计算： ，最后的结果即为输出 。

本词条内容贡献者为:

何星 - 副教授 - 上海交通大学