反向传导算法

• 代价函数是一个非凸函数，梯度下降法很可能收敛到局部最优解，但是在实际应用中，梯度下降通常能得到令人满意的结果。
• 参数需要随机初始化（不能全部初始化为相同值）
• 反向传播算法是一种计算偏导数的有效方法。