权值初始化

权值初始化使用tanh作为激活函数。权值赋值方法： 方法一：使用小的随机数最直观的想法，但这样会导致一个问题。由于每一层的权值都非常小，所以每一层都好像衰减运算一样，随后会导致输出值均值为0，方…