卷积神经网络(二){Keras 由浅入深}

卷积神经网络(二)

|
![tensorflow ](https://img-blog.csdnimg.cn/20190825125400589.png#==#pic_center =40x)TensorFlow|

python & mathematics


卷积神经网络卷积是基本的操作,但是在构建神经网络的过程中,过拟合现象和收敛速度慢都是很容易出现的问题,本文就这两个问题进行分析和提出解决方法。

过拟合

局部响应标准化(lrn):一般放于relu函数后
正则化:一般有L1, L2对权值进行操作;L1是对权值的一阶操作,一般用于特征选择,L2是对权值的二阶操作,一般用于防止过拟合

正则化:https://www.jianshu.com/p/569efedf6985

收敛速度慢

归一化:归一化能将样本分布变得简单,有助于计算机的处理,在训练的时候能更好的找到最优点。
![Normalization](https://imgconvert.csdnimg.cn/aHR0cHM6Ly91cGxvYWQtaW1hZ2VzLmppYW5zaHUuaW8vdXBsb2FkX2ltYWdlcy81NTAxNjAwLTk1N2U3N2YyNTMxZDM3MjEucG5n?x-oss-process=image/format,png =500x)

https://www.jianshu.com/p/1c505319b2f0

Adam一般选用Adam优化器

http://www.sohu.com/a/226332315_633698