双正则化网络训练方法

本发明公开了一种双正则化网络训练方法，属于网络正则化领域，该方法采用基于权重绝对值的L1归一化和基于权重平方的L2归一化，L1归一化促使权重快速收敛至0，而L2归一化则实现较慢的收敛，该方法将所有权重被分为第一权重组和第二权重组组，第一权重组包含卷积核权重位宽限制范围外的权重，第二权重组包含已满足标准的权重。在双正则化网络训练过程中，第一权重组中的权重进行L1归一化并快速收敛至满足0到3范围内的标准，并转移到第二权重组并进行L2归一化。本发明可以消除超过99.994％的误差点，并产生接近全精度的结果，解决了存内计算电路中权重位宽限制的影响，具有显著的应用价值。