基于GoogLeNet架构的剪枝算法

简介：
本研究提出了一种针对GoogleNet架构的高效神经网络剪枝算法，旨在减少模型大小和计算复杂度的同时保持高精度。 GoogLeNet包含多个并行的卷积层和池化层，具有强大的表现力，但这也导致了网络参数数量冗余以及计算量大。解决这一问题的根本方法是将网络稀疏化。剪枝算法通过训练、修剪低权重连接再进行重新训练三个步骤操作，仅保留卷积层和全连接层中的强相关连接，从而简化网络结构并减少参数的数量，获得一个近似的模型而不影响后验概率估计的准确性，并达到压缩效果。传统计算方式不适用于非均匀稀疏的数据结构，因此提出的阈值剪枝算法设定合适的阈值，将原始GoogLeNet模型中约1040万参数减少到65万左右，大约减少了16倍。经过剪枝处理后，原始网络的准确率会有所下降，但通过少量迭代训练之后，其准确率可以恢复至与原模型相近的水平。这证明了阈值剪枝算法在改进GoogLeNet模型训练过程中的有效性。