
神经网络训练样本的选取,以及运算放大器如何利用数字电位器进行增益调节。
5星
- 浏览量: 0
- 大小:None
- 文件类型:None
简介:
(1)神经网络训练样本的选取,依据高新技术企业综合评价的实际需求,并结合高新技术企业的统计数据和复查数据,从调查的高新技术企业中挑选具有代表性的企业数据,作为神经网络评估的训练样本。随后,对多家典型企业的实际数据进行无量纲化和标准化处理,从而获得企业的十二个评价指标的测量值。 (2)BP网络训练算法中,选择BP网络——即误差逆向传播神经网络——是实现映射变换的前馈型网络中最常用的网络类型。它是一种典型的误差修正策略,具备理论上能够逼近任意连续非线性函数的强大能力,并且结构简洁、易于编程,在众多领域得到了广泛的应用。 BP学习算法则采用最小二乘法,并借助梯度搜索技术来优化网络参数,旨在使网络的实际输出值与期望输出值之间的均方误差达到最小值。 这种基于反向传播的前馈式多层神经网络采用的最速下降寻优算法收敛速度较慢且容易陷入局部最小值。为了提升训练速度、避免陷入局部极小值以及增强模型的泛化能力,可以采用动量法和自适应学习速率相结合的方法。 鉴于高新技术企业评价的特殊性,运用改进型BP神经网络模型进行神经网络的训练。 此外,为了防止网络在训练过程中陷入局部极小值点,引入了附加动量法。 该方法在修正权值时不仅考虑了误差在梯度上的影响, 还考虑了误差曲面变化趋势的影响, 类似于一个低通滤波器, 它能够有效过滤掉网络上的微小扰动和细节变化。 在没有附加动量的情况下, 网络可能容易陷入浅层局部极小值; 利用附加动量的作用则可以有效地避开这些极小值点. 附加动量法降低了网络对误差曲面局部细节的敏感性, 有效地抑制了网络陷入局部极小状态. 该方法是在反向传播法的基础上增加一项与前次权值变化量正比的值, 并根据反向传播法来更新新的权值变化方向. 选择合适的学习速率对于解决特定问题至关重要, 因为过小的学习速率会导致训练时间过长, 而过大的学习速率可能导致系统不稳定。 此外, 在训练初期表现良好的学习速率并不一定适用于后续的训练过程. 为了克服这个问题, 在网络训练中采用了自动调整学习速率的方法——即自适应学习速率法。 自适应学习速率法的核心原则是:检查权值的修正是否真正降低了误差函数;如果确实如此,则表明所选取的学习速率较小且合适;若修正后反而产生过调的情况发生,则应减小学习速率的值. 下式提供了一种自适应调整学习速率的公式:461
全部评论 (0)


