本研究介绍了一种利用MATLAB开发的基于Attention-LSTM架构的多输入单输出模型,专为处理复杂的多维时序数据分析设计。该模型通过集成注意力机制显著提升了对长短期记忆网络中关键时间序列特征的学习效率和准确性,在多种应用场景中展现出卓越性能。
在本次研究中使用MATLAB 2020b进行测试运行,并提出了一种结合Attention机制与LSTM神经网络的预测模型来解决传统LSTM存在的局限性问题。该模型采用多输入单输出回归预测方式,通过将attention机制融入到LSTM结构中,增强了对关键时间序列的关注度。
在处理长时间序列表时,长短时记忆(Long Short-Term Memory, LSTM)神经网络相较于传统的循环神经网络具有保存历史信息的能力,并且能够更有效地解决长期依赖性问题以及梯度消失和爆炸的问题。这种模型最早由Hochreite 和Schmidhuber 提出。
然而,在采用传统编码-解码器结构的LSTM中,当对输入序列进行学习时,该模型通常会先处理所有的输入序列信息。通过引入Attention机制,可以更有效地聚焦于那些对于预测结果最为关键的时间点或时间片段上。