Seq2seq模型与注意力机制

简介：
Seq2seq模型与注意力机制是一种在机器翻译及其他序列生成任务中广泛应用的技术框架，通过引入注意力机制增强了模型对输入序列不同部分的关注能力。 注意力机制借鉴了人类的注意思维方式，在处理任务时能够聚焦于需要特别关注的信息区域。在编码器—解码器（seq2seq）模型中，解码器会在每个时间步骤使用相同的背景变量（context vector），以获取输入序列的相关信息。由于不同位置的上下文向量(context vector)会有所不同，因此，在每一个时间步都会计算出各自的注意力输出。 当编码器采用循环神经网络时，这个背景变量就是其最后一个时刻的状态值。源语言序列的信息通过编码器中的循环单元状态进行编码，并传递给解码器以生成目标语言的序列信息。 然而这种结构也存在一些问题，尤其是在使用RNN机制的情况下，由于长距离依赖关系的问题（即所谓的“梯度消失”），对于较长句子的理解和处理变得十分困难。