PyTorch中的注意力机制实践

简介：
本篇文章深入探讨了在深度学习框架PyTorch中实现注意力机制的方法和技巧，结合实际案例进行详细解析。 **分享周知瑞@研发中心** 日期：2018年6月20日 主题：深度学习中的直觉 在深度学习领域，3x1 和 1x3 卷积层可以作为 3x3 卷积层的替代方案。LSTM（长短时记忆网络）中门的设计是基于人类视觉注意力机制的概念来生成对抗网络和实现Attention功能。 人的视觉感知通常是根据需求关注特定的部分而非一次看完整个场景，而且人在面对相似场景多次出现自己感兴趣的信息时会学习将注意力集中在这些部分上。因此，Attention机制的核心在于对有用信息的聚焦，并通过加权的方式实现这一点。值得注意的是，在处理同一张图片的不同任务时，人的注意力分配也会有所不同。 基于上述直觉，Attention可以应用于以下方面： - 学习权重分布：既可以保留所有分量并进行软性加权（soft attention），也可以采用某种采样策略选取部分分量（hard att）。