Transformer原理与实践详解

简介：
《Transformer原理与实践详解》深入剖析了Transformer模型的工作机制及其在自然语言处理任务中的应用，结合实例讲解其优化方法。 Transformer 是一种完全基于Attention机制的算法模型，旨在加速深度学习训练过程。其最大的优势在于并行化处理能力上的贡献。Transformer在Google的一篇论文《Attention is All You Need》中被提出，并且为了方便实现调用Transformer，Google还开源了一个第三库Tensor2Tensor，该库是基于TensorFlow构建的；同时一个NLP社区的研究者提供了一个Torch版本的支持。 Transformer主要由两个部分组成：Encoder和Decoder。