基于深度循环神经网络与自然语言理解的生成式聊天机器人研究-论文报告

简介：
本论文探讨了利用深度循环神经网络和自然语言理解技术开发生成式聊天机器人的方法，旨在提升对话系统的智能性和交互性。 直到最近，神经会话模型或对话系统领域的发展相对缓慢。然而，由于内存成本的下降以及廉价云服务变得更为普及，使得进行大规模计算变得更加容易，这推动了神经网络在这一领域的复兴和发展。 本段落提出了一种名为序列到序列（Sequence-to-Sequence）的新架构，它不同于传统的构建方式，并且不依赖于命名实体识别等组件或大量条件语句的代码来实现良好的性能。此模型实际上是由两个主要部分组成的：编码器和解码器。其中，编码器将输入文本转换成机器可读的形式；而解码器则负责从这种形式中提取信息并生成输出序列。 此外，该架构还结合了注意力机制（Attention Mechanism），这使得系统能够专注于最相关的部分来生成高质量的响应。我们发现使用双向长短期记忆单元（BiLSTM）替代普通的RNN或GRU单元可以进一步提升模型的表现力和收敛速度。 我们的目标是提供一种具有竞争力且资源消耗较少的方法，用于构建对话系统，并选择开放领域作为研究重点，因为特定领域的数据集往往难以获取。