文献综述：NLP领域的后门攻击、检测及防御

简介：
本篇文献综述全面探讨了自然语言处理领域中后门攻击的问题，涵盖攻击方法、检测技术和防御策略等多方面内容。 在自然语言处理（NLP）领域中的后门攻击是指通过植入特定机制使神经网络模型对正常输入做出正确判断而对含有特殊标记的输入产生错误输出的一种攻击方式。这些后门攻击主要分为基于数据投毒与非数据投毒两种类型，其中前者的研究更为广泛。 针对后门攻击的效果评价通常考虑三个方面：首先，在未被污染的数据集上模型的表现准确性；其次，在受污染样本上的表现准确度即为攻击的成功率；最后是衡量后门的隐蔽性。在基于数据投毒的方式中，通过改变训练过程中的部分数据集来实现，具体操作包括向其中加入一些“特殊”样本并修改其标签，以使模型对特定标记输入产生错误预测。 最早关于文本领域内后门攻击的研究是由Dai等人提出的，他们利用双向LSTM架构的分类模型，并将某些句子作为触发器插入到原始文档中。Chen等人的研究进一步发展了这一概念，通过在不同位置嵌入字符级、单词级和句法级别的标记（如动词时态变化）来创建中毒样本，从而对基于LSTM及BERT框架下的文本分类模型发起攻击。 Sun等人首次提出“天然攻击”的观点，并强调隐蔽性的重要性。Kurita团队则提出了RIPPLe方法，使用特定低频词汇集作为触发器嵌入预训练的BERTBASE和XLNet中以植入后门。Garg的研究小组通过添加权重扰动的方式向预训练模型中引入了后门机制。 此外，Zhang等人提出的NeuBA攻击策略利用构造损失函数并设定低频标记来实现神经元级别的隐蔽性后门插入；而Qi团队则开发了一种名为Hidden Killer的技术方案，该方法通过对句子结构进行调整以生成中毒样本从而达到植入目的。这些研究展示了NLP领域中针对信息安全防护措施的重要性，并且随着新型攻击手段的不断涌现以及相应防御策略的研究深入，这一领域的未来发展值得期待。