Once-for-All Adversarial Training: [NeurIPS 2020] “一次性全方位的对抗训练”

简介：
Once-for-All Adversarial Training是发表于NeurIPS 2020的一篇文章，提出了一种高效的模型训练方法，通过一次性训练得到具有高泛化能力的模型，适用于多种攻击场景。 王皓涛、陈天龙等人在2020年NeurIPS会议上提出了一种新颖的“一劳永逸”的对抗训练（OAT）框架，旨在解决一个重要的新目标：即在测试阶段，在模型鲁棒性和准确性之间进行即时且无额外成本的权衡。他们证明了当尝试将标准特征和对抗性特征统计分开整合到同一模型中时的重要性。此外，研究者们还扩展了OAT方法至OATS框架，实现了对鲁棒性、准确性和计算预算之间的联合即时调整。 实验结果显示，在与传统专门训练出的鲁棒型模型相比的情况下，采用OAT或OATS的方法能够达到相似甚至更好的性能表现，并且仅需使用一个模型进行训练而无需重新培训。换句话说，这种方法在不增加额外成本的前提下提供了灵活性和优化性能的可能性。