有监督的表示学习：基于深度自动编码器的迁移学习

简介：
本研究探讨了利用深度自动编码器进行有监督表示学习和迁移学习的方法，旨在优化模型在目标领域的性能。 过去十年间，迁移学习受到了广泛的关注。这一领域中的一个核心研究问题是如何为不同领域的实例找到合适的表示形式，从而通过新的表示方法来减少这些领域的差异性。近年来，深度学习被提出用于获取更强大的特征以支持迁移学习任务。然而，大多数先前的方法并未显著地缩小域之间的差距，并且在学习表示时也没有充分利用标签信息。 本段落介绍了一种基于深度自动编码器的监督式表征学习方案，专为解决迁移学习中的挑战而设计。此方法采用具有两个层级的深度自动编码器：嵌入层和标记编码层。其中，在嵌入层中，通过最小化源域与目标域间实例距离分布的KL散度来实现软化的领域内插；而在标签编码层，则利用一种软件最大回归模型对源领域的标签信息进行高效的编码处理。 在三个实际世界的图像数据集中进行了广泛的实验验证，证明了我们提出的方法相较于多种最先进的基准方法具有显著的优势。