颜色分类LeetCode-DeepExplain：深度神经网络可解释性中扰动与梯度归因方法的统一框架

简介：
本项目基于LeetCode题目颜色分类，探讨并实现深度学习模型的可解释性技术，特别是利用DeepExplain库来分析和比较不同深度神经网络架构中的扰动方法及梯度归因策略。 DeepExplain 是一种用于深度学习的归因方法框架，为最先进的梯度和基于扰动的方法提供了一种统一的方式。研究人员与实践者可以利用它来更好地理解现有的推荐模型，并对其他归因方法进行基准测试。该框架支持TensorFlow以及Keras搭配TensorFlow后端的应用。需要注意的是，DeepExplain仅适用于TensorFlow V1版本；对于V2版本，则需要在禁用了急切执行的情况下使用一个开放的拉取请求。 具体来说，DeepExplain实现了以下归因方法： - 基于梯度的方法：其第一个变体采用了Rescale规则。这种方法作为修改后的链式法则实现，在Ancona等人的ICLR 2018论文中得到了更详细的解释。 - 基于扰动的归因方法。 什么是归因？考虑一个网络及其特定输入（例如，一张图像，如果该网络用于图像分类）。这个输入是多维的，并由多个特征构成。在处理图像的情况下，每个像素可以被视为一个独立的特征。归因方法的目标是对感兴趣的神经元（比如对应于正确类别的激活值R(x_i)）确定每一个输入特征的真实贡献。 简而言之，归因分析旨在揭示模型决策背后的具体原因——即特定输入元素对目标输出的影响程度。