来自PKDD 2020的机器学习不确定性分析

简介：
本研究探讨了在机器学习领域中不确定性的重要性和影响，并基于PKDD 2020会议上的最新成果进行了深入分析。 机器学习中的不确定性是一个核心概念，它与机器学习过程紧密相关。由于模型是从数据泛化而来，并且数据本身存在局限性，因此从这些数据中得出的任何模型都不能被视为绝对正确的，而只能视为一种假设，这意味着它们具有一定的不确定性。同样地，基于这些不确定性的模型所生成的预测结果也带有这种性质。 不确定性可以分为两类：随机性（Aleatoric）和认识性（Epistemic）。前者来源于数据本身的固有随机性和不可控因素；后者则与我们对于问题的理解程度有关，比如由于假设不准确、样本量不足或数据采集错误导致模型的局限性和不完备性。 在机器学习领域中，可靠地表示不确定性是至关重要的，尤其是在那些对安全性要求极高的应用场合。因此，在这些关键领域的应用应该重视不确定性建模和表征技术的应用和发展。 用于表达不确定性的方法包括概率估计（通过打分、校准及集成）、极大似然估计与费舍尔信息、生成模型、高斯过程以及深度神经网络等。在实践中，我们可以通过多种评分函数来估算数据的概率，并使用校准技术和集成学习法提高这些预测的准确性。 生成模型尝试模仿数据产生的机制以提供概率评估；而高斯过程则可以用于回归和分类任务中的不确定性建模。此外，深度神经网络因其强大的学习能力而在各种机器学习问题中广泛应用。另外，信念集与分类器能够处理不确定性的集合而非单一的概率值，并且可靠分类技术能够在面对不确定性时产生可靠的预测结果。 共形预测是一种基于考虑不确定性的方法，它提供了一个关于预测准确度的置信区间；而效用最大化的方法则可以用于在存在多种可能的结果的情况下做出最优决策。这些技术和理论框架对于理解和处理机器学习中的不确定性至关重要，并且特别适用于那些对安全性有高要求的应用场景。 总的来说，在安全关键领域中，如何有效建模和表征不确定性的需求尤为突出。尽管机器学习已经取得了显著的进步，但这一挑战仍然存在并且需要进一步的研究和发展以满足实际应用的需求。