异常检测：采用无监督、半监督及监督机器学习技术

简介：
本研究探讨了利用无监督、半监督和监督机器学习方法进行数据异常检测的技术与应用，旨在提高检测效率和准确性。 在网络入侵的异常检测研究中，数据集通常包含通过主成分分析（PCA）进行降维处理的数据点，并且在无监督学习环境中训练模型时不会使用具体的类别标签。这意呸着，在实际应用中，企业需要验证预测结果的有效性，因为没有明确的事实依据来支持这些结论。 然而，在这项研究中，我们采用了一些特定的方法如隔离林、基于聚类的局部离群因子（CBLOF）、主成分分析（PCA）和椭圆形信封模型进行无监督分类，并且使用了真实标签对预测结果进行了验证。结果显示，所提出的无监督方法能够有效识别出大量的阳性案例。 此外，在半监督学习框架下，我们构建了一个包含84%未标记数据点及16%已标注数据点的数据集。目标是利用这些有限的标注信息来训练模型，并用其对大量未标注样本进行预测分类。为此，采用了自我训练策略结合逻辑回归和随机森林算法来进行实验研究。