论文研究-一种基于决策树的特征权重优化方法 .pdf

简介：
本文中，研究者陈新泉提出了一种基于决策树模型的特征重要性评估机制。该方法利用其核心原理来识别含有多种属性类型的数据集合中的划分区域，并通过动态平衡调整不同属性的重要性，从而有效解决样本分群的难点以及传统方法在处理多类型数据时的局限性。让我们深入理解决策树的核心原理。这种机器学习中的分类与回归技术通过分析数据集的简单规则来进行预测和分类任务。决策树模型由节点点和有向边构成，其中各属性变量及其可能取值范围共同决定特征划分路径，最终抵达具体分类结果类别。在数据挖掘领域中，混合属性数据集被定义为同时包含无序类别属性与有序属性的数据集类型。其各个可能的取值之间并不存在明确的顺序关系，例如颜色和国籍这样的属性；而具有明显的排序特征，则被称为有序属性。接下来，我们对陈新泉基于决策树的特征权重优化方法进行了深入探讨。该方法采用无序类别属性作为数据划分的基础，通过决策树算法将原始数据集进行系统划分，并对分割后的每一个子数据集实施聚类分析，以识别各类别数据子集的空间分布结构。在此过程中，我们选择适当的度量标准，以便实现对数据的聚类分析。 在确认采用某种聚类方法后，可以制定两种不同的策略来设定特征权重的优化方案。首先基于无序类别属性构建阶段分类结构，并对每一棵初级节点对应的数据子集执行聚类分析，最终生成一个数据点划分树模型。另一种策略则是将有序连续型特征进行分段处理，并以排序后的区间构建决策树结构，其目标是实现良好的分类效能同时保证模型简明性。该方法在特征权重的优化方面采用了两个目标函数。对有序属性而言，我们通过最小化一个特定的目标函数来确定特征权重。这个函数衡量了子聚类与其所包含的数据点所属类别之间的契合程度。而针对无序类别属性，则采用最大化目标函数的方法来确定特征权重，该函数评估了不同类别的数据点集合之间的分隔程度。最后，我们通过经验探索法确定了有序属性和无序类别属性特征权重组之间的距离权重系数。此外，还可以将分类准确率作为优化目标函数来进行求解。文章深入探讨了数据点集的划分策略，并通过图示展示了这种划分策略的过程。研究阐述了基于无序类别属性与有序属性的分组方法，并详细说明了如何将这些特征应用于子集划分的具体步骤。在数学表达方面，本文提出了计算数据集内任意两点间距离的新方法，该方法考虑了属性的类型差异（有序或无序），并在此基础上定义了不同的范数计算公式。此外，文中还明确了这种划分策略的适用条件和限制因素。该研究为混合属性数据集的分类问题提供了一种创新性的基于决策树的新方法来优化特征权重。通过将决策树与聚类算法相结合，在准确识别分类边界的同时实现了对重要属性的权重分配，从而显著提升了分类器的性能水平。这一创新方法在数据挖掘领域展示了其独特的优势，并提供了处理复杂属性数据的新途径，具有较高的理论价值和实际应用前景。