判别分析（距离判别与贝叶斯判别）

简介：
判别分析是一种统计方法，用于根据观测数据将对象分类到已知组别中。它包括基于距离和概率理论的两类主要方法：距离判别法和贝叶斯判别法。 在判别分析中，需要至少有一个已知类别的“训练样本”。利用这些数据可以建立一个判别准则，并使用预测变量来为未知类别进行分类。 Fisher 判别法是一种通过投影来进行的判别方法。考虑只涉及两个（预测）变量的问题，在这种情况下假定只有两类。每个观测值是二维空间中的一个点，其中一类包含38个点（用“o”表示），另一类有44个点（用“*”表示）。按照原始坐标轴很难区分这两种类型的样本。 因此，寻找一种投影方向使得这两组数据尽可能分开是非常重要的。在这种情况下，选择图中虚线所示的方向，并沿垂直于该直线的二维空间进行投影可以实现最佳分类效果。如果采用其他任何方向，则判别结果都不会比这一方法更好。 完成上述步骤后，在此基础上应用距离测量的方法以确定最终的判别准则。这种方法即为Fisher 判别法，其核心在于首先通过适当的投影来优化不同类别之间的可分性。