降维的必要性

**降维的必要性及目的** **降维的必要性:** 1. 多重共线性和预测变量之间相互关联。多重共线性会导致解空间的不稳定,从而可能导致结果的不连贯。 2. 高维空间本身具有稀疏性。一维正态分布有68%的值落于正负标准差之间,而在十维空间上只有2%。 3. 过多的变量,对查找规律造成冗余麻烦。 4. 仅在变量层面上分析可能会忽略变量之间的潜在联系。例如几个预测变量可能落入仅反映数据某一方面特征的一个组内。 **降维的目的:** 1. 减少预测变量的个数。 2. 确保这些变量是相互独立的。 3. 提供一个框架来解释结果。相关特征,特别是重要特征更能在数据中明确的显示出来;如果只有两维或者三维的话,更便于可视化展示。 4. 数据在低维下更容易处理、更容易使用。 5. 去除数据噪声。 6. 降低算法运算开销。 --- 转载:[LDA和PCA降维总结](https://www.jianshu.com/p/fb25e7c8d36e)