重加权稀疏主成分分析算法及其在人脸识别中的应用_李东博.pdf

针对主成分分析算法获取的主成分向量不够稀疏，拥有较多的非零元这一问题，使用重加权方法对主成分分析算法进行优化，提出了一个新的提取高维数据特征的方法，即重加权稀疏主成分分析算法。首先将重加权?1最优化框架和LASSO回归模型引入到主成分分析算法数学模型中，建立新的数据降维模型；然后，使用交替最小化算法、奇异值分解算法、最小角回归算法等方式对模型进行求解；最后，使用人脸识别实验对算法效果进行了验证。在实验部分中使用K折交叉验证的方法针对ORL人脸数据集分别使用主成分分析算法和重加权稀疏主成分分析算法进行识别实验，实验表明重加权稀疏主成分分析算法在获取更稀疏解的情况下仍拥有着不弱于主成分分析算法的表现，平均识别准确率达到95.1%。与表现最好的sPCA-rSVD算法相比识别准确率提高了6.2个百分点。并且针对手写数字识别这一具体现实应用进行求解，获取到平均识别准确率96.4%的良好实验效果，证明了方法在人脸识别及书写数字识别方面的优异性。 重加权稀疏主成分分析算法（Reweighted Sparse Principal Component Analysis, RSPCA）是一种针对主成分分析（Principal Component Analysis, PCA）的优化方法，旨在解决PCA在高维数据处理时得到的主成分向量不够稀疏的问题。在传统的PCA中，尽管能够有效地降低数据的维度，但得到的主成分往往包含较多的非零元素，这可能导致信息冗余和计算复杂度增加。 RSPCA结合了稀疏优化的思想，通过引入重加权λ1最优化框架和LASSO（Least Absolute Shrinkage and Selection Operator）回归模型来改进PCA的数学模型。LASSO回归在变量选择上有很好的性能，能够使某些系数变为零，从而实现稀疏解。重加权λ1范数则可以动态调整非零元素的权重，使得在保持数据信息的同时，更倾向于得到更加稀疏的主成分向量。 在RSPCA的实现过程中，采用交替最小化算法、奇异值分解（Singular Value Decomposition, SVD）算法和最小角回归（Least Angle Regression, LAR）算法等方法来求解优化后的模型。这些算法可以帮助找到最优的主成分，降低数据的维度，同时保持数据的主要特征。 实验部分，RSPCA在人脸识别任务上展示了其优越性。通过K折交叉验证，在ORL人脸数据集上，RSPCA与PCA进行比较，结果显示RSPCA在获取更稀疏特征向量的情况下，平均识别准确率达到了95.1%，比PCA有显著提升。此外，与最佳的sPCA-rSVD算法相比，RSPCA的识别准确率提高了6.2个百分点，进一步证明了其在人脸识别领域的有效性。 不仅如此，RSPCA还在手写数字识别的实际应用中取得了96.4%的平均识别准确率，这表明该方法不仅适用于人脸识别，也适用于其他类似的数据密集型识别任务。这些实验结果证实了RSPCA在数据降维和稀疏优化方面的优势，特别是在处理高维复杂数据时，能有效地提高特征提取的效率和准确性。 总结来说，RSPCA是针对PCA的一种有效改进，通过引入稀疏优化策略，能够在保持或提高识别性能的同时，获得更加稀疏的主成分，从而减少计算成本和提高数据处理效率。这对于大数据时代的各种识别任务，如人脸识别和手写数字识别，具有重要的实践意义。