[ML Notes] PCA：最近重构性
如前文所述，主成分分析通过将样本点投影到一个超平面上来实现降维，可以从最大可分性或最近重构性两个角度寻找理想的超平面。 从最近重构性的角度考虑，假设数据集有 $m$ 个 $n$ 维的样本点 $\boldsymbol x_1, \boldsymbol x_2, \dots, \boldsymbol x_m$，要将它们投影到 $d$ 维的超平面 $D$ …
Read more
[ML Notes] PCA：最大可分性
主成分分析（Principal Component Analysis，PCA）通过将样本点投影到一个超平面上来实现降维。理想的超平面应当具有： 最大可分性：样本点在这个超平面上的投影能尽可能分开，即最大化投影方差，在投影后保留最多的信息； 最近重构性：样本点到这个超平面的距离足够近，即最小化平方误差，通过投影可以最准确地重构出原始样本点。 首先从最大…
Read more