PCA【从传统视角来解释PCA】

（1）pca常常鼡来分析数据中的主成分即那些具有最大特征值所对应的特征（主元）。

（2）用来可视化数据（数据降维到欧拉坐标系进行可视化）

（3）pca模型是基于数据与噪声都是高斯模型

（4）pca采用的是数据的协方差矩阵

PPCA【从概率和隐变量角度解释PCA】

（1）对隐变量z（高斯分布）进行采样然后线性变换：X=Wz+u+s(s为噪声）得到data space的点的分布p(x)。

（2）对隐变量空间进行旋转（正交）不会改变x的分布p(x)，这点很重要因为正交变换不改变數据的形状，详细推导见PRML那么我们就可以旋转使得协方差矩阵成对角阵，对角线上的值即对对应每一维度的方差而且是ordered。

（3）采用似嘫函数建目标一般采用EM算法求解。（可以自动确定主成分的数量scikit-learn中的PCA(n_components = 'mle')就是从PPCA角度来求解的。

（1）经典的鸡尾酒会问题（cocktail party problem）的求解（盲信号分离）：n个人m个麦克风收集到n个人混合说话后的数据X，如何从X来分离出每个人的说话内容S：X=AS（一般m=nS可以看做隐变量）

（2）如果S是高斯分布(>=2个为高斯），此时ICA是失效的因为在PPCA中我们已经知道，对高斯分布的隐变量进行旋转不改变X的分布，那么S的就有很多种可能此时就不能称之为Independent！！！换句话说，ICA是处理非高斯问题的！