学号：19021210887
转自：https://www.cnblogs.com/tianqizhi/p/9745913.html
【嵌牛导读】
奇异值分解（Singular Value Decomposition）是 矩阵论 中一种重要的 矩阵 分解，奇异值分解则是 特征 分解在任意矩阵上的推广。在 信号处理 、 统计学 等领域有重要应用。
【嵌牛正文】
一、奇异值与特征值基础知识：
特征值分解和奇异值分解在机器学习领域都是属于满地可见的方法。两者有着很紧密的关系，我在接下来会谈到，特征值分解和奇异值分解的目的都是一样，就是提取出一个矩阵最重要的特征。先谈谈特征值分解吧：
1）特征值：
如果说一个向量v是方阵A的特征向量，将一定可以表示成下面的形式：
这时候λ就被称为特征向量v对应的特征值，一个矩阵的一组特征向量是一组正交向量。特征值分解是将一个矩阵分解成下面的形式：
其中Q是这个矩阵A的特征向量组成的矩阵，Σ是一个对角阵，每一个对角线上的元素就是一个特征值。我这里引用了一些参考文献中的内容来说明一下。首先，要明确的是，一个矩阵其实就是一个线性变换，因为一个矩阵乘以一个向量后得到的向量，其实就相当于将这个向量进行了线性变换。比如说下面的一个矩阵：
它其实对应的线性变换是下面的形式：
因为这个矩阵M乘以一个向量(x,y)的结果是：
上面的矩阵是对称的，所以这个变换是一个对x，y轴的方向一个拉伸变换（每一个对角线上的元素将会对一个维度进行拉伸变换，当值>1时，是拉长，当值<1时时缩短），当矩阵不是对称的时候，假如说矩阵是下面的样子：
它所描述的变换是下面的样子：
这其实是在平面上对一个轴进行的拉伸变换（如蓝色的箭头所示），在图中，蓝色的箭头是一个最主要的变化方向（变化方向可能有不止一个），如果我们想要描述好一个变换，那我们就描述好这个变换主要的变化方向就好了。反过头来看看之前特征值分解的式子，分解得到的Σ矩阵是一个对角阵，里面的特征值是由大到小排列的，这些特征值所对应的特征向量就是描述这个矩阵变化方向（从主要的变化到次要的变化排列）。
当矩阵是高维的情况下，那么这个矩阵就是高维空间下的一个线性变换，这个线性变化可能没法通过图片来表示，但是可以想象，这个变换也同样有很多的变换方向，我们通过特征值分解得到的前N个特征向量，那么就对应了这个矩阵最主要的N个变化方向。我们利用这前N个变化方向，就可以近似这个矩阵（变换）。也就是之前说的：提取这个矩阵最重要的特征。总结一下，特征值分解可以得到特征值与特征向量，特征值表示的是这个特征到底有多重要，而特征向量表示这个特征是什么，可以将每一个特征向量理解为一个线性的子空间，我们可以利用这些线性的子空间干很多的事情。不过，特征值分解也有很多的局限，比如说变换的矩阵必须是方阵。
2）奇异值：
下面谈谈奇异值分解。特征值分解是一个提取矩阵特征很不错的方法，但是它只是对方阵而言的，在现实的世界中，我们看到的大部分矩阵都不是方阵，比如说有N个学生，每个学生有M科成绩，这样形成的一个N * M的矩阵就不可能是方阵，我们怎样才能描述这样普通的矩阵呢的重要特征呢？奇异值分解可以用来干这个事情，奇异值分解是一个能适用于任意的矩阵的一种分解的方法：
假设A是一个N * M的矩阵，那么得到的U是一个N * N的方阵（里面的向量是正交的，U里面的向量称为左奇异向量），Σ是一个N * M的矩阵（除了对角线的元素都是0，对角线上的元素称为奇异值），V’(V的转置)是一个N * N的矩阵，里面的向量也是正交的，V里面的向量称为右奇异向量），从图片来反映几个相乘的矩阵的大小可得下面的图片
那么奇异值和特征值是怎么对应起来的呢？首先，我们将一个矩阵A的转置 * A，将会得到一个方阵，我们用这个方阵求特征值可以得到：这里得到的v，就是我们上面的右奇异向量。此外我们还可以得到：
这里的σ就是上面说的奇异值，u就是上面说的左奇异向量。奇异值σ跟特征值类似，在矩阵Σ中也是从大到小排列，而且σ的减少特别的快，在很多情况下，前10%甚至1%的奇异值的和就占了全部的奇异值之和的99%以上了。也就是说，我们也可以用前r大的奇异值来近似描述矩阵，这里定义一下部分奇异值分解：
r是一个远小于m、n的数，这样矩阵的乘法看起来像是下面的样子：
右边的三个矩阵相乘的结果将会是一个接近于A的矩阵，在这儿，r越接近于n，则相乘的结果越接近于A。而这三个矩阵的面积之和（在存储观点来说，矩阵面积越小，存储量就越小）要远远小于原始的矩阵A，我们如果想要压缩空间来表示原矩阵A，我们存下这里的三个矩阵：U、Σ、V就好了。
二、奇异值的计算：
奇异值的计算是一个难题，是一个O(N^3)的算法。在单机的情况下当然是没问题的，matlab在一秒钟内就可以算出1000 * 1000的矩阵的所有奇异值，但是当矩阵的规模增长的时候，计算的复杂度呈3次方增长，就需要并行计算参与了。Google的吴军老师在数学之美系列谈到SVD的时候，说起Google实现了SVD的并行化算法，说这是对人类的一个贡献，但是也没有给出具体的计算规模，也没有给出太多有价值的信息。
其实SVD还是可以用并行的方式去实现的，在解大规模的矩阵的时候，一般使用迭代的方法，当矩阵的规模很大（比如说上亿）的时候，迭代的次数也可能会上亿次，如果使用Map-Reduce框架去解，则每次Map-Reduce完成的时候，都会涉及到写文件、读文件的 *** 作。个人猜测Google云计算体系中除了Map-Reduce以外应该还有类似于MPI的计算模型，也就是节点之间是保持通信，数据是常驻在内存中的，这种计算模型比Map-Reduce在解决迭代次数非常多的时候，要快了很多倍。
Lanczos迭代 就是一种解对称方阵部分特征值的方法（之前谈到了，解A’* A得到的对称方阵的特征值就是解A的右奇异向量），是将一个对称的方程化为一个三对角矩阵再进行求解。按网上的一些文献来看，Google应该是用这种方法去做的奇异值分解的。请见Wikipedia上面的一些引用的论文，如果理解了那些论文，也“几乎”可以做出一个SVD了。
由于奇异值的计算是一个很枯燥，纯数学的过程，而且前人的研究成果（论文中）几乎已经把整个程序的流程图给出来了。更多的关于奇异值计算的部分，将在后面的参考文献中给出，这里不再深入，我还是focus在奇异值的应用中去。
三、奇异值与主成分分析（PCA）：
主成分分析在上一节里面也讲了一些，这里主要谈谈如何用SVD去解PCA的问题。PCA的问题其实是一个基的变换，使得变换后的数据有着最大的方差。方差的大小描述的是一个变量的信息量，我们在讲一个东西的稳定性的时候，往往说要减小方差，如果一个模型的方差很大，那就说明模型不稳定了。但是对于我们用于机器学习的数据（主要是训练数据），方差大才有意义，不然输入的数据都是同一个点，那方差就为0了，这样输入的多个数据就等同于一个数据了。以下面这张图为例子：
这个假设是一个摄像机采集一个物体运动得到的图片，上面的点表示物体运动的位置，假如我们想要用一条直线去拟合这些点，那我们会选择什么方向的线呢？当然是图上标有signal的那条线。如果我们把这些点单纯的投影到x轴或者y轴上，最后在x轴与y轴上得到的方差是相似的（因为这些点的趋势是在45度左右的方向，所以投影到x轴或者y轴上都是类似的），如果我们使用原来的xy坐标系去看这些点，容易看不出来这些点真正的方向是什么。但是如果我们进行坐标系的变化，横轴变成了signal的方向，纵轴变成了noise的方向，则就很容易发现什么方向的方差大，什么方向的方差小了。
一般来说，方差大的方向是信号的方向，方差小的方向是噪声的方向，我们在数据挖掘中或者数字信号处理中，往往要提高信号与噪声的比例，也就是信噪比。对上图来说，如果我们只保留signal方向的数据，也可以对原数据进行不错的近似了。
PCA的全部工作简单点说，就是对原始的空间中顺序地找一组相互正交的坐标轴，第一个轴是使得方差最大的，第二个轴是在与第一个轴正交的平面中使得方差最大的，第三个轴是在与第1、2个轴正交的平面中方差最大的，这样假设在N维空间中，我们可以找到N个这样的坐标轴，我们取前r个去近似这个空间，这样就从一个N维的空间压缩到r维的空间了，但是我们选择的r个坐标轴能够使得空间的压缩使得数据的损失最小。
还是假设我们矩阵每一行表示一个样本，每一列表示一个feature，用矩阵的语言来表示，将一个m * n的矩阵A的进行坐标轴的变化，P就是一个变换的矩阵从一个N维的空间变换到另一个N维的空间，在空间中就会进行一些类似于旋转、拉伸的变化。
而将一个m * n的矩阵A变换成一个m * r的矩阵，这样就会使得本来有n个feature的，变成了有r个feature了（r <n)，这r个其实就是对n个feature的一种提炼，我们就把这个称为feature的压缩。用数学语言表示就是：
但是这个怎么和SVD扯上关系呢？之前谈到，SVD得出的奇异向量也是从奇异值由大到小排列的，按PCA的观点来看，就是方差最大的坐标轴就是第一个奇异向量，方差次大的坐标轴就是第二个奇异向量…我们回忆一下之前得到的SVD式子：
在矩阵的两边同时乘上一个矩阵V，由于V是一个正交的矩阵，所以V转置乘以V得到单位阵I，所以可以化成后面的式子
将后面的式子与A * P那个m * n的矩阵变换为m * r的矩阵的式子对照看看，在这里，其实V就是P，也就是一个变化的向量。这里是将一个m * n 的矩阵压缩到一个m * r的矩阵，也就是对列进行压缩，如果我们想对行进行压缩（在PCA的观点下，对行进行压缩可以理解为，将一些相似的sample合并在一起，或者将一些没有太大价值的sample去掉）怎么办呢？同样我们写出一个通用的行压缩例子：
这样就从一个m行的矩阵压缩到一个r行的矩阵了，对SVD来说也是一样的，我们对SVD分解的式子两边乘以U的转置U'
这样我们就得到了对行进行压缩的式子。可以看出，其实PCA几乎可以说是对SVD的一个包装，如果我们实现了SVD，那也就实现了PCA了，而且更好的地方是，有了SVD，我们就可以得到两个方向的PCA，如果我们对A’A进行特征值的分解，只能得到一个方向的PCA。
四、奇异值与潜在语义索引LSI：
潜在语义索引（Latent Semantic Indexing）与PCA不太一样，至少不是实现了SVD就可以直接用的，不过LSI也是一个严重依赖于SVD的算法，之前吴军老师在 矩阵计算与文本处理中的分类问题 中谈到：
“三个矩阵有非常清楚的物理含义。第一个矩阵X中的每一行表示意思相关的一类词，其中的每个非零元素表示这类词中每个词的重要性（或者说相关性），数值越大越相关。最后一个矩阵Y中的每一列表示同一主题一类文章，其中每个元素表示这类文章中每篇文章的相关性。中间的矩阵则表示类词和文章雷之间的相关性。因此，我们只要对关联矩阵A进行一次奇异值分解，w 我们就可以同时完成了近义词分类和文章的分类。（同时得到每类文章和每类词的相关性）。”
上面这段话可能不太容易理解，不过这就是LSI的精髓内容，我下面举一个例子来说明一下，下面的例子来自LSA tutorial，具体的网址我将在最后的引用中给出：
这就是一个矩阵，不过不太一样的是，这里的一行表示一个词在哪些title中出现了（一行就是之前说的一维feature），一列表示一个title中有哪些词，（这个矩阵其实是我们之前说的那种一行是一个sample的形式的一种转置，这个会使得我们的左右奇异向量的意义产生变化，但是不会影响我们计算的过程）。比如说T1这个title中就有guide、investing、market、stock四个词，各出现了一次，我们将这个矩阵进行SVD，得到下面的矩阵：
左奇异向量表示词的一些特性，右奇异向量表示文档的一些特性，中间的奇异值矩阵表示左奇异向量的一行与右奇异向量的一列的重要程序，数字越大越重要。
继续看这个矩阵还可以发现一些有意思的东西，首先，左奇异向量的第一列表示每一个词的出现频繁程度，虽然不是线性的，但是可以认为是一个大概的描述，比如book是0.15对应文档中出现的2次，investing是0.74对应了文档中出现了9次，rich是0.36对应文档中出现了3次；
其次，右奇异向量中一的第一行表示每一篇文档中的出现词的个数的近似，比如说，T6是0.49，出现了5个词，T2是0.22，出现了2个词。
然后我们反过头来看，我们可以将左奇异向量和右奇异向量都取后2维（之前是3维的矩阵），投影到一个平面上，可以得到：
在图上，每一个红色的点，都表示一个词，每一个蓝色的点，都表示一篇文档，这样我们可以对这些词和文档进行聚类，比如说stock 和 market可以放在一类，因为他们老是出现在一起，real和estate可以放在一类，dads，guide这种词就看起来有点孤立了，我们就不对他们进行合并了。按这样聚类出现的效果，可以提取文档集合中的近义词，这样当用户检索文档的时候，是用语义级别（近义词集合）去检索了，而不是之前的词的级别。这样一减少我们的检索、存储量，因为这样压缩的文档集合和PCA是异曲同工的，二可以提高我们的用户体验，用户输入一个词，我们可以在这个词的近义词的集合中去找，这是传统的索引无法做到的。
当G接近奇异时，有的奇异值较小，此时由于W中的元素相差过大，导致条件数极大，逆矩阵的计算误差较大，方程的解极不稳定。为了解决这个问题，维根斯(Wiggins)提出去掉较小的奇异值，用r×r矩阵We来代替W，从而有较稳定的广义逆[9]:
地球物理反演教程
其中:
地球物理反演教程
这样方程Gm=d就有广义逆解:
地球物理反演教程
下面以三个例子来说明如何使用奇异值分解程序[1]。
地球物理反演教程
下面程序段是维根斯法的具体实现步骤。用到两个子程序:奇异值分解子程序svdcmp和回代解线性方程组子程序svbksb。这两个子程序可以从Fortran power station 4.0中获得源程序。
首先调用svdcmp子程序进行奇异值分解，找到最大奇异值wmax然后设定最小奇异值和最大奇异值的比值界限ε(下面的程序令ε=10-6)，从而设定了最小奇异值wmin=wmax*ε，如果原来矩阵W中有奇异值小于wmin，则令它为零最后调用子程序svbksb用近似的奇异值矩阵回代解线性方程组。
! 例1，2，3
usemsimsl
! parameter(mp=3，np=2)! 例3
! parameter(mp=2，np=3)! 例2
parameter(mp=1，np=2)! 例1
integerm，n，np，mp
reala(mp，np)，X(np)，d(mp)，w(np)，v(np，np)，wmax，wmin
dataa/1，1/，d/2/ ! 例1
! dataa/1，0，1，0，0，1/，d/3，3/ ! 例2
! dataa/1，1，0，1，0，1/，d/3，1，1/! 例3
m=mp
n=np
! 对a进行奇异值分解
callsvdcmp(a，m，n，mp，np，w，v)
! SUBROUTINEsvdcmp(a，m，n，mp，np，w，v)
! INTEGERm，mp，n，np，NMAX
! REALa(mp，np)，v(np，np)，w(np)
! PARAMETER(NMAX=500)
!findmaximumsingularvalue
wmax=0.0
do13k=1，np
if(w(k).gt.wmax)wmax=w(k)
13 continue
! define"small"
wmin=wmax*(1.0e-6)
!zerothe"small"singularvalues
do14k=1，np
if(w(k).lt.wmin)w(k)=0.0
14 continue
write(*，*)'u'
doi=1，m
write(*，*)(a(i，j)，j=1，n)
enddo
! 回代解方程
callsvbksb(a，w，v，m，n，mp，np，d，X)
!这时a就是u
!SUBROUTINEsvbksb(u，w，v，m，n，mp，np，b，x)
!INTEGERm，mp，n，np，NMAX
!REALb(mp)，u(mp，np)，v(np，np)，w(np)，x(np)
!PARAMETER(NMAX=500)
write(*，*)'v'
doi=1，np
write(*，*)(v(i，j)，j=1，n)
enddo
write(*，*)'w'
doi=1，np
write(*，*)w(i)
enddo
write(*，*)'x'
write(*，*)(x(i)，i=1，np)
end
用以上方法解式(4.1)就可以直接获得模型的解。当然一般来说写不出那样的数据方程，而是用泰勒公式近似的，所以用以上方法解第3章的最小二乘法的线性方程组公式(3.14)，获得模型修改量，使反演的迭代过程可以稳定进行下去。
应用奇异值分解法并不要求系数矩阵为方阵，当G的维数M＜N时，方程组Gm=d欠定，奇异值分解法得到的是最小长度解。当G的维数M＞N时，方程组超定，得到最小方差解[1]。
[例1] m1+m2=2
这是一个欠定方程组。未知数个数大于方程个数，所以有无穷多个解，但是用奇异值分解法可以得到唯一解，这个解为最小长度解(解向量的长度最小)。
用上面程序解出m1=m2=0.999999≈1，从图4.1可知，符合[例1]方程的解有无穷多个，但是从原点到方程的直线的距离最小的点只有一个，这个点就是最小长度解。
图4.1 [例1]最小长度解示意图[1]
[例2]
这也是一个欠定方程组。用奇异值分解法也可以得到唯一最小长度解。
[例2]中第一个方程代表图4.2中FDCB所在的平面。第二个方程代表EDF所在的平面。这两个平面的相交线为FD所在的直线。FD直线上所有的点都是[例2]方程组的解。用奇异值分解法可以解出最小长度解(A点到原点的距离最小)。
图4.2 [例2]最小长度解示意图[1]
图4.3 [例3]最小方差解示意图
[例3]
地球物理反演教程
这是一个超定方程组，有2个未知数，3个方程，并且是一个矛盾方程组，因为无法同时满足3个方程，理论上这样的方程应该是无解的，但是奇异值分解法可以得到唯一解，即“最小方差解”。
图4.3所示黑点为奇异值分解法所得的“最小方差解”。它不满足[例3]中任何一个方程，但是它到每个方程所代表的直线的距离的平方和最小。
/*本程序在linux g++下编译通过
bool svd(vector<vector<double>>A, int K, vector<vector<double>>&U, vector<double>&S, vector<vector<double>>&V)
A: 输入待分解矩阵
K: 输入，取前K大奇异值及奇异向量
U[0],U[1],...,U[K-1]: 前K大奇异值对应的左奇异向量
S[0],S[1],...,S[K-1]: 前K大奇异值 S[0]>=S[1]>=...>=S[K-1]
V[0],V[1],...,V[K-1]: 前K大奇异值对应的右奇异向量
*/
#include <cmath>
#include <iostream>
#include <iomanip>
#include <cstdlib>
#include <cstring>
#include <fstream>
#include <vector>
using namespace std
const int MAX_ITER=100000
const double eps=0.0000001
double get_norm(double *x, int n){
double r=0
for(int i=0i<ni++)
r+=x[i]*x[i]
return sqrt(r)
}
double normalize(double *x, int n){
double r=get_norm(x,n)
if(r<eps)
return 0
for(int i=0i<ni++)
x[i]/=r
return r
}
inline double product(double*a, double *b,int n){
double r=0
for(int i=0i<ni++)
r+=a[i]*b[i]
return r
}
void orth(double *a, double *b, int n){//|a|=1
double r=product(a,b,n)
for(int i=0i<ni++)
b[i]-=r*a[i]
}
bool svd(vector<vector<double>>A, int K, vector<vector<double>>&U, vector<double>&S, vector<vector<double>>&V){
int M=A.size()
int N=A[0].size()
U.clear()
V.clear()
S.clear()
S.resize(K,0)
U.resize(K)
for(int i=0i<Ki++)
U[i].resize(M,0)
V.resize(K)
for(int i=0i<Ki++)
V[i].resize(N,0)
srand(time(0))
double *left_vector=new double[M]
double *next_left_vector=new double[M]
double *right_vector=new double[N]
double *next_right_vector=new double[N]
int col=0
for(int col=0col<Kcol++){
double diff=1
double r=-1
while(1){
for(int i=0i<Mi++)
left_vector[i]= (float)rand() / RAND_MAX
if(normalize(left_vector, M)>eps)
break
}
for(int iter=0diff>=eps &&iter<MAX_ITERiter++){
memset(next_left_vector,0,sizeof(double)*M)
memset(next_right_vector,0,sizeof(double)*N)
for(int i=0i<Mi++)
for(int j=0j<Nj++)
next_right_vector[j]+=left_vector[i]*A[i][j]
r=normalize(next_right_vector,N)
if(r<eps) break
for(int i=0i<coli++)
orth(&V[i][0],next_right_vector,N)
normalize(next_right_vector,N)
for(int i=0i<Mi++)
for(int j=0j<Nj++)
next_left_vector[i]+=next_right_vector[j]*A[i][j]
r=normalize(next_left_vector,M)
if(r<eps) break
for(int i=0i<coli++)
orth(&U[i][0],next_left_vector,M)
normalize(next_left_vector,M)
diff=0
for(int i=0i<Mi++){
double d=next_left_vector[i]-left_vector[i]
diff+=d*d
}
memcpy(left_vector,next_left_vector,sizeof(double)*M)
memcpy(right_vector,next_right_vector,sizeof(double)*N)
}
if(r>=eps){
S[col]=r
memcpy((char *)&U[col][0],left_vector,sizeof(double)*M)
memcpy((char *)&V[col][0],right_vector,sizeof(double)*N)
}else{
cout<<r<<endl
break
}
}
delete [] next_left_vector
delete [] next_right_vector
delete [] left_vector
delete [] right_vector
return true
}
void print(vector<vector<double>>&A){
}
int main(){
int m=10
int n=8
int k=5
//分解一个10*8的矩阵A，求其前5个奇异值和奇异向量
srand(time(0))
vector<vector<double>>A
A.resize(m)
for(int i=0i<mi++){
A[i].resize(n)
for(int j=0j<nj++)
A[i][j]=(float)rand()/RAND_MAX-0.5
}
cout<<"A="<<endl
for(int i=0i<A.size()i++){
for(int j=0j<A[i].size()j++){
cout<<setw(12)<<A[i][j]<<' '
}
cout<<endl
}
cout<<endl
vector<vector<double>>U
vector<double>S
vector<vector<double>>V
svd(A,k,U,S,V)
cout<<"U="<<endl
for(int i=0i<U[0].size()i++){
for(int j=0j<U.size()j++){
cout<<setw(12)<<U[j][i]<<' '
}
cout<<endl
}
cout<<endl
cout<<"S="<<endl
for(int i=0i<S.size()i++){
cout<<setw(7)<<S[i]<<' '
}
cout<<endl
cout<<"V="<<endl
for(int i=0i<V[0].size()i++){
for(int j=0j<V.size()j++){
cout<<setw(12)<<V[j][i]<<' '
}
cout<<endl
}
return 0
}
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）