设为首页收藏本站
开启辅助访问
切换到窄版

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 1624|回复: 0

机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

[复制链接]
发表于 2012-8-21 08:52:19 | 显示全部楼层 |阅读模式
版权声明:
      本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用,但请注明出处,如果有问题,请联系wheeleast@gmail.com
前言:
      上一次写了关于PCA与LDA的文章,PCA的实现一般有两种,一种是用特征值分解去实现的,一种是用奇异值分解去实现的。在上篇文章中便是基于特征值分解的一种解释。特征值和奇异值在大部分人的印象中,往往是停留在纯粹的数学计算中。而且线性代数或者矩阵论里面,也很少讲任何跟特征值与奇异值有关的应用背景。奇异值分解是一个有着很明显的物理意义的一种方法,它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示,这些小矩阵描述的是矩阵的重要的特性。就像是描述一个人一样,给别人描述说这个人长得浓眉大眼,方脸,络腮胡,而且带个黑框的眼镜,这样寥寥的几个特征,就让别人脑海里面就有一个较为清楚的认识,实际上,人脸上的特征是有着无数种的,之所以能这么描述,是因为人天生就有着非常好的抽取重要特征的能力,让机器学会抽取重要的特征,SVD是一个重要的方法。
      在机器学习领域,有相当多的应用与奇异值都可以扯上关系,比如做feature reduction的PCA,做数据压缩(以图像压缩为代表)的算法,还有做搜索引擎语义层次检索的LSI(Latent Semantic Indexing)
      另外在这里抱怨一下,之前在百度里面搜索过SVD,出来的结果都是俄罗斯的一种狙击枪(AK47同时代的),是因为穿越火线这个游戏里面有一把狙击枪叫做SVD,而在Google上面搜索的时候,出来的都是奇异值分解(英文资料为主)。想玩玩战争游戏,玩玩COD不是非常好吗,玩山寨的CS有神马意思啊。国内的网页中的话语权也被这些没有太多营养的帖子所占据。真心希望国内的气氛能够更浓一点,搞游戏的人真正是喜欢制作游戏,搞Data Mining的人是真正喜欢挖数据的,都不是仅仅为了混口饭吃,这样谈超越别人才有意义,中文文章中,能踏踏实实谈谈技术的太少了,改变这个状况,从我自己做起吧。
      前面说了这么多,本文主要关注奇异值的一些特性,另外还会稍稍提及奇异值的计算,不过本文不准备在如何计算奇异值上展开太多。另外,本文里面有部分不算太深的线性代数的知识,如果完全忘记了线性代数,看本文可能会有些困难。
一、奇异值与特征值基础知识:
      特征值分解和奇异值分解在机器学习领域都是属于满地可见的方法。两者有着很紧密的关系,我在接下来会谈到,特征值分解和奇异值分解的目的都是一样,就是提取出一个矩阵最重要的特征。先谈谈特征值分解吧:
   1)特征值:
      如果说一个向量v是方阵A的特征向量,将一定可以表示成下面的形式:
   2012-4-5 19:04:58 上传
下载附件 (1.91 KB)
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用



      这时候λ就被称为特征向量v对应的特征值,一个矩阵的一组特征向量是一组正交向量。特征值分解是将一个矩阵分解成下面的形式:
   2012-4-5 19:04:58 上传
下载附件 (2.92 KB)
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用



      其中Q是这个矩阵A的特征向量组成的矩阵,Σ是一个对角阵,每一个对角线上的元素就是一个特征值。我这里引用了一些参考文献中的内容来说明一下。首先,要明确的是,一个矩阵其实就是一个线性变换,因为一个矩阵乘以一个向量后得到的向量,其实就相当于将这个向量进行了线性变换。比如说下面的一个矩阵:
       2012-4-5 19:04:58 上传
下载附件 (983 Bytes)
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用


    它其实对应的线性变换是下面的形式:
   2012-4-5 19:04:58 上传
下载附件 (8.78 KB)
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用


    因为这个矩阵M乘以一个向量(x,y)的结果是:
  
2012-4-5 19:04:58 上传
下载附件 (1.5 KB)
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用


    上面的矩阵是对称的,所以这个变换是一个对x,y轴的方向一个拉伸变换(每一个对角线上的元素将会对一个维度进行拉伸变换,当值>1时,是拉长,当值
201101192226336454.png (830 Bytes, 下载次数: 5)
2012-4-5 19:04:58 上传
下载次数: 5





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226334536.png (12.79 KB, 下载次数: 7)
2012-4-5 19:04:58 上传
下载次数: 7





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226332060.png (3.13 KB, 下载次数: 6)
2012-4-5 19:04:58 上传
下载次数: 6





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226342650.png (14.19 KB, 下载次数: 9)
2012-4-5 19:04:58 上传
下载次数: 9





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226348223.png (3.93 KB, 下载次数: 7)
2012-4-5 19:04:58 上传
下载次数: 7





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226346304.png (4.24 KB, 下载次数: 4)
2012-4-5 19:04:58 上传
下载次数: 4





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226358289.png (5.33 KB, 下载次数: 2)
2012-4-5 19:04:58 上传
下载次数: 2





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226356370.png (11.42 KB, 下载次数: 2)
2012-4-5 19:04:58 上传
下载次数: 2





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226357275.png (9.47 KB, 下载次数: 10)
2012-4-5 19:04:58 上传
下载次数: 10





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226366436.png (4.18 KB, 下载次数: 4)
2012-4-5 19:04:58 上传
下载次数: 4





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226364833.png (4.05 KB, 下载次数: 3)
2012-4-5 19:04:58 上传
下载次数: 3





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226366818.png (5.86 KB, 下载次数: 5)
2012-4-5 19:04:58 上传
下载次数: 5





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226374899.png (13.54 KB, 下载次数: 10)
2012-4-5 19:04:58 上传
下载次数: 10





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226374060.png (4.13 KB, 下载次数: 10)
2012-4-5 19:04:58 上传
下载次数: 10





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226374408.png (6.26 KB, 下载次数: 3)
2012-4-5 19:04:58 上传
下载次数: 3





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226386634.png (30.35 KB, 下载次数: 9)
2012-4-5 19:04:58 上传
下载次数: 9





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226397148.png (86.66 KB, 下载次数: 4)
2012-4-5 19:04:58 上传
下载次数: 4





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用

201101192226404739.png (52.37 KB, 下载次数: 11)
2012-4-5 19:04:58 上传
下载次数: 11





机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用
您需要登录后才可以回帖 登录 | 注册

本版积分规则

QQ|申请友链|小黑屋|手机版|Archiver|生物信息学论坛 ( 蜀ICP备09031721号  

GMT+8, 2017-2-23 15:29 , Processed in 0.107544 second(s), 21 queries .

Powered by Discuz! X3

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表