ICA的基本目标就是寻找一个线性变换W,称之为分离矩阵。该矩阵使得观测信号X经过线性变换后,输出信号Y=(y1,y2,?,yN)T向量间尽可能的相互独立,表示成矩阵形式就是:
(3-4)
输出Y就是源信号S的一个估计,上述的ICA模型如图3-1所示。
图3-1 ICA模型的原理图
但是从盲源分离的观点看,Y中各个分量与S相比存在次序的不同以及对应分量幅度相差一个常数项的可能,这称之为ICA问题的不确定性,造成这种不确定性的原因是由于没有关于独立源的先验知识。在线性变换中,为了便于说明其原理,均假设变换前后数据维数相等。在实际应用中,当观测信号维数m大于源信号维数n时,总可以通过降维的方法使得m=n,所以这种假设不失一般性。
ICA、PCA和SVD均属于线性变换技术,但是后两者只能按能量大小对数据进行分解,消除数据之间的二阶相关性,而ICA能够消除输入数据之间的高阶相关性。在图像中,可以提取的特征很多,特征之间存在相关性,并且重要特征一般隐藏在高阶统计特性中,因此使用ICA方法能够约减特征维数,并且使特征保持高阶相互独立,而不像PCA和SVD只能消除二阶相关性。
3.3基于独立分量分析的人脸识别方法
一般情况下,人脸识别过程可以分三步完成:预处理、特征提取和分类识别。基于ICA的人脸识别方法也不例外。ICA涉及的预处理的方法除了传统的几何归一化,灰度归一化外,还有中心化和白化的过程,本节将主要阐述这两种预处理方法。将工以应用到人脸的特征提取中,则ICA问题可以描述如下:观测的数据矢量就是人脸的训练样本,令xi为一个人脸图像样本,则由n个训练图像构成训练集X=(sl,x2,?,xN)T是相同数目的独立源信号S=(s1,s2,?,sN)T经过混合矩阵A线性混合而成,如式(3-3)。
在人脸识别中,ICA的研究目的是从仅有的观测数据(人脸图像)X出发寻找一个分离矩阵W,使得Y=WX的各个分量统计独立。图3-2给出了人脸图像CIA的原理图,X中的人脸图片被认为是S中统计独立源的线性组合,A是未知的混合矩阵,W是ICA算法估计得到的分离矩阵,Y就是ICA提取的人脸特征空间。
25
图3-2 人脸图像的ICA原理图
在获得ICA人脸特征空间Y后,就可以给出人脸的特征表示,如图3-3,其中(b1,b2,?,bN)为ICA系数,即用人脸在特征空间Y上的投影来表示人脸。
图3-3 人脸图像的ICA特征表示
3.3.1人脸图像的预处理
将ICA应用于人脸识别,随机向量即待训练的人脸图像。矩阵运算中,每幅人脸图像就是一个行向量,行向量的维数为其包含的像点数。在对图像进行ICA前,必须对图像进行预处理。
最基本的预处理是将X减去其均值,得到均值为零的X,如下式:
(3-5)
此过程称为中心化,仅仅为了简化运算。在估计出混合矩阵A后,中心化得到的源信号S可以重新获得它的均值
(3-6)
在应用ICA之前,还有一个重要的预处理就是将观测数据白化。所谓白化,是指各分量间互不相关,且每个分量的能量是归一化的,即
(3-7)
(3-8)
根据统计独立的概念,不相关是独立的必要条件,而不是一个充分条件。源信号就是白化信号,对于独立的源信号S=(sl,s2,?,sN)T,各分量必然是不相关的,所以有:
(3-9)
因为在ICA的输出结果中,被提取出分量的幅度具有不确定性,某个分量s1乘上一个系数所产生的作用,只需让混合矩阵A对应的列向量a1除以一个相同的数就可抵消。所以简单起见,不妨假设独立源的能量是归一的。
(3-10)
26
其中U是由E{XXT }的特征向量组成的正交矩阵,
。白化对应的变换矩阵就是
后的数据为: 其中
是由特征值组成的对角阵,
,称之为白化矩阵。白化
(3-11)
可由其对角线上的特征值开平方求得,,过程如下:
,可以验证
(3-12)
(3-13) (3-14) (3-15)
由白化数据计算得到混合矩阵为,由混合矩阵的定义得到: (3.16)
数据的白化使得新的混合矩阵是正交的,如下式: (3-17)
由于的正交性,需要估计的参数由一般矩阵包含的N2个元素,减少到正交矩阵包含的N(N-1)/2个元素,元素个数几乎减少了一半。由此可见,白化这种常规方法作为ICA的预处理可以有效的降低问题的复杂度,降低了过学习(Overlearning)的可能性(这是ICA中可能遇到的问题),而且运算简单。下文中所指的X、A均指经过预处理的、。
3.3.2基于独立分量分析的人脸特征提取
本文2.2.2节可知,PCA方法有以下优点: a.可以完全去除原始样本间的相关性;
b.进行数据压缩时,所得到的均方误差最小,而且该均方误差等于所舍去的特征值之和;
c.若将n个特征值按大小顺序排列λ1≥λ2≥?≥λn,那么将λm+1,λm+2,?,λn舍去后,
27
余下的λ1,λ2,?,λm就保留了最大的能量,样本经过K一L变换之后,仍保留原样本的最大能量。
PCA所获得特征空间能够很好的表示人脸,但是此特征空间是二阶不相关的,高阶仍然相关,而且它所提取的特征向量只呈现出人脸的形状。在人脸识别这样的应用中,由于人脸几何特征以及人脸部件的特殊性,如果提取的特征具有区域性和高阶不相关性,那么识别率将获得提高。而这正是ICA方法的理论优势所在。本文3.2.2节可知,由ICA算法提取的特征空间的特征向量个数总是和输入样本数据的个数相当,所以当输入样本个数非常庞大时,会造成严重计算负担。由图3-2可知,假设X中的人脸图像是一组未知统计独立源的线性组合,所以即使用X中人脸图像的某种其他线性组合来取代原始人脸图像不会有什么影响。这为本文在对图像数据进行ICA之前,采用PCA降维提供了理论基础。
本文采用训练图像数据的前m个主元(principle component一PC)近似原数据。由于PCA的局限性,此m个主元仍包含象点间的高阶统计特性,此特性只能由ICA分离出来。设Pm表示前m个特征值对应的特征向量组成的矩阵,每个主分量为一列。PmT包含原训练样本矩阵X的最可能多的能量,认为它近似于X。对PmT执行ICA算法如下: (3-18) 基于Pm可以得到X中一组零均值图像的主分量表示: (3-19)
则X的在最小均方误差准则下的近似重构为:
(3-20)
由ICA算法训练得到分离矩阵W: 其中
(3-21)
为白化矩阵,得到源信号的估计Y
(3-22)
因此可以得到:
(3-23)
式(3.24)表示,矩阵
每一行包含的系数就是由统计独立的特征图像Y线性组合构成
28
的系数。于是,人脸图像的独立分量表示可由如下矩阵中的行向量给出: (3-24)
对待识别的人脸图像
,基于独立分量表示为:
(3-25)
这样高维的人脸图像数据,经过以PCA为基础的ICA提取特征后,就可以在低维的ICA特征空间进行识别分类了。
3.3.3独立分量的排序及选择
PCA提取的特征向量对应不同的特征值λi,并且按照特征值的大小排序。若要使得重构数据满足最小均方误差准则,选择前m个特征值对应的特征向量即可。由本文3.2.2节可知,经ICA提取的独立分量存在排序的不确定性,所以选择独立分量存在困难。本节根据特征不同的分类能力(Class discriminability)选择独立分量,也就是说选择的独立分量满足下列原则:既可以反映同一个人不同图像间的相似性;又能反映不同人图像之间的差异性。本文通过ICA估计得到的混合矩阵A来选择独立分量子集。所采用的原则是是选择A中那些类内散布与类间散布比率最小的那些混合特征所对应的独立分量。
假设训练中我们采用了N个人的人脸图像,每人具有M张。组成训练矩阵时,每人的M张图像相邻,以方便计算。混合矩阵B给出的是每个独立分量的加权系数。aij表示A中第i行,第j列的元素,则下式中的
表示第j列的类内距离的均值。
(3-26)
第j列的类间距离的均值,如下式
(3-27) 其中,
(3-28)
29
搜索“diyifanwen.net”或“第一范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,第一范文网,提供最新教学研究人脸识别技术研究(毕业论文) - 图文 (8)全文阅读和word下载服务。
相关推荐: