马尔可夫链是马尔可夫随机过程的特殊情况,即Markov链是状态和时间参数都离散的Markov过程。从数学上,可以给出如下定义:
随机序列Xn,在任一时刻n,它可以处在状态θ1,θ2,?,θN,且它在m+k时刻所处的状态为qm+k的概率,只与它在m时刻的状态qm有关,而与m时刻以前它所处状态无关,既有:
(4-1)
(4-2) 其中,ql,q2,?,qm,?,qm+1∈ (θ1,θ2,?,θN)。 则称Xn为Markov链,并且称 此时
(4-4)
(4-3)
为k步转移概率,当pij(m,m+k)与m无关时,称这个Markov链为齐次Markov链,
以后若无特别申明,Markov链就是指齐次Markov链。当k=1时,pij(1)称为一步转移概率,简称为转移概率,记为aij,所有转移概率aij,1≤i,j≤N可以构成一个转移矩阵,即
且有
(4-5)
(4-6)
由于k步转移概率Pij(k)可由转移概率aij得到,因此,描述Markov链的最重要参数就是转移概率矩阵A。但A矩阵还决定不了初始分布,即由A求不出q1=θi的概率,这样,完全描述Markov链,除A矩阵外,还必须引入初始概率矢量∏=(π1,?,πN),其中 显然有
(4-7)
40
(4-8)
实际中,Markov链的每一个状态对应于一个可观测到的物理事件,比如天气预测中的雨、晴、雪等,那么根据这个天气预报的Markov链模型,可以计算出各种天气(即状态)在某一时刻出现的概率。但更普遍的情况下,实际的状态并不能直接观测到,所以隐马尔可夫模型由此发展起来。
4.2.2隐马尔可夫模型
隐马尔可夫模型是在马尔可夫链的基础之上发展起来的。由于实际问题比Markov链模型描述的更为复杂,观察到的事件并不是与状态一一对应的,而是通过一组概率分布相联系,这样的模型就称之为HMM。HMM是一个双重随机过程,其一是Markov链,它是最基本的随机过程,描述状态的转移。另一个随机过程描述状态和观察值之间的统计对应关系。这样,以观察者的角度,只能看到观察值,而非Markov链模型中的观察值与状态一一对应的关系,因此,不能直接看到状态,而是通过一个随机过程去感知状态的存在及其特性。
HMM可看作由两层构成:
a. 隐含层,它由有限个状态,状态转移矩阵A和初始状态概率分布∏组成;
b. 映射层,它表示每个状态对应观测数据的映射,可以用状态变换矩阵B,或者一系列概率密度函数表示,分别对应离散的HMM和连续的HMM。根据人脸至上而下,从左至右下具有的共性结构,本文采用1D-HMM和P2D-HMM描述人脸,下面分别介绍组成1D-HMM和P2D-HMM的主要参数。
1D-HMM由N,A,B,∏参数组成,简写为λ={N,A,B,∏}。各参数的含义如下: ? N,表示模型的状态个数;
? A={aij},其中1≤i,j≤N,表示状态转移概率矩阵; ? B={bj(?)},其中1≤j≤N,表示输出概率函数; ? ∏={πj},其中1≤j≤N,表示初始状态概率分布。
己知模型λ,观察序列O=o1?oT,Q为所有可能状态序列的集合,观察序列的联合概率计算如下式:
(4-9)
P2D-HMM可看作是1D-HMM的扩充,即在1D-HMM的每个状态中嵌入一个1D-HMM,该状态被改称为超状态。P2D-HMM由N,A,∏,Λ参数组成,简写为兄={N,A,∏,Λ}。各参数的含义如下:
? N,表示垂直方向超状态的个数;
? A={aKJ},其中1≤k,j≤N,表示超状态转移概率矩阵; ? ∏={πJ},其中1≤j≤N,表示超状态的初始概率分布;
? Λ={λJ},其中1≤j≤N,表示嵌入每个超状态的ID-HMM,每个λJ都具有一标准的1D-HMM所必需的参数; ? NJ,表示状态个数;
? Aj={aKjJ},其中1≤k,i≤NJ,表示状态转移概率矩阵;
41
? BJ={bij(?)},其中1≤i≤NJ,表示输出概率函数; ? ∏J={π1J},其中1≤i≤NJ,表示初始状态概率分布。
已知模型λ,观察序列O=o11?oTrTs,QY为垂直方向的所以可能状态,QXj为超状态j对应的水平方向的所以可能状态,联合概率的计算如下式:
(4-10)
其中,
4.2.3 隐马尔可夫模型中的三大问题
欲使所建立的隐马尔可夫模型能解决实际问题,以下三个问题必须加以解决:
问题1: 己知观察序列O和模型λ={N,A,B,∏ },如何计算由此模型产生此观察序列的概率P{O|λ}?
问题2:己知观察序列O和模型λ={N,A,B,∏},如何确定一个合理的状态序列,使其能最佳的产生O,即如何选择最佳的状态序列Q=q1,q2,?,qT? 问题3:如何根据观察序列不断修正模型参数A,B,∏,使P{O|λ}最大?
问题1实质上是一个模型评估问题,因为P{O|λ}反映了观察序列与模型吻合的程度。在模式识别中,可以通过计算、比较P{O|λ},从多个模型参数中选择出与观察序列匹配的最好的那个模型,这也是HMM用于模式识别的原理所在。为了解决这个问题,前人已研究出了“前向一后向”算法(Forward-Backward Algorithm)。
问题2的关键在于选用怎样的最佳准则来决定状态的转移。一种可能的最佳准则是:选择状态qi,使它们在各t时刻都是最可能的状态,即
(4-11)
有时存在这样的问题:如出现不允许的转移,即aij=0,那么,对这些i和j所得到的状态序列就是不可能状态序列。也就是说,上式得到的解只是在每个时刻决定一个最可能的状态,而没有考虑整体结构,相邻时间的状态和观察序列的长度等问题。针对这个缺点要求人们研究一种在最佳状态序列基础上的整体约束的最佳准则,并用此准则找出一条最好的状态序列。目前,解决这个问题的最好方案是Vietbri算法。
问题3实质上就是如何训练模型,估计、优化模型参数的问题。这个问题在三个问题中最难,因为没有解析法可用来求解最大似然模型,所以只能使用叠代法(如:Baum一Welch算法)或使用最佳梯度法。
在4.4和4.5节中,本文将以不同HMM的人脸识别方法为例具体介绍“前向一后向算法”、Vitebri算法和Baum-Welch算法在模式识别中的具体应用,有关以上三种算
42
法的详细内容可以参考文献[60]。
4.2.4隐马尔可夫模型的类型
根据观测值的取值不同,HMM可分为离散的和连续的。本文4.2.2节介绍的HMM,如果其观测值是M个离散可数的观察值中的一个,则称之为离散HMM,某个状态qj对应的观察值的统计特性是由一组概率bJK,k=1,?,M来描述。连续的MMH,指观察值的可能取值只能用一个概率密度函数bJ(q)表示。
根据状态转移的类型不同,HMM可分为遍历的(Ergodic)和从左到右的(Left-to-right,又称从上至下的Top-to-bottom)。前者表示状态转移是任意的,可以到本身和其他所有状态,如图4-1(a)。后者表示状态转移只限于本身和下一个状态,如图4-1(b)。人脸由于各个区域(头发、额头、眼睛、鼻子和嘴巴)具有自然不变的顺序,通常采用从左到右型的HMM。
图4-1几种典型的马尔可夫链示意图
(a)四状态遍历型马尔可夫链(b)四状态由左至右型马尔可夫链
4.3 基于隐马尔可夫模型的人脸识别方法概述
4.3.1 基于HMM人脸识别的基本原理
根据人脸由上至下各个区域(头发、额头、眼睛、鼻子和嘴巴)具有自然不变的顺序,个人特征仅表现在上述组成部分的形状及其相互连接关系不同,即可用一个1D-HMM表示人脸,如图4-2(a)。上述人脸5个部分的人脸特征对应HMM的状态序列,状态的出现及其转移可用模型中的概率矩阵描述,提取图像的象素点亮度值(或其他特征)作为观测序列。对于既定的人脸,所对应的HMM应当是唯一的。进一步研究表明人脸水平方向从左至右也具有相对稳定的空间结构,因此可将沿垂直方向划分的状态分别扩充为一个1D-HMM。垂直方向的状态就称为超状态,水平方向嵌入的状态就称为子状态,共同组成了一个P2D-HMM,如图4-2(b)
43
图4-2 用HMM建立人脸模型的基本原理图 (a)1D?HMM人脸模型 (b)P2D?HMM人脸模型
4.3.2 基于HMM人脸识别的系统概述
基于HMM的人脸识别系统,必须首先选择HMM的结构(是1D-HMM,还是P2D-HMM)。HMM的结构不同使得特征提取、模型训练和识别中基本算法和系统结构都会有所不同,但关于图像的预处理和最后的决策方法都是相同的。本文首先介绍对输入图像的预处理和决策方法,关于特征提取、模型训练的具体算法将在基于1D-HMM和P2D-HMM人脸识别方法时分别介绍。图4-3为基于HMM人脸识别系统的原理图,其中“Common HMM”代表人脸的普遍结构,由训练集中所有人脸图像获得,它的作用主要有以下两个方面:一作为各个对象的人脸模型训练的初始化参数,可以极大提高收敛速度;二是完成对人脸库中不存在的新对象(New Sub ject)的拒识(Re ject)。
如果输入的是一幅彩色图像,比如RGB颜色模式图像,预处理阶段首先将其转换为YCbCr颜色模型,然后进行肤色初筛,得到人脸的可能区域,最后归一化成方块灰度图像后,就可以用条状或块状窗进行一定步长的遍历扫描,提取特征序列了。本文采用层次结构的判决来完成人脸的识别,如图4-4。首先通过计算特征序列O在“Common HMM”模型参λcommon下的概率P(O|λcommon),判别是否人脸。若是,再计算特征序列在各个对象MHM模型参数λi下的概率P(O|λi ),与P(O|λcommon) 比较,判别是否库中己有对象的人脸,若是,输出max{P(O|λi)}的对象标号i。
图4-3人脸识别系统原理图
图4.4层次结构的决策原理图
4.4基于一维隐马尔可夫模型的人脸识别方法
44
搜索“diyifanwen.net”或“第一范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,第一范文网,提供最新教学研究人脸识别技术研究(毕业论文) - 图文 (5)全文阅读和word下载服务。
相关推荐: