第二章 时间序列分析的基本概念
本章将介绍时间序列分析的一些基本概念,其中关于平稳性、自协方差函数和样本自协方差函数的概念尤为重要。由于时间序列是随机过程的特例,所以我们首先介绍随机过程的一些基础概念和基本理论,最后介绍一些差分方程理论和动态数据的预处理方法。
§2.1 随机过程
在对某些随机现象的变化过程进行研究时,需要考虑无穷多个随机变量,必须用一簇随机变量才能刻画这种随机现象的全部统计特征,这样的随机变量族通常称为随机过程。下面为几个常见的随机过程的例子:
例2.1 (随机游动) 设X1,X2,是一列独立同分布的随机变量序列,令
Sn?S0?X1?X2则称随机变量序列?Sn;n?0,1,?Xn
相互独立(但是不
?为随机游动。其中S0是与X1,X2,同分布)的随机变量,一般地,我们总是假定S0?0。如果
P?Xn?1??P?Xn??1??12
?Sn?就是一般概率论与数理统计教材中提到的简单随机游动。
例2.2 (布朗运动) 英国植物学家布朗注意到漂浮在液面上的微小粒子不断进行无规则的运动,它是分子大量随机碰撞的结果。这种运动后来称为布朗运动。若记(X(t),Y(t))为粒子在平面坐标上的位置,则它是平面上的布朗运动。
例2.3 在通信工程中,电话交换台在时间段[0,t]内接到的呼唤次数是与t有关的随机变量X(t),对于固定的t,X(t)是一个取非负整数的随机变量,则{X(t),t?[0,?)}是随机过程。
下面介绍随机过程的定义。随机试验所有可能结果组成的集合称为这个试验的样本空间,记为?,其中的元素?称为样本点或基本事件,?的子集A称为事件,样本空间?称为必然事件,空集?称为不可能事件,F是?的某些子集组成的集合组,P是(?,F)上的概率。
定义2.1 随机过程是概率空间(?,F,P)上的一族随机变量{X(t),t?T},其中t是参数,它属于某个指标集T,T称为参数集。
随机过程可以这样理解:对于固定的样本点?0??,X(t,?0)就是定义在T上的一个函数,称之为X(t)的一条样本路径或一个样本函数;而对于固定的时刻t?T,
X(t)?X(t,?)是概率空间?上的一个随机变量,其取值随着试验的结果而变化,变化的
1
规律成为概率分布。随机过程的取值称为过程所处的状态,状态的全体称为状态空间,记为S。根据T及S的不同,过程可以分成不同的类:依照状态空间可分为连续状态和离散状态;依照参数集可分为离散参数和连续参数过程。
对于一维随机变量,掌握了它的分布函数就能完全了解该随机变量。对于多维随机变量,掌握了它们的联合分布函数就能确定它们的所有统计特性。对于由一族或多个随机变量形成的随机过程,要采用有限维分布函数族来刻画其统计特性。
定义2.2 随机过程的一维分布,二维分布,…,n维分布,等等,其全体
{Ft1,?,tn(x1,?,xn),t1,?,tn?T,n?1}
称为过程X(t)的有限维分布族。
一个随机过程的有限维分布族具有如下两个性质: (1)对称性:
对(1,2,?,n)的任一排列(j1,j2,?,jn),有
Ftj,?,tj(xj1,?,xjn)?Ft1,?,tn(x1,?,xn) (2.1)
1n(2)相容性:
对m?n,有Ft1,?,tm,tm?1,?,tn(x1,?,xm,?,?,?)?Ft1,?,tm(x1,?,xm) (2.2) 对于满足对称性和相容性条件的分布函数族F,是否一定存在一个以F作为有限维分布函数族的随机过程呢?柯尔莫哥洛夫定理给出了确定的结论。
定理2.1 (柯尔莫哥洛夫定理)设分布函数族{Ft1,?,tn(x1,?,xn),t1,?,tn?T,n?1}满足上述的对称性和相容性,则必存在一个随机过程{X(t),t?T},使
{Ft1,?,tn(x1,?,xn),t1,?,tn?T,n?1}恰好是X(t)的有限维分布族。
柯尔莫哥洛夫定理说明,随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际问题中,要掌握随机过程的全部有限维分布函数族是不可能的,一般是利用随机过程的某些统计特征,如下是一些常用的统计特征:
定义2.3 设{X(t),t?T}是一个随机过程,如果对任意t?T,E[X(t)]存在,则称函数 ?X(t)?E[X(t)],t?T (2.3) 为{X(t),t?T}的均值函数。称
rX(s,t)?E[(X(s)??X(s))(X(t)??X(t))],s,t?T (2.4)
2
为{X(t),t?T}的协方差函数。称
DX(t)?rX(t,t)?E[X(t)??X(t)]2,s,t?T (2.5)
为{X(t),t?T}的方差函数。
均值函数是随机过程{X(t),t?T}在时刻t的平均值,方差函数是随机过程在时刻t对均值?X(t)的偏离程度,而协方差函数和相关函数则反映了随机过程在时刻s和t时的线性相关程度。
§2.2 平稳过程的特征及遍历性
有一类重要的过程,它处于某种平稳状态,其主要性质与变量之间的时间间隔有关,与所考察的起始点无关,这样的过程称为平稳过程。
定义2.4 如果随机过程{X(t),t?T}对任意的t1,?,tn?T和任意的h(使得
ti?h?T,i?1,2,?,n),有:
(X(t1?h),X(t2?h),?,X(tn?h))与(X(t1),X(t2),?,X(tn))具有相同的联合分
布,记为
d(X(t1?h),X(t2?h),?,X(tn?h))?(X(t1),X(t2),?,X(tn)) (2.6)
则称{X(t),t?T}为严平稳的。
对于严平稳过程而言,有限维分布关于时间是平移不变的,条件很强,不容易验证。所以引入另一种所谓的宽平稳过程或二阶平稳过程。
定义2.5 设{X(t),t?T}是一个随机过程,若{X(t),t?T}的所有二阶矩都存在,并且对任意t?T,E[X(t)]??为常数,对任意s,t?T,r(s,t)只与时间差t?s有关,则称{X(t),t?T}为宽平稳过程,简称平稳过程。若T是离散集,则称平稳过程{X(t),t?T}为平
稳序列。
例2.4 随机过程定义为{X(t)?f(t??),0?t??},其中f(t)是具有周期T的函数,
?是区间(0,T)上均匀分布的随机变量。问X(t)是否宽平稳过程?给出理由。
解:f(t)是具有周期T的函数,因而是有界函数,?是区间(0,T)上均匀分布的随机变量,因而E(X(t))??0f(t??)?T11Td???0f(t??)?d(??t)?0,为常数, TTr(t,s))?E[(X(t)?E(X(t)))?(X(s)?E(X(s)))]
?E(X(t)X(s))
T ??0f(t??)f(t???(s?t))?1d? T 3
=??Var(X(t)),t?s?nT;
0,t?s?nT?因而X(t)的二阶矩都存在,均值函数为常数,协方差函数r(s,t)只与t?s有关,因而是宽平稳过程。
对于平稳过程而言,由于r(s,t)?r(0,t?s),所以可以记为r(t?s)。对所有的t有
r(?t)?r(t),即为偶函数。所以r(t)的图形关于坐标轴对称,其在0点的值就是X(t)的
方差,并且r(t)?r(0)。此外,宽平稳过程的协方差函数具有非负定性,即对任意时刻tn,
实数an,n?1,2,?,N,有
NNn?1m?1??anamr(tn?tm)?0
平稳随机过程的统计特征完全由其二阶矩函数确定。对固定时刻t,均值函数和协方差函数是随机变量X(t)的取值在样本空间?上的概率平均,是由X(t)的分布函数确定的,通常很难求得。在实际中,如果已知一个较长时间的样本记录,是否可按照时间取平均代替统计平均呢?这是平稳过程的遍历性所要讨论的问题。
由大数定律,设独立同分布的随机变量序列{Xn,n?1,2,?}具有EXn??,
DXn??2,则
?1N?limP??Xk??????1 N???Nk?1?1N这里,若将随机序列{Xn,n?1,2,?}看作是具有离散参数的随机过程,则?Xk为
Nk?1随机过程的样本函数按不同时刻所取的平均值,该函数随样本不同而变化,是随机变量。而
EXn??是随机过程的均值,即任意时刻的过程取值的统计平均。大数定律表明,随时间
n的无限增长,随机过程的样本函数按时间平均以越来越大的概率近似于过程的统计平均。那么,只要观测的时间足够长,则随机过程的每个样本函数都能够遍历各种可能状态。这种特性称为遍历性或各态历经性。
定义2.6 设{X(t),???t???}为均方连续的平稳过程,则分别称
1T?X(t)dt (2.7) T??2T?T1T?X(t)X(t??)??lim?X(t)X(t??)dt (2.8) T??2T?T?X(t)??lim为该过程的时间均值和时间相关函数。
定义2.7设{X(t),???t???}为均方连续的平稳过程,若
1T?X(t)dt??X (2.9) T??2T?Tlim
4
则称该平稳过程的均值具有各态历经性。
若
lim1T?X(t)X(t??)dt?rX(?) (2.10) T??2T?T则称该平稳过程的协方差函数具有各态历经性。
定义2.8如果均方连续的平稳过程的均值和相关函数都具有各态历经性,则称该平稳过程具有各态历经性或遍历性。
定理2.2 (均值遍历性定理)
(1)设X?{Xn,n?0,?1,?2}是平稳序列,其协方差函数为r(t),则X具有遍历性的充分必要条件是
1N?1lim?r(t)?0 (2.11) N??Nt?0(2)设X?{Xt,???t??}是平稳过程,则X具有遍历性的充分必要条件是
12T?(1?)r(?)d??0 (2.12) ?T??T02Tlim证明:由于证明的思路相同,这里只证明连续时间的均值遍历性定理。首先计算X的均值和方差。记
XT?则有
1T??TX(t)dt 2TEX?E[limXT]?limE(XT)?limT??T??1T?EX(t)dt T??2T?T进而
var(X)?E(X?EX)2
?Elim[T??1T2??T(X(t)??)dt] 2T?lim1TE[??T(X(t)??)dt]2 2T??4T?lim1TT??E[(X(t)??)(X(s)??)]dtds T??4T2?T?T?lim在上述积分中,作变换
1TT???(t?s)dtds (2.13) T??4T2?T?T???t?s???t?s ?
5
搜索“diyifanwen.net”或“第一范文网”即可找到本站免费阅读全部范文。收藏本站方便下次阅读,第一范文网,提供最新医药卫生时间序列分析的基本概念 全文阅读和word下载服务。
相关推荐: