线性平稳时间序列模型
线性平稳时间序列模型
线性平稳时间序列模型是时间序列分析中的重要概念,广泛应用于经济学、金融学、工程学等领域。本文将详细介绍线性平稳时间序列模型的种类、ARMA(p,q)模型的平稳性和可逆性、以及ARMA模型的传递形式和逆转形式等内容。
第一节 线性平稳时间序列模型的种类
一、自回归模型
(一)一阶自回归模型,AR(1)
设{xt}为零均值平稳随机序列,如果关于xt的合适模型为:
其中:εt是白噪声序列(外部冲击)
那么我们就说xt遵循一个一阶自回归或AR(1)随机过程。
可见,AR(1)模型中,xt在t时刻值依赖于两部分,一部分依赖于它的前一期的值xt-1;另一部分是依赖于与xt-1不相关的部分εt。可将AR(1)模型写成另一种形式:
通过这一种形式可以看出,AR(1)模型通过消除xt中依赖于xt-1的部分,而使相关数据转化成了独立数据。
AR(1)模型的滞后算子形式:
2.随机游走(RandomWalk)过程
如果一个时间序列xt的合适的模型为如下的形式:
其中:εt为白噪声序列,
那么就称xt为随机游走过程。“随机游走”一词首次出现于1905年自然(Nature)杂志第72卷PearsonK.和RayleighL.的一篇通信中。该信件的题目是“随机游走问题”。文中讨论寻找一个被放在野地中央的醉汉的最佳策略是从投放点开始搜索。
随机游走过程是非平稳时间序列证明:
对于设则于是有因此的方差随时间而改变,因此过程是非平稳的。
虽然随机游走过程是非平稳的,但是我们看到,它的一阶差分却是平稳的:
有些研究表明,许多经济时间序列呈现出随机游走或至少有随机游走的成分,如股票价格,这些序列虽然是非平稳的,但它们的一阶(或高阶)差分却是平稳的。Box—Jenkins就是利用差分这种数学工具来使非平稳序列转化为平稳序列的。
(二)二阶自回归模型,AR(2)
设{xt}为零均值的随机序列,如果关于xt的合适模型为:
其中:εt是白噪声序列
那么我们就说xt遵循一个二阶自回归或AR(2)随机过程。
思考:若建立AR(2)模型以后,上述假设不符合,说明了什么问题?
AR(2)模型可写成如下的等价形式
通过等价形式可以看出,AR(2)模型通过将xt中依赖于xt-1、xt-2的部分剔除掉,而使数据转化成了独立数据εt。
(三)一般自回归模型,AR(p)
设{xt}为零均值的时间序列,如果关于xt的合适模型为:
其中:εt是白噪声序列
那么我们就说xt遵循一个p阶自回归或AR(p)随机过程。
思考:如果{xt}是一个非零均值的平稳时间序列,怎么对其建立模型?
今后在分析AR模型时,都简化为对它的中心化模型进行分析。设:
于是:
则可对序列建立ARMA模型:
例如AR模型的一般形式可写为:
若μ未知,可估计如下模型:
其中:
自回归系数多项式引进滞后算子,中心化模型又可以为从而有:
记:
则模型可以表示成:
例如,二阶自回归模型,可写成
二、移动平均模型(Movingaveragemodel,MA)
(一)一阶移动平均模型,MA(1)
如果关于零均值随机序列xt的合适的模型如下:
其中:εt为白噪声序列,
那么就称xt满足一阶移动平均过程,记作MA(1)
使用滞后算子,MA(1)模型可以写成:
(二)一般移动平均模型,MA(q)
如果关于零均值时间序列xt的合适的模型如下:
其中:
为白噪声过程
那么就称xt满足q阶移动平均过程,记作MA(q)
使用滞后算子,MA(q)模型可以写成:
三、自回归移动平均模型,ARMA(p,q)
如果零均值序列{Xt}的当前值不仅与自身的过去值有关,而且还与其以前进入系统的外部冲击存在一定依存关系,那么它可以用如下的线性模型来描述:
其中:
为白噪声过程,即
则称Xt满足自回归移动平均过程,记为ARMA(p,q)。
利用滞后算子,ARMA(p,q)模型可写为:
其中:
且,之间不出现公共因子。
如果序列xt是均值非平稳的,对其进行d次差分后,变成了平稳的序列Δdxt,这个差分后的平稳序列的适应性模型为ARMA(p,q),此时就称对原始序列xt建立了ARIMA(p,d,q)模型。
其中:p为自回归部分项阶数,q指移动平均部分阶数,d为使序列平稳之前必须对其差分的次数。
四、求和自回归移动平均模型(ARIMA,IntegratedAutoregressiveMovingaveragemodel)
ARIMA(2,1,2)表示先对时间序列进行一阶差分,使之转化为平稳序列,然后对平稳序列建立ARMA(2,2)模型。
例如:ARIMA(p,0,q)就相当于ARMA(p,q)。
ARIMA(p,0,0)就相当于AR(p)。
ARIMA(0,0,q)就相当于MA(q)。
对于一个ARIMA(p,d,q)也可以用推移算子B表示如下
其中:
思考:如果{xt}是一个非零均值的平稳时间序列,怎么对其建立ARIMA(p,d,q)模型?
第二节 ARMA(p,q)模型的平稳性和可逆性
一、时间序列模型的平稳性
如果一个时间序列模型可以写成如下形式:
其中,εt为白噪声过程。且满足:
就称该模型是平稳的。上式称为wold展开式。如果一个时间序列模型可以写成上述形式,则称该模型具有传递形式。系数{Gj}称为格林函数。它描述了系统对过去冲击的动态记忆性强度。
证明:
且:
对于上式,可以证明如下结论:
由于平稳过程的方差存在。因此必须有
这是平稳过程的条件。
对于一个有限阶的MA(q)模型总有:
所以,一个有限阶的MA(q)模型总是平稳的。一个有限阶的MA(q)模型本身就是一种传递形式。
二、时间序列模型的可逆性(invertibility)
如果一个时间序列的模型可以写成如下形式:
其中,εt为白噪声过程。且满足:
则称{xt}具有逆转形式(或可逆形式)。系数{πj}称为逆函数。
对于一个有限阶的自回归模型AR(P)总有:
所以,一个有限阶的AR(P)模型本身就是一种逆转形式。
AR(p)MA(q)ARMA(p,q)可逆性平稳性????√√
三、AR(p)模型的平稳性条件
序列{xt}平稳的充要条件是:
的根全在单位圆外。即如果B1,B2,…,Bp是如下特征方程的根,那么它们的绝对值必须大于1
对照前面平稳性的定义可知,上述过程若要平稳,必须满足:
上述两个条件是等价的。
可见:一个有限阶的平稳的AR(P)模型,可以表示成一个无限阶的MA模型
AR模型平稳性判别判别原因AR模型是常用的平稳序列的拟合模型之一,但并非所有的AR模型都是平稳的判别方法特征根判别法平稳域判别法
AR(P)的平稳域:使的根全在单位圆外的AR系数向量()的全体形成的集合。
举例:求AR(1)模型的平稳性条件
这就是AR(1)模型的平稳域
即:
方法一:
方法二:
AR(1)模型对应的滞后算子多项式的特征方程为:
AR(1)模型对应的差分方程的特征方程为:
当时,AR(1)可表示为一个无限阶的MA过程,即:
此时有:
显然,当时,AR(1)模型是平稳的。
重新分析随机游走过程,判断其是否平稳?
举例:求AR(2)模型的平稳性条件
对于AR(2)模型其对应的差分方程的特征方程为:
差分方程的特征根为:
为满足平稳性条件,必须有:
注,如果则特征根为复根:
为满足平稳性,要求:
AR(2)过程的平稳性区域如下图三角域所示
例3.1:考察如下四个模型的平稳性
平稳性判别模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳
四、MA(q)模型的可逆性条件
类似前面的结论,一个平稳的过程也不一定是可逆的。同样,对于一个有限阶的MA(q)模型:
它是可逆过程的必要条件是:
的根都在单位圆外,即如果B1,B2,…,Bq是的根,那么它们的绝对值都必须大于1
上述两个条件是等价的。
类似的:
可以得出如下结论:一个有限阶的可逆的MA(q)模型,可以表示成一个无限阶的AR模型
MA(1)过程的可逆性条件:
对于MA(1)过程:
或其可逆性条件是要求:
的根在单位圆内,即:
在根在单位圆外,即:
方法二:要求差分方程对应的特征方程:
方法一:滞后算子多项式对应的特征方程:
或
当时,MA(1)可表示为一个无限阶的AR过程,即:
MA(2)过程的可逆性条件:
对于MA(2)过程:
其可逆性条件是:要求特征方程的两个特征根在单位圆内。即:
类似AR(2)过程的平稳性条件,可以证明MA(2)模型的可逆域如下:
例:考察如下MA模型的可逆性
(1)
(2)
(3)
(4)
总结:
(1)一个平稳的AR(p)过程可以转化为一个无限阶移动平均过程。
(2)一个可逆的MA(q)过程可以转化为一个无限阶的自回归过程。
(3)对于AR(p)过程只须考虑平稳性问题,不必考虑可逆性问题。
(4)对于MA(q)过程,只须考虑可逆性问题,不必考虑平稳性问题。
五、ARMA(p,q)模型的平稳性条件和可逆性条件
(一)平稳性
对于一个ARMA(p,q)模型
服从ARMA(p,q)模型的序列xt平稳的充要条件是:
的根全在单位圆外。ARMA(p,q)序列的平稳性仅与自回归系数有关,而与滑动平均系数无关。而且平稳条件与AR(p)的平稳条件相同。
(二)可逆性
ARMA(p,q)可逆的条件仅与滑动系数有关,而与自回归系数无关。而且可逆条件与MA(q)的可逆条件相同。
服从ARMA(p,q)模型的序列xt,其具有可逆性的条件是:
θ(B)=0的根全在单位圆外。
为满足可逆性,的根必须在单位圆外,即:
举例:ARMA(1,1)过程的平稳性和可逆性
ARMA(1,1)模型的一般形式为:
或为:
为满足平稳性,的根必须在单位圆外,即:
为满足可逆性,的根必须在单位圆外,即:
第三节 ARMA模型的传递形式和逆转形式
一、传递形式和逆转形式的概念
所谓传递形式:就是将序列xt的当前值,表示为当前冲击值εt与过去冲击值εt-i(i=1,2,3…)的线性组合。即:
其中,系数函数Gj叫做记忆函数,又叫格林函数(Green’sfunction)。
可见,纯移动平均模型MA(q)本身就是传递形式。
所谓逆转形式:就是以序列的当前值和过去值的线性组合去表示当前的冲击值εt。
可见,纯自回归模型AR(本身就是逆转形式。