第七章 带有线性约束的多元线性回归模型及其假设检验(金融计量-浙大 蒋岳祥)

第七章 带有线性约束的多元线性回归模型及其假设检验

在本章中，继续讨论第五章的模型，但新的模型中，参数β满足J 个线性约束集，R β=q ，矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的，我们考虑不是过度约束的情况，因此，J ＜K 。

带有线性约束的参数的假设检验，我们可以用两种方法来处理。第一个方法，我们按照无约束条件求出一组参数估计后，然后我们对求出的这组参数是否满足假设所暗示的约束，进行检验，我们在本章的第一节中讨论。

第二个方法是我们把参数所满足的线性约束和模型一起考虑，求出参数的最小二乘解，尔后再作检验，后者就是参数带有约束的最小二乘估计方法，我们在本章的第二节中讨论。

第一节 线性约束的检验 从线性回归模型开始，

εβ+=X y （1）

我们考虑具有如下形式的一组线性约束，

J

K JK J J K K K K q r r r q r r r q r r r =+++=+++=+++βββββββββ

22112

22221211

1212111

这些可以用矩阵改写成一个方程

q R =β （2）

作为我们的假设条件0H 。

R 中每一行都是一个约束中的系数。矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的。因此，J 一定要小于或等于K 。R 的各行必须是线性无关的，虽然J =K 的情况并不违反条件，但其唯一决定了β，这样的约束没有意义，我们不考虑这种情况。

给定最小二乘估计量b ，我们的兴趣集中于“差异”向量d=Rb －q 。d 精确等于0是不可能的事件（因为其概率是0），统计问题是d 对0的离差是否可归因于抽样误差或它是否是显著的。

由于b 是多元正态分布的，且d 是b 的一个线性函数，所以d 也是多元正态分布的，若原假设为真，d 的均值为0，方差为

R X X R R b Var R q Rb Var d Var ''='=-=-12)(])[(][][σ （3）

对H 0的检验我们可以将其基于沃尔德（Wald ）准则：

d d Var d J W 12])[()(-'==χ

=)(])([)(1

1

2

q Rb R X X R q Rb -'''---σ （4）

在假设正确时将服从自由度为J 的2χ分布(为什么?)。

直觉上，d 越大，即最小二乘满足约束的错误越大，则2

χ统计量越大，所以，一个大的2

χ值将加重对假设的怀疑。

??

?

??'

??? ??='=

-σεσεσσM e

e s K n 2

2

2

)( （5） 由于σ未知，（4）中的统计量是不可用的，用s 2替代σ2，我们可以导出一个F[J ，（n －K ）]样本统计量，令

)

/(]/)[(/)(])([)(2

2112K n s K n J

q Rb R X X R q Rb F ---'''-=--σσ （6） 分子是（1/J ）乘（4）中的W ，分母是1/（n －K ）乘（5）中的幂等二次型。所以，F 是两个除以其自由度的卡方变量的比率。如果它们是独立的，则F 的分布是F[J ，（n －K ）]，我们前边发现b 是独立于s 2分布的，所以条件是满足的。

我们也可以直接推导。利用（5）及M 是幂等的这一事实，我们可以把F 写为

)

/()]/([])/([/}/)({])([}/)({11K n M M J

b R R X X R b R F -'-'''-=--σεσεσβσβ （7）

由于

??

?

??=??? ??''=--σεσεσ

βT X X X R b R 1)()

(

F 统计量是)/(σε的两个二次型的比率，由于M )/(σε和T )/(σε都服从正态分布且它们的协方差TM 为0，所以二次型的向量都是独立的。F 的分子和分母都是独立随机向量

的函数，因而它们也是独立的。这就完成了证明。

消掉（6）中的两个σ2，剩下的是检验一个线性假设的F 统计量，

)

/(/)(])([)(11K n e e J q Rb R X X R q Rb F -'-'''-=--

J

q Rb R X X R s q Rb )

(])([)(112-'''-=

-- （8） 我们将检验统计量

J

q Rb R X X s R q Rb K n J F )

(}])([{)(],[112-'''-=

--- 和F 分布表中的临界值相比较，一个大的F 值是反对假设的证据。

注意：将wald 统计量中的2

σ用2

s 去替代，相应的就将J 维的卡方分布转换为维度为（J,n-K ）的F 分布。

第二节 参数带有约束的最小二乘估计 一、带有约束的最小二乘函数

在许多问题中，要求其中的未知参数β满足某特定的线性约束条件：R β=q ，这里R 是

J ×K 矩阵（J ＜K ），并假定它的秩为J 维向量，常常希望求β的估计β

?，使得 2

}

:{2

min ?ββ

ββX Y X Y q R -=-= （9）

满足条件（9）的称为β的具有线性约束R β=q 的最小二乘估计。

解β

?的问题实际上是在约束条件 R β=q

下求 ∑∑==???? ??-=-=n

i m

j j ij i x Y X Y f 12

12

ββ 的限制极值点问题。

这个问题的一个拉格朗日解可写作

)(2)()(*q R X y X y S -'+-'-=βλββ

解b *和λ将满足必要条件

02)(2**

='+-'-=??λβ

R Xb y X S 0)(2**

=-=??q Rb S λ

展开可以得到分块矩阵方程

??

????'=???????????

?'

'q y X b R R X X λ*0 或

Wd *=v

假定括号中的分块矩阵是非奇异的，约束最小二乘估计量

d *=W -1v

??

????=λ*b

where

???

?

?

?--=--------------11111111111111

)')'(()'()')'(()')'((')'()'()')'((')'()'(R X X R X X R R X X R R X X R R X X X X R R X X R R X X X X W

的解。此外，若X ′X 是非奇异的，则用分块逆公式可以得到b *和λ的显示解

)

(])([)()')'((')'()')'((')'(')'()')'((')'()(')'()')'((')'(')'()')'((')'(')'()')'((')'(')'(11111111111111111111111111*q Rb R X X R R X X b q R X X R R X X Rb R X X R R X X y X X X q R X X R R X X e Xb X X X R R X X R R X X y X X X q R X X R R X X y X X X R R X X R R X X y X X X b -''''-=+-=++-=+-=--------------------------

和

)(])([11q Rb R X X R -''=--λ

格林和西克斯（1991）表明b *的协方差矩阵简单地就是2

σ乘以W -1的左上块，在X ′X 是非奇异的通常情况下，再一次可以得到一个显性公式

1111212*)(])([)()(][-----'''''-'=X X R R X X R R X X X X b Var σσ，

这样，

-=][][*b Var b Var （一个非负定矩阵）

， Var[b *]的方差比Var[b]小的一个解释是约束条件提供了更多的信息价值。

二、对约束的检验的另一个方法

令**Xb y e -=，我们来计算新的离差平方和**

e e '。 )()(***b b X e b b X Xb y e --=---=

则新的离差平方和是

e e b b X X b b e e e e '≥-''-+'=')()(****

2

2~'k n e

e -χσ

2

)(2

*

*~'J k n e e --χσ

因为新的模型中参数的个数为k-J 个，J 个榆树条件是原模型中的J 个参数可以被其他k-J 个表示。

（此表达式中的中间项含有X ′e ，它是0）。这说明我们可以将一个约束检验基于拟合的损失。这个损失是，

)(])([)(11**

q Rb R X X R q Rb e e e e -'''-='-'-- 这出现在前边推导的F 统计量的分子上，我们得到统计量的另一个可选形式。 可选形式是

)

/(/)(],[**

K n e e J e e e e K n J F -''-'=

-

最后，以SST=2

)(y y -∑除F 的分子和分母，我们得到第三种形式，

)

/()1(/)(],[22*2K n R J R R K n J F ---=

-

由于两个模型的拟合之差直接体现在检验统计量中，这个形式具有一些直观吸引力。

[实例]对数变换生产函数

所有科布—道格拉斯模型的一般化是如下的对数变换模型，

εββββββ++++++=2

ln ln 2ln 2ln ln ln ln 62524321K

L K L K L Y （10）

无约束回归的结果在表1中给出。

表1 无约束回归的结果

回归标准误差 0.17994 残差平方和 0.67993 R 平方 0.95486 调整R 平方

0.94411

变量 系数 标准误差 t 值 常数项 0.944216 2.911 0.324 LnL 3.61363 1.548 2.334 LnK

－1.89311 1.016 －1.863 L 2

ln 21 －0.96406 0.7074 －1.363 K 2

ln 2

1 0.08529 0.2926 0.291 lnL ×lnK 0.31239 0.4389 0.71 系数估计量的估计协方差矩阵

常数项 lnL lnK Ln2L/2 Ln2K/2

lnL ×lnK

常数项 8.472 LnL －2.388 2.397 LnK

－0.3313 －1.231 1.033 L 2

ln 21 －0.08760 －0.6658 0.5231 0.5004 K 2

ln 2

1 0.233

2 0.03477 0.02637 0.1467 0.08562 lnL ×lnK 0.3635

0.1831

－0.2255

－0.2880

－0.1160 0.1927

考虑了约束条件0654===βββ的模型就可以得到科布一道格拉斯模型：

εβββ+++=K L Y ln ln ln 321 （11）

这是一个条件约束下的无条件的多元线性回归模型。就可以用一般线性回归的方法求解模型。假如我们通过有约束条件下的无条件的多元线性回归模型得到：

85163.0**

='e e ，而且n －K=21，则科布—道格拉斯模型假设的F 统计量是 768.121

/67993.03

/)67993.085163.0(]21,3[=-=

F

查自F 分布表的5%临界值是3.07，所以我们不能拒绝科布—道格拉斯模型是适当的这一假设。

考虑了约束条件0654===βββ和条件132=+ββ的模型就是满足规模效应的科布—道格拉斯生产函数。这个模型可以推导如下：

ε

ββεβββεβββ+-+=-∴+-++=+++=）ln (ln ln ln ln )1(ln ln ln ln 21221321K L L Y K L K L Y （12）

假如我们通过有约束条件下的无条件的多元线性回归模型得到：

89172.0**

='e e ，而且n －K=21，则科布—道格拉斯模型假设的F 统计量是 635.121

/67993.04

/)67993.089172.0(]21,4[=-=

F

查自F 分布表的5%临界值是2.85，所以我们不能拒绝科布—道格拉斯模型是规模效应的生产函数的这一假设。

第三节 结构变化与邹至庄检验

(Structure Change and Chou-Test)

一、

问题提出

我们经常碰到这样的问题。某项政策的出台及实施，其效果如何？不同地区或不同时期内，我们分别可以得到这两个地区或时期的观测值，我们的问题是：这两个地区或时期的情况是否不同，经济结构有无差异。

这类问题，被华人经济学家邹至庄用构造的F 检验解决了（1960年）。这样的F 检验的统计量，就称为邹至庄检验（Chou-Test ）。

二、问题的模型表述

设1122( ),( )Z Y Z Y 分别表示这两个时期的观测值，允许两个时期中系数不同的无约束回归是1111

2222

Y Z Y Z βεβε=+??

=+?，我们可以将其改写成一个回归方程

11

11222200

Y Z Y Z βεβε????????

=+ ? ??? ?????????

……（1） 即Y Z βε=+模型，其中Y=12Y Y ?? ???，Z=1200Z Z ?? ???，β=12ββ??

???

，ε=12εε?? ???。 上述问题就转换成检验012

112

::H H ββββ=≠的问题。

我们可以用两种方式来处理问题

一）用约束条件12ββ=，来检验。12ββ=是更一般约束条件R β=q 的一个特殊形式，其中R=(I,-I) 和 q=0。这个直接可以从基于Wald 统计量的带约束条件的F 检验得到。（请自己推导）。

例题：用约束条件下，F 检验推导出邹至庄检验的表达式： 解：在约束条件R β=q 下，F 检验

211()[()]()

(,)Rb q S R Z Z R Rb q F J n k J

--'''---=

。 而邹至庄检验时约束条件R β=q 的一种特殊形式，即R=(I,-I)，而q=0，也即等同于条件12ββ=。（有2k 个参数，并且是有k 个约束）。故

()21112'12

1111212'1222'1'

111211221()[()]()

(,2)()0()[(,)]()0() ()[()()]( =

Rb q S R Z Z R Rb q F k n n k k

I Z Z b b S I I b b I Z Z k b b S Z Z Z Z b b --------'''--+-=

????'--- ? ?-????='-+-2)

k

服从F （12,2k n n k +-）的分布。

另外，在考虑了约束条件21ββ=后，我们可以将模型（1）改写成一个无约束的

新的回归方程

??????+??????????????????=??????21

11212100εεββZ Z Y Y ， 即

??????+??

????=??????2112

1

21εεβZ Z Y Y (2)

即无约束的线性模型Y Z βε=+模型，其中Y=12Y Y ?? ???，Z=???

? ??21Z Z ，ββ=12ββ??

???，ε=12εε?? ???。 假如模型（2）的残差平方和是**

e e '，在假设条件12ββ=下， 我们可以得到F 统计量可更简单地表示为：

)

2/(/)(]2,[21**

21k n n e e k e e e e k n n k F -+''-'=-+。

二） 更直接、更容易的一个处理是将约束直接构造进模型中，若两个系数向量相同，则模型（1）就转换为：

111222Y Z Y Z εβε??????

=+ ? ? ???????

……（2） 由此我们推导出可以检验的邹至庄统计量Chou-Test 。 从模型（1）中，我们可以得到无约束最小二乘估计量是

1

'''1

'11

11111111'

''

1'2222222220()0

()0

()b Z Z Z Y Z Z Z Y b Z Z Z Y b Z Z Z Y Z Z Z Y ----??????????

''====

? ? ??? ??????????? 故

'1'11

1111'1'

222222'1'11

1111'1'222222'1'

1111'1'22220()0()0()0

()()0

0()Y Z

Z Z Z Y e Y Zb Y Z Z Z Z Y Y Z

Y Z Z Z Y Z Y Z Z Z Z Z Z Z I Z Z Z Z ------??

????=-=- ? ? ???????????????

=- ? ? ? ???????

?????=-

???1122112 Y e Y e Y M Y ?????= ? ? ? ?????

????

?

??

11'''''121112122()()Y Y e e Y Y M M Y Y M Y Y ????

'== ? ?????

则

2122

~(2)e e

n n k χσ

'+- (3)

对于有约束条件12ββ=限制的模型（2）

()1

111*''''

1212222111''''

11221222122()() () Z Z Y e I Z Z Z Z Z Z Y Z Y I Z Z Z Z Z Z Z Y Y M Y --?????????? ?=-? ? ? ? ?

???????????

??????=-+ ? ? ????????? ?

??

11*'*'''

''122212222()()Y Y e e Y Y M M Y Y M Y Y ????== ? ?????

则

*'*

2122

~()e e n n k χσ

+- (4)

11*'*''''122112322()()()Y Y e e e e Y Y M M Y Y M Y Y ????

'-=- ? ?????

问

*'*2

e e e e

σ'-服从何分布？

首先证明：310M M =

()()2211211211

11''''

11221211

2'1'11''''

1111112212'1'22222() =()()0

()0() M M M M M M M M M Z I Z Z Z Z Z Z M M Z Z Z Z Z Z Z Z Z Z Z Z I Z Z Z Z Z -----=-=-????-+?- ? ???????

????=-+- ?

? ? ????

???

()()1111''''''''

11221211221222 =()()

Z Z Z Z Z Z Z Z Z Z Z Z Z Z Z Z --????-++-+ ? ?????

= 故2112M M M M -+=而且211()0M M M -=

故21211212()()()(2)r M M r M r M n n k n n k k -=-=+--+-= 同样21()M M -是幂等矩阵 故*'*22

~()e e e e

k χσ

'-且与

2122

~(2)e e

n n k χσ

'+-

是独立的，所以

)

2/(/)(]2,[21**

21k n n e e k e e e e k n n k F -+''-'=

-+

这个就是邹至庄检验统计量（Chou-Test ）。

多元线性回归模型的各种检验方法.doc

对多元线性回归模型的各种检验方法 对于形如 u X X X Y k k +++++=ββββΛΛ22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验： 一、 对单个总体参数的假设检验：t 检验 在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0 H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。如果拒绝0H ，说明解释变量j X 对 被解释变量Y 具有显著的线性影响，估计值j β?才敢使 用；反之，说明解释变量j X 对被解释变量Y 不具有显 著的线性影响，估计值j β?对我们就没有意义。具体检验 方法如下： （1） 给定虚拟假设 0H ：j j a =β；

（2） 计算统计量 )?(?)?()(?j j j j j j Se a Se E t βββββ-=-= 的数值； 11?)?(++-==j j jj jj j C C Se 1T X)(X ，其中σβ （3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ； （4） 如果出现 2/αt t >的情况，检验结论为拒绝 0H ；反之，无法拒绝0H 。 t 检验方法的关键是统计量 )?(?j j j Se t βββ-=必须服从已 知的t 分布函数。什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）： （1） 随机抽样性。我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21ΛΛ=。这保证了误差u 自身的随机性，即无自相关性，

多元线性回归模型的案例分析

1. 表1列出了某地区家庭人均鸡肉年消费量Y 与家庭月平均收入X ，鸡肉价格P 1，猪肉价格P 2与牛肉价格P 3的相关数据。 年份 Y/千 克 X/ 元 P 1/(元/千克) P 2/(元/千克) P 3/(元/千克) 年份 Y/千克 X/元 P 1/(元/ 千克) P 2/(元/ 千克) P 3/(元/千克) 1980 2.78 397 4.22 5.07 7.83 1992 4.18 911 3.97 7.91 11.40 1981 2.99 413 3.81 5.20 7.92 1993 4.04 931 5.21 9.54 12.41 1982 2.98 439 4.03 5.40 7.92 1994 4.07 1021 4.89 9.42 12.76 1983 3.08 459 3.95 5.53 7.92 1995 4.01 1165 5.83 12.35 14.29 1984 3.12 492 3.73 5.47 7.74 1996 4.27 1349 5.79 12.99 14.36 1985 3.33 528 3.81 6.37 8.02 1997 4.41 1449 5.67 11.76 13.92 1986 3.56 560 3.93 6.98 8.04 1998 4.67 1575 6.37 13.09 16.55 1987 3.64 624 3.78 6.59 8.39 1999 5.06 1759 6.16 12.98 20.33 1988 3.67 666 3.84 6.45 8.55 2000 5.01 1994 5.89 12.80 21.96 1989 3.84 717 4.01 7.00 9.37 2001 5.17 2258 6.64 14.10 22.16 1990 4.04 768 3.86 7.32 10.61 2002 5.29 2478 7.04 16.82 23.26 1991 4.03 843 3.98 6.78 10.48 （1） 求出该地区关于家庭鸡肉消费需求的如下模型： 01213243ln ln ln ln ln Y X P P P u βββββ=+++++ （2） 请分析，鸡肉的家庭消费需求是否受猪肉及牛肉价格的影响。 先做回归分析，过程如下： 输出结果如下：

多元线性回归模型案例(DOC)

多元线性回归模型案例分析 ——中国人口自然增长分析一·研究目的要求 中国从1971年开始全面开展了计划生育,使中国总和生育率很快从1970年的5.8降到1980年2.24,接近世代更替水平。此后，人口自然增长率（即人口的生育率）很大程度上与经济的发展等各方面的因素相联系，与经济生活息息相关，为了研究此后影响中国人口自然增长的主要原因，分析全国人口增长规律，与猜测中国未来的增长趋势，需要建立计量经济学模型。 影响中国人口自然增长率的因素有很多，但据分析主要因素可能有：（1）从宏观经济上看，经济整体增长是人口自然增长的基本源泉；（2）居民消费水平，它的高低可能会间接影响人口增长率。(3)文化程度，由于教育年限的高低，相应会转变人的传统观念，可能会间接影响人口自然增长率（4）人口分布，非农业与农业人口的比率也会对人口增长率有相应的影响。 二·模型设定 为了全面反映中国“人口自然增长率”的全貌，选择人口增长率作为被解释变量，以反映中国人口的增长；选择“国名收入”及“人均GDP”作为经济整体增长的代表；选择“居民消费价格指数增长率”作为居民消费水平的代表。暂不考虑文化程度及人口分布的影响。 从《中国统计年鉴》收集到以下数据（见表1）： 表1 中国人口增长率及相关数据

设定的线性回归模型为： 1222334t t t t t Y X X X u ββββ=++++ 三、估计参数 利用EViews 估计模型的参数，方法是： 1、建立工作文件：启动EViews ，点击File\New\Workfile ，在对 话框“Workfile Range ”。在“Workfile frequency ”中选择“Annual ” (年度)，并在“Start date ”中输入开始时间“1988”，在“end date ”中输入最后时间“2005”，点击“ok ”，出现“Workfile UNTITLED ”工作框。其中已有变量：“c ”—截距项 “resid ”—剩余项。在“Objects ”菜单中点击“New Objects”，在“New Objects”对话框中选“Group”，并在“Name for Objects”上定义文件名，点击“OK ”出现数据编辑窗口。 年份 人口自然增长率 （%。） 国民总收入（亿元） 居民消费价格指数增长 率（CPI ）% 人均GDP （元） 1988 15.73 15037 18.8 1366 1989 15.04 17001 18 1519 1990 14.39 18718 3.1 1644 1991 12.98 21826 3.4 1893 1992 11.6 26937 6.4 2311 1993 11.45 35260 14.7 2998 1994 11.21 48108 24.1 4044 1995 10.55 59811 17.1 5046 1996 10.42 70142 8.3 5846 1997 10.06 78061 2.8 6420 1998 9.14 83024 -0.8 6796 1999 8.18 88479 -1.4 7159 2000 7.58 98000 0.4 7858 2001 6.95 108068 0.7 8622 2002 6.45 119096 -0.8 9398 2003 6.01 135174 1.2 10542 2004 5.87 159587 3.9 12336 2005 5.89 184089 1.8 14040 2006 5.38 213132 1.5 16024

经典线性回归模型

2 经典线性回归模型 §2.1 概念与记号 1．线性回归模型是用来描述一个特定变量y 与其它一些变量x 1，…，x p 之间的关系。 2． 称特定变量y 为因变量 （dependent variable ）、 被解释变量 （explained variable ）、 响应变量（response variable ）、被预测变量（predicted variable ）、回归子 （regressand ）。 3．称与特定变量相关的其它一些变量x 1，…，x p 为自变量（independent variable ）、 解释变量（explanatory variable ）、控制变量（control variable ）、预测变量 （predictor variable ）、回归量（regressor ）、协变量（covariate ）。 4．假定我们观测到上述这些变量的n 组值：( ) ip i i x x y , , , 1 L (i=1，…，n)。称 这n 组值为样本（sample ）或数据（data ）。 §2.2 经典线性回归模型的假定 假定 2.1（线性性(linearity)） i ip p i i x x y e b b b + + + + = L 1 1 0 (i=1，…，n)。 （2.1） 称方程（2.1）为因变量y 对自变量x 1，…，x p 的线性回归方程（linear regression equation ），其中 ( ) p ， k k , , 1 0 L = b 是待估的未知参数（unknown parameters ）， ( ) n i i , , 1 L = e 是满足一定限制条件的无法观测的误差项（unobserved error term ） 。称自 变量的函数 ip p i x x b b b + + + L 1 1 0 为回归函数（regression function ）或简称为回归 （regression ）。称 0 b 为回归的截距(ntercept)，称 ( ) p k k , , 1 L = b 为自变量的回归系数 （regression coefficients ） 。某个自变量的回归系数表示在其它条件保持不变的情况下，

多元线性回归模型实验报告 计量经济学

实验报告 课程名称金融计量学 实验项目名称多元线性回归模型班级与班级代码 实验室名称（或课室） 专业 任课教师xxx 学号：xxx 姓名：xxx 实验日期：2012年5 月3日 广东商学院教务处制

姓名xxx 实验报告成绩 评语： 指导教师（签名） 年月日说明：指导教师评分后，实验报告交院（系）办公室保存

多元线性回归模型 一、实验目的 通过上机实验,使学生能够使用 Eviews 软件估计可化为线性回归模型的非线性模型，并对线性回归模型的参数线性约束条件进行检验。二、实验内容 （一）根据中国某年按行业分的全部制造业国有企业及规模以上制造业非国有企业的工业总产值Y，资产合计K及职工人数L进行回归分析。（二）掌握可化为线性多元非线性回归模型的估计和多元线性回归模型的线性约束条件的检验方法 （三）根据实验结果判断中国该年制造业总体的规模报酬状态如何？三、实验步骤 （一）收集数据 下表列示出来中国某年按行业分的全部制造业国有企业及规模以上制造业非国有企业的工业总产值Y，资产合计K及职工人数L。 序号工业总产值Y （亿元） 资产合计K （亿元） 职工人数L （万人）序号 工业总产 值Y（亿元） 资产合计K （亿元） 职工人数L （万人） 1 3722.7 3078.2 2 11 3 17 812.7 1118.81 43 2 1442.52 1684.4 3 67 18 1899.7 2052.16 61 3 1752.37 2742.77 8 4 19 3692.8 5 6113.11 240 4 1451.29 1973.82 27 20 4732.9 9228.2 5 222 5 5149.3 5917.01 327 21 2180.23 2866.65 80 6 2291.16 1758.7 7 120 22 2539.76 2545.63 96 7 1345.17 939.1 58 23 3046.95 4787.9 222 8 656.77 694.94 31 24 2192.63 3255.29 163 9 370.18 363.48 16 25 5364.83 8129.68 244 10 1590.36 2511.99 66 26 4834.68 5260.2 145 11 616.71 973.73 58 27 7549.58 7518.79 138 12 617.94 516.01 28 28 867.91 984.52 46 13 4429.19 3785.91 61 29 4611.39 18626.94 218 14 5749.02 8688.03 254 30 170.3 610.91 19 15 1781.37 2798.9 83 31 325.53 1523.19 45 16 1243.07 1808.44 33 表1

非线性回归分析

SPSS—非线性回归(模型表达式)案例解析 2011-11-16 10:56 由简单到复杂，人生有下坡就必有上坡，有低潮就必有高潮的迭起，随着SPSS 的深入学习，已经逐渐开始走向复杂，今天跟大家交流一下，SPSS非线性回归，希望大家能够指点一二！ 非线性回归过程是用来建立因变量与一组自变量之间的非线性关系，它不像线性模型那样有众多的假设条件，可以在自变量和因变量之间建立任何形式的模型非线性，能够通过变量转换成为线性模型——称之为本质线性模型，转换后的模型，用线性回归的方式处理转换后的模型，有的非线性模型并不能够通过变量转换为线性模型，我们称之为：本质非线性模型 还是以“销售量”和“广告费用”这个样本为例，进行研究，前面已经研究得出：“二次曲线模型”比“线性模型”能够更好的拟合“销售量随着广告费用的增加而呈现的趋势变化”，那么“二次曲线”会不会是最佳模型呢？ 答案是否定的，因为“非线性模型”能够更好的拟合“销售量随着广告费用的增加而呈现的变化趋势” 下面我们开始研究： 第一步：非线性模型那么多，我们应该选择“哪一个模型呢？” 1：绘制图形，根据图形的变化趋势结合自己的经验判断，选择合适的模型 点击“图形”—图表构建程序—进入如下所示界面：

点击确定按钮，得到如下结果：

放眼望去, 图形的变化趋势，其实是一条曲线，这条曲线更倾向于"S" 型曲线，我们来验证一下，看“二次曲线”和“S曲线”相比，两者哪一个的拟合度更高！ 点击“分析—回归—曲线估计——进入如下界面

在“模型”选项中，勾选”二次项“和”S" 两个模型，点击确定，得到如下结果： 通过“二次”和“S “ 两个模型的对比，可以看出S 模型的拟合度明显高于

一元线性回归模型案例分析

一元线性回归模型案例分析 一、研究的目的要求 居民消费在社会经济的持续发展中有着重要的作用。居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长，而且这也是人民生活水平的具体体现。改革开放以来随着中国经济的快速发展，人民生活水平不断提高，居民的消费水平也不断增长。但是在看到这个整体趋势的同时，还应看到全国各地区经济发展速度不同，居民消费水平也有明显差异。例如，2002年全国城市居民家庭平均每人每年消费支出为6029.88元, 最低的黑龙江省仅为人均4462.08元，最高的上海市达人均10464元，上海是黑龙江的2.35倍。为了研究全国居民消费水平及其变动的原因，需要作具体的分析。影响各地区居民消费支出有明显差异的因素可能很多，例如，居民的收入水平、就业状况、零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的计量经济模型去研究。 二、模型设定 我们研究的对象是各地区居民消费的差异。居民消费可分为城市居民消费和农村居民消费，由于各地区的城市与农村人口比例及经济结构有较大差异，最具有直接对比可比性的是城市居民消费。而且，由于各地区人口和经济总量不同，只能用“城市居民每人每年的平均消费支出”来比较，而这正是可从统计年鉴中获得数据的变量。所以模型的被解释变量Y 选定为“城市居民每人每年的平均消费支出”。 因为研究的目的是各地区城市居民消费的差异，并不是城市居民消费在不同时间的变动，所以应选择同一时期各地区城市居民的消费支出来建立模型。因此建立的是2002年截面数据模型。 影响各地区城市居民人均消费支出有明显差异的因素有多种，但从理论和经验分析，最主要的影响因素应是居民收入，其他因素虽然对居民消费也有影响，但有的不易取得数据，如“居民财产”和“购物环境”；有的与居民收入可能高度相关，如“就业状况”、“居民财产”；还有的因素在运用截面数据时在地区间的差异并不大，如“零售物价指数”、“利率”。因此这些其他因素可以不列入模型，即便它们对居民消费有某些影响也可归入随即扰动项中。为了与“城市居民人均消费支出”相对应，选择在统计年鉴中可以获得的“城市居民每人每年可支配收入”作为解释变量X。 从2002年《中国统计年鉴》中得到表2.5的数据: 表2.52002年中国各地区城市居民人均年消费支出和可支配收入

中级计量经济学讲义_第六章带有线性约束的多元线性回归模型及其假设检验

第六章 带有线性约束的多元线性回归模型及其假设检验 在本章中，继续讨论第五章的模型，但新的模型中，参数β满足J 个线性约束集，R β=q ，矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的，我们考虑不是过度约束的情况，因此，J ＜K 。 带有线性约束的参数的假设检验，我们可以用两种方法来处理。第一个方法，我们按照无约束条件求出一组参数估计后，然后我们对求出的这组参数是否满足假设所暗示的约束，进行检验，我们在本章的第一节中讨论。 第二个方法是我们把参数所满足的线性约束和模型一起考虑，求出参数的最小二乘解，尔后再作检验，后者就是参数带有约束的最小二乘估计方法，我们在本章的第二节中讨论。 第一节 线性约束的检验 从线性回归模型开始， εβ+=X y （1） 我们考虑具有如下形式的一组线性约束， J K JK J J K K K K q r r r q r r r q r r r =+++=+++=+++βββββββββ 22112 222212********* 这些可以用矩阵改写成一个方程 q R =β （2） 作为我们的假设条件0H 。 R 中每一行都是一个约束中的系数。矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的。因此，J 一定要小于或等于K 。R 的各行必须是线性无关的，虽然J =K 的情况并不违反条件，但其唯一决定了β，这样的约束没有意义，我们不考虑这种情况。 给定最小二乘估计量b ，我们的兴趣集中于“差异”向量d=Rb －q 。d 精确等于0是不可能的事件（因为其概率是0），统计问题是d 对0的离差是否可归因于抽样误差或它是否是显著的。

案例分析报告(一元线性回归模型)

案例分析报告（2014——2015学年第一学期） 课程名称：预测与决策 专业班级：电子商务1202 学号： 2204120202 学生姓名：陈维维 2014 年 11月

案例分析（一元线性回归模型） 我国城镇居民家庭人均消费支出预测 一、研究目的与要求 居民消费在社会经济的持续发展中有着重要的作用，居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长，而且这也是人民生活水平的具体体现。从理论角度讲，消费需求的具体内容主要体现在消费结构上，要增加居民消费，就要从研究居民消费结构入手，只有了解居民消费结构变化的趋势和规律，掌握消费需求的热点和发展方向，才能为消费者提供良好的政策环境，引导消费者合理扩大消费，才能促进产业结构调整与消费结构优化升级相协调，才能推动国民经济平稳、健康发展。例如，2008年全国城镇居民家庭平均每人每年消费支出为11242.85元，最低的青海省仅为人均8192.56元，最高的上海市达人均19397.89元，上海是黑龙江的2.37倍。为了研究全国居民消费水平及其变动的原因，需要作具体的分析。影响各地区居民消费支出有明显差异的因素可能很多，例如，零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的计量经济模型去研究。 二、模型设定 我研究的对象是各地区居民消费的差异。居民消费可分为城镇居民消费和农村居民消费，由于各地区的城镇与农村人口比例及经济结构有较大差异，最具有直接对比可比性的是城市居民消费。而且，由于各地区人口和经济总量不同，只能用“城镇居民每人每年的平均消费支出”来比较，而这正是可从统计年鉴中获得数据的变量。 所以模型的被解释变量Y选定为“城镇居民每人每年的平均消费支出”。 因为研究的目的是各地区城镇居民消费的差异，并不是城镇居民消费在不同时间的变动，所以应选择同一时期各地区城镇居民的消费支出来建立模

经典线性回归模型的诊断与修正

经典线性回归模型的诊断与修正下表为最近20年我国全社会固定资产投资与GDP的统计数据：1 年份国内生产总值（亿元）GDP 全社会固定资产投资（亿元）PI 1996 71813.6 22913.5 1997 79715 24941.1 1998 85195.5 28406.2 1999 90564.4 29854.7 2000 100280.1 32917.7 2001 110863.1 37213.49 2002 121717.4 43499.91 2003 137422 55566.61 2004 161840.2 70477.43 2005 187318.9 88773.61 2006 219438.5 109998.16 2007 270232.3 137323.94 2008 319515.5 172828.4 2009 349081.4 224598.77 2010 413030.3 251683.77 2011 489300.6 311485.13 2012 540367.4 374694.74 2013 595244.4 446294.09 1数据来源于国家统计局网站年度数据

1、普通最小二乘法回归结果如下： 方程初步估计为： GDP=75906.54+1.1754PI (32.351) R2=0.9822F=1046.599 DW=0.3653 2、异方差的检验与修正 首先，用图示检验法，生成残差平方和与解释变量PI的散点图如下：

从上图可以看出，残差平方和与解释变量的散点图主要分布在图形的下半部分，有随PI的变动增大的趋势，因此，模型可能存在异方差。但是否确定存在异方差，还需作进一步的验证。 G-Q检验如下： 去除序列中间约1/4的部分后，1996-2003年的OLS估计结果如下所示：

第七章 带有线性约束的多元线性回归模型及其假设检验(金融计量-浙大 蒋岳祥)

第七章 带有线性约束的多元线性回归模型及其假设检验 在本章中，继续讨论第五章的模型，但新的模型中，参数β满足J 个线性约束集，R β=q ，矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的，我们考虑不是过度约束的情况，因此，J ＜K 。 带有线性约束的参数的假设检验，我们可以用两种方法来处理。第一个方法，我们按照无约束条件求出一组参数估计后，然后我们对求出的这组参数是否满足假设所暗示的约束，进行检验，我们在本章的第一节中讨论。 第二个方法是我们把参数所满足的线性约束和模型一起考虑，求出参数的最小二乘解，尔后再作检验，后者就是参数带有约束的最小二乘估计方法，我们在本章的第二节中讨论。 第一节 线性约束的检验 从线性回归模型开始， εβ+=X y （1） 我们考虑具有如下形式的一组线性约束， J K JK J J K K K K q r r r q r r r q r r r =+++=+++=+++βββββββββ 22112 22221211 1212111 这些可以用矩阵改写成一个方程 q R =β （2） 作为我们的假设条件0H 。 R 中每一行都是一个约束中的系数。矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的。因此，J 一定要小于或等于K 。R 的各行必须是线性无关的，虽然J =K 的情况并不违反条件，但其唯一决定了β，这样的约束没有意义，我们不考虑这种情况。 给定最小二乘估计量b ，我们的兴趣集中于“差异”向量d=Rb －q 。d 精确等于0是不可能的事件（因为其概率是0），统计问题是d 对0的离差是否可归因于抽样误差或它是否是显著的。

线性回归模型的研究毕业论文

线性回归模型的研究毕业论文 1 引言 回归分析最早是由19世纪末期高尔顿（Sir Francis Galton）发展的。1855年，他发表了一篇文章名为“遗传的身高向平均数方向的回归”，分析父母与其孩子之间身高的关系，发现父母的身高越高或的其孩子也越高，反之则越矮。他把儿子跟父母身高这种现象拟合成一种线性关系。但是他还发现了个有趣的现象，高个子的人生出来的儿子往往比他父亲矮一点更趋向于平均身高，矮个子的人生出来的儿子通常比他父亲高一点也趋向于平均身高。高尔顿选用“回归”一词，把这一现象叫做“向平均数方向的回归”。于是“线形回归”的术语被沿用下来了。 回归分析中，当研究的因果关系只涉及因变量和一个自变量时，叫做一元回归分析；当研究的因果关系涉及因变量和两个或两个以上自变量时，叫做多元回归分析。此外，回归分析中，又依据描述自变量与因变量之间因果关系的函数表达式是线性的还是非线性的，分为线性回归分析和非线性回归分析。按照参数估计方法可以分为主成分回归、偏最小二乘回归、和岭回归。 一般采用线性回归分析，由自变量和规定因变量来确定变量之间的因果关系，从而建立线性回归模型。模型的各个参数可以根据实测数据解。接着评价回归模型能否够很好的拟合实际数据；如果不能够很好的拟合，则重新拟合；如果能很好的拟合，就可以根据自变量进行下一步推测。 回归分析是重要的统计推断方法。在实际应用中，医学、农业、生物、林业、金融、管理、经济、社会等诸多方面随着科学的发展都需要运用到这个方法。从而推动了回归分析的快速发展。 2 回归分析的概述 2.1 回归分析的定义 回归分析是应用极其广泛的数据分析方法之一。回归分析（regression analysis)是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。 2.2 回归分析的主要容

案例分析 一元线性回归模型

案例分析报告 （2014——2015学年第一学期） 课程名称：预测与决策 专业班级：电子商务1202 学号： 2204120202 学生姓名：陈维维 2014 年 11月 案例分析（一元线性回归模型） 我国城镇居民家庭人均消费支出预测 一、研究目的与要求 居民消费在社会经济的持续发展中有着重要的作用，居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长，而且这也是人民生活水平的具体体现。从理论角度讲，消费需求的具体内容主要体现在消费结构上，要增加居民消费，就要从研究居民消费结构入手，只有了解居民消费结构变化的趋势和规律，掌握消费需求的热点和发展方向，才能为消费者提供良好的政策环境，引导消费者合理扩大消费，才能促进产业结构调整与消费结构优化升级相协调，才能推动国民经济平稳、健康发展。例如，2008年全国城镇居民家庭平均每人每年消费支出为11242.85元，?最低的青海省仅为人均8192.56元，最高的上海市达人均19397.89元，上海是黑龙江的2.37倍。为了研究全国居民消费水平及其变动的原因，需要作具体的分析。影响各地区居民消费支出有明显差异的因素可能很多，例如，零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的计量经济模型去研究。 二、模型设定?

我研究的对象是各地区居民消费的差异。居民消费可分为城镇居民消费和农村居民消费，由于各地区的城镇与农村人口比例及经济结构有较大差异，最具有直接对比可比性的是城市居民消费。而且，由于各地区人口和经济总量不同，只能用“城镇居民每人每年的平均消费支出”来比较，而这正是可从统计年鉴中获得数据的变量。 所以模型的被解释变量Y选定为“城镇居民每人每年的平均消费支出”。 因为研究的目的是各地区城镇居民消费的差异，并不是城镇居民消费在不同时间的变动，所以应选择同一时期各地区城镇居民的消费支出来建立模型。因此建立的是2008年截面数据模型。影响各地区城镇居民人均消费支出有明显差异的因素有多种，但从理论和经验分析，最主要的影响因素应是居民收入，其他因素虽然对居民消费也有影响，但有的不易取得数据，如“居民财产”和“购物环境”；有的与居民收入可能高度相关，如“就业状况”、“居民财产”；还有的因素在运用截面数据时在地区间的差异并不大，如“零售物价指数”、“利率”。因此这些其他因素可以不列入模型，即便它们对居民消费有某些影响也可归入随即扰动项中。 为了与“城镇居民人均消费支出”相对应，选择在统计年鉴中可以获得的“城市居民每人每年可支配收入”作为解释变量X。 以下是2008年各地区城镇居民人均年消费支出和可支配收入表

多元线性回归模型案例

我国农民收入影响因素的回归分析 本文力图应用适当的多元线性回归模型,对有关农民收入的历史数据和现状进行分析,探讨影响农民收入的主要因素,并在此基础上对如何增加农民收入提出相应的政策建议。?农民收入水平的度量常采用人均纯收入指标。影响农民收入增长的因素是多方面的，既有结构性矛盾因素，又有体制性障碍因素。但可以归纳为以下几个方面：一是农产品收购价格水平。二是农业剩余劳动力转移水平。三是城市化、工业化水平。四是农业产业结构状况。五是农业投入水平。考虑到复杂性和可行性，所以对农业投入与农民收入，本文暂不作讨论。因此，以全国为例，把农民收入与各影响因素关系进行线性回归分析，并建立数学模型。 一、计量经济模型分析 (一)、数据搜集 根据以上分析，我们在影响农民收入因素中引入7个解释变量。即：2x -财政用于农业的支出的比重，3x -第二、三产业从业人数占全社会从业人数的比重，4x -非农村人口比重，5x -乡村从业人员占农村人口的比重，6x -农业总产值占农林牧总产值的比重，7x -农作物播种面积，8x —农村用电量。

资料来源《中国统计年鉴2006》。 (二)、计量经济学模型建立 我们设定模型为下面所示的形式： 利用Eviews 软件进行最小二乘估计，估计结果如下表所示： DependentVariable:Y Method:LeastSquares Sample: Includedobservations:19 Variable Coefficient t-Statistic Prob. C X1 X3 X4 X5 X6 X7 X8 R-squared Meandependentvar AdjustedR-squared 表1最小二乘估计结果 回归分析报告为： () ()()()()()()()()()()()()()()() 2345678 2? -1102.373-6.6354X +18.2294X +2.4300X -16.2374X -2.1552X +0.0100X +0.0634X 375.83 3.7813 2.066618.37034 5.8941 2.77080.002330.02128 -2.933 1.7558.820900.20316 2.7550.778 4.27881 2.97930.99582i Y SE t R ===---=230.99316519 1.99327374.66 R Df DW F ====二、计量经济学检验 (一)、多重共线性的检验及修正 ①、检验多重共线性 (a)、直观法 从“表1最小二乘估计结果”中可以看出，虽然模型的整体拟合的很好，但是x4x6

线性回归模型的研究毕业论文

毕业论文声明 本人郑重声明： 1．此毕业论文是本人在指导教师指导下独立进行研究取得的成果。除了特别加以标注地方外，本文不包含他人或其它机构已经发表或撰写过的研究成果。对本文研究做出重要贡献的个人与集体均已在文中作了明确标明。本人完全意识到本声明的法律结果由本人承担。 2．本人完全了解学校、学院有关保留、使用学位论文的规定，同意学校与学院保留并向国家有关部门或机构送交此论文的复印件和电子版，允许此文被查阅和借阅。本人授权大学学院可以将此文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本文。 3．若在大学学院毕业论文审查小组复审中，发现本文有抄袭，一切后果均由本人承担，与毕业论文指导老师无关。 4.本人所呈交的毕业论文，是在指导老师的指导下独立进行研究所取得的成果。论文中凡引用他人已经发布或未发表的成果、数据、观点等，均已明确注明出处。论文中已经注明引用的内容外，不包含任何其他个人或集体已经发表或撰写过的研究成果。对本文的研究成果做出重要贡献的个人和集体，均已在论文中已明确的方式标明。 学位论文作者（签名）： 年月

关于毕业论文使用授权的声明 本人在指导老师的指导下所完成的论文及相关的资料（包括图纸、实验记录、原始数据、实物照片、图片、录音带、设计手稿等），知识产权归属华北电力大学。本人完全了解大学有关保存，使用毕业论文的规定。同意学校保存或向国家有关部门或机构送交论文的纸质版或电子版，允许论文被查阅或借阅。本人授权大学可以将本毕业论文的全部或部分内容编入有关数据库进行检索，可以采用任何复制手段保存或编汇本毕业论文。如果发表相关成果，一定征得指导教师同意，且第一署名单位为大学。本人毕业后使用毕业论文或与该论文直接相关的学术论文或成果时，第一署名单位仍然为大学。本人完全了解大学关于收集、保存、使用学位论文的规定，同意如下各项内容：按照学校要求提交学位论文的印刷本和电子版本；学校有权保存学位论文的印刷本和电子版，并采用影印、缩印、扫描、数字化或其它手段保存或汇编本学位论文；学校有权提供目录检索以及提供本学位论文全文或者部分的阅览服务；学校有权按有关规定向国家有关部门或者机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权大学可以将本学位论文的全部或部分内容编入学校有关数据 库和收录到《中国学位论文全文数据库》进行信息服务。在不以赢利为目的的前提下，学校可以适当复制论文的部分或全部内容用于学术活动。 论文作者签名：日期： 指导教师签名：日期：

(完整版)多元线性回归模型公式

二、多元线性回归模型 在多要素的地理环境系统中，多个（多于两个）要素之间也存在着相互影响、相互关联的情况。因此，多元地理回归模型更带有普遍性的意义。 （一）多元线性回归模型的建立 假设某一因变量y 受k 个自变量k x x x ,...,,21的影响，其n 组观测值为（ka a a a x x x y ,...,,,21）， n a ,...,2,1=。那么，多元线性回归模型的结构形式为： a ka k a a a x x x y εββββ+++++=...22110（3.2.11） 式中： k βββ,...,1,0为待定参数； a ε为随机变量。 如果k b b b ,...,,10分别为k ββββ...,,,210的拟合值，则回归方程为 ?=k k x b x b x b b ++++...22110（3.2.12） 式中： 0b 为常数； k b b b ,...,,21称为偏回归系数。 偏回归系数i b （k i ,...,2,1=）的意义是，当其他自变量j x （i j ≠）都固定时，自变量i x 每变化一个单位而使因变量y 平均改变的数值。 根据最小二乘法原理，i β（k i ,...,2,1,0=）的估计值i b （k i ,...,2,1,0=）应该使 ()[]min (2) 1 2211012 →++++-=??? ??-=∑∑==∧ n a ka k a a a n a a a x b x b x b b y y y Q （3.2.13） 有求极值的必要条件得 ???????==??? ??--=??=??? ??--=??∑∑=∧=∧n a ja a a j n a a a k j x y y b Q y y b Q 110) ,...,2,1(0202（3.2.14） 将方程组（3.2.14）式展开整理后得：

线性回归模型

线性回归模型 1.回归分析 回归分析研究的主要对象是客观事物变量之间的统计关系，它是建立在对客观事物进行大量试验和观察的基础上，用来寻找隐藏在那些看上去是不确定的现象中的统计规律性的方法。回归分析方法是通过建立模型研究变量间相互关系的密切程度、结构状态及进行模型预测的一种有效工具。 2.回归模型的一般形式 如果变量x_1,x_2,…,x_p与随机变量y之间存在着相关关系，通常就意味着每当x_1,x_2,…,x_p取定值后，y便有相应的概率分布与之对应。随机变量y与相关变量x_1,x_2,…,x_p之间的概率模型为 y = f(x_1, x_2,…,x_p) + ε（1） f(x_1, x_2,…,x_p)为变量x_1,x_2,…,x_p的确定性关系，ε为随机误差项。由于客观经济现象是错综复杂的，一种经济现象很难用有限个因素来准确说明，随机误差项可以概括表示由于人们的认识以及其他客观原因的局限而没有考虑的种种偶然因素。 当概率模型（1）式中回归函数为线性函数时，即有 y = beta_0 + beta_1*x_1 + beta_2*x_2 + …+ beta_p*x_p +ε (2) 其中，beta_0，…,beta_p为未知参数，常称它们为回归系数。当变量x个数为1时，为简单线性回归模型，当变量x个数大于1时，为多元线性回归模型。 3.回归建模的过程 在实际问题的回归分析中，模型的建立和分析有几个重要的阶段，以经济模型的建立为例：

（1）根据研究的目的设置指标变量 回归分析模型主要是揭示事物间相关变量的数量关系。首先要根据所研究问题的目的设置因变量y，然后再选取与y有关的一些变量作为自变量。通常情况下，我们希望因变量与自变量之间具有因果关系。尤其是在研究某种经济活动或经济现象时，必须根据具体的经济现象的研究目的，利用经济学理论，从定性角度来确定某种经济问题中各因素之间的因果关系。（2）收集、整理统计数据 回归模型的建立是基于回归变量的样本统计数据。当确定好回归模型的变量之后，就要对这些变量收集、整理统计数据。数据的收集是建立经济问题回归模型的重要一环，是一项基础性工作，样本数据的质量如何，对回归模型的水平有至关重要的影响。 （3）确定理论回归模型的数学形式 当收集到所设置的变量的数据之后，就要确定适当的数学形式来描述这些变量之间的关系。绘制变量y_i与x_i（i = 1,2,…,n）的样本散点图是选择数学模型形式的重要手段。一般我们把（x_i,y_i）所对应的点在坐标系上画出来，观察散点图的分布状况。如果n个样本点大致分布在一条直线的周围，可考虑用线性回归模型去拟合这条直线。 （4）模型参数的估计 回归理论模型确定之后，利用收集、整理的样本数据对模型的未知参数给出估计是回归分析的重要内容。未知参数的估计方法最常用的是普通最小二乘法。普通最小二乘法通过最小化模型的残差平方和而得到参数的估计值。即 Min RSS = ∑（y_i – hat(y_i）)^2 = 其中，hat(y_i)为因变量估计值，hat(beta_i)为参数估计值。 （5）模型的检验与修改 当模型的未知参数估计出来后，就初步建立了一个回归模型。建立回归模型的目的是应用它来研究经济问题，但如果直接用这个模型去做预测、控制和分析，是不够慎重的。因为这个模型是否真正揭示了被解释变量与解释变量之间的关系，必须通过对模型的检验才能决定。统计检验通常是对回归方程的显著性检验，以及回归系数的显著性检验，还有拟合优度的检验，随机误差项的序列相关检验，异方差性检验，解释变量的多重共线性检验等。 如果一个回归模型没有通过某种统计检验，或者通过了统计检验而没有合理的经济意义，就需要对回归模型进行修改。 （6）回归模型的运用 当一个经济问题的回归模型通过了各种统计检验，且具有合理的经济意义时，就可以运用这个模型来进一步研究经济问题。例如，经济变量的因素分析。应用回归模型对经济变量之间的关系作出了度量，从模型的回归系数可发现经济变量的结构性关系，给出相关评价的一些量化依据。 在回归模型的运用中，应将定性分析和定量分析有机结合。这是因为数理统计方法只是从事物的数量表面去研究问题，不涉及事物的规定性。单纯的表面上的数量关系是否反映事物的本质这本质究竟如何必须依靠专门学科的研究才能下定论。 Lasso 在多元线性回归中，当变量x_1,x_2,…,x_3之间有较强的线性相关性，即解释变量间出现严重的多重共线性。这种情况下，用普通最小二乘法估计模型参数，往往参数估计方差太大，使普通最小二乘的效果变得很不理想。为了解决这一问题，可以采用子集选择、压缩估计或降维法，Lasso即为压缩估计的一种。Lasso可以将一些增加了模型复杂性但与模型无关的

SPSS线性回归分析案例

回归分析 实验内容：基于居民消费性支出与居民可支配收入的简单线性回归分析 【研究目的】 居民消费在社会经济的持续发展中有着重要的作用。影响各地区居民消费支出的因素很多，例如居民的收入水平、商品价格水平、收入分配状况、消费者偏好、家庭财产状况、消费信贷状况、消费者年龄构成、社会保障制度、风俗习惯等等。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的经济模型去研究。 【模型设定】 : 我们研究的对象是各地区居民消费的差异。由于各地区的城市与农村人口比例及经济结构有较大差异，现选用城镇居民消费进行比较。模型中被解释变量Y选定为“城市居民每人每年的平均消费支出”。从理论和经验分析，影响居民消费水平的最主要因素是居民的可支配收入，故可以选用“城市居民每人每年可支配收入”作为解释变量X，选取2010年截面数据。 1、实验数据 表1： —

2010年中国各地区城市居民人均年消费支出和可支配收入

| 数据来源：《中国统计年鉴》2010年 2、实验过程 作城市居民家庭平均每人每年消费支出(Y)和城市居民人均年可支配收入(X)的散点图，如图1：

表2 模型汇总b — 模型 R R方调整R方标准估计的误差 - 1 .965a.932.930 ~ a.预测变量:(常量),可支配收入X（元）。 b.因变量:消费性支出Y(元) 表3 相关性 、 消费性支出Y (元) 可支配收入X（元） Pearson相关 性消费性支出Y(元)& .965 ！ 从散点图可以看出居民家庭平均每人每年消费支出(Y)和城市居民人均年可支配收入(X)大体呈现为线性关系，所以建立如下线性模型：Y=a+bX

多元线性回归模型

引子：中国汽车的保有量会超过1.4亿辆吗？ 中国经济的快速发展，居民收入不断增加，数以百万计的中国人开始得以实现拥有汽车的梦想，中国也成为世界上成长最快的汽车市场。 中国交通部副部长在“中国交通可持续发展论坛”上作出预测：“2020年，中国的民用汽车保有量将比2003年的数字增长6倍，达到1.4亿辆左右”。（资料来源：人民网、新华网、中新网）是什么因素导致了中国汽车数量的快速增长？ 影响中国汽车行业发展的因素并不单一，经济增长、消费趋势、市场行情、业界心态、能源价格、道路发展、内外环境、相关政策……，都会使中国汽车行业面临机遇和挑战。 怎样分析多种因素对汽车市场的影响？ 分析中国汽车业行业未来的趋势，应当具体分析这样一些问题： 中国汽车市场发展的状况如何（用销售量观测） 影响中国汽车销量的主要因素是什么？（如收入、价格、费用、道路状况、政策、环境等） 各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的产业政

策？ 很明显，只用一个解释变量已经很难分析汽车产业的实际发展，而简单线性回归模型又不能解决多变量问题的分析，还需要寻求有多个解释变量的回归分析方法。 第三章 多元线性回归模型 本章讨论： 如何将简单线性回归的研究方式推广到多元的情况： ● 多元线性回归模型 ● 多元线性回归参数的估计及区间估计 ● 多元线性回归方程的拟合优度 ● 多元线性回归的显著性检验 ● 多元线性回归预测 第一节 多元线性回归模型及古典假定 一、多元线性回归模型的定义 一般形式：对于有1k -个解释变量的线性回归模型，可表示为 与简单线性回归模型不同，模型中的(1,2,,)j j k β=是偏回归系数，样本容量为n 。 偏回归系数： 控制其他解释量不变的条件下，第j 个解释变量的单位变动对被 (1,2,,)k ki i X u i n β+ ++=