默认分类 2009-10-25 08:26:09 阅读1166 评论0 字号：大中小
１、回归方程的显著性检验 (1) (1) 回归平方和与剩余平方和回归平方和与剩余平方和 建立回归方程以后建立回归方程以后, , , 回归效果如何呢？因变量回归效果如何呢？因变量 与自变量
是否确实存在线性关系呢？这是需要进行统计检验才能加以肯定或否定, , 为此为此为此, , , 我们要进一步研究因变量我们要进一步研究因变量取值的变化规律。 的每次
取值
是有波动的是有波动的, , , 这种波动常称为变差这种波动常称为变差这种波动常称为变差, , , 每次观测值每次观测值
的变差大小的变差大小, , , 常用该次观侧值常用该次观侧值
与次观测值的平均值的差(称为离差称为离差))来表示来表示, , , 而全部而全部次观测值的总变差可由总的
离差平方和
,
李悦嫣
其中其中::
称为回归平方和称为回归平方和, , , 是回归值是回归值
与均值
之差的平方和之差的平方和, , , 它反映了自变量它反映了自变量
的变化所引起的
的波动的波动, , , 其自由度其自由度
(
为自变量的个数为自变量的个数))。
称为剩余平方和称为剩余平方和((或称残差平方和或称残差平方和), ), ), 是实测值是实测值与回归值之差的平方和之差的平方和, , , 它它
是由试验误差及其它因素引起的, , 其自由度其自由度。总的离差平方和
的自由度为
。
如果观测值给定如果观测值给定, , , 则总的离差平方和则总的离差平方和是确定的是确定的, , , 即即
是确定的是确定的, , , 因此因此大则
小, , 反之反之反之, ,
小则
大, , 所以所以
与
都可用来衡量回归效果都可用来衡量回归效果, , , 且回归平方和且回归平方和越大则线性回归效果越显著越大则线性回归效果越显著, , , 或者说或者说
剩余平方和越小回归效果越显著越小回归效果越显著, , , 如果如果＝0, 0, 则回归超平面过所有观测点则回归超平面过所有观测点则回归超平面过所有观测点; ; ; 如果如果
大, , 则线性回归效则线性回归效
果不好。
(2) (2) 复相关系数复相关系数
为检验总的回归效果为检验总的回归效果, , , 人们也常引用无量纲指标人们也常引用无量纲指标
, (3.1)
或
, (3.2)
称为复相关系数。因为回归平方和
实际上是反映回归方程中全部自变量的“方差贡献”, 因此
就
是这种贡献在总回归平方和中所占的比例, , 因此因此
表示全部自变量与因变量
的相关程度。显然
。复相关系数越接近１。复相关系数越接近１, , , 回归效果就越好回归效果就越好回归效果就越好, , , 因此它可以作为检验总的回归效果的一个指标。但应因此它可以作为检验总的回归效果的一个指标。但应
注意注意, ,
与回归方程中自变量的个数
及观测组数
有关有关, , , 当当相对于
并不很大时并不很大时, , , 常有较大的常有较大的值, , 因此实际计算中应注意因此实际计算中应注意与
的适当比例的适当比例, , , 一般认为应取一般认为应取
至少为
的５到的５到101010倍为宜。倍为宜。
(3)
检验
要检验与
是否存在线性关系是否存在线性关系, , , 就是要检验假设就是要检验假设
, (3.3)
当假设
成立时成立时, , , 则则与无线性关系无线性关系, , , 否则认为线性关系显著。检验假设否则认为线性关系显著。检验假设
应用统计量
, (3.4)
这是两个方差之比这是两个方差之比, , , 它服从自由度为它服从自由度为及
的分布分布, , , 即即
, (3.5)
用此统计量可检验回归的总体效果。如果假设成立成立, , , 则当给定检验水平则当给定检验水平α下, , 统计量统计量
应有
≤
, (3.6)
对于给定的置信度α, , 由由
分布表可查得
的值的值, , , 如果根据统计量算得的如果根据统计量算得的值为
, , 则拒绝假设则拒绝假设, , 即不能认为全部即不能认为全部
为O, O, 即即
个自变量的总体回归效果是显著的,
否则认为回归效果不显著。
利用检验对回归方程进行显著性检验的方法称为方差分析。上面对回归效果的讨论可归结于一个方差分析表中差分析表中, , , 如表如表如表3.13.13.1。。
表3.1 3.1 方差分析表方差分析表
来 源 平方和
自由度
方 差
方差比
回 归
剩 余
总 计
根据与的定义的定义, , , 可以导出可以导出与
的以下关系的以下关系::
,
。
利用这两个关系式可以解决值多大时回归效果才算是显著的问题。因为对给定的检验水平α, , 由由
分布表可查出
的临界值
, , 然后由然后由
即可求出
的临界值
:
,
(3.7)
当
时, , 则认为回归效果显著。则认为回归效果显著。则认为回归效果显著。
例3.1 利用方差分析对例利用方差分析对例2.12.12.1的回归方程进行显著性检验。的回归方程进行显著性检验。 方差分析结果见表方差分析结果见表3.23.23.2。。
表3.2
来 源 平方和
自由度
方 差
方差比
回 归
剩 余
总 计
取检验水平α＝0.05, 0.05, 查查
分布表得
, , 而而
, , 所以例所以例所以例2.12.12.1的的
回归方程回归效果是显著的。
２、回归系数的显著性检验
前面讨论了回归方程中全部自变量的总体回归效果, , 但总体回归效果显著并不说明每个自变量但总体回归效果显著并不说明每个自变量
对因变量
都是重要的都是重要的, , , 即可能有某个自变量即可能有某个自变量
对
并不起作用或者能被其它的
的作用
所代替所代替, , , 因此对这种自变量我们希望从回归方程中剔除因此对这种自变量我们希望从回归方程中剔除, , 这样可以建立更简单的回归方程。显然某个自变这样可以建立更简单的回归方程。显然某个自变量如果对
作用不显著作用不显著, , , 则它的系数则它的系数
就应取值为就应取值为0, 0, 0, 因此检验每个自变量因此检验每个自变量
是否显著是否显著, , , 就要检验假设就要检验假设就要检验假设::
,
, (3.8)
(1) 检验检验:: 在
假设下假设下, , , 可应用可应用检验检验::
,
, (3.9)
其中为矩阵
的对角线上第个元素。
对给定的检验水平α, , 从从分布表中可查出与α对应的临界值, , 如果有如果有, , 则拒绝假设则拒绝假设
,
即认为
与0有显著差异有显著差异, , , 这说明这说明对
有重要作用不应剔除有重要作用不应剔除; ; ; 如果有如果有则接受假设
, , 即认为即认为
成立成立, , , 这说明这说明
对
不起作用不起作用, , , 应予剔除。应予剔除。
(2)
检验检验::
检验假设
, , 亦可用服从自由度分别为亦可用服从自由度分别为亦可用服从自由度分别为11与
what will be will be
的
分布的统计量
, (3.10)
其中为矩阵
的主对角线上第个元素。对于给定的检验水平α, , 从从
分布表中
可查得临界, , 如果有如果有
, , 则拒绝假设则拒绝假设
, , 认为认为
对
有重要作用。如果
,
, 则接受假设则接受假设
, , 即认为自变量即认为自变量
门罗宣言
对
impreza wrx不起重要作用不起重要作用, , , 可以剔除。可以剔除。
一般一次检验只
剔除一个自变量剔除一个自变量, , , 且这个自变量是所有不显著自变量中且这个自变量是所有不显著自变量中值最小者值最小者, , , 然后再建立回归方程然后再建立回归方程然后再建立回归方程, , , 并继续进行并继续进行
检验检验, , , 直到建立的回归方程及各个自变量均显著为止。直到建立的回归方程及各个自变量均显著为止。
最后指出最后指出, , , 上述对各自变量进行显著性检验采用的两种统计量上述对各自变量进行显著性检验采用的两种统计量与实际上是等价的实际上是等价的, , , 因为由因为由因为由(3.9)(3.9)
式及式及(3.10)(3.10)(3.10)式知式知式知, , , 有有
(3.11)
例3.2 对例对例2.12.12.1的回归方程各系数进行显著性检验。的回归方程各系数进行显著性检验。 经计算经计算::
,
于是
,
其中
＝0.002223,
＝0.0045770.004577。由。由。由(3.7)(3.7)(3.7)式知式知
,
,
查分布表得分布表得, ,
, , 因为因为
,
, , 所以两个自变量所以两个自变量
及都是显著的。又由, , 说明体长说明体长比胸围
对体重
的影响更大。
如果应用
检验检验, , , 查查
分布表有
, , 又由又由
,
,
因为
,
, , 因此因此
及
都是显著的都是显著的, , , 均为重要均为重要
变量变量, , , 应保留在回归方程中。应保留在回归方程中。 (3) (3) 偏回归平方和偏回归平方和
检验某一自变量是否显著检验某一自变量是否显著, , , 还可应用偏回归平方和进行检验。还可应用偏回归平方和进行检验。
电化教育研究个自变量
的回归平方和为
,
如果自
个自变量中去掉
, , 则剩下的则剩下的
个自变量的回归平方和设为鄞州
, , 并设并设
, 则
就表示变量
在回归平方和
中的贡献中的贡献, ,
称为
的偏回归平方和或贡献。可以证明
, (3.12)
偏回归平方和越大越大, , , 说明说明在回归方程中越重要在回归方程中越重要, , , 对对的作用和影响越大的作用和影响越大, , , 或者说或者说对回归方程的贡
献越大。因此偏回归平方和也是用来衡量每个自变量在回归方程中作用大小(贡献大小贡献大小))的一个指标。 例如在例例如在例2.12.12.1中中,
和
的偏回归平方和分别为
,
,
, , 说明在回归方程中说明在回归方程中
的作用比
大。
又如在例又如在例2.22.22.2中中
及
的偏回归平方和分别为的偏回归平方和分别为::
