计量经济学课件-2简单线性回归模型讲解学习.ppt
《计量经济学课件-2简单线性回归模型讲解学习.ppt》由会员分享,可在线阅读,更多相关《计量经济学课件-2简单线性回归模型讲解学习.ppt(109页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、计量量经济学学课件件-2-2简单线性回性回归模型模型第二章第二章 简单线性回归模型简单线性回归模型 本章主要讨论本章主要讨论:回归分析与回归函数回归分析与回归函数 简单线性回归模型参数的估计简单线性回归模型参数的估计 拟合优度的度量拟合优度的度量 回归系数的区间估计和假设检验回归系数的区间估计和假设检验 回归模型预测回归模型预测2第一节 回归分析与回归方程 本节基本内容本节基本内容:回归与相关回归与相关 总体回归函数总体回归函数 随机扰动项随机扰动项 样本回归函数样本回归函数 3 1.经济变量间的相互关系经济变量间的相互关系 确定性的函数关系确定性的函数关系 不确定性的统计关系不确定性的统计关
2、系相关关系相关关系 (为随机变量为随机变量)没有关系没有关系 一、回归与相关一、回归与相关 (对统计学的回顾)(对统计学的回顾)42.2.相关关系相关关系相关关系的描述相关关系的描述相关关系最直观的描述方式相关关系最直观的描述方式坐标图坐标图(散布图)散布图)5相关关系的类型相关关系的类型从涉及的变量数量看从涉及的变量数量看简单相关简单相关多重相关(复相关)多重相关(复相关)从变量相关关系的表现形式看从变量相关关系的表现形式看线性相关线性相关散布图接近一条直线散布图接近一条直线非线性相关非线性相关散布图接近一条曲线散布图接近一条曲线从变量相关关系变化的方向看从变量相关关系变化的方向看正相关正相
3、关变量同方向变化,同增同减变量同方向变化,同增同减负相关负相关变量反方向变化,一增一减变量反方向变化,一增一减不相关不相关63.3.相关程度的度量相关程度的度量相关系数相关系数 总体线性相关系数总体线性相关系数:其中:其中:X的方差;的方差;Y的方差的方差 X和和Y的协方差的协方差样本线性相关系数样本线性相关系数:其中:其中:和和 分别是变量分别是变量 和和 的样本观测值的样本观测值 和和 分别是变量分别是变量 和和 样本值的平均值样本值的平均值7 和和 都是相互对称的随机变量都是相互对称的随机变量 线线性性相关系数只反映变量间的线性相关程度,不相关系数只反映变量间的线性相关程度,不 能说明非
4、能说明非 线性相关关系线性相关关系 样本相关系数是总体相关系数的样本估计值,由样本相关系数是总体相关系数的样本估计值,由 于抽样波动,样本相关系数是个随机变量,其统于抽样波动,样本相关系数是个随机变量,其统 计显著性有待检验计显著性有待检验 相关系数只能反映线性相关程度,不能确定因果相关系数只能反映线性相关程度,不能确定因果 关系,不能说明相关关系具体接近哪条直线关系,不能说明相关关系具体接近哪条直线 计量经济学关心:计量经济学关心:变量间的因果关系及隐藏在随变量间的因果关系及隐藏在随机性后面的统计规律性,这有赖于回归分析方法机性后面的统计规律性,这有赖于回归分析方法 使用相关系数时应注意使用
5、相关系数时应注意84.4.回归分析回归分析回归的回归的古典意义古典意义:高尔顿遗传学的回归概念高尔顿遗传学的回归概念(父母身高与子女身高的关系父母身高与子女身高的关系)回归的回归的现代意义现代意义:一个应变量对若干解释变量一个应变量对若干解释变量依存关系依存关系的研究的研究回归的回归的目的(实质)目的(实质):由固定的解释变量去由固定的解释变量去估计应变量的平均值估计应变量的平均值9 的的条件分布条件分布 当当解解释释变变量量 取取某某固固定定值值时时(条条件件),的的值值不不确确定定,的的不不同同取取值值形形成成一一定定的的分分布布,即即 的的条条件分布。件分布。的的条件期望条件期望 对于对
6、于 的每一个取值,的每一个取值,对对 所形成的分布确所形成的分布确 定其期望或均值,称定其期望或均值,称 为为 的条件期望或条的条件期望或条 件均值件均值 注意几个概念注意几个概念10 回归线回归线:对于每一个对于每一个 的取值,的取值,都有都有 的条件期望的条件期望 与之对应,与之对应,代表这些代表这些 的条件期的条件期 望的点的轨迹所形成望的点的轨迹所形成 的直线或曲线,称为的直线或曲线,称为 回归线。回归线。回归线与回归函数回归线与回归函数11 回归函数:回归函数:应变量应变量 的条件期望的条件期望 随解随解释变量释变量 的的变化而有规律的变化,如果把的的变化而有规律的变化,如果把 的条
7、件期望的条件期望 表现为表现为 的某种函数的某种函数 这个函数称为回归函数。这个函数称为回归函数。回归函数分为:回归函数分为:总体回归函数和样本回归函数总体回归函数和样本回归函数举例:假如已知举例:假如已知100个家庭构成的总体。个家庭构成的总体。回归线与回归函数回归线与回归函数12每每 月月 家家 庭庭 可可 支支 配配 收收 入入 X X10001500200025003000350040004500500055008209621108132916321842203722752464282488810241201136517261874211023882589303893211211264
8、1410178619062225242627903150每每960121013101432183510682319248828563201月月125913401520188520662321258729003288家家132414001615194321852365265030213399庭庭1448165020372210239827893064消消1489171220782289248728533142费费1538177821792313251329343274支支160018412298239825383110出出17021886231624232567Y1900238724532610
9、201224982487271025892586900115014001650190021502400265029003150例例:100个家庭构成的总体个家庭构成的总体 (单位单位:元元)13 1.1.总体回归函数的概念总体回归函数的概念 前前提提:假假如如已已知知所所研研究究的的经经济济现现象象的的总总体体应应变变量量 和和解解释释变变量量 的的每每个个观观测测值值,可可以以计计算算出出总总体体应应变变量量 的的条条件件均均值值,并并将将其其表表现现为为解解释释变量变量 的某种函数的某种函数这个函数称为总体回归函数(这个函数称为总体回归函数(PRF)二、总体回归函数二、总体回归函数(PRF
10、PRF)14 (1)条件均值条件均值表现形式表现形式 假如假如 的条件均值的条件均值 是解是解 释变量释变量 的线性函数,可表示为:的线性函数,可表示为:(2)个别值个别值表现形式表现形式 对于一定的对于一定的 ,的各个别值的各个别值 分布分布 在在 的周围,若令各个的周围,若令各个 与条件与条件 均值均值 的偏差为的偏差为 ,显然显然 是随机变量是随机变量,则有则有 或或 2.2.总体回归函数的表现形式总体回归函数的表现形式15实实际际的的经经济济研研究究中中总总体体回回归归函函数数通通常常是是未未知知的的,只只能能根根据据经经济济理理论论和和实实践践经经验验去去设设定定。“计计量量”的目的
11、就是寻求的目的就是寻求PRFPRF。总总体体回回归归函函数数中中 与与 的的关关系系可可是是线线性性的的,也也可可是是非线性非线性的。的。对线性回归模型的对线性回归模型的“线性线性”有两种解释有两种解释 就变量而言就变量而言是线性的是线性的 的条件均值是的条件均值是 的线性函数的线性函数 就参数而言就参数而言是线性的是线性的 的条件均值是参数的条件均值是参数 的线性函数的线性函数 3.3.如何理解总体回归函数如何理解总体回归函数16变量、参数均为变量、参数均为变量、参数均为变量、参数均为“线性线性线性线性”参数参数参数参数“线性线性线性线性”,变量,变量,变量,变量”非线非线非线非线性性性性”
12、变量变量变量变量“线性线性线性线性”,参数,参数,参数,参数”非线非线非线非线性性性性”计量经济学中计量经济学中:线性回归模型主要指就参数而言是线性回归模型主要指就参数而言是“线性线性”,因因为只要对参数而言是线性的为只要对参数而言是线性的,都可以用类似的方法估计都可以用类似的方法估计其参数。其参数。“线性线性”的判断的判断17三、随机扰动项三、随机扰动项概念概念:各个各个 值与条件均值值与条件均值 的偏差的偏差 代表代表 排除在模型以外的所有排除在模型以外的所有 因素对因素对 的影响。的影响。性质:性质:是期望为是期望为0有一定分布的随机变量有一定分布的随机变量 重要性:重要性:随机扰动项的
13、性质决定着计量经济方随机扰动项的性质决定着计量经济方法的选择法的选择18 未知未知影响因素的代表影响因素的代表无法取得数据无法取得数据的已知影响因素的代表的已知影响因素的代表众多细小影响因素众多细小影响因素的综合代表的综合代表模型的模型的设定误差设定误差变量的变量的观测误差观测误差变量内在变量内在随机性随机性引入随机扰动项的原因引入随机扰动项的原因19四、样本回归函数四、样本回归函数(SRFSRF)样本回归线样本回归线:对于对于 的一定值,取得的一定值,取得 的样本观测值,可计算其条的样本观测值,可计算其条件均值,样本观测值条件均值的轨迹称为样本回归线。件均值,样本观测值条件均值的轨迹称为样本
14、回归线。样本回归函数:样本回归函数:如果把应变量如果把应变量 的样本条件均值表示为解释变量的样本条件均值表示为解释变量 的某的某种函数,这个函数称为样本回归函数(种函数,这个函数称为样本回归函数(SRF)。)。20SRF 的特点的特点每次抽样都能获得一个样本,就可以拟合一条每次抽样都能获得一个样本,就可以拟合一条样本回样本回 归线,所以样本回归线随抽样波动而变归线,所以样本回归线随抽样波动而变化,可以有许多条化,可以有许多条(SRF不唯一)。不唯一)。SRF2SRF121样本回归函数的函数形式应与设定的总体回归样本回归函数的函数形式应与设定的总体回归函数的函数形式一致。函数的函数形式一致。样本
15、回归线还不是总体回归线,至多只是未知样本回归线还不是总体回归线,至多只是未知总体回归线的近似表现。总体回归线的近似表现。22 样本回归函数如果为线性函数,可表示为样本回归函数如果为线性函数,可表示为 其中:其中:是与是与 相对应的相对应的 的样本条件均值的样本条件均值 和和 分别是样本回归函数的参数分别是样本回归函数的参数 应变量应变量 的实际观测值的实际观测值 不完全等于样本条件不完全等于样本条件均值,二者之差用均值,二者之差用 表示表示,称为称为剩余项剩余项或或残差项残差项:或者或者 样本回归函数的表现形式样本回归函数的表现形式23 对样本回归的理解对样本回归的理解 如果能够获得如果能够获
16、得 和和 的数值,显然的数值,显然:和和 是对总体回归函数参数是对总体回归函数参数 和和 的估计的估计 是对总体条件期望是对总体条件期望 的估计的估计 在概念上类似总体回归函数中的在概念上类似总体回归函数中的 ,可,可 视为对视为对 的估计。的估计。24 样本回归函数与总体回归函数的关系 SRF PRF A 25 回归分析的目的回归分析的目的用样本回归函数用样本回归函数SRF去估计总体回归函数去估计总体回归函数PRF。由于样本对总体总是存在代表性误差,由于样本对总体总是存在代表性误差,SRF总会过总会过高或过低估计高或过低估计PRF。要解决的问题:要解决的问题:寻求一种规则和方法,使得到的寻求
17、一种规则和方法,使得到的SRF的参数的参数和和尽可能尽可能“接近接近”总体回归函数中的参数总体回归函数中的参数和和。这样的这样的“规则和方法规则和方法”有多种,最常用的是最小二有多种,最常用的是最小二乘法乘法26 第二节第二节 简单线性回归模型的最小二乘估计简单线性回归模型的最小二乘估计 本节基本内容本节基本内容:简单线性回归的基本假定简单线性回归的基本假定 普通最小二乘法普通最小二乘法 OLSOLS回归线的性质回归线的性质 参数估计式的统计性质参数估计式的统计性质27 一、简单线性回归的基本假定一、简单线性回归的基本假定 1.为什么要作基本假定?为什么要作基本假定?模型中有随机扰动,估计的参
18、数是随机变量,模型中有随机扰动,估计的参数是随机变量,只有对随机扰动的分布作出假定,才能确定只有对随机扰动的分布作出假定,才能确定 所估计参数的分布性质,也才可能进行假设所估计参数的分布性质,也才可能进行假设 检验和区间估计检验和区间估计 只有具备一定的假定条件,所作出的估计才只有具备一定的假定条件,所作出的估计才 具有较好的统计性质。具有较好的统计性质。28 (1 1)对模型和变量的假定对模型和变量的假定如如假定解释变量假定解释变量 是非随机的,或者虽然是随机的,但与扰动是非随机的,或者虽然是随机的,但与扰动项项 是不相关的是不相关的假定解释变量假定解释变量 在重复抽样中为固定值在重复抽样中
19、为固定值假定变量和模型无设定误差假定变量和模型无设定误差2、基本假定的内容、基本假定的内容29又称高斯假定、古典假定又称高斯假定、古典假定假定假定1 1:零均值假定零均值假定 在给定在给定 的条件下的条件下,的条件期望为零的条件期望为零假定假定2 2:同方差假定同方差假定 在给定在给定 的条件下,的条件下,的条件方差为某个常数的条件方差为某个常数(2)对随机扰动项)对随机扰动项 的假定的假定30 假定假定3 3:无自相关假定无自相关假定随机扰动项随机扰动项的逐次值互不相关的逐次值互不相关假定假定4 4:随机扰动随机扰动与解释变量与解释变量不相关不相关31假定假定5 5:对随机扰动项分布的正态性
20、假定对随机扰动项分布的正态性假定即假定即假定服从均值为零、方差为服从均值为零、方差为的正态分布的正态分布(说说明明:正正态态性性假假定定不不影影响响对对参参数数的的点点估估计计,但但对对确确定定所所估估计计参参数数的的分分布布性性质质是是需需要要的的。且且根根据据中中心心极极限限定定理理,当当样样本本容容量量趋趋于于无无穷穷大大时时,的的分分布布会会趋近于正态分布。所以正态性假定是合理的)趋近于正态分布。所以正态性假定是合理的)32的分布性质的分布性质 由于由于 的分布性质决定了的分布性质决定了 的分布性质。的分布性质。对对 的一些假定可以等价地表示为对的一些假定可以等价地表示为对 的假定:的
21、假定:假定假定1:零均值假定:零均值假定 假定假定2:同方差假定:同方差假定 假定假定3:无自相关假定:无自相关假定 假定假定5:正态性假定:正态性假定33OLS的基本思想的基本思想 不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数 和和和和 ,所估计的,所估计的,所估计的,所估计的 也不同。也不同。也不同。也不同。理想的估计方法应使理想的估计方法应使理想的估计方法应使理想的估计方法应使 与与与与 的差即剩余的差即剩余的差即剩余的差即剩余 越小越好越小越好越小越好越小越好 因因因因 可正可负
22、,所以可以取可正可负,所以可以取可正可负,所以可以取可正可负,所以可以取 最小最小最小最小 即即即即二、普通最小二乘法二、普通最小二乘法(rdinaryLeastSquares)34 正规方程和估计式正规方程和估计式用克莱姆法则求解得观测值形式的用克莱姆法则求解得观测值形式的OLS估计式:估计式:取偏导数为取偏导数为0,得正规方程,得正规方程35为表达得更简洁,或者用离差形式为表达得更简洁,或者用离差形式OLS估计式估计式:注意注意其中:其中:而且样本回归函数可写为而且样本回归函数可写为用离差表现的用离差表现的OLSOLS估计式估计式36三、OLSOLS回归线的性质回归线的性质可以证明可以证明
23、:回归线通过样本均值回归线通过样本均值估计值估计值 的均值等于实的均值等于实 际观测值际观测值 的均值的均值 37 剩余项剩余项 的均值为零的均值为零应变量估计值应变量估计值 与剩余项与剩余项 不不相关相关 解释变量解释变量 与剩余项与剩余项 不相关不相关38 四、四、参数估计式的统计性质参数估计式的统计性质(一一)参数估计式的评价标准参数估计式的评价标准 1.无偏性无偏性前提:前提:重复抽样中估计方法固定、样本数不变、经 重复抽样的观测值,可得一系列参数估计值参数估计值参数估计值 的分布称为的分布称为 的抽样分布,密度函的抽样分布,密度函数记为数记为 如果如果 ,称,称 是参数是参数 的无偏
24、估计式,否的无偏估计式,否则称则称 是有偏的,其偏倚为是有偏的,其偏倚为 (见图(见图1.2)39图 1.2估计值偏倚偏倚 概 率 密 度40前提:前提:样本相同、用不同的方法估计参数,样本相同、用不同的方法估计参数,可以找到若干个不同的估计式可以找到若干个不同的估计式目标:目标:努力寻求其抽样分布具有最小方差的努力寻求其抽样分布具有最小方差的估计式估计式最小方差准则,或称最佳最小方差准则,或称最佳性准则性准则(见图(见图1.31.3)既是无偏的同时又具有最小方差的估计式,称为既是无偏的同时又具有最小方差的估计式,称为 最佳无偏估计式。最佳无偏估计式。2.最小方差性最小方差性41概率密度图 1
25、.3估计值42 4.4.渐近性质渐近性质(大样本性质)(大样本性质)思想思想:当样本容量较小时,有时很难找到最佳无偏估计,需要考当样本容量较小时,有时很难找到最佳无偏估计,需要考虑样本扩大后的性质虑样本扩大后的性质一致性:一致性:当样本容量当样本容量 n 趋于无穷大时,如果估计式趋于无穷大时,如果估计式 依概率收敛于总体参依概率收敛于总体参数的真实值,就称这个估计式数的真实值,就称这个估计式 是是 的一致估计式。即的一致估计式。即 或或 渐近有效性:渐近有效性:当样本容量当样本容量 n 趋于无穷大时,在所有的一致估趋于无穷大时,在所有的一致估计式中,具有最小的渐近方差。计式中,具有最小的渐近方
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 课件 简单 线性 回归 模型 讲解 学习
限制150内