非参数模型的局部逼近估计方法ppt课件PPT推荐.ppt
- 文档编号:1331900
- 上传时间:2023-04-30
- 格式:PPT
- 页数:40
- 大小:705.50KB
非参数模型的局部逼近估计方法ppt课件PPT推荐.ppt
《非参数模型的局部逼近估计方法ppt课件PPT推荐.ppt》由会员分享,可在线阅读,更多相关《非参数模型的局部逼近估计方法ppt课件PPT推荐.ppt(40页珍藏版)》请在冰点文库上搜索。
通常的检验只能拒绝一个分布假设,并不能够提供任何清晰的其它选择。
密度函数非参数方法避免在估计之前需要设定参数函数形式所产生的问题。
不需要假定待估对象的准确函数形式,只需要假定待估对象满足一些常规的条件,例如平滑性(smoothness)和可微性(differentiability)。
既然对密度函数的函数形式施加比参数方法更少的结构,那么非参数方法就需要更多的数据信息,才能达到正确设定的参数模型相同的精确度。
2、一元密度函数的核估计,密度函数f(x)未知。
可以从经验分布函数导出密度函数的核估计。
经验分布函数,核函数为均匀核,一般的密度函数核估计:
密度函数的非参数核估计方法是基于密度函数与分布函数的关系而发展起来的一种估计方法。
核函数K()起加权作用,窗宽hn起控制估计精度的作用。
常用核函数,均匀核,高斯核,Epanechnikov核,2、核估计的大样本性质,由前2个性质可见,窗宽越小,核估计的偏差越小,但方差越大。
反之,窗宽增大,则核估计的方差变小,但偏差却增大。
最佳的窗宽选择,积分均方误差:
最佳窗宽选择的标准必须在核估计的偏差和方差之间作一个权衡,3、窗宽的交错鉴定法选择方法,不要求。
有兴趣的同学看教科书。
4、窗宽的直接插入选择方法,不要求。
5、多元密度函数的核估计,满足这些条件最常用的核函数为,二、非参数回归模型的核估计,1、非参数回归模型的核估计,非参数回归模型:
未知函数的核估计表达式为:
核估计等价于局部加权最小二乘估计,条件回归函数的估计是yi的线性组合,对应所得到的被解释变量的估计是yi的加权平均,权数利用了解释变量的信息,且由解释变量的数值来确定每个yi的权数的大小。
不同的核权函数的方法构成了不同的估计结果。
Nadaraya-Watson核估计Nadaraya(1964)及Watson(1964)提出。
选定原点对称的概率密度函数为核函数。
等价于局部加权最小二乘估计均匀核。
因为,最常用的核函数有:
均匀核:
k()是-1,1上的均匀概率密度函数,I()为显示性函数,当括号内的不等式成立时,取值为1,否则取值为0。
m(x)的Nadaraya-Watson核估计就是落在x-h,x+h的xi对应的yi的简单算术平均值。
Epanechnikov核:
k()是-1,1上的概率密度函数,m(x)的Nadaraya-Watson核估计就是落在x-h,x+h的xi对应的yi的加权算术平均值。
高斯核:
k()是(-,+)上原点对称的标准正态密度函数,m(x)的Nadaraya-Watson核估计就是yi的加权算术平均值。
2、窗宽的选择,核估计是集中x附近一个邻域的样本观测值的加权平均,该邻域的宽度h称为窗宽。
是控制核估计精度的最主要的参数。
渐近偏随着窗宽减少而减少:
渐近方差随着窗宽减少而增大:
f(x)是解释变量的密度函数。
在估计的偏和方差中寻求平衡,使得均方误差达最小。
渐近均方误差渐近偏2渐近方差使得渐近均方误差达最小的最佳窗宽具有如下形式:
c为某个常数,如何选择常数c:
一种经验选择方法当K()为-1,1上对称、单峰的概率密度时,mn(x)的估计量是集中在x附近一个邻域的xi对应的yi的加权平均,而hn正好是这个邻域的长度的一半。
不变窗宽和变窗宽窗宽随xi改变,核估计效果更好。
3、核权函数的选择,将最佳窗宽代入渐近均分误差公式,可推得最佳核函数为:
4、例题模拟例题,解释变量序列xi独立均匀同分布,随机误差项序列ui独立同分布。
让xi(i=1,2,300)是在0,1上均匀取值相互独立的变量,uiN(0,0.25)(i=1,2,300)独立,按照下列模型,生成被解释变量样本观测值,选择以下核函数和窗宽,进行核估计,数据及其核估计拟合图,三、非参数单方程模型的局部线性估计,1、局部线性估计,该局部线性估计实际上是以下最小化问题的解的截距,非参数回归函数m(X)的局部线性估计,2、局部线性估计的进一步解释,对于非参数回归模型,将m(x)在x0处进行台劳展开,该多项式可用加权最小二乘法进行局部拟合。
即最小化,如果有局部线性模型,若K()是-1,1上的均匀概率密度函数,则m(x)的局部线性估计就是落在x-hn,x+hn的xi与其对应的yi关于该局部模型的最小二乘估计。
若K()是-1,1上的Epanechnikov概率密度函数,则m(x)的局部线性估计就是落在x-hn,x+hn的xi与其对应的yi关于该局部模型的加权最小二乘估计。
当xi越接近x时,对应yi的权数就越大,反之,则越小。
若K()是-,上原点对称的标准正态密度函数,则m(x)的局部线性估计就是该局部模型的加权最小二乘估计。
当xi落在x-3hn,x+3hn之外时,权数基本上为零。
局部线性估计原理的示意图,3、局部线性估计的逐点渐近偏和方差,由比较可见,Nadaraya-Watson核估计的方差与局部线性估计的相同,但偏却多了一项;
局部线性估计的渐近偏与解释变量的密度函数无关,因而具有数据类型的适应性,即既适合均匀分布的解释变量,又适合非均匀分布的解释变量。
由于局部线性估计是模型局部台劳线性展开的局部加权最小二乘估计,比局部台劳零阶展开的核估计的局部展开项多了线性项,所以,局部线性估计的性质好于核估计。
使得局部线性估计的渐近均方误差达最小的最佳窗宽和最佳核函数仍为相同的形式。
4、局部线性估计的优点,局部线性估计的局部斜率能够动态地反映经济现象的结构变化。
局部线性估计假定变量之间的关系未知,因而没有隐含任何假设条件,所以更加符合实际。
没有其它普遍使用的核估计可能导致不必要的偏差。
局部线性估计方法既适合于解释变量为确定性变量的固定设定模型,也适合于解释变量为随机性变量的随机设定模型。
局部线性估计方法适合于随机设定模型解释变量分布均匀情形,也适合于分布不均匀的情形局部线性估计不必进行边界修正,它在边界的偏差自动与内部的偏差有相同的阶局部线性估计在所有线性估计中,在极小极大效率意义上接近于最优,它的有效性为100%,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 参数 模型 局部 逼近 估计 方法 ppt 课件