加权最小二乘法与广义最小二乘法?

加权最小二乘法与广义最小二乘法？

使用最小二乘法需要一些前提，数据大多数时候是满足这些条件的。但有时候这些条件是不能满足的，这时需要对原始数据作适当变换，让他符合最小二乘法的使用条件，然后继续使用最小二乘法。 从整体上看，在处理数据前作的处理相当于在数据上加权，这个时候就把整个处理过程(包括数据事前的变换以及后来运用最小二乘法)看作加了权的最小二乘法。从这个意义上讲，加权最小二乘法就是最小二乘法。 y=a+b1*x1+b2*x2+e 中的误差项不满足高斯—马尔可夫条件， 即cov(e)=M,M为一个未知协方差阵，那么就要用到两次估计，即要估计出M，再估计系数a,b1,b2。这里常用的是两阶段GLS（两阶段广义最小二乘法），也称为feasible GLS（可行广义最小二乘法）。 这是一个很常见的问题，R中有包吗？我搜了下好像没有找到，可能是没有找仔细。S-PLUS中有吗？ WIKI百科里有feasible GLS的步骤，其实也就是一个迭代的WLS而已。没有对协方差进行估计，还是把应变量不同观测的相关性看作是0.

为什么加权最小二乘法和广义最小二乘法的关系?

最小二乘法是加权最小二乘法的特例。 使用最小二乘法需要一些前提，数据大多数时候是满足这些条件的。但有时候这些条件是不能满足的，这时需要对原始数据作适当变换，让他符合最小二乘法的使用条件，然后继续使用最小二乘法。

从整体上看，在处理数据前作的处理相当于在数据上加权，这个时候就把整个处理过程（包括数据事前的变换以及后来运用最小二乘法）看作加了权的最小二乘法。从这个意义上讲，加权最小二乘法就是最小二乘法。

下面分享相关内容的知识扩展：

加权最小二乘的回归方程中变量不显著怎么办

加权最小二乘的回归方程中变量不显著解决 *** ：岭回归、主成分、变量筛选。

一般是T或者F检验的显著性对应的概率比0.05或者0.01大，如果显著性水平是0.05的话，说明常量不显著，则一元线性回归分析中不应该含有常量。没加控制变量时，遗漏了重要变量，方程存在内生性问题，应该加上控制变量，或者再寻找更显著的变量。

运算案例

若在一组具有相关关系的变量的数据（x与Y）间，通过散点图我们可观察出所有数据点都分布在一条直线附近，这样的直线可以画出许多条，而我们希望其中的一条更好地反映x与Y之间的关系，即我们要找出一条直线，使这条直线“最贴近”已知的数据点。

因为模型中有残差，并且残差无法消除，所以就不能用二点确定一条直线的 *** 来得到方程，要保证几乎所有的实测值聚集在一条回归直线上，就需要它们的纵向距离的平方和到那个更好的拟合直线距离最小。

EVIEWS7.0版本的加权最小二乘法里面weight type是什么东西

在EViews中做WLS估计需要你提供一个权重变量，然后指定这个权重变量与方差（这里是指的异方差，否者不需要权重）的关系，如果是权重与方差成比例就选variance,与标准差成比例就选std devition，与方差或标准差的倒数成比例就选inverse variance, inverse std dev。通常情况下，异方差都是与方差的倒数或标准差的倒数成比例，所以选inverse variance, inverse std dev的时候多。下面的scaling，选择eviews default 就行了。

stata用vwls命令做完加权最小二乘法后，怎样求得R方、F值、调整R方？

predict u, residuals
predict yf, xb

gen lnu2=ln(u^2)

gen yf2=yf^2

quietly reg lnu2 yf yf2
predictnl u2f=exp(xb())

gen sd=sqrt(u2f)，然后用vwls命令做了加权回归，怎么知道R方 f值呢？
Variance-weighted least-squares regression           Number of obs   =    4134
Goodness-of-fit chi2(4101) = 19326.49                Model chi2(32)  = 5259.60
Prob > chi2             
  =  0.0000             
   Prob > chi2    
 =  0.0000