最小二乘法中参数方差的推导
来源：学生作业帮助网 编辑：六六作业网 时间：2024/11/08 10:59:06
最小二乘法中参数方差的推导
最小二乘法中参数方差的推导
最小二乘法中参数方差的推导
在给别人的回答中,描述了这个推导过程,对于任何曲线都是这个原理哒.
原问题：
题目:炼钢是氧化脱碳的过程,钢液含碳量直接影响冶炼时间长短.设通过5次实验已得到某平炉冶炼时间y与钢液含碳量x的一组数据
i 1 2 3 4 5
xi 163 123 150 123 141
yi 186 126 172 125 148
求y与x的函数表达式.（用最小二乘法 直线 拟合此题）
写在前面：
喵.也就我这么好心.只有15分还帮你写程序.
如果你将来做技术,你就会经常要搭建数学模型,那么就会大量运用各种的最小二乘法来拟合模型参数,所以要好好学哦,
希望通过这个例子,能够让你对最小二乘法入门.
开始：
最小二乘法,通常用在,我们已知数学模型,但是不知道模型参数的情况下,通过实测数据,计算数学模型,例如,在题目中,数学模型就是直线方程y=ax+b,但是不知道直线方程的a和b.
本来呢,我们只需要两组（xi,yi）,就可以解得a和b,但是由于实测数据都存在误差,所以,我们很容易想到一个办法,我们测很多组数据来让我的a和b更加准确.
“我们测很多组数据来让我的a和b更加准确” ,那么我从数学角度如何体现这句话呢?
比如在此例中,已知数学模型 y=ax+b
我们有很多组数据,那么我们要找一条直线,使得我们测得的每个数据,到这条直线的偏离量的总和最小.（这句话有点拗口,慢慢理解下 = =）
那么怎么用数学描述“偏离量总和最小”这个概念呢?
数学家运用了方差!
数学模型 y=ax+b
设F=ax+b-y
那么对于模型上的点(注意是模型上的点,也就是理论值),F=ax+b-y=0
但是对于实际值来说,F=axi+b-yi 一定不等于0.那么我们就要找到一对a和b,使得F尽可能接近于0.
也就是说,“偏离量总和最小”这个概念,在数学上实际上就是要求F的方差最小.
即 Σ F^2→0 （F的平方和趋近于0）
即 Σ(axi+b-yi)^2→0
那么我们得到一个方程f(a,b)=Σ(axi+b-yi)^2,我们要找到合适的a,b使得f(a,b)最小!
也就是说,我们要找到的实际上是f(a,b)的最小值点.（因为方差不可能小于0）
因此我们需要求f(a,b)的极值点.我们借助数学工具偏导.
如果有一组a,b使得
∂f(a,b)/∂a=0
∂f(a,b)/∂b=0
那么f(a,b)就是极值点,如果a,b只有一对,那么它就是最小值点.
即 ∂( Σ(axi+b-yi)^2 )/∂a=0
∂( Σ(axi+b-yi)^2 )/∂b=0
化简得到
a*Σxi^2 + b*Σxi = Σ(xi*yi)
a*Σxi + b*N = Σyi
其中N是(xi,yi)的个数.即我们测了多少组数据
解上面的二元方程,我们就可以得到唯一的一组a,b啦,这就是我们所需要的a和b