求大神解释下为什么最小二乘法里 dD/Da =0,dD/db=0 D=SUMi(yi-(a*xi+b))^2打错了是dD/da =0,小写的d
来源:学生作业帮助网 编辑:六六作业网 时间:2024/11/28 04:24:14
求大神解释下为什么最小二乘法里 dD/Da =0,dD/db=0 D=SUMi(yi-(a*xi+b))^2打错了是dD/da =0,小写的d
求大神解释下为什么最小二乘法里 dD/Da =0,dD/db=0 D=SUMi(yi-(a*xi+b))^2
打错了是dD/da =0,小写的d
求大神解释下为什么最小二乘法里 dD/Da =0,dD/db=0 D=SUMi(yi-(a*xi+b))^2打错了是dD/da =0,小写的d
我只能说这样理解,严格的数学证明还是参考相关数学书籍
最小二乘直线拟合的思想是,已经有了一堆数据(点)(xi,yi)
我们期望求得直线 y = ax + b,它是最接近我们的数据的直线
最接近的含义就是误差最小
对于点 (xi,yi),你纵向画直线 x= xi 和期望直线 y = ax + b 相交,则在相同横坐标下,数据
(xi,yi)的误差(纵向)为 yi - y = yi - (axi+b)
现在,我们需要一个估算总体误差的方法,我们想到了对误差求和,但因为误差有正负,直接求和会导致正负抵消一部分,误差无法反映,所以,我们先将每个误差取平方,变成非负的,再求和.(理论上,你也可以取四次方等偶次方,或者取绝对值,但这些方法不利于数学上处理,二次方次数低,且可以求导)
所以,总误差就是文中的 D = D(a,b),注意 xi,yi都是已知数据,a,b是未知量(变量)
D是关于a,b的二元连续函数,求最值,所以D对a,b的偏导数为 0
dD/da = 0
dD/db = 0
dD / da = ∑ 2(axi + b -yi)xi = 0
dD/db = ∑2(axi+b - yi) = 0
整理一下就得到文中后面的关于a,b的二元一次方程组了