使用最小二乘法解決曲線擬合問題

1. 最小二乘法

最小二乘法是解決曲線擬合問題最常用的方法。其基本思路如下：

令，

其中φk (x)是事先選定的一組線性無關(guān)的函數(shù)，ak是待定系數(shù)。最小二乘擬合是尋找合適的ak使每一個自變量 x 對應(yīng)的測量樣本值與擬合函數(shù)值之間的距離平方和最小。

具體做法：

① 構(gòu)造準(zhǔn)則函數(shù)；

② 求使得

最小的參數(shù)

2.直線擬合舉例

設(shè)樣本點分別為（1 , 1.1），（2 , 1.9），（3 , 3.1），（4, 3.9）用最小二乘準(zhǔn)則求直線的最優(yōu)解。

① 設(shè)最優(yōu)解為y=ax+b.

②構(gòu)造準(zhǔn)則函數(shù)

則