Итак имеем

Метод наименьших квадратов.

Использование интерполяции для построения функциональных зависимостей не всегда целесообразно, так как совпадение значений полученных формулой с табличными значениями в узлах интерполяции не гарантирует достаточно малого различия указанного значения в других точках, отличных от узлов.

Задача о построении эмпирической формулы состоит в следующем.

Пусть результат измерения представлен таблицей.

x	X1	x2	x3	…	xk	xk+1	…	xn
Y	Y1	Y2	Y3	…	Yk	Yk+1	…	Yn

Y=j(x) искомая эмпирическая зависимость, где j(x) зависит от некоторых параметров. Разности j(x_k)-Y_k=e_k, где U_k-числа из второй строки данной та блице называют отклонением или погрешностью. Требуется так подобрать параметры функции j(x), чтобы уклонение e_k оказалось наименьшим(в каком-то) смысле.

Наибольшее распространение получил следующий критерий отклонения, лежащий в основе метода наименьших квадратов(МНК): параметры функции

выбираются так, чтобы

_n

å e_k² = e₁² + e₂² + …+ e_n² ® min,

^k=1

Пусть j(x)- полином степени m

j(x)=a₀x^m + a₁x^m-1 + …+a_m-1x +a_m, a₀¹0

Задача полиномиального приближения - подобрать коэффициенты a_k, чтобы

å e_k² ® min.

Если m≥n, то существует бесконечное число полиномов

для которых å e_k² =0, если m=n-1, то можно построить единственный итерполяционный полином.

Если m < n-1 Þ å e_k² ≥0 " a_k, то здесь, сумма квадратов невязок, вообще говоря, отлична от нуля, а задача поиска коэффициентов a_k является оптимизационной. При этом, чем меньше m, тем проще эмпирическая формула.

Линейные уравнения регрессии.

Приближение ищем в виде линейной функции y=ax+b или имеем

ax+b-y=0.

В точках наблюдения(измерения) получаем невязки

ax₁+b-y=e₁

ax₂+b-y=e₂

…

ax_n+b-y_n=e_n

Составим сумму квадратов невязок и подберем коэффициенты a, b путем ее минимизации.

Итак имеем

Ф(а, b) = (ax₁+b-y₁)²+…+(ax_n+b-y_n)² ® min

Таким образом коэффициенты линейной зависимости находятся как нули частных производных функции Ф(а, b)

_n

∂Ф/∂a =0 Þ å2(ax_i+b-y_i)x_i=0

ⁱ⁼¹

_n

∂Ф/∂b =0 Þ 2å(ax_i+b-y_i)x_i=0

ⁱ⁼¹

^или

_{n n n}

aå x_i²+båx_i=åx_iy_i

^{i=1 i=1 i=1}

aåx_i+b_*n=åy_i

_{Теперь нетрудно выписать решение этой линейной системы}

a=∆₁/åx_i²_*n-(åx_i)², где åx_i²_*n-(åx_i)²=∆, b=∆₂/∆ и ∆₁ и ∆₂ есть

соответствующие определители.