Способ наименьших квадратов

Абсолютно точные измерения чаще всего невозможны. Для того чтобы исключить влияние ошибок, производится большое число измерений. Каждое измерение дает нам уравнение, связывающее неизвестные коэффициенты. При большом числе измерений мы приходим, следовательно, к системе, число уравнений в которой значительно больше, нежели число неизвестных. Здесь ставится задача отыскания наиболее вероятных значений коэффициентов, которые, вообще говоря, не будут точно удовле­творять ни одному из уравнений системы. Эту задачу можно сформулировать в более общем виде. Пусть дана функция

(10.1)

независимой переменной x и m+1 параметра . Эти параметры постоянны, но заранее неизвестны и подлежат определению. Для их отыскания производится ряд измерений величин x и y. Подставляя их в равенство (10.1), мы получаем уравнения между параметрами , вида

i=1, 2, …, n (10.2)

где x_i и y_i - соответствующие друг другу измеренные значения, а n - число измерений. Если бы значения x и y находились точно, то для отыскания m+1 параметра достаточно было бы произвести m+1 измерение.

На самом деле, значения x и y содержат ошибки, и никакие m+1 измерений не позволят определить истинные значения параметров. Поэтому обычно производится большее число измерений (n > m+1), в результате чего число уравнений (10.2) будет больше, чем число неиз­вестных параметров. В этом случае система (10.2) будет несовместной, т.е. точные решения каких-либо m+1 из уравнений системы могут не удовлетворять остальным уравнениям. Требуется найти наиболее вероятные значения неизвестных параметров. Эти вероятные значения будут тем более близки к истинным, чем больше число наблюдений.

Так как уравнения (10.2) удовлетворяются неточно, то будем иметь

i=1, 2, …, n (10.3)

где - отклонения измеренных значений y_i, от вычисленных по формуле (10.1). Принцип наименьших квадратов утверждает, что наивероятнейшими значениями параметров будут такие, при которых сумма квадратов отклонений , будет наименьшей, т.е.

(10.4)

Функцию S называют функцией невязки.