Применение метода наименьших квадратов

Рассмотрим возможность применения метода наименьших квадратов к задаче аппроксимации функции двух переменных. Аппроксимирующую функцию будем задавать в виде:

, (2.164)

где , заданные базисные функции. Точки на плоскости заданы в виде:

, .

Вычислим среднеквадратическое отклонение

,

где

,

Коэффициенты найдем из условия:

. (2.165)

Введем в рассмотрение вектор

, (2.166)

где матрица и вектор равны:

, . (2.167)

Вектор ошибок можно представить в виде

,

где . Учитывая (2.166), и равно:

. (2.168)

В (2.168) обозначает след матрицы (сумму диагональных элементов матрицы). Последнее соотношение в (2.168) получено в силу очевидного свойства для матрицы и векторов :

.

Найдем минимум (2.165) из условия:

. (2.169)

Тогда, применяя правила дифференцирования следа от матрицы по векторному или матричному аргументу

,

(здесь – некоторые векторы или матрицы), получим:

. (2.170)

В силу условия (2.169) из соотношения (2.170) получим уравнение

,

решение, которого и даст аналитическое выражение для вектора неизвестных параметров :

. (2.171)

В (2.171) матрица Грама должна быть невырожденной.

Отметим, что метод наименьших квадратов может быть легко обобщен на случай аппроксимации функций с большим количеством переменных. Основная трудность в этом методе заключается в выборе базисных функций. Однако в некоторых случаях базисные функции могут быть выбраны достаточно просто.

Пример. 2.13. Требуется построить по данным

,

представленным в таблице

Таблица 2.15.

аналитическое выражение для производственной функции типа Кобба-Дугласа, которое используется достаточно часто в экономических расчетах:

, (2.172)

где параметры, подлежащие определению. Прологарифмировав (2.172), в результате получим:

.

Тогда в качестве базисных функций естественно взять следующие:

, , .

Матрица и вектор в данной задаче имеют вид:

, .

Выполнив расчеты по формуле (2.158), найдем вектор :

.

Окончательно имеем:

, , .

На рис. 2.10 приведена поверхность, иллюстрирующая производственную функцию типа Кобба-Дугласа , которая построена в области: , .

Рис. 2.10. Поверхность функции Кобба-Дугласа

Контрольные вопросы

1. Какая система базисных функций называется системой Чебышева?

2. Выведите формулу Лагранжа.

3. Объясните принцип расчета по схеме Эйткена.

4. Выведите формулу для остаточного члена формулы Лагранжа с использованием теоремы Ролля.

5. Как вычисляются разделенные разности, и какие они имеют свойства?

6. Выведите формулу Ньютона для случая неравноотстоящих узлов.

7. Выведите формулу для остаточного члена формулы Ньютона.

8. Дайте определение многочлену Чебышева и перечислите его свойства.

9. Докажите, что многочлен Чебышева является наименее отклоняющимся от нуля на интервале .

10. Будут ли отличаться интерполяционные многочлены Лагранжа и Ньютона, построенные для одной и той же таблицы исходных данных?

12. Проходит ли график интерполяционного многочлена, построенный на интервале интерполирования через все табличные точки?

13. Какие точки выбираются в качестве узлов интерполирования для многочлена Лагранжа для того, чтобы он имел минимальную погрешность?

14. Дайте определение интерполяционного сплайна.

15. Обязательно ли должен проходить через все табличные точки график интерполяционного сплайна?

16. Как определяется степень сплайна?

17. Как определяется дефект сплайна?

18. Чем отличаются интерполяционные кубические сплайны от Эрмитова сплайна 3-го порядка?

19. Как определяются коэффициенты аппроксимирующего многочлена, построенного по методу наименьших квадратов?

20. Для чего в методе наименьших квадратов используются в качестве базиса системы ортогональных функций?

21. Какими свойствами обладает матрица Грамма?

22. Обязательно ли должен проходить через все табличные точки график функции, построенной на основе метода наименьших квадратов?

23. Как вычисляются конечные разности, и какие они имеют свойства?

24. Укажите, какому неравенству удовлетворяет правильная конечная разность -го порядка, если – абсолютная погрешность табличного значения функции?

25. Выведите 1-ю формулу Ньютона.

26. Выведите 2-ю формулу Ньютона.

27. Выведите 1-ю формулу Гаусса.

28. Выведите 2-ю формулу Гаусса.

25. Выведите формулу Стирлинга.

25. Выведите формулу Бесселя.

26. Как определяется погрешность метода при интерполяции с равноотстоящими узлами?

26. Как определяется неустранимая погрешность при интерполяции с равноотстоящими узлами?

27. Укажите, какую интерполяционную формулу можно использовать для аппроксимации функции заданной таблично в точке при равноотстоящих узлах , , , , , (ответ необходимо дать для следующих значений точки : а) ; б) ; в) ; с) )?

28. Как строится интерполяционный многочлен Ньютона 2-ой степени для интерполяции функции двух переменных?

29. Как осуществляется аппроксимация функций многих переменных по методу последовательного интерполирования?

30. Как осуществляется аппроксимация по методу МНК для функций многих переменных?