Линейный регрессионный анализ с двумя независимыми переменными

💸 Как сделать бизнес проще, а карман толще?

Тот, кто работает в сфере услуг, знает — без ведения записи клиентов никуда. Мало того, что нужно видеть свое раписание, но и напоминать клиентам о визитах тоже. Проблема в том, что средняя цена по рынку за такой сервис — 800 руб/мес или почти 15 000 руб за год. И это минимальный функционал. Нашли самый бюджетный и оптимальный вариант: сервис VisitTime.
⚡️ Для новых пользователей первый месяц бесплатно. А далее 290 руб/мес, это в 3 раза дешевле аналогов. За эту цену доступен весь функционал: напоминание о визитах, чаевые, предоплаты, общение с клиентами, переносы записей и так далее.
✅ Уйма гибких настроек, которые помогут вам зарабатывать больше и забыть про чувство «что-то мне нужно было сделать».
Сомневаетесь? нажмите на текст, запустите чат-бота и убедитесь во всем сами!

Cлучайная величина y является линейной функцией от переменных x₁ и x₂

; (12.53)

Как и в случае с одной независимой переменной, предполагается, что для каждого фиксированного значения (x₁, x₂) величина у нормально распределена, дисперсия не зависит от (x₁, x₂), пропорциональна известной функции (x₁, x₂), т.е.: (12.54)

Предполагается также, что наблюдения стохастически независимы, т.е.

(x₁_i, x₂_i, y_i) независимы от (x₁_j, x₂_j, y_j)

Кроме этих предпосылок регрессионного анализа, появляется еще одна предпосылка - требование линейной независимости переменных (x₁, x₂)

Пусть в результате эксперимента получено n групп чисел (x₁_i, x₂_i, y_i) где i = 1, 2,..., n Результаты наблюдений не образуют групп при каждом значении i и дисперсия y не зависит от (x₁, x₂). Нужно найти оценки параметров .

Оценки параметров .осуществляют методом наименьших квадратов минимизируя сумму квадратов отклонений наблюдаемых значений y от эмпирическои плоскости регрессии.

; (12.55)

Берем частные производные по b₀, b₁, b₂ от суммы квадратов отклонений

. (12.56)

Приравнивая три производные нулю, получим систему из трех уравнений:

; (12.57)

; (12.58) ; (12.59)

Решая эту систему уравнений относительно параметров b₀, b₁, b₂ получим

; (12.60)

; (12.61)

; (12.62)

Из выражений видно, что оценки b₀, b₁, b₂ представляют собой линейные функции y и в соответствии с теоремой сложения для нормального распределения они распределены нормально с дисперсиями:

; (12.63)

; (12.64)

; (12.65)

Смешанный второй момент или ковариация коэффициентов регрессии b₁, b₂ равна: ; (12.66)

Величина представляет собой дисперсию экспериментальных точек относительно эмпирической поверхности регрессии - так называемую остаточную дисперсию:

; (12.67)

Значимость найденных оценок b₀, b₁, b₂ проверяют, рассчитывая отношения:

(12.68); (12.69); ; (12.70)

которые сопоставляют с табличными значениями t для заданного а при числе степеней свободы: f = n-3

Проверк: у гипотезы о линейности связи осуществляют путем расчета отношения дисперсии экспериментальных значений y обусловленной регрессией y на x₁ и x₂, равной

; (12.71)

к остаточной дисперсии

Величину отношения F сравнивают с табличным значением при заданном а и числе степеней свободы f_p =2 и f = n -3. если F равна или больше табличного, то гипотеза о линейности связи не противоречит экспериментальным данным.

Уравнение регрессии характеризуется совокупным коэффициентом детерминации:

; (12.72)

Чтобы определить с максимальной точностью положение в пространстве поверхности регрессии, необходимо не только варьировать значения независимых переменных x₁, x₂ по возможности в более широких пределах, но и добиваться независимо друг от друга их изменения. При несоблюдении последнего условия значения угловых коэффициентов b₁, b₂ искажаются и в результате рассмотрения можно прийти к ошибочным выводам о влиянии рассматриваемых факторов x₁, x₂ на y.

Часто для более детального изучения связи между x1, x2 и y применяют последовательный регрессионный анализ определяя влияние каждого фактора отдельно:

(12.73)

(12.74)

и затем расчитыают уравнение:

(12.75)

Для выяснения вопроса о целесообразености включения в модель того или иного члена делают оценку эффекта от включения его в модель с помощью F критерия.

При сильной корреляции между x₁, x₂ интерпретация уравнения регрессии затруднена, а применение методов ортогонолизации переменных еще более затрудняет оценку. В некоторых случаях, когда переменные x₂ и y закономерно изменяются с изменением x₁ – достаточно эффективен метод каскадного анализа –регрессионный анализ с заменой наблюдаемых величин расчетной :

; (12.76)

Расчетная величина ортогональна по отношению к x₁ _,при наличии линейной связи между x₁ и x₂. Благодаря этому коэффициенты регрессии в уравнении некореллированы.

Контрольные вопросы:

1.Сущность регрессионного анализа с одной переменной.

2.Методы регрессионного анализа с двумя независимыми переменными.

3.Что называют множественным регрессионным анализом.