Виды регрессионных моделей

Различают следующие основные типы регрессионных за­дач.

1. Простая линейная регрессия - самый простой случай - установление линейной связи между одной независимой (одномерной) переменной х и одной зависимой переменной (откликом) у.

2. Множественная линейная регрессия - задача предполагает установление линейной зависимости между группой независимых переменных Х₁, Х₂, … Х_К и одномерным откликом у. Стратегия анализа адекватности подобранной модели в задаче мно­жественной регрессии в целом аналогична задаче простой регрессии и сводится к детальному анализу остатков.

При решении задач множественной регрес­сии самым главным является выбор тех переменных, которые оказывают существенное влияние на отклик, и отсеивание несущественных переменных. Для этого используют очень эффективные на практике методы шаговой регрессии.

В подобных задачах может являться эффект, когда каждая из переменных не только действует на отклик независимо от других, но и порождает совместное воздействие. Для учёта этого совместного воздействия в модель, кроме переменных можно включать их произведения, например переменные и т.д.

3. Нелинейная регрессия. В этом случае параметры модели входят в подбираемую регрессионную функцию нелинейным образом. Нахождение их оценок в этом случае представляет собой более сложную задачу.

4. Множественная нелинейная регрессия - ещё более сложная задача, так как в данном случае нелинейность может сочетаться с взаимодействием факторов. Существует мнение, что использование методов нелинейной регрессии, особенно множественной нелинейной регрессии, оправдано лишь в том случае, когда вид регрессионной зависимости известен априори. Однако опыт показывает, что при наличии современных быстродействующих программных средств и известной осторожности в применении (постоянное использование t-критерия и сравнения достоверности разных моделей) такая регрессия может оказаться очень эффективной. Она в ряде случаев позволяет обнаружить новые закономерности, которые лишь впоследствии находят теоретическое объяснение.

Возможности современных машинных методов в построении регрессионных моделей. Объём оперативной памяти современных компьютеров при использовании специальных программных средств позволяет решать все перечисленные задачи без исключения. Вопрос обычно стоит о возможностях офисной техники без привлечения специальных программ. В этом отношении задачи первого и второго типа свободно решаются в рамках инструмента анализа «Регрессия». Задачу третьего типа можно решать в рамках графических опций MS EXCEL (глава 5). И лишь решение задачи четвёртого типа требует использования специальных программных средств, из которых наиболее востребованной считается русскоязычная версия программы STATISTICA.