Data Mining - линейная регрессия, модель, предназначение, пример.

Линейная регрессия (англ. Linear regression) — используемая в статистике регрессионная модель зависимости одной (объясняемой, зависимой) переменной y от другой или нескольких других переменных (факторов, регрессоров, независимых переменных) x с линейной функцией зависимости.

Задача линейной регрессии заключается в нахождении коэффициентов уравнения линейной регрессии, которое имеет вид:

y=bo + b1x1 + b2x2 + …+ bnxn (1)

где y — выходная (зависимая) переменная модели;

x1, x2 …xn — входные (независимые) переменные;

bi — коэффициенты линейной регрессии, называемые также параметрами модели (b0 — свободный член).

Задача линейной регрессии заключается в подборе коэффициентов bi, уравнения (1) таким образом, чтобы на заданный входной вектор X = (x1, x2 …xn) регрессионная модель формировала желаемое выходное значение y.

Одним из наиболее востребованных приложений линейной регрессии является прогнозирование. В этом случае входными переменными модели х-, являются наблюдения из прошлого (предикторы), а y — прогнозируемое значение. Несмотря на свою универсальность, линейная регрессионная модель не всегда пригодна для качественного предсказания зависимой переменной. Когда для решения задачи строят модель линейной регрессии, на значения зависимой переменной обычно не налагают никаких ограничений. Но на практике такие ограничения могут быть весьма существенными. Например, выходная переменная может быть категориальной или бинарной. В таких случаях приходится использовать различные специальные модификации регрессии, одной из которых является логистическая регрессия.