Теоретическая задача регрессионного анализа.

В процессе анализа одним из методов строится некоторая случайная величина , зависящая только от , которая сравнивается с исходной величиной .

Условие «зависящая только от » означает, что случайная величина не является самостоятельной, а является детерминированной функцией от случайных величин :

.

Пусть на некотором множестве элементарных событий вектор случайных величин принимает одно и тоже значение :

: ,

тогда на множестве случайная величина может принимать только одно постоянное значение , а случайная величина может принимать совершенно произвольные значения. Если диапазон значений окажется широким, то каким бы образом ни выбиралась постоянная «расхождение» между величиной и величиной окажется значительным. Напротив, если диапазон значений окажется узким, то, подобрав подходящее значение , можно сделать «расхождение» между и незначительным.

Если между величиной и величинами имеется «сильная вероятностная зависимость», тогда на множествах, где вектор принимает постоянные значения, величина изменяется незначительно (по заданным значениям можно с хорошим приближением указать значение ), тогда, выбирая подходящим образом постоянные значения для величины на этих множествах, можно сделать «суммарное расхождение» между и малым.

Если между величиной и величинами имеется лишь «слабая вероятностная зависимость», тогда на множествах, где вектор принимает постоянные значения, величина изменяется значительно (по заданным значениям невозможно предугадать значение ), тогда каким бы образом ни выбирались значения для «суммарное расхождение» между и нельзя сделать малым.

Пусть «суммарное расхождение» между величинами и измеряется среднеквадратичным отклонением :

,

и требуется найти такую величину , которая доставляет минимальное значение . Известно, что такой величиной является условное математическое ожидание .