Теоретическое введение. Сравнение двух случайных выборок (нахождение оценок параметров распределения, проверка статистических гипотез)

Сравнение двух случайных выборок (нахождение оценок параметров распределения, проверка статистических гипотез)

Теоретическое введение

3.1.1 Точечные оценки параметров распределения
Распределение случайной величины Х характеризуется рядом параметров (математическое ожидание, дисперсия и т.д.). Эти параметры называют параметрами генеральной совокупности. Важной задачей математической статистики является нахождение по случайной выборке приближенных значений каждого из параметров, называемых точечными оценками параметров, или просто оценками. Таким образом, оценкой параметра β называется функция f (X ₁, X ₂,..., X_n) от случайной выборки, значение которой принимается в качестве приближенного для данного параметра и обозначается :

β ≈ = f (X 1, X 2,..., Xn).

(3.1)

Пусть задана повторная случайная выборка X ₁, X ₂,..., X_n. За оценку математического ожидания a принимается среднее арифметическое элементов выборки:

(3.2)

Оценкой дисперсии σ ² при неизвестном математическом ожидании является величина S ², которую называют эмпирической дисперсией:

(3.3)

Оценкой среднего квадратического отклонения σ при этом является, соответственно, величина

(3.4)

Для практических расчетов формулу (3.3) целесообразно преобразовать к следующему виду:

(3.5)

Вычисление среднего значения и оценки дисперсии S ² упрощается, если отсчет значений X_i вести от подходящим образом выбранного начала отсчета С и в подходящем масштабе, т.е. сделать линейную замену (кодирование):

При такой замене формулы (3.2), (3.3), (3.4) принимают следующий вид:

(3.7)

(3.8)

Для контроля правильности вычислений весь расчет следует повторить при другом начале отсчета С: результаты должны совпадать с точностью до величины возможных ошибок округления.

3.1.2 Доверительные интервалы параметров нормального распределения
Доверительным интервалом параметра β называется интервал со случайными границами ( – ε ₁; + ε ₂), который накрывает истинное значение параметра β с заданной вероятностью P, которая называется доверительной вероятностью. Величина α = 1 – P называется уровнем значимости. При этом обычно требуют, чтобы вероятности выхода за границы доверительного интервала в обе стороны были равны между собой, а именно:
P (β < – ε ₁) = P (β > + ε ₂) = (1 – P)/2 = α /2.
Это дополнительное требование обеспечивает единственность решения задачи.
Пусть задана повторная случайная выборка X ₁, X ₂,..., X_n из нормальной генеральной совокупности. Это означает, что результаты эксперимента независимы и подчиняются нормальному закону распределения с одинаковыми параметрами X_i ~ N (a; σ).
С вероятностью P математическое ожидание принадлежит интервалу

a є ( – ε, + ε);

(3.9)

(3.10)

где – оценка математического ожидания (3.2); – оценка среднего квадратического отклонения σ (3.4);
t _{1–α /2}(k) – квантиль распределения Стьюдента с k степенями свободы; n – объем выборки; k – число степеней свободы при вычислении оценки S.
Часто доверительный интервал для математического ожидания записывают символически:

α = ± ε.

(3.11)

Доверительный интервал для среднего квадратического отклонения σ при доверительной вероятности P = 1 – α имеет следующий вид:

(3.12)

где S – оценка среднего квадратического отклонения σ (1.6) при неизвестном математическом ожидании; χ _P ²(k) – квантиль распределения Пирсона с k степенями свободы; k – число степеней свободы оценки S.

3.1.3 Проверка статистических гипотез
Пусть Х – наблюдаемая случайная величина. Статистической гипотезой Н называется предположение относительно параметров или вида распределения случайной величины Х. Проверяемая гипотеза называется нуль-гипотезой и обозначается Н ₀. При постановке нуль-гипотезы сразу ставится альтернативная гипотеза Н ₁, т.е. то предположение, которое следует принять, если нуль-гипотеза будет отвергнута.
Правило, позволяющее принять или отвергнуть гипотезу Н ₀ – некоторая функция результатов эксперимента Q (X ₁, X ₂,..., X_n), распределение которой вполне определено при условии истинности гипотезы Н ₀.
Пусть заданы две независимые выборки из двух нормальных генеральных совокупностей. Первая выборка имеет объем n ₁, элементы выборки Х _i⁽¹⁾ ~ N(a ₁; σ ₁); вторая – объем n₂, элементы выборки Х _i⁽²⁾ ~ N(a ₂; σ ₂). Необходимо проверить гипотезу о равенстве дисперсий этих двух генеральных совокупностей, т.е. Н ₀: σ ₁² = σ ₂². Математические ожидания a ₁ и a ₂ неизвестны.
В этом случае по каждой выборке находят несмещенные оценки дисперсий S ₁² и S ₂² с числами степеней свободы k ₁ = n ₁ – 1 и k ₂ = n ₂ – 1 соответственно. Гипотезу проверяют по критерию Фишера, функция критерия

имеет F -распределение Фишера с k ₁ и k ₂ степенями свободы, т.е. F = F (k ₁, k ₂).
Если альтернативная гипотеза Н ₁: σ ₁² ≠ σ ₂², то критерий Фишера рассчитывается как отношение большей по величине оценки дисперсии к меньшей:

Гипотеза принимается при выполнении неравенства

в противоположном случае гипотеза отвергается. Здесь k _Sбол – число степеней свободы большей оценки дисперсии; k _Sмен – число степеней свободы меньшей оценки дисперсии.
Если гипотеза о равенстве дисперсий принимается, то за оценку общей σ может быть взята , полученная по формуле для сводной оценки дисперсии:

(3.16)

где S ₁², S ₂² – несмещенные оценки дисперсии первой и второй выборок соответственно.
Пусть заданы две независимые выборки из двух нормальных генеральных совокупностей. Первая выборка имеет объем n ₁, элементы выборки Х _i⁽¹⁾ ~ N(a ₁; σ ₁); вторая – объем n ₂, элементы выборки Х _i⁽²⁾ ~ N(a ₂; σ ₂). Математические ожидания a ₁ и a ₂ неизвестны.
Проверяем гипотезу о равенстве математических ожиданий этих двух генеральных совокупностей, т.е. Н ₀: a ₁ = a ₂. По каждой выборке находим оценки математических ожиданий ₁ и ₂. При этом дисперсии σ ₁² и σ ₂² неизвестны, но гипотеза о равенстве дисперсий принимается; S ₁² и S ₂² – несмещенные оценки дисперсий первой и второй выборок. Находим сводную оценку дисперсии (3.16).
Гипотеза проверяется по критерию Стьюдента, функция критерия

(3.17)

имеет t -распределение Стьюдента с k_CB степенями свободы, т.е. t = t (k_CB); ­ ­ k_CB = k ₁ + k ₂ – число степеней свободы при вычислении оценки . При альтернативной гипотезе Н ₁: а ₁ ≠ а ₂, гипотеза принимается при выполнении неравенства

в противоположном случае гипотеза отвергается.
Если гипотеза о равенстве математических ожиданий принимается, то за оценку общего математического ожидания может быть взята сводная оценка математического ожидания, которая определяется как средняя по обеим выборкам:

.

(3.19)

Доверительный интервал для математического ожидания при этом можно пересчитать, заменив в формулах (3.10) – (3.11) на _CB; S на S_CB; k на k_CB = k ₁ + k ₂, n на n ₁ + n ₂.

3.1.4 Проверка гипотезы о виде распределения генеральной совокупности
Если распределение случайной величины Х не известно, можно рассмотреть гипотезу о том, что Х имеет функцию распределения F (x). Критерии значимости для проверки таких гипотез называются критериями согласия.
Пусть X ₁, X ₂,..., X_n – выборка наблюдений случайной величины Х. Проверяется гипотеза Н ₀, утверждающая, что Х имеет функцию распределения F (x).
Проверку гипотезы Н ₀ при помощи критерия χ ² проводят следующим образом. По выборке находят оценки неизвестных параметров предполагаемого закона распределения случайной величины Х. Область возможных значений случайной величины Х разбивают на l интервалов. Подсчитывают числа n_i попаданий результатов экспериментов в каждый i -й интервал. Используя предполагаемый закон распределения случайной величины Х, находят вероятности р_i того, что значение Х принадлежит i -му интервалу. Затем сравнивают полученные частоты n_i /n с вероятностями р_i. Критерий согласия Пирсона требует принятия гипотезы о пригодности проверяемого распределения с уровнем значимости α, если значение взвешенной суммы квадратов отклонений

.

(3.20)

меньше квантиля распределения χ ²-распределения с k = l – 1 степенями свободы, т.е. χ ² < (χ _1–α )²(k),
в противоположном случае эта гипотеза отвергается, как противоречащая результатам эксперимента. Если при этом некоторые параметры распределения оценивают по результатам той же выборки, то квантиль χ ²-распределения следует брать для k = l – 1 – m степеней свободы, где m – число оцениваемых параметров.

3.1.5 Построение гистограммы (эмпирической функции распределения)
Для наглядного представления о выборке часто используют график, называемый гистограммой. Для построения гистограммы интервал, содержащий все элементы выборки, разбивают на l непересекающихся интервалов (как правило, равной длины). Подсчитывают числа n_i попаданий результатов экспериментов в каждый i -й интервал и строят столбиковую диаграмму, откладывая по оси ординат значения средней плотности n_i /(nh_i), где h_i – длина i -го интервала. Площадь каждого столбика равна n_i /n, что соответствует относительной частоте попадания элементов выборки в i -й интервал. Площадь под всей ступенчатой фигурой равна единице.
При увеличении объема выборки и уменьшении интервалов группировки гистограмма приближается к функции плотности генеральной совокупности. Гистограмма является эмпирической функцией плотности, она дает приближенную функцию плотности генеральной совокупности (ее оценку) по случайной выборке.

Содержание типового расчета

Заданы результаты двух серий измерений (две случайные выборки) объема n ₁ и n ₂.
Требуется: По каждой выборке найти оценку математического ожидания, дисперсии и среднего квадратического отклонения. Предполагая, что результаты измерений в каждой серии независимы и имеют нормальное распределение, найти доверительные интервалы для математического ожидания и среднего квадратического отклонения с доверительной вероятностью Р = 0, 95. С уровнем значимости α = 0, 05 проверить гипотезы о равенстве дисперсий и о равенстве математических ожиданий этих двух выборок при альтернативных гипотезах: дисперсии не равны друг другу, математические ожидания не равны друг другу. Проверить гипотезу о нормальном распределении объединения данных двух выборок, используя интервалы равной вероятности в количестве L. Построить гистограмму объединения данных двух выборок.