Формула полной вероятности. Формула Байеса.

Формула полной вероятности позволяет находить вероятность виртуального события A, совместного с некоторыми другими виртуальными событиями (гипотезами) H_i, по его условным вероятностям P(A | H_i) на фоне каждой из гипотез H_i, в предположении, что эти последние образуют полную группу событий (Рис. 2.7), а их вероятности P(H_i) так же считаются известными.

Рис. 2.7 Диаграмма Венна для полной вероятности.

Дано: H_i ∩ H_j = Ø i ≠ j (несовместность гипотез);

i = 1, 2, … k; (полная группа гипотез).

P(H_i) ≠ 0 и P(A | H_i) ≠ 0 – известные вероятности.

Найти: P(A) –?

Решение: Учтя свойства операций пересечения и объединения, представим событие A в таком виде:

A = A Ω = A(H₁ + H₂ + … +H_k) = AH₁ + AH₂ +... + AH_k.

Определим вероятность события A по Аксиоме 3 и Теореме 2:

P(A) = = . (35)

Это и есть формула полной вероятности. #

Формула Байеса, вывод которой приводится ниже, позволяет в тех же условиях модифицировать вероятности гипотез P(H_i) с учетом того, что результат опыта известен, т.е. определять условную вероятность P(H_i | A) гипотезы H_i на фоне элементарного исхода, обладающего свойством A.

Дано: См. предыдущую теорему, плюс факт наблюдения A.

Найти: P(H_i | A) –?

Решение: Опираясь на формулу (19), получаем такую цепочку преобразований:

P(AH_i) = P(H_i) * P(A | H_i) = P(A) * P(H_i | A).

Отсюда сразу следует искомая формула Байеса:

P(H_i | A) = P(H_i) * P(A | H_i) / P(A). # (36)

Отметим, что дробь P(A | H_i) / P(A) представляет собой корреляцию (27) между событием A и гипотезой H_i: Δ _AHi. Следовательно, можно получить такой вариант формулы Байеса:

P(H_i | A) = P(H_i)* Δ _AHi.

Отсюда вывод: если корреляция между событием A и гипотезой H_i отрицательна, то апостериорная вероятность гипотезы P(H_i|A) уменьшается по сравнению с априорной вероятностью P(H_i); если же корреляция положительна, то она увеличивается. Когда же событие A стохастически не связано с гипотезой H_i, то апостериорная и априорная вероятности гипотезы H_i равны между собой.

Задача 2.9. Три одинаковых урны заполнены разным количеством белых и черных шаров: в первой – два белых и восемь черных, во второй – три и семь, а в последней – шесть и четыре. Извлечен белый шар. Какова вероятность того, что его взяли из первой урны?

Дано: k = 3 – количество урн; H_i = {обращение к i -ой урне};

A = {извлечение белого шара};

A | H_i = { из i-ой урны извлечен белый шар};

H_i | A = { белый шар извлечен из i-ой урны}.

Найти: P(H₁ | A) –?

Решение: Определим вероятности всех вышеперечисленных событий. Так как урны одинаковы, то, в силу симметрии ситуации, P(H_i) = 1 / 3 для любой урны. Вычислим для каждой урны, зная их состав, вероятности изъятия белого шара по формуле классической вероятности (7): P(A | H₁)=2/10; P(A | H₂)=3/10; P(A | H₃)=6/10. Полная вероятность извлечения белого шара определяется по формуле (35):

P(A) = ∑ P(H_i)* P(A | H_i) = ⅓ * (0, 2 + 0, 3 + 0, 6) ≈ 0, 37.

Окончательно, по формуле (36) найдем вероятность того, что белый шар был взят из первой урны:

P(H₁ | A) = P(H₁)* P(A | H₁) / P(A) = ⅓ * 0, 2 / 0, 37 ≈ 0.18. #

Итак, апостериорная вероятность первой гипотезы на фоне наблюдавшегося события A уменьшилась. Естественно, что обращение к первой урне уменьшает вероятность извлечения белого шара, т.е. между этими событиями проявилась отрицательная корреляция (Δ _AHi = 0, 54 < 1).

Заключение.

Материал раздела 2.1 позволяет нам определять вероятности тех событий, которые мы в состоянии описать либо через элементарные исходы ω _j, либо на уровне виртуальных событий A, B, C …, или посредством отрицаний, пересечений, объединений указанных событий. Такой подход к делу не является самым эффективным, поскольку описания – это сложные логические построения, обработку которых трудно автоматизировать.

Для успешного применения полученных знаний нет другого пути, кроме приобретения навыка в решении задач. Это относится к любой науке, а к теории вероятностей в особенности. Мышление здесь не линейное, как в простейших ситуациях, к которым мы приучены элементарной математикой и обычной практической деятельностью. Хороший набор задач можно взять из [7], где даны основные формулы, ответы и пояснения в сложных ситуациях. Главное – это научиться записывать на языке вероятностных символов условия задачи и вопросы, на которые требуется дать ответы.

Более совершенным инструментом вычисления вероятностей является аппарат случайных величин. Он ориентирован именно на массовые вычисления и особенно эффективен в ситуации, когда ПЭИ Ω является непрерывным.

Случайные величины – это новые «числовые одежды» для знакомых нам статистически устойчивых событий. На них будут, естественно, распространяться первичные понятия, все аксиомы, основные теоремы и такие характеристики как совместность и несовместность, стохастическая связанность и не связанность, коррелированность и некоррелированность.