Вычисление апостериорных вероятностей

💸 Как сделать бизнес проще, а карман толще?

Тот, кто работает в сфере услуг, знает — без ведения записи клиентов никуда. Мало того, что нужно видеть свое раписание, но и напоминать клиентам о визитах тоже. Проблема в том, что средняя цена по рынку за такой сервис — 800 руб/мес или почти 15 000 руб за год. И это минимальный функционал. Нашли самый бюджетный и оптимальный вариант: сервис VisitTime.
⚡️ Для новых пользователей первый месяц бесплатно. А далее 290 руб/мес, это в 3 раза дешевле аналогов. За эту цену доступен весь функционал: напоминание о визитах, чаевые, предоплаты, общение с клиентами, переносы записей и так далее.
✅ Уйма гибких настроек, которые помогут вам зарабатывать больше и забыть про чувство «что-то мне нужно было сделать».
Сомневаетесь? нажмите на текст, запустите чат-бота и убедитесь во всем сами!

При решении задач оптимального приема ответ получается на основе предварительных (априорных) сведений о принимаемом сигнала и надлежащей обработке его.

Если бы мы не располагали предварительными сведениями о сигнале (т.е. о его параметрах), то его нельзя было бы отличить от помехи. Наоборот, прием детерминированного сигнала не доставляет никакой информации; если все о нем известно, то его всегда можно полностью воспроизвести на приемном конце. Поэтому носителями полезной информации могут быть только неизвестные параметры сигнала.

По сравнению с априорными сведениями, знание наблюдателя об исследуемой ситуации в результате анализа принятого колебания увеличивается. Вновь сформированное знание называется
апостериорным.

Вспомним элементы теории вероятностей. Вероятность совместного события

Известны: Р(Н_k) и P(FA/H_k)... P(B/H_n), Н₁, H_k, H_n – гипотезы и передаче сигналов, P_a(H_k) – априорная их вероятность.

Если обратная задача: известно P(A) и P(A/H_k), то нужно найти, какая была H_k - это задача Байеса:

здесь Р_а(H_k) – априорное (до опыта, до передачи сигнала) распределение вероятностей гипотез H_k;

Р(H_k/А) – апостериорная вероятность (после опыта, после приема сигнала), которую обозначим P_pst().

Пусть бинарный сигнал принимается на фоне аддитивной помехи в виде белого шума, т.е. стационарной помехи с энергетическим спектром постоянной интенсивности по всей оси частот y(t) = s(t) + n(t).

Для упрощения математических выкладок введем временно следующее ограничивающее условие: Принятая смесь y(t) перед последующей обработкой пропускается через фильтр нижних частот с прямоугольной АЧХ и ФЧХ ∆ φ (ω) = 0. Обозначим полосу пропускания фильтра через ∆ f_ф = 0... f_в.

Пусть по каналу связи передается один из возможных сигналов мновества {S₁, S₂,..., S_L}. На приемном конце канала получена реализация y(t). В соответствии с теоремой Байеса вероятность того, что в принятой смеси находится сигнал S_k(t) равна

где P_a(S_k) - априорная вероятность передачи сигнала S_k(t)$

W(y(t)/S_k(t)) - плотность вероятности получения принятой реализации смеси при условии, что был передан сигнал S_k(t).

Т.к. знаменатель выражения (1.1) не зависит от конкретного значения k, то

где А - постоянная, не зависящая от k величина.

Как будет показано ниже, для решения задачи различения символов небходимы не абсолютные значения апостериорных вероятностей, а соотношения между ними. Поэтому значение постоянной величины нас в дальнейшем интересовать не будет.

Таким образом, распределение апостериорных вероятностей передачи каждого из возможных сигналов (пауза в некоторых случаях также может рассматриваться как один из сигналов) при заданном распределении априорных вероятностей определяется только условными плотностями вероятностей W(y/S_k).

Пропущенная через фильтр низких частот смесь y(t), имеет ограниченный спектр, следовательно, функция W(y/S_k) в соответствии с теоремой Котельникова полностью определяется отсчетами, взятыми с интервалами ∆ t = 1/2f_в. Отсюда следует, что плотность вероятности W(y/S_k) есть m-мерная условная плотность, где m - количество отсчетов, определяющих функцию:

Рассматриваемая как функция k условная m-мерная плотность вероятности называется функцией правдоподобия. Обозначив ее через L(S_k), получаем:

При заданном сигнале вероятности получения мгновенных значений смеси y₁, y₂,..., y_m, равны соответственно вероятностям мгновенных значений шума в эти же моменты времени n₁, n₂,..., n_m. Поэтому

Белый шум, пропущенный через фильтр с ограниченной полосой, является гауссовым стационарным процессом с автокорреляционной функцией вида R(τ) = sinω _вτ /ω _вτ. Следовательно, отсчеты шума, взятые с интервалами ∆ t = 1/2f_в между собой являются некоррелированными, а, значит, и независимыми. Поэтому, в соответствии с (5.5) L(S_k) равна произведению одномерных безусловных плотностей вероятности

Т.к. дисперсия шума на входе фильтра σ ²_ш = N₀∆ f_ф = N₀/2∆ t, то

При отсутствии в принятом колебании y(t) сигнала, т.е. при y_i = n_i функция правдоподобия принимает вид:

Предположение о наличии прямоугольного фильтра на входе устройства обработки было введено нами для того, чтобы получить выражение (5.7), ибо при белом шуме σ ²_ш = ∞ и выражение (5.7) не имеет смысла. Но уже в выражение (5.8) мощность шума не входит. Поскольку в дальнейшем мы будем пользоваться выражением (5.8), то предположение о наличии фильтра на входе теперь можно отбросить. При этом ∆ f_ф= ∞ и выражение (5.8) преобразуется к следующему виду:

где

или для прямоугольного импульса E_k = A² τ _u – энергия
k-го сигнала

Выражение (5.9) часто называют отношением правдоподобия, а q_k – функционалом правдоподобия (корреляционный интеграл).

Определив отношение правдоподобия для всех сигналов алфавита источника, можно получить в соответствии с (5.6) распределение их апостериорных вероятностей.

3. Поясните состав выражения функционала правдоподобия.