Генерирование многомерных случайных объектов

В экспериментах по распознаванию образов часто необходимо генерировать объекты, имеющие нормальное распределение с заданным вектором математического ожидания и ковариационной матрицей.

Так как обычно случайные величины-признаки коррелированны, то это создает определенные трудности при генерировании объектов. Однако генерирование нормально распределенных объектов с единичной ковариационной матрицей и нулевым вектором математических ожиданий является более простой задачей, так как случайные величины в этом случае независимы и одинаково распределены с единичной дисперсией. Поэтому предлагается вначале генерировать такие объекты X (см. ниже), а затем осуществлять их преобразование в Y с помощью уравнения

Y = (L^–1/2F^T)^–1 X = M + FL^1/2 X,

где M – вектор математического ожидания заданного распределения, F и L – соответственно матрицы собственных векторов и собственных значений ковариационной матрицы заданной распределения. Матрицы F и L имеют следующий вид:

где F₁, F₂, …, F _n, l₁, l₂, …, l _n – собственные вектора и соответствующие им собственные значения ковариационной матрицы заданного распределения.

Для определения матриц F и L можно воспользоваться методом вращения Якоби, предназначенном для симметричных матриц (ковариационная матрица является симметричной).

Метод Якоби заключается в следующем. Пусть дана симметрическая матрица A. Требуется для нее вычислить с точностью e все собственные значения и соответствующие им собственные векторы. Алгоритм метода вращения следующий:

Пусть известна матрица A ^{( k )}на k -й итерации, при этом для k = 0 A ⁽⁰⁾ = A.

1. Выбирается максимальный по модулю недиагональный элемент матрицы A ^{( k )}.

2. Ставится задача найти такую ортогональную матрицу U ^{( k )}, чтобы в результате преобразования подобия A ^{( k +1)} = U ^{( k )T} A ^{( k )} U ^{( k )} произошло обнуление элемента матрицы A ^{( k +1)}. В качестве ортогональной матрицы выбирается матрица вращения, в которой на пересечении i -й строки и j -о столбца находится элемент , где j ^{( k )} – угол вращения, подлежащий определению. Симметрично относительно главной диагонали (j -я строка, i -й столбец) расположен элемент . Диагональные элементы и равны . Другие диагональные элементы в матрице вращения равны 1, а не диагональные – 0.

Угол вращения j ^{( k )} определяется из условия = 0:

,

причем если , то j ^{( k )} = p/4.

3. Строится матрица A ^{( k +1)}: A ^{( k +1)} = U ^{( k )T} A ^{( k )} U ^{( k )}, в которой элемент » 0.

В качестве критерия окончания итерационного процесса используется условие малости суммы квадратов недиагональных элементов:

.

После останова в качестве искомых собственных значений принимаются диагональные элементы матрицы A ^{( k +1)}, а собственных векторов – столбцы матрицы U = U ⁽⁰⁾ U ⁽¹⁾… U ^(k).

Генерацию нормально распределенных независимых случайных величин с нулевым математическим ожиданием и единичной дисперсией можно осуществить с помощью одного из следующих правил:

1. Если случайная величина r равномерно распределена на [0, 1], и задана возрастающая на R функция F (x), 0 £ F (x) £ 1, то случайная величина ξ = F^-1(r) имеет непрерывную функцию распределения F (x).

2. Если r ₁, r ₂ – две независимые случайные величины, равномерно распределенные на [0, 1], то преобразование Бокса-Мюллера дает две независимые нормальные случайные величины ξ ₁, ξ ₂ Î N (0, 1). Преобразование Бокса-Мюллера:

Нормально распределенная случайная величина ξ с математическим ожиданием μ и среднеквадратическим отклонением σ имеет следующую плотность вероятности:

.

Вектор математических ожиданий M и ковариационная матрица Σ многомерной случайной величины определяются следующим образом:

где E – оператор математического ожидания.