Статистическая обработка результатов

Для статистической оценки результатов использован усредненный по большому массиву экспериментов расчет дисперсии воспроизводимости относительного значения величины.

Обычно каждый вариант среды, штамма, условия культивирования повторяется относительно небольшое число раз. Вычисленная по этому небольшому числу повторностей γ дисперсия воспроизводимости σ ² , с одной стороны, хороша тем, что она относится к этому конкретному варианту. Однако, точность оценки дисперсии невелика из-за малого числа степеней свободы (γ -1). Поэтому при расчете доверительного интервала ε приходится умножать среднеквадратичное отклонение на большое значение критерия Стьюдента.

При использовании усредненного метода число степеней свободы значительно возрастает. Оно равно (γ -1)N, где N – число различных вариантов опытов (штамм, среда, условия культивирования).

Относительная усредненная дисперсия воспроизводимости определяется по формуле:

В этой формуле сначала вычисляется среднее значение в каждом j-м варианте условий опыта.

Затем находятся все индивидуальные отклонения от среднего (их должно быть всего γ – по числу повторностей этого варианта). Затем каждое из них делится на среднее значение и переводится в % отклонения от среднего. Наконец, все это возводится в квадрат. Эти квадраты относительных отклонений суммируются для всех γ повторностей и затем делятся на (γ -1) - число степеней свободы в каждом варианте. Аналогичные вычисления проводятся для всех N вариантов условий опыта, и полученные значения суммируются и делятся на N.

В результате получаем дисперсию воспроизводимости единичного относительного отклонения, усредненную по всему массиву вариантов опытов и повторностей в них.

Важно отметить, что число повторностей в разных вариантах условий опытов может быть различным.

При этом число степеней свободы , по которому определена дисперсия воспроизводимости, равно

,

где γ _j – число повторностей в j-м варианте.

При одинаковом числе повторностей в каждом варианте

Полученная величина относительной дисперсии воспроизводимости относится к единичному измерению. Из нее можно рассчитать значение дисперсии

Доверительный интервал среднего значения можно определить по формуле:

При этом – (критерий Стьюдента) определяется по числу степеней свободы , которое использовалось для оценки дисперсии воспроизводимости (N(γ -1)), а не для каждого конкретного варианта опытов (γ -1). Величина критерия Стьюдента зависит от принятой надежности оценки. Обычно используется 95% надежность.

Тогда каждый средний результат варианта условий опытов следует записывать так:

Это означает, что в данном диапазоне находится 95% всех вероятных значений оцениваемой величины среднего значения .

Удобством предлагаемого способа является возможность вычисления доверительного интервала один раз. В дальнейшем можно оперировать только со средними значениями , каждый раз имея в виду, что они имеют интервал возможных колебаний . Этот интервал выражен в % от среднего значения, поэтому сама величина в данных условиях проведения опыта может быть и малой, и большой.

Естественно, что таким образом можно оценивать однородные по физическому смыслу показатели. Очевидно, что даже усредненные относительные дисперсии воспроизводимости могут быть разными для разных параметров: например, для скорости роста штаммов определенных по диаметру колоний или то же по сухому весу, или по активности фермента в конце культивирования.

В таком случае для разных показателей должны быть вычислены свои дисперсии воспроизводимости и доверительные интервалы.

В качестве примера расчета усредненной дисперсии рассмотрим данные активности лакказы. Данные представляют собой оксидазную активность, полученную для 4 вариантов опыта. При этом число повторностей было 4.

В таблице 1 представлены исходные данные и результаты промежуточных расчетов.

В результате получена двойная сумма = 1, 300384 для 4 вариантов условий эксперимента, откуда

или стандартное усредненное единичное отклонение

Число степеней свободы, по которому определена эта усредненная дисперсия воспроизводимости

Для этого значения критерий Стьюдента

Если каждый вариант условий опыта повторяется 4 раза, то

и

В дальнейшем все данные по активности лакказы представлены в виде средних значений, при этом подразумевается, что доверительный интервал для всех этих значений одинаков.