Теория больших чисел

Закон больших чисел.

Закон больших чисел говорит о свойствах суммы случайных величин при неограниченном увеличении числа слагаемых. Пусть Z – среднее арифметическое n случайных величин.

Закон больших чисел в форме Чебышева – это совокупность теорем, которые позволяют оценить вероятность попадания величины Z в интервал, симметричный относительно математического ожидания этой суммы. Такие суммы появляются при многократных измерениях случайных величин.

Пусть требуется оценить математическое ожидание случайной величины X, не зная закона распределения вероятностей. Сделаем n измерений этой величины и в качестве оценки mx* математического ожидания возьмём среднее арифметическое полученных измерений:

Здесь = , I, 1, 2, …, n, – измеренные значения X. Насколько близко значение mx* истинному значению математического ожидания mx? Сколько нужно сделать измерений, чтобы можно было оценить mx с удовлетворительной точностью? Можно ли, хотя бы приближённо, судить о законе распределения вероятностей такой суммы? На некоторые из таких вопросов можно ответить, применяя выводы закона

больших чисел и центральной предельной теоремы.

Для формулировки теорем закона больших чисел введём понятие сходимости по вероятности. Пусть Z1, Z2, …, Zn – последовательность случайных величин. Говорят, что эта последовательность сходится по вероятности к числу mz, если для любого как угодно малого положительного числа ε выполняется равенство:

Особенность сходимости по вероятности состоит в том, что нельзя полностью отвергать событие |Zn – mz | ≥ ε при n→∞. Здесь уместно вспомнить, что вероятность невозможного события равна 0, но обратное утверждение не всегда является верным, т.е. событие, имеющее нулевую вероятность, может, тем не менее, произойти.

Свойства сумм случайных  величин  рассматривает  также центральная предельная теорема. При определённых условиях закон распределения суммы случайных величин при неограниченном увеличении числа слагаемых неограниченно приближается к нормальному закону. Центральная предельная теорема указывает на эти условия.

Пусть Z – произвольная случайная величина, имеющая математическое ожидание mz и дисперсию Dz. Неравенство Чебышева утверждает, что вероятность отклонения случайной величины от своего математического ожидания на величину, не меньшую чем ε, ограничена сверху величиной Dz/ε2, т.е.

Неравенство Чебышева можно записать в другой форме:

Неравенство Чебышева даёт достаточно грубую оценку вероятности. Иногда такие оценки становятся просто бесполезными.

Теорема Чебышева. Пусть случайные величины X1, X2, …, Xn попарно независимы и имеют дисперсии, ограниченные одной и той же постоянной, т.е. D{X1} ≤ C, D{X2} ≤ C, …, D{Xn} ≤ C. Тогда среднее арифметическое этих величин при n→∞ сходится по вероятности к среднему арифметическому их математических ожиданий: