Неравенство чебышева: Неравенство Чебышева. Теорема Чебышева. Закон больших чисел. Теория вероятностей

Содержание

3

3. Законы больших чисел и предельные теоремы теории вероятностей.

3.1. Законы больших чисел.

Ряд утверждений и теорем в теории вероятностей объединены общим названием: законы больших чисел.

Эти законы делятся на две группы. К первой группе относятся утверждения, касающиеся оценок вероятностей больших отклонений случайной величины Х от ее математического ожидания, справедливые для любого распределения. Суть этой группы законов можно выразить краткой формулой: большие отклонения от m_X мало вероятны. Ко второй группе законов относятся утверждения о сходимости некоторых последовательностей случайных величин (теорема Чебышева и ее обобщения).

Неравенства Чебышева.

Пусть Х – случайная величина с конечным m_XÞ

(3.

1.1)

Пусть, для определенности, Х-СВНТ. Запишем по определению математическое ожидание от модуля случайной величины X :

Выберем произвольное e>0, разобьем маршрут интегрирования на два непересекающиеся интервала и воспользуемся свойством аддитивности интеграла по области.

В силу неотрицательности подинтегральной функции получаем

откуда следует (3.1.1).

Следствие. Пусть Х 0 Þ по одному из свойств математического ожидания Þ m_X 0 Þ уравнение (3.1.1) перепишется в виде:

(3.1.2)

Второе неравенство Чебышева (в центрированной форме).

Пусть случайная величина Х имеет конечные

m_Xи Þ

Þ (3. 1.3)

Обозначим, как и ранее в главе 2, -центрированная случайная величина. Учитывая очевидное равенство

и применяя доказанное выше первое неравенство Чебышева (3.1.1), получим:

что и требовалось доказать.►

Пример 3.1.1. Пусть X-число бракованных изделий из 100 наудачу отобранных из большой партии, поступившей в продажу. За большой период посчитано, что в среднем для этого вида изделий брак составляет 1%. Оценить вероятность события {X 5 }.

Т.к. Х>0 и по условию m_X=0,01×100=1,то по следствию из первого неравенства Чебышева

Þ P{X 5}

Пример 3.1.2. Пусть в условиях примера (3.1.1) известно, что .Оценить P{X 5}.

Заметим, что в силу условия X>0,

P{X 5} P{|X-1|4}

Заметим, что вероятность существенно уменьшилась!

Пример 3. 1.3 Предположим, X~P_U(l=1), что хорошо согласуется с данными задачи (одним из признаков этого является равенство: m_X=) и соответствует закону редких явлений. Оценим снова вероятность события .

P{X 5}=

Это более, чем в 17 раз меньше предыдущей оценки!

Пример 3.1.4. В условиях примера 3.1.2. оценить вероятность события {X2}.

◄ Очевидно, что в силу условия имеем следующую цепочку отношений между событиями

. (3.1.4)

Действительно,

откуда и следует (3.1.4).

Отсюда по закону поглощения получаем

т.е. получили тривиальный результат ►

Сделаем некоторые выводы. Последние примеры показывают, что чебышевские оценки сверху вероятностей больших отклонений случайной величины X от ее математического ожидания являются довольно грубыми, что является платой за незнание закона распределения сл. вел. X. На практике неравенства Чебышева имеет смысл применять при условии

. Однако теоретическое значение неравенств (3.1.1) – (3.1.3) большое, что будет ясно из дальнейшего.

Еще раз отметим, что рассмотренные выше примеры касались оценок сверху больших отклонений. Для получения оценок снизу следует перейти в неравенствах (3.1.1) – (3.1.3) к противоположным событиям. Например из (3.1.3) получаем:

(3.1.5)

Пример 3.1.5 Средняя длина детали, производимой на конвейерной линии, равна 50 см, а дисперсия 0,1 см². Оценить снизу вероятность того, что длина случайно взятой детали окажется в интервале (49,5; 50,5).

◄ Пусть X –длина случайно взятой детали. Очевидно, что события и равносильны. Поэтому, согласно неравенству (3.1.5) P1– ►

Пример 3.

1.6. В условиях предыдущего примера оценить снизу вероятность события {49<X<52}.

◄ Очевидно, что {49<X<52} {48<X<52}=. Поэтому по свойству вероятности

. ►

Пример 3.1.7. Случайная величина X дискретного типа задана законом распределения

	0,3	0,6
	0,2	0,8

а) Используя неравенство Чебышева, оценить снизу вероятность события {

б) Найти точное значение вероятности указанного события.

◄ а) Находим дисперсию: 0,09*0,2+0,36*0,8-0,54²=0,0144.

Далее, согласно неравенству (3.1.5), получаем:

P{

}1–1–0,36=0,64.

б) Используем закон распределения и цепочку очевидных равенств

P{}=P{0,34<X<0,74}=P{X=0,6}=0,8. ►

Пример 3.1.8. Устройство состоит из 10 независимо работающих элементов. Вероятность отказа каждого элемента за время t равна 0,03.

а) Оценить вероятность события , используя неравенство Чебышева.

б) Найти точное значение указанной вероятности.

◄ а) Согласно постановке эксперимента , где n=10, p=0,03. Поэтому =0,5; ==0,5*0,93. Далее используя (3.1.5), получаем

=0,88123.

б) Для точного ответа на вопрос используем биномиальный закон и формулу Бернулли:

Пример 3.1.9. Игральная кость подбрасывается 6 раз. Пусть X – число выпадений четной цифры.

а) Оценить по Чебышеву вероятность события .

б) Найти точное значение указанной вероятности.

◄ а) По условию эксперимента , где n=6, p=0.3. Отсюда следует: , =1,3. Далее согласно неравенству (3.1.3):

б) Используем закон распределения:

=2(1/2)⁶=1/32. ►

Анализируя результаты последних трех примеров обнаруживаем следующую закономерность: оценки по Чебышеву сверху всегда завышены по сравнению с точными значениями вероятности, в то время как оценки

снизу – занижены.

Упражнения.

3.1.7. Средний срок службы автомобильной свечи зажигания 4 года. Оценить снизу вероятность того, что данная свеча прослужит не более 8 лет.

3.1.8. Среднее значение расхода воды в некотором малом населенном пункте составляет 50000 л. в день. Оценить снизу вероятность того, что в этом населенном пункте расход воды в предновогодний день не превысит 120000 л.

3.1.9. В сентябре в среднем наблюдается 7 дождливых дней. Оценить вероятность того, что в сентябре 2007г. число дождливых дней будет больше 10.

3.1.10. Пусть к данным задачи (3.1.7) добавлена информация, что =0,5 года. Оценить ту же вероятность.

3.1.11.^* Неотрицательные случайные величины X и Y независимы, причем

m_X=6, m_Y=4, =1,5, =2. Оценить снизу вероятности событий: , .

Ответы к упражнениям

3.1.7. 0,3.

3.1.8. 0,583.

3.1.9. 0,727.

3.1.10. 0,984.

3.1.11. , . Указание. Использовать линейность оператора математического ожидания. Для вычисления использовать свойство оператора дисперсии (формула (), гл. 2).

Задание для самостоятельной работы

[1] 18.542 – 18.548

Понятие сходимости по вероятности.

Определение. Последовательность случайных величин сходится к случайной величине Х по вероятности при

n®, если

() (3.1.6)

Достаточное условие сходимости по вероятности:

Здесь {} – зависящая от неотрицательная неслучайная последовательность.

Замечание 1. В частных случаях в качестве предельной величины может выступать и не случайная величина (например M[X]).

Замечание 2. Для сходимости по вероятности принято краткое обозначение

Замечание 3. Сходимость по вероятности принципиально отличается от обычного понятия сходимости неслучайных последовательностей.

Пример 3.1.10. Рассмотрим следующую последовательность случайных величин , где закон распределения Х_nописывается таблицей.

a) Показать, что

б) Можно ли утверждать, что последовательность реализаций данной случайной последовательности сходится к 0 в обычном смысле?

а) В силу неотрицательности имеем следующую цепочку равенств:

Таким образом, утверждение в пункте а) доказано.

б) Пусть эксперимент проведен и реализовалась последовательность x₁, x₂,…, x_n, где каждое x_nÎ {0,n} Þ на n-ом месте этой последовательности при может оказаться число n (поскольку вероятность этого события ненулевая) Þ ни одна из сколь угодно малых окрестностей точки x=0 не может считаться «ловушкой» для последовательности {x_n}. Таким образом, нельзя считать, что последовательность реализаций сходится к нулю в обычном смысле.

Пусть {X_n} – последовательность случайных величин с конечными математическими ожиданиями и дисперсиями. Для любого nÎN построим последовательность среднеарифметических , Þ получим последовательность Y₁,Y₂…Y_n.,…

Определение. Говорят, что к последовательности {X_n} применим закон больших чисел, если

Теорема 3.1.1 (закон больших чисел в формулировке Чебышева).

Пусть для последовательности {X_n} выполняются следующие условия:

1) Элементы последовательности попарно независимы;

2) =0.

Тогда для {X_n} выполняется закон больших чисел.

Согласно второму неравенству Чебышева в центрированной форме:

Вычислим дисперсию среднего арифметического:

что следует из условия 2) теоремы.

Используем достаточное условие сходимости по вероятности:

Замечание 1. Теорема Чебышева остается верной, если заменить попарную независимость на попарную некоррелированность.

Замечание 2. Условие некоррелированности так же можно снять, но тогда придется вводить более жесткие условия для дисперсии (см. теорему Маркова в [3]).

Замечание 3. Имеют место следующие частные случаи проявления закона больших чисел:

1) то есть дисперсии членов последовательности равномерно ограничены Þ условие 2) выполняется;

2) все X_k попарно независимы, одинаково распределены и имеют конечную дисперсию

В последнем случае закон больших чисел формулируется следующим образом: “среднее арифметическое первых n членов последовательности сходится по вероятности к их общему мат.ожиданию”. В краткой записи:

Действительно,

Теорема 3. 1.2. (Закон больших чисел в формулировке Бернулли.

Пусть X_n — число успехов в n опытах по схеме Бернулли с вероятностью успеха в одном опыте, равным p (в краткой записи:X_n~B(n,p)). Обозначим -относительная частота успехов. Тогда справедливо следующее утверждение:

При увеличении числа опытов по схеме Бернулли относительная частота успехов сходится по вероятности к вероятности успеха в одном опыте.

Обозначим I_k– индикатор успеха в k-ом опыте. Очевидно, что I_k~B(1,P), kÎN. При любом n элементы последовательности I₁,I₂…I_n – независимы в совокупности, а потому и попарно независимы. Условие 1) теоремы Чебышева выполняется. Кроме того: M[I_k]=p, D[I_k]=p×q, Þ выполняется частный случай 2) теоремы Чебышева Þ

Теорема Бернулли играет большую роль в математической статистике, составляя основу для оценивания неизвестной вероятности событий в реальных экспериментах.

Пример 3.1.11. Случайная двоичная последовательность, вырабатываемая на ЭВМ, делится на группы из одинаковых символов (нулей и единиц). Обозначим — число знаков в i-ой группе; — среднее число знаков в серии, вычисленное по n сериям. Доказать, что последовательность сходится по вероятности к 2.

◄ Из условия следует, что последовательность — независимые случайные величины одинаково распределенные по закону Гео(p=0,5). Как было показано в главе 2, для геометрического распределения

==2; =.

Таким образом, удовлетворяются условия частной теоремы Чебышева (случай 2)) Отсюда следует, что

=2, что и требовалось доказать ►

Пример 3.1.12. В последовательности случайные величины попарно независимы и распределены по закону . Применим ли к этой последовательности закон больших чисел?

◄ Используя известные характеристики равномерного распределения, получаем: =0, =. Проверим второе условие теоремы Чебышева:

Таким образом, условие 2) не выполняется и данная последовательность не подчиняется закону больших чисел.►

Пример 3.1.13. (сборка точных механизмов). Пусть — случайная длина детали, сходящей с конвейера. Известны ее основные характеристики:

=10 см, ==0,04 см²

Относительную точность изготовления детали можно характеризовать отношением . Производится сборка 9 подобных деталей (т.е. их длины складываются). Обозначим . Вычислить относительную точность для Y, т.е. отношение .

◄ Считая, что длина каждой изготовленной детали не зависит от остальных и используя свойства операторов матожидания и дисперсии, получаем:

Отсюда следует: =. Таким образом, относительная точность собранной детали повысилась в 3 раза. ►

Из рассмотренных примеров можно сделать следующий вывод: проявление закона больших чисел связано главным образом с тем, что сумма конечного числа независимых случайных слагаемых имеет меньший относительный разброс, измеряемый отношением С.К.О. к математическому ожиданию, чем у отдельно взятого слагаемого.

Задание для самостоятельной работы

Решить задачи 18.550 – 18.555 из задачника [1], предварительно прочитав теоретическую преамбулу параграфа 5 и разобрав решение примера 1.

04.1. Неравенства Маркова и Чебышева

Чтобы иметь представление о случайной величине, важно знать характеристику ее отклонений от среднего значения. В связи с этим введены понятия среднего отклонения и среднего Квадратического Отклонения и установлены способы их вычисления. Однако это не дает возможности устанавливать количественные оценки вероятности тех или иных значений этих отклонений.

Между тем эти оценки имеют большое значение во многих вопросах теории вероятностей и ее применения в статистике.

Критерии таких оценок были впервые разработаны знаменитыми русскими учеными А. А. Марковым и П. Л. Чебышевым.

1. Неравенство Маркова. Если случайная величина Х не принимаеТ Отрицательных значений и D — Произвольная положительная величина, то где .

Это неравенство оценивает вероятность того, что значения случайной величины Х не превосходят заданной величины D > 0.

Пусть дискретная случайная величина Х задана таблицей распределения1) и пусть каждое из значений не превосходит величины D, а каждое из значений превосходит величину D. Так как все значения случайной ВЕличины Х положительны, то

Это неравенство усилится, если каждое ИЗ Значени заменить величиной D. Это дает:

Отсюда

Заметим, что сумма, записанная в левой части этого неравенства, в соответствии с теоремой сложения вероятностей, определяеТ Вероятность того, что случайная величина .

Поэтому

А так как , то

Или

Отсюда

Что и требовалось доказать.

Доказанное неравенство исходит из того, что величина D не меньше значений и меньше значений . Пусть теперь D не меньше всех значений X. Тогда неравенство — событие достоверное, и, следовательно, , т. е.

Таким образом, неравенство доказано для дискретной случайной величины при любом .

Пример 1. Среднее число молодых специалистов, ежегодно направляемых в аспирантуру при экономических вузах, составляет 200 человек. Пользуясь неравенством Маркова, оценить вероятность того, что в данном году будет направлено в эти вузы не более 220 молодых специалистов.

Решение. Так как здесь А = 200 и D = 220, то применяя полученное неравенство, имеем

Или

Таким образом, .

Неравенство Маркова справедливо и для непрерывных случайных величин, но для них доказательство более сложно и мы его не приводим.

2. Неравенство Чебышева. Если Х — случайная величина, математическое ожидание которой , а D —Произвольное положительное число, то

Пусть дискретная случайная величина X задана распределением и для этой случайной величины и .

			…
			…

Пусть при этом для некоторых частных значений Х имеет место неравенство , а для других значений —неравенство .

В виде случайной величины мы будем рассматривать . Тогда условие равносильно условию .

Применяя к этому условию соответствующее неравенство Маркова, будем иметь

Но , а поэтому

Заметив, что

Приходим к требуемому результату . (1)

Исходя из того, что условия и являются по своему смыслу противоположными [те частные значения случайной вЕЛичины, которые не удовлетворяют условию , обязательно удовлетворяют условию ], можно записать

Следовательно, если доказано неравенство (1), то справедливо и неравенство

. (2)

Пример 2. Среднее значение длины детали равно 50 См, а дисперсия равна 0,1. Пользуясь неравенством Чебышева, оценить вероятность того, что изготовленная деталь окажется по своей длине не меньше 49,5 См и не больше 50,5 См.

Решение. Так как здесь А = 50, то условие 49,5£Х£50,5, в котором случайная величина Х обозначает возможную длину детали, приводится почленным вычитанием числа А = 50 к виду .

Таким образом, , а так как по условию D(X) = 0,1, то применяя неравенство Чебышева, получаем

Пример 3. Пусть всхожесть семян некоторой культуры равна 0,75. Пользуясь неравенством Чебышева, оценить вероятность того, что из посеянных 1000 семян число взошедших окажется от 700 до 800 включительно.

Решение. Здесь М(X) = а = 1000×0,75 и граничные значения случайной величины Х симметричны относительно М(X) = 750. Поэтому от исходных неравенств

700£Х£800

Можно почленным вычитанием величины А = 750 перейти к неравенствам

Или

Что дает левую часть неравенства Чебышева с .

Значение D(X) легко находится по формуле , что дает

Учитывая, что , получаем правую часть неравенства Чебышева:

Отсюда получается результат в виде

Оба вида неравенства Чебышева справедливы и для суммы попарно независимых1) случайных величин.

В частности, если X, Y, Z, ..., U, V — попарно независимые случайные величины, математические ожидания которых соответственно равны А, B, с, . .., K, l и дисперсии — D(X), D(Y), D(Z), …, D(U), D(V), то рассматривая сумму X+Y+Z+ …+U+V как случайную величину и применяя свойства о математическом ожидании и дисперсии суммы случайных величин, будем иметь:

И .

Поэтому последнее неравенство

В применении к случайной величине X+Y+Z+…+U+V

Дает .

< Предыдущая		Следующая >

13 фактов о неравенстве Чебышева и центральной предельной теореме —

В теории вероятностей неравенство Чебышева и центральная предельная теорема имеют дело с ситуациями, когда мы хотим найти распределение вероятности суммы большого числа случайных величин в приблизительно нормальном состоянии, до Глядя на предельные теоремы, мы видим некоторые неравенства, которые дают границы для вероятностей, если известны среднее значение и дисперсия.

Неравенство Маркова

Неравенство Маркова для случайной величины X, которая принимает только положительное значение при a>0, равно

чтобы доказать это для a>0 рассмотрим

Так как

теперь принимая ожидание этого неравенства, мы получаем

причина

, что дает неравенство Маркова для a>0 как

Неравенство Чебышева

Для конечного среднего значения и дисперсии случайной величины X неравенство Чебышева для k>0 равно

, где sigma и mu представляют дисперсию и среднее значение случайной переменная, для доказательства используем неравенство Маркова как неотрицательную случайную величину

для значения a как постоянного квадрата, следовательно,

это уравнение эквивалентно

как ясно

Примеры неравенств Маркова и Чебышева:

Если производство конкретного изделия принять как случайная величина для неделе со средним значением 50, найдите вероятность производства, превышающего 75 за неделю, и какова будет вероятность, если производство за неделю будет между 40 и 60, при условии, что дисперсия для этой недели равна 25?

Решение: Рассмотрим случайную величину X для производства изделия за неделю, затем, чтобы найти вероятность производства, превышающую 75, мы будем использовать неравенство Маркова как

Теперь вероятность производства в диапазоне от 40 до 60 с дисперсией 25 мы будет использовать неравенство Чебышева как

, поэтому

это показывает, что вероятность за неделю, если производство составляет от 40 до 60, составляет 3/4.

2. Показать, что неравенство Чебышева, которое дает верхнюю границу вероятности, не слишком близко к фактическому значению вероятности.

Решение:

Предположим, что случайная величина X равномерно распределена со средним значением 5 и дисперсией 25/3 на интервале (0,1), тогда по неравенству Чебышева мы можем написать

, но фактическая вероятность будет

, что равно Точно так же, если мы возьмем случайную величину X как нормально распределенную со средним значением и дисперсией, то неравенство Чебышева будет

, но фактическая вероятность будет

. Слабый закон больших чисел

Слабый закон для последовательности случайных величин будет сопровождаться результатом, что неравенство Чебышева может быть использовано в качестве инструмента для доказательств, например, для доказательства

, если дисперсия равна нулю, что это единственные случайные величины, имеющие дисперсии, равные 0 — это те, которые постоянны с вероятностью 1, поэтому по неравенству Чебышева для n больше или равно 1

как

по непрерывности вероятности

, что доказывает результат.

, чтобы доказать это, мы предполагаем, что дисперсия также конечна для каждой случайной величины в последовательности, поэтому математическое ожидание и дисперсия

теперь из неравенства Чебышева верхняя граница вероятности как

, которая для n, стремящегося к бесконечности, будет

Центральная предельная теорема

Центральная предельная теорема является одним из важных результатов в теории вероятностей, поскольку она дает распределение суммы больших чисел, которое является приблизительно нормальным распределением, в дополнение к методу нахождения приблизительных вероятностей для сумм независимых случайных чисел. Центральная предельная теорема переменных переменных также показывает, что эмпирические частоты многих естественных популяций демонстрируют колоколообразные средние нормальные кривые. Прежде чем дать подробное объяснение этой теоремы, мы воспользуемся результатом 9.0003

«Если последовательность случайных величин Z ₁ ,Z ₂ ,…. имеют функцию распределения и производящую функцию момента как F _Zn и M _zn, затем

Центральная предельная теорема : Для последовательности одинаково распределенных и независимых случайных величин X ₁ ,X ₂ ,……. каждое из которых имеет среднее значение µ и дисперсию σ2, то распределение суммы

стремится к стандартной нормали, когда n стремится к бесконечности, чтобы a было действительным значением

Доказательство: Чтобы доказать результат, рассмотрим среднее значение как ноль, а дисперсию как единицу, т.е. μ=0 & σ ² =1, а производящая функция момента для X _i существует и имеет конечное значение, поэтому производящая функция момента для случайная величина X _i /√n будет равна

, тогда производящая функция момента для суммы ΣX _i /√n будет равна

Теперь возьмем L(t)=logM(t)

, поэтому

, чтобы показать доказательство, мы сначала показываем

, показывая его эквивалентную форму

, так как

, следовательно, это показывает результат для среднего нуля и дисперсии 1, и тот же результат следует для общего случая, также если взять

и для каждого a мы имеем

Пример центральной предельной теоремы

Чтобы вычислить расстояние в световом году до звезды из лаборатории астронома, он использует некоторые методы измерения, но из-за изменений в атмосфере каждый раз измеряемое расстояние не является точным, а с некоторой ошибкой, поэтому, чтобы найти точное расстояние, он планирует наблюдайте непрерывно в последовательности и среднее этих расстояний как расчетное расстояние. Если он считает значения измерения одинаково распределенной и независимой случайной величиной со средним значением d и дисперсией 4 световых года, найдите количество измерений, которые нужно сделать, чтобы получить ошибку 0,5 в расчетной и фактической стоимости?

Решение. Рассмотрим измерения как независимые случайные величины в последовательности X ₁ ,X ₂ ,…….X _n, поэтому по центральной предельной теореме мы можем записать

, что является приближением к стандартному нормальное распределение, поэтому вероятность будет

, поэтому, чтобы получить точность измерения на уровне 95 процентов, астроном должен измерить n * расстояний, где

, поэтому из таблицы нормального распределения мы можем записать это как

, что говорит о том, что измерение должно быть выполнено для 62 числа раз это также можно наблюдать с помощью неравенства Чебышева, взяв

, поэтому неравенство приводит к

, следовательно, для n = 16/0,05 = 320, что дает уверенность в том, что будет только 0,5-процентная ошибка в измерении расстояния звезды от лаборатории наблюдений.

2. Количество зачисленных студентов на инженерный курс распределено по Пуассону со средним значением 100, было решено, что если допущенных студентов 120 или более, обучение будет проходить в двух разделах, в противном случае — только в одном разделе, какова будет вероятность того, что будет два раздела курса?

Решение: Следуя распределению Пуассона, точное решение будет

, что, очевидно, не дает конкретного числового значения. Если мы рассмотрим случайную величину X, как признали студенты, то по центральной предельной теореме

, что может быть

что является числовым значением.

3. Рассчитайте вероятность того, что сумма на десяти кубиках при броске будет между 30 и 40, включая 30 и 40?

Решение: Здесь рассматривается кубик как X _i для десяти значений i. среднее значение и дисперсия будут

, таким образом, следуя центральной предельной теореме, мы можем написать

, что является требуемой вероятностью.

4. Для равномерно распределенных независимых случайных величин X _i на интервале (0,1) какова будет аппроксимация вероятности

Решение: Из распределения Unifrom мы знаем, что среднее значение и дисперсия будут

Теперь, используя центральную предельную теорему, мы можем

, таким образом, сумма случайной величины будет 14 процентов.

5. Найдите вероятность того, что оценщик на экзамене выставит оценки, равные 25 экзаменам в начальные 450 минут, если есть 50 экзаменов, время выставления оценок которых является независимым со средним значением 20 минут и стандартным отклонением 4 минуты.

Решение: Рассмотрим время, необходимое для оценки экзамена по случайной величине X _i, поэтому случайная величина X будет

, так как эта задача для 25 экзаменов занимает 450 минут, поэтому здесь

с использованием центральной предельной теоремы

что является искомой вероятностью.

Центральная предельная теорема для независимых случайных величин

Для последовательности, которая не является одинаково распределенной, но имеет независимые случайные величины X ₁ ,X ₂ ,……. каждая из которых имеет среднее значение μ и дисперсию σ ² при условии, что она удовлетворяет

каждая X _i равномерно ограничена
сумма дисперсий бесконечна, тогда

90 004 Усиленный закон больших чисел

Сильный закон больших чисел — очень важная концепция теории вероятностей, которая гласит, что среднее значение последовательности обычно распределенных случайных величин с вероятностью единица будет сходиться к среднему значению того же распределения

Утверждение : Для последовательности одинаково распределенных и независимых случайных величин X ₁ ,X ₂ ,……. каждая из которых имеет конечное среднее значение с вероятностью один, тогда

Доказательство: чтобы доказать это, рассмотрим, что среднее значение каждой случайной величины равно нулю, а ряд

теперь для этого рассмотрим степень этого как

после расширения членов правой части у нас есть условия формы

, поскольку они независимы, поэтому их среднее значение будет

с помощью комбинации пара, расширение ряда теперь будет

, поскольку

, поэтому

, мы получаем

, это предполагает неравенство

, следовательно,

По сходимости ряда, поскольку вероятность каждой случайной величины равна единице, поэтому

, так как

, если среднее значение каждой случайной величины не равно нулю, то с отклонением и вероятностью один мы можем записать это как

или

, что и требуется результат.

Одностороннее неравенство Чебышева

Одностороннее неравенство Чебышева для случайной величины X с нулевым средним и конечной дисперсией, если a>0 что дает

поэтому с помощью неравенства Маркова одностороннего чебышева

что дает требуемое неравенство. для среднего значения и дисперсии мы можем записать это как

Далее можно записать как

Пример:

Найдите верхнюю границу вероятности того, что продукция компании, которая распределена случайным образом, будет не менее 120, если продукция эта конкретная компания имеет среднее значение 100 и дисперсию 400.

Решение:

Используя одностороннее неравенство Чебышева

, так что это дает вероятность производства в течение недели по крайней мере 120 равно 1/2, теперь оценка этой вероятности будет получена с использованием неравенства Маркова

, которое показывает верхнюю границу вероятности.

Пример:

Берется сто пар от двухсот человек, состоящих из ста мужчин и ста женщин. Найдите верхнюю границу вероятности того, что не более тридцати пар будут состоять из мужчины и женщины.

Решение:

Пусть случайная величина X _i как

, поэтому пара может быть выражена как

Поскольку каждый мужчина может с равной вероятностью быть в паре с оставшимися людьми, из которых сотни составляют женщины, поэтому среднее

таким же образом, если i и j не равны, тогда

как

, следовательно, мы имеем

, используя неравенство Чебышева

, которое говорит, что вероятность объединения 30 мужчин с женщинами меньше шести, таким образом, мы можем улучшить оценку, используя одностороннее неравенство Чебышева

Граница Чернова

Если производящая функция момента уже известна, то

как

таким же образом мы можем записать для t<0 как

Таким образом, границу Чернова можно определить как

это неравенство означает все значения t либо положительные, либо отрицательные.

Границы Чернова для стандартной нормальной случайной величины

Границы Чернова для стандартной нормальной случайной величины, производящая момент функции которой

равно

, поэтому минимизация этого неравенства и правых степенных членов дает для a>0

и для a<0 это

Границы Чернова для случайной величины Пуассона

Границы Чернова для случайной величины Пуассона производящая функция момента

равна

, поэтому минимизация этого неравенства и правых степенных членов дает для a>0

и будет

Пример на границах Чернова

В игре, если игрок с равной вероятностью либо выиграет, либо проиграет игру независимо от любого предыдущего счета, найдите границу Чернова для вероятности

Решение: Пусть X _i обозначает выигрыш игрока, тогда вероятность будет быть

для последовательности n воспроизведений пусть

, поэтому функция генерации момента будет

здесь, используя разложения экспоненциальных членов

, поэтому мы имеем

, теперь применяя свойство функции генерации момента

Это дает неравенство

, следовательно,

Вывод:

Были обсуждены неравенства и предельная теорема для больших чисел, а также приведены обоснованные примеры для границ вероятностей, чтобы получить представление об этой идее. Для простой демонстрации концепции используется нормальная, пуассоновская случайная величина и функция генерации момента.

Первый курс теории вероятностей Шелдона Росса

Очерки вероятности и статистики Шаума

Введение в вероятность и статистику РОХАТГИ и САЛЕХа

8.1: Дискретные случайные величины — Статистика LibreTexts

Последнее обновление
Сохранить как PDF

Идентификатор страницы: 3156

Charles M. Grinstead & J. Laurie Snell
Swarthmore College и Dartmouth College через Американское математическое общество

Теперь мы можем доказать нашу первую фундаментальную теорему вероятности. Мы видели, что интуитивный способ рассматривать вероятность определенного результата — это частота, с которой этот результат происходит в долгосрочной перспективе, когда эксперимент повторяется большое количество раз. Мы также определили вероятность математически как значение функции распределения для случайной величины, представляющей эксперимент. Закон больших чисел, являющийся доказанной теоремой о математической модели вероятности, показывает, что эта модель согласуется с частотной интерпретацией вероятности. Эту теорему иногда называют теоремой. Чтобы узнать, что произошло бы, если бы этот закон не был верен, см. статью Роберта М. Коутса. 92}\ .\] Таким образом, при фиксированном $\epsilon$, \[P\left( \left| \frac {S_n}n — \mu \right| \geq \epsilon \right) \to 0\] как $n \стрелка вправо \infty$ или, что то же самое, \[P\left( \left| \frac {S_n}n — \mu \right| < \epsilon \right) \to 1\] as $n \стрелка вправо\infty$.

Обратите внимание, что $S_n/n$ представляет собой среднее значение отдельных результатов, и закон больших чисел часто называют «законом средних чисел». Поразительно, что мы можем начать со случайного эксперимента, относительно которого мало что можно предсказать и, взяв средние значения, получить эксперимент, в котором результат можно предсказать с высокой степенью уверенности. Закон больших чисел, как мы его сформулировали, часто называют «слабым законом больших чисел». чтобы отличить его от «сильного закона больших чисел», описанного в упражнении [упражнение 8.1.16].

Рассмотрим важный частный случай испытаний Бернулли с вероятностью $p$ на успех. Пусть $X_j = 1$, если $j$-й результат является успешным, и 0, если это неудача. Тогда $S_n = X_1 + X_2 +\cdots+ X_n$ — количество успехов в $n$ испытаниях и $\mu = E(X_1) = p$. Закон больших чисел утверждает, что для любого $\epsilon > 0$ \[P\left( \left| \frac {S_n}n — p \right| < \epsilon \right) \to 1\] при \ (n \стрелка вправо \infty\). Приведенное выше утверждение говорит о том, что при большом количестве повторений эксперимента Бернулли мы можем ожидать, что доля случаев, когда событие произойдет, будет близко к $p$. Это показывает, что наша математическая модель вероятности согласуется с нашей частотной интерпретацией вероятности.

Рассмотрим частный случай подбрасывания монеты $n$ раз с количеством выпавших орлов $S_n$. Тогда случайная величина $S_n/n$ представляет долю случаев, когда выпадает орел, и будет иметь значения от 0 до 1. Закон больших чисел предсказывает, что результаты для этой случайной величины будут при больших $n$ , быть около 1/2.

На рисунке [рис. 8.1] мы построили распределение для этого примера для возрастающих значений $n$. Мы отметили результаты между 0,45 и 0,55 точками в верхней части пиков. Мы видим, что по мере увеличения $n$ распределение становится все более и более сконцентрированным вокруг 0,5, и все больший и больший процент общей площади содержится в интервале $(0,45, 0,55)$, как предсказывает Закон больших чисел.

Рассмотрим $n$ бросков кубика. Пусть $X_j$ будет результатом $j$-го броска. Тогда $S_n = X_1 + X_2 +\cdots+ X_n$ — это сумма первых $n$ бросков. Это процесс независимых испытаний с $E(X_j) = 7/2$. Таким образом, по закону больших чисел для любого $\epsilon > 0$ \[P\left( \left| \frac {S_n}n — \frac 72 \right| \geq \epsilon \right) \to 0\] как $n \стрелка вправо \infty$. 2 } = \frac {21}n\ .\] Таким образом, если $n = 100$, \[P(|A_{100} — .3| \geq .1) \leq .21\ ,\] или если $n = 1000$, \[P(|A_{1000} — .3| \geq .1) \leq .021\ .\] Их можно переписать как \[\begin{aligned} P(. 2 < A_{100} < .4) &\geq& .79\ , \\ P(.2 < A_{1000} < .4) &\geq& .979\ .\end{aligned}\] Эти значения следует сравнить с фактическими значениями, которые (до шести знаков после запятой) \ [\begin{align} P(.2 Закон может быть использована для систематического выполнения вышеуказанных расчетов.

Закон больших чисел был впервые доказан швейцарским математиком Джеймсом Бернулли в четвертой части его работы, опубликованной посмертно в 1713 г. ² Как это часто бывает с первым доказательством, доказательство Бернулли было намного сложнее, чем доказательство, которое мы представили с использованием неравенства Чебышева. Чебышев развил свое неравенство, чтобы доказать общую форму закона больших чисел (см. упражнение [упражнение 8.1.13]). Само неравенство появилось гораздо раньше в работе Бьенеме, и, обсуждая его историю, Майстров замечает, что долгое время оно называлось неравенством Бьенеме-Чебышёва. ³

Бернулли предлагает своему читателю подробное обсуждение смысла своей теоремы с большим количеством примеров. В современных обозначениях у него есть событие, которое происходит с вероятностью $p$, но он не знает $p$. Он хочет оценить $p$ по доле $\bar{p}$ случаев, когда событие происходит, когда эксперимент повторяется несколько раз. Он подробно обсуждает проблему оценки этим методом доли белых шаров в урне, содержащей неизвестное число белых и черных шаров. Он сделал бы это, вытягивая последовательность шаров из урны, заменяя шары, вытащенные после каждого извлечения, и оценивая неизвестную долю белых шаров в урне по доле вынутых белых шаров. Он показывает, что, выбирая $n$ достаточно большим, он может получить любую желаемую точность и надежность оценки. Он также оживленно обсуждает применимость своей теоремы к оценке вероятности смерти от той или иной болезни, различных погодных явлений и т. д.

Говоря о количестве испытаний, необходимых для вынесения суждения, Бернулли замечает, что «человек с улицы» верит в «закон средних чисел».

Далее, ни от кого не ускользнет, что для суждения таким образом о каком-либо событии недостаточно использовать одно или два испытания, а требуется большое число испытаний. И иногда самый глупый человек — по какому-то инстинкту природы и без предварительного обучения (это поистине удивительно) — знает наверняка, что чем больше будет сделано таких наблюдений, тем меньше будет опасность отклониться от цели. ⁴

Но он продолжает, что должен рассмотреть другую возможность.

Здесь следует подумать еще о чем-то, о чем, может быть, до сих пор никто не думал. Конечно, остается выяснить, увеличивается ли после увеличения числа наблюдений вероятность достижения истинного соотношения между числом случаев, в которых какое-либо событие может произойти и в которых оно не может произойти, так что эта вероятность в конце концов превышает любую заданная степень достоверности; или имеет ли задача, так сказать, свою асимптоту, т. е. дается ли какая-то степень достоверности, которую никогда нельзя превзойти. ⁵

Бернулли признал важность этой теоремы, написав:

Поэтому вот проблема, которую я сейчас излагаю и сообщаю после того, как уже двадцать лет размышлял над ней. И ее новизна, и ее весьма большая полезность, соединенная с столь же большой трудностью, могут превзойти по весу и ценности все остальные главы этой диссертации. ⁶

Бернулли завершает свое длинное доказательство замечанием:

Отсюда, по-видимому, следует, наконец, одно: если бы наблюдения за всеми событиями продолжались в течение всей вечности (и, следовательно, конечная вероятность стремилась бы к полной достоверности), то все в мире воспринималось бы как происходящее в фиксированном порядке. соотношениях и по постоянному закону чередования, так что даже в самых случайных и случайных случаях мы должны были бы признать как бы известную необходимость и, так сказать, известную судьбу.
9{1/2} = 5\). Что неравенство Чебышева говорит вам о вероятности того, что количество выпавших орлов отклонится от ожидаемого числа 50 на три или более стандартных отклонения (т. е. не менее чем на 15)?
Упражнение $\PageIndex{2}$
Напишите программу, использующую функцию $\mbox {binomial}(n,p,x)$ для вычисления точной вероятности, которую вы оценили в упражнении [упражнение 8.1 .1]. Сравните два результата.
Упражнение $\PageIndex{3}$
Напишите программу для подбрасывания монеты 10 000 раз. Пусть $S_n$ будет количеством орлов при первых $n$ бросках. Распечатайте вашу программу после каждых 1000 бросков $S_n — n/2$. Основываясь на этом моделировании, правильно ли сказать, что вы можете ожидать орла примерно в половине случаев, когда вы подбрасываете монету большое количество раз?
Упражнение $\PageIndex{4}$
Ставка в 1 доллар на кости имеет ожидаемый выигрыш $-.0141$. Что говорит закон больших чисел о вашем выигрыше, если вы сделаете большое количество ставок по 1 доллару за столом для игры в кости? Уверяет ли он вас, что ваши потери будут небольшими? Уверяет ли он вас, что если $n$ очень велико, вы проиграете?
Упражнение $\PageIndex{5}$
Пусть $X$ — случайная величина с $E(X) =0$ и $V(X) = 1$. Какое целочисленное значение $k$ гарантирует нам, что $P(|X| \geq k) \leq .01$? 92}\] справедливо для любого $p$.
Упражнение $\PageIndex{8}$
Правильная монета подбрасывается большое количество раз. Гарантирует ли нам закон больших чисел, что если $n$ достаточно велико, то при $\mbox {вероятность} > 0,99$ число выпавших орлов не будет отклоняться от $n/2$ ) более чем на 100?
Упражнение $\PageIndex{9}$
В упражнении [сек 6.2].[упражнение 6.2.16] вы показали, что для задачи проверки шляп число $S_n$ людей, которые получают свои собственные шляпы сзади имеют $E(S_n) = V(S_n) = 1$. Используя неравенство Чебышева, покажите, что $P(S_n \geq 11) \leq .01$ для любого $n \geq 11$. 92}\ .\]
Упражнение $\PageIndex{11}$
У нас есть две монеты: одна — честная монета, а другая — монета, выпавшая орлом с вероятностью 3/4. Наугад выбирается одна из двух монет, и эта монета подбрасывается $n$ раз. Пусть $S_n$ будет количеством решек, выпавших при этих $n$ бросках. Позволяет ли закон больших чисел предсказать долю орла, которая выпадет в долгосрочной перспективе? После того, как мы наблюдали большое количество подбрасываний, можем ли мы сказать, какая монета была выбрана? Сколько бросков достаточно, чтобы сделать нас 92 0\) \[P\left( \left| \frac {S_n}n — \frac {M_n}n \right| < \epsilon \right) \to 1\] как $n \стрелка вправо \infty$.
Упражнение $\PageIndex{13}$
Правильная монета подбрасывается несколько раз. Перед каждым броском вы можете решить, делать ли ставку на результат. Можете ли вы описать систему ставок с бесконечным количеством ставок, которая позволит вам в долгосрочной перспективе выиграть более половины ваших ставок? (Обратите внимание, что мы запрещаем систему ставок, в которой предлагается делать ставки до тех пор, пока вы не выиграете, а затем выйти.) Напишите компьютерную программу, реализующую эту систему ставок. Как указано выше, ваша программа должна решить, делать ли ставку на конкретный исход, прежде чем этот исход будет определен. Например, вы можете выбрать только те исходы, которые выпадут после того, как выпадет три решки подряд. Посмотрите, сможете ли вы получить более 50% голов с помощью вашей «системы».0003
Упражнение $\PageIndex{14}$
Докажите следующий аналог неравенства Чебышева: \[P(|X — E(X)| \geq \epsilon) \leq \frac 1\epsilon E(|X — E(X)|)\ .\]
Упражнение $\PageIndex{15}$
Мы доказали теорему, часто называемую «Слабым законом больших чисел». Интуиция большинства людей и наше компьютерное моделирование подсказывают, что , если мы подбросим монету последовательность раз, то доля орла действительно приблизится к 1/2, то есть если $S_n$ число орлов, выпавших в $n$ раз, то мы будем иметь \[ A_n = \frac {S_n}n \to \frac 12\] as $n \to \infty$. Конечно, мы не можем быть в этом уверены, так как мы не можем подбрасывать монету бесконечное число раз, и, если бы мы могли, монета могла бы каждый раз выпадать орлом. Однако «Сильный закон больших чисел», доказанный в более продвинутых курсах, утверждает, что \[P\left( \frac {S_n}n \to \frac 12 \right) = 1\ . \] Опишите выборочное пространство $\Omega$, которое позволило бы нам говорить о событии \[E = \left\{\, \omega : \frac {S_n} n \to \frac 12\, \right\}\ .\] Можем ли мы приписать этому пространству равновероятную меру?
Упражнение $\PageIndex{16}$
В этом упражнении мы построим пример последовательности случайных величин, которая удовлетворяет слабому закону больших чисел, но не сильному закону. Распределение $X_i$ должно будет зависеть от $i$, иначе оба закона будут удовлетворены. (Эта проблема была сообщена нам Дэвидом Масленом.) .1in Предположим, у нас есть бесконечная последовательность взаимно независимых событий $A_1, A_2, \ldots$. Пусть $a_i = P(A_i)$, и пусть $r$ будет целым положительным числом. 9{\infty} a_i\) расходится, то \[P(\mbox{бесконечно\ много\ $A_i$\ встречается}) = 1.\] .1in Теперь пусть $X_i$ — последовательность взаимно независимых случайных такие переменные, что для каждого положительного целого числа $i \geq 2$, \[P(X_i = i) = \frac{1}{2i\log i}, \quad P(X_i = -i) = \frac{ 1}{2i\log i}, \quad P(X_i =0) = 1 — \frac{1}{i \log i}. \] Когда $i=1$ положим $X_i=0\ ) с вероятностью \(1$. Как обычно, пусть $S_n = X_1 + \cdots + X_n$. Обратите внимание, что среднее значение каждого $X_i$ равно $0$.
Найдите дисперсию $S_n$.
Показать, что последовательность $\langle X_i \rangle$ удовлетворяет слабому закону больших чисел, т.е. доказать, что для любого $\epsilon > 0$ \[P\biggl(\biggl|{\frac{S_n} {n}}\biggr|\geq \epsilon\biggr) \rightarrow 0\ ,\] при стремлении $n$ к бесконечности. .1in Теперь мы покажем, что $\{ X_i \}$ не удовлетворяет усиленному закону больших чисел. Предположим, что $S_n / n \rightarrow 0$. Тогда, поскольку \[\frac{X_n}{n} = \frac{S_n}{n} — \frac{n-1}{n} \frac{S_{n-1}}{n-1}\ ,\ ] мы знаем, что $X_n / n \rightarrow 0$. Из определения пределов мы заключаем, что неравенство $|X_i|\geq\frac{1}{2}i$ может быть верным только для конечного числа $i$. 9{\infty} P(A_i)\) расходится (используйте интегральный тест).
Докажите, что $A_i$ встречается для бесконечно многих $i$.
Докажите, что \[P\biggl(\frac{S_n}{n} \rightarrow 0\biggr) = 0,\] и, следовательно, что Усиленный закон больших чисел не работает для последовательности $\{ X_i \}$ .
Упражнение $\PageIndex{17}$
Давайте подбросим необъективную монету, которая выпадет решкой с вероятностью $p$, и предположим, что действует Усиленный закон больших чисел, как описано в упражнении [упражнение 8.1. 16]. Тогда с вероятностью 1 \[\frac {S_n}n \to p\] as $n \to \infty$. Если $f(x)$ — непрерывная функция на единичном интервале, то мы также имеем \[f\left( \frac {S_n}n \right) \to f(p)\ .\]
Наконец, мы можем надеяться, что \[E\left(f\left( \frac {S_n}n \right)\right) \to E(f(p)) = f(p)\ .\] Показать, что , если бы все это было верно, а оно и есть на самом деле, то мы бы доказали, что всякая непрерывная функция на единичном отрезке является пределом полиномиальных функций. Это набросок вероятностного доказательства важной теоремы математики, называемой теоремой
.
No related posts.