Главная » Реферат » Локальная предельная теорема реферат

Реферат Центральная предельная теорема и ее доказательство через ряды Тейлора. Локальная предельная теорема реферат


Реферат Центральная предельная теорема

скачать

Реферат на тему:

План:

Введение

Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма достаточно большого количества слабо зависимых случайных величин, имеющих примерно одинаковые масштабы (ни одно из слагаемых не доминирует, не вносит в сумму определяющего вклада), имеет распределение, близкое к нормальному.

Так как многие случайные величины в приложениях формируются под влиянием нескольких слабо зависимых случайных факторов, их распределение считают нормальным. При этом должно соблюдаться условие, что ни один из факторов не является доминирующим. Центральные предельные теоремы в этих случаях обосновывают применение нормального распределения.

1. Классическая формулировка Ц.П.Т.

Пусть X_1,\ldots, X_n,\ldots есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние μ и σ2, соответственно. Пусть S_n = \sum\limits_{i=1}^n X_i. Тогда

\frac{S_n - \mu n}{\sigma \sqrt n} \to N(0,1) по распределению при n \to \infty,

где N(0,1) — нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице. Обозначив символом \bar{X} выборочное среднее первых n величин, то есть \bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i, мы можем переписать результат центральной предельной теоремы в следующем виде:

\sqrt{n} \frac{ \bar{X} - \mu}{\sigma} \to N(0,1) по распределению при n \to \infty.

2. Замечания

3. Локальная Ц.П.Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин \{X_i\}_{i=1}^{\infty} абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение Zn также абсолютно непрерывно, и более того,

f_{Z_n}(x) \to \frac{1}{\sqrt{2\pi}}\, e^{-\frac{x^2}{2}} при n \to \infty,

где f_{Z_n}(x) - плотность случайной величины Zn, а в правой части стоит плотность стандартного нормального распределения.

4. Некоторые обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

4.1. Ц.П.Т. Линдеберга (J. W. Lindeberg)

Пусть независимые случайные величины X_1,\ldots ,X_n, \ldots определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: \mathbb{E}[X_i] = \mu_i,\; \mathrm{D}[X_i] = \sigma^2_i. Как и прежде построим частичные суммы S_n = \sum\limits_{i=1}^n X_i. Тогда в частности, \mathbb{E}[S_n] = m_n = \sum\limits_{i=1}^n \mu_i,\; \mathrm{D}[S_n] = s_n^2 = \sum\limits_{i=1}^n \sigma_i^2. Наконец, пусть выполняется условие Линдеберга:

\forall \varepsilon>0,\; \lim\limits_{n\to \infty}\sum\limits_{i=1}^n \mathbb{E}\left[\frac{(X_i-\mu_i)^2}{s_n^2}\, \mathbf{1}_{\{|X_i-\mu_i|> \varepsilon s_n \}}\right] = 0.

Тогда

\frac{S_n-m_n}{s_n} \to N(0,1) по распределению при n \to \infty.

4.2. Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины {Xi} имеют конечный третий момент. Тогда определена последовательность

r^3_n = \sum_{i=1}^n \mathbb{E}\left[|X_i-\mu_i|^3\right]. Если предел \lim\limits_{n\to \infty} \frac{r_n}{s_n} = 0 (условие Ляпунова),

то

\frac{S_n-m_n}{s_n} \to N(0,1) по распределению при n \to \infty.

4.3. Ц.П.Т. для мартингалов

Пусть процесс (X_n)_{n\in \mathbb{N}} является мартингалом с ограниченными приращениями. В частности, допустим, что

\mathbb{E}\left[X_{n+1}-X_n \mid X_1,\ldots,X_n \right] = 0,\; n \in \mathbb{N},\; X_0 \equiv 0,

и приращения равномерно ограничены, т.е.

\exists C>0\, \forall n \in \mathbb{N}\; |X_{n+1}-X_n| \le C п.н.

Введём случайные процессы \sigma^2_n и τn следующим образом:

\sigma_n^2 = \mathbb{E} \left[(X_{n+1}-X_n)^2 \mid X_1 ,\ldots, X_n\right]

и

\tau_n = \min\left\{k \left\vert\; \sum_{i=1}^k \sigma^2_i \ge n \right. \right\}.

Тогда

\frac{X_{\tau_n}}{\sqrt{n}} \to N(0,1) по распределению при n \to \infty.

wreferat.baza-referat.ru

Локальная и интегральная предельные теоремы Лапласа.

Если число испытаний п велико, то вычисления по формуле Бернулли становятся затруднительными. Лаплас получил важную приближенную формулу для вероятности Рn(т) появления события А точно т раз, если п достаточно большое число. Им же получена приближенная формула и для суммы вида .

Локальная предельная теорема Лапласа (доказательство см. в [4]). Пусть р = Р(А) — вероятность события А, причем 0<р<1. Тогда вероятность того, что в условиях схемы Бернулли событие А при п испытаниях появится точно т раз, выражается приближенной формулой Лапласа Рn(т)» , (9.16)

где q= 1-p, .

Для функции j(x) имеется таблица (см. приложение 1) ее значений для положительных значений … х (функция j(x) четная).

Пример 9.15.Вероятность поражения цели стрелком при одиночном выстреле равна р = 0,2. Какова вероятность того, что при 100 выстрелах цель будет поражена ровно 20 раз?

Решение. Здесь р= 0,2, q= 0,8, n= 100 и т= 20. Отсюда = =4 и, следовательно, t= = =0. Учитывая, что »0,40, из формулы (9.16) получаем Р100(20) »0,40×¼ = 0,1 (для получения приближенного равенства »0,40 можно использовать калькулятор).

 

Перейдем к интегральной предельной теореме Лапласа. Поставим следующий вопрос, какова вероятность того, что в условиях схемы Бернулли событие А, имеющее вероятность Р(А) = p (0 <p< 1), при n испытаниях (как и прежде число испытаний велико) появится не менее k раз и не более l раз. Эту искомую вероятность обозначим через Рn(k, l).

Справедлива следующая приближенная формула

Рn(k, l)» , (9.17)

где xk= , xl= . (9.18)

Это составляет содержание интегральной предельной теоремы Лапласа.

Введем функцию

называемую функцией Лапласа, или интегралом вероятностей. Очевидно, Ф(х) есть первообразная для функции j(х). Так как j(х)>0 в (-¥, +¥), то Ф(x) — возрастающая функция в этом интервале (см. подразд. 3.7, п. 1, теорема 3.4). На основании формулы Ньютона—Лейбница (см. подразд. 4.4, п. 2) из формулы (9.17)

Рn(k, l)» Ф(хl)- Ф(хk) (9.20)

Это — интегральная формула Лапласа.

Как известно (см. подразд. 4.5, примечание), интеграл не берется в элементарных функциях. Поэтому для функции (9.19) составлена таблица (см. приложение 2) ее значений для положительных значений х, так как Ф(0) = 0 и функция Ф(х) нечетная, Ф(-х)= = =- Ф(х) (t=-z, dt=

=-dz).

Пример 9.16.Вероятность того, что изделие не прошло проверку ОТК, равна 0,2. Найдем вероятность того, что среди 400 случайно отобранных изделий окажутся непроверенными от 70 до 100 изделий.

Решение. Здесь п = 400, k = 70, l= 100, р = 0,2, q = 0,8, поэтому в силу равенств (9.18) хk = -1,25, хl = 2,5 и согласно формуле (9.20) имеем

Р400 (70, 100) »Ф(2,5)-Ф(-1,25) = Ф(2,5)+Ф(1,25) = 0,4938 + 0,3944 = 0,8882.

refac.ru

ТВ13

ЧАСТЬ 7

ПРЕДЕЛЬНЫЕ ТЕОРЕМЫ ТЕОРИИ ВЕРОЯТНОСТЕЙ

Лекция 13

    1. ЗАКОН БОЛЬШИХ ЧИСЕЛ И ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНаЯ ТЕОРЕМА

ЦЕЛЬ ЛЕКЦИИ: доказать неравенство Чебышева; сформулировать и доказать закон больших чисел и его следствия; доказать центральную предельную теорему для случая суммы независимых случайных величин.

Закон больших чисел утверждает, что среднее арифметическое большого числа случайных величин ведет себя как среднее арифметическое их математических ожиданий. А согласно центральной предельной теореме достаточно большая сумма сравнительно малых случайных величин ведет себя как нормальная случайная величина. Различные формы закона больших чисел вместе с различными вариантами центральной предельной теоремы образуют совокупность так называемых предельных теорем теории вероятностей и имеют большой практический смысл, так как составляют теоретическую основу математической статистики.

В качестве леммы, необходимой для доказательства теорем, относящихся к группе "предельных", докажем неравенство Чебышева.

Неравенство Чебышева

Если у случайной величины известна дисперсия, то она в некотором смысле является мерой "случайности" величины.

Так, для случайной величины, имеющей равномерный закон распределения

,

дисперсия равна

.

При малых мала и дисперсия, но невелико и отличие любого значения случайной величины от ее математического ожидания.

Аналогично для нормального распределения: чем больше дисперсия, тем больше область вероятных (имеющих отличные от нуля вероятности) значений случайной величины , хотя и с меньшей вероятностью.

Таким образом, чем больше величина дисперсии , тем более вероятны значительные отклонения возможных значений случайной величины от центра группирования – математического ожидания.

Если у случайной величины известна плотность распределения, то для любого положительногоможно вычислить вероятность события вида.

Однако чаще встречается вариант, когда при неизвестном законе распределения, но по известной дисперсии необходимо оценить вероятность события. Эту задачу решил Чебышев Пафнутий Львович (1821–1894) посредством неравенства, названного его именем.

Неравенство Чебышева. Для любой случайной величины, имеющей конечную дисперсиюи математическое ожидание, для любого положительногоимеет место неравенство

.

Доказательство. Для дискретной случайной величины, заданной рядом распределения

изобразим возможные значения этой величины на числовой оси в виде точек (см. рис. 7.1).

Зададимся некоторым значением и вычислим вероятность того, что случайная величинаотклонится от своего математического ожиданияна величину, большую чем:

,

т. е. вероятность того, что попадет не внутрь отрезка, а вне его,

.

Чтобы вычислить эту вероятность, необходимо просуммировать вероятности всех значений , которые лежат вне отрезка, т. е.

, (7.1)

где запись под знаком суммы означает, что суммирование распространяется на все значения, для которых точкилежат вне отрезка.

По определению дисперсия дискретной случайной величины

.

Так как все члены суммы неотрицательны, то эта сумма только уменьшится, если распространить суммирование не на все значения , а только на те, что лежат вне отрезка:

.

Так как , то при замене под знаком суммы величинына, значение этой суммы еще больше уменьшится, и будем иметь неравенство

.

Стоящая в правой части сумма есть не что иное, как вероятность непопадания случайной величины на отрезок(см. выражение 7.1), и поэтому

,

откуда окончательно получаем

;

.

Как и всякий общий результат, не использующий данные о конкретном виде распределения случайной величины , неравенство Чебышева дает лишьгрубую оценку сверху для вероятности события. Если оценивать вероятность событиядля случайной величиныс неизвестным законом распределения, то получим по неравенству Чебышева

.

Для нормального распределения эта вероятность равна 0,0027 – разница в 40 раз.

Закон больших чисел

Одной из основных задач теории вероятностей является установление закономерностей, происходящих с вероятностями, близкими к единице; при этом особую роль играют закономерности, возникающие в результате наложения большого числанезависимых или слабо зависимых факторов. Закон больших чисел устанавливает связь между средним арифметическим наблюдаемых значений случайной величины и ее математическим ожиданием и является одним из важнейших приложений теории вероятностей.

Предварительно решим следующую задачу. Есть случайная величина, имеющая математическое ожиданиеи дисперсию. Над этой величиной производитсянезависимых испытаний и вычисляется среднее арифметическое всех наблюдаемых значений случайной величины. Полученное значение среднего арифметического является случайной величиной. Поэтому необходимо найти числовые характеристики этого среднего арифметического, т. е. вычислить математическое ожидание и дисперсию, а также выяснить, как они изменяются с увеличением.

В результате опытов получена последовательность из возможных значений:. Удобно посмотреть на эту совокупность чисел как на систему случайных величин. Очевидно, что эта система представляет собойнезависимых случайных величин, каждая из которых распределена по тому же закону, что и сама исходная величина, т. е. выполняются следующие условия:

;

.

Среднее значение этих случайных величин

(7.2)

является случайной величиной с математическим ожиданием

(7.3)

и дисперсией

. (7.4)

Получили, что математическое ожидание случайной величины не зависит от числа испытанийи равно математическому ожиданию исследуемой случайной величины, а дисперсия величинынеограниченно убывает с увеличением числа опытов и при достаточно большомможет быть сделана сколь угодно малой. Таким образом,среднее арифметическое есть случайная величина с какой угодно малой дисперсией и при большом числе опытов ведет себя почти как неслучайная величина.

Теорема Чебышева. Если– последовательность попарно независимых случайных величин, имеющих конечные дисперсии, ограниченные одной и той же постоянной

,

и математические ожидания

,

то, каковы бы ни были постоянные и,

либо

; ,

т. е. среднее арифметическое последовательности независимых случайных величин сходится по вероятности к их математическому ожиданию.

Доказательство. Применим для случайной величины

с и

неравенство Чебышева

.

Но из условия теоремы получаем

.

Следовательно, каким бы малым ни было число , можно взятьтаким большим, чтобы выполнялось неравенство

,

где – сколь угодно малое число.

И тогда получаем

,

и, переходя к противоположному событию, имеем

.

Обобщенная теорема Чебышева. Если законы распределения случайной величиныот опыта к опыту изменяются, то приходится иметь дело со средним арифметическим последовательности случайных величин с различными математическими ожиданиями и с различными дисперсиями. Для таких случайных величин существует обобщенная теорема Чебышева.

Теорема(без доказательства). Если– последовательность попарно независимых случайных величин, имеющих конечные дисперсии, ограниченные одной и той же постоянной

,

и математические ожидания

,

то, каковы бы ни были постоянные и,

или

,

т. е. среднее арифметическое последовательности независимых случайных величин сходится по вероятности к среднему арифметическому их математических ожиданий.

Теорема Маркова. Закон больших чисел может быть распространен и на зависимые случайные величины. Это обобщение принадлежит Маркову.

Теорема(без доказательства). Если имеются зависимые случайные величиныи при

,

то среднее арифметическое наблюдаемых значений случайных величин сходится по вероятности к среднему арифметическому их математических ожиданий:

.

Следствия закона больших чисел

Теорема Я. Бернулли, устанавливающая связь между частотой события и его вероятностью, может быть доказана как прямое следствие закона больших чисел (теоремы Чебышева).

Теорема Бернулли. Если производитсянезависимых испытаний, в каждом из которых может появиться или не появиться некоторое событие, вероятность появления которого в каждом опыте равна, то при неограниченном увеличении числа опытовчастота событиясходится по вероятности к его вероятности.

Обозначив частоту события через, теорему Бернулли можно записать в виде

или ,

где и– сколь угодно малые положительные числа.

Доказательство. Рассмотрим независимые случайные величины: – число появлений события в первом опыте;– число появленийсобытия во втором опыте; …; – число появлений события в -м опыте. Все эти случайные величины дискретны и имеют один и тот же закон распределения в виде индикатора событий. Поэтому математическое ожидание каждой из величинравно , а дисперсия равна, где.

Частота представляет собой не что иное, как среднее арифметическое случайных величин

,

которая, согласно теореме Чебышева, сходится по вероятности к общему математическому ожиданию этих случайных величин, равному .

Теорема Бернулли утверждает свойство устойчивости частот при постоянных условиях опыта, но и при изменяющихся условиях испытаний аналогичная устойчивость также существует.

Теорема Пуассона(следствие обобщенной теоремы Чебышева). Если производитсянезависимых опытов и вероятность появления событияв-м опыте равна, то при неограниченном увеличении числа опытовчастота событиясходится по вероятности к среднему арифметическому вероятностей:

или .

Центральная предельная теорема

Докажем центральную предельную теорему для случая одинаково распределенных случайных величин (в форме Ляпунова).

Теорема:Если – независимые случайные величины, имеющие одно и то же распределение с математическим ожиданиеми дисперсией, то при увеличениизакон распределения суммынеограниченно приближается к нормальному.

Доказательство. Докажем теорему для случая непрерывных случайных величин, применив аппарат характеристических функций. Согласно одному из свойств, характеристическая функция суммы независимых случайных величин равна произведению характеристических функций слагаемых. Случайные величины имеют одну и ту же плотность распределения, а значит, и одну и ту же характеристическую функцию. Не нарушая общности, можно перенести начало отсчета всех случайных величин в их общее математическое ожидание, что равнозначно их центрированию и, значит, тому, что математическое ожидание каждой из них будет равно нулю.

Для доказательства теоремы найдем характеристическую функцию гауссовой случайной величины с нулевым математическим ожиданием и единичной дисперсией, плотность распределения которой

.

Характеристическая функция такой случайной величины

.

Получили, что характеристическая функция нормальной случайной величины сиимеет вид

. (7.5)

По определению характеристическая функция случайной величины

. (7.6)

Характеристическая функция случайной величины равна произведениюхарактеристических функций слагаемых, т. е.

. (7.7)

Разложим в окрестности точкив ряд Макларена, ограничившись тремя членами

, (7.8)

где при.

Вычислим .

Так, по свойству нормировки функции.

Продифференцируем выражение (7.5) по

(7.9)

и получаем при

,

а так как все имеют одну и ту же плотность распределенияи нулевое математическое ожидание, то.

Продифференцируем теперь (7.9): и соответственно приполучим

.

После подстановки в (7.8) имеем, что

. (7.10)

Для случайной величины докажем, что при увеличенииее закон распределения приближается к нормальному закону распределения. Для этого перейдем к нормированной случайной величине

,

которая линейно связанной с и удобна тем, что ее дисперсия равна единице для любого. Если докажем, что случайная величинаимеет нормальное распределение, то это будет означать, что и величинатоже распределена нормально.

Докажем, что характеристическая функция , однозначно определяющая плотность распределения случайной величины, приближается к характеристической функции нормального закона с теми же, что и у, параметрами:.

Найдем характеристическую функцию случайной величины , используя свойства характеристических функций и выражения (7.5) и (7.8):

.

Прологарифмируем это выражение и получим

.

studfiles.net

Реферат Центральная предельная теорема

скачать

Реферат на тему:

План:

Введение

Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма достаточно большого количества слабо зависимых случайных величин, имеющих примерно одинаковые масштабы (ни одно из слагаемых не доминирует, не вносит в сумму определяющего вклада), имеет распределение, близкое к нормальному.

Так как многие случайные величины в приложениях формируются под влиянием нескольких слабо зависимых случайных факторов, их распределение считают нормальным. При этом должно соблюдаться условие, что ни один из факторов не является доминирующим. Центральные предельные теоремы в этих случаях обосновывают применение нормального распределения.

1. Классическая формулировка Ц.П.Т.

Пусть X_1,\ldots, X_n,\ldots есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние μ и σ2, соответственно. Пусть S_n = \sum\limits_{i=1}^n X_i. Тогда

\frac{S_n - \mu n}{\sigma \sqrt n} \to N(0,1) по распределению при n \to \infty,

где N(0,1) — нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице. Обозначив символом \bar{X} выборочное среднее первых n величин, то есть \bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i, мы можем переписать результат центральной предельной теоремы в следующем виде:

\sqrt{n} \frac{ \bar{X} - \mu}{\sigma} \to N(0,1) по распределению при n \to \infty.

2. Замечания

3. Локальная Ц.П.Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин \{X_i\}_{i=1}^{\infty} абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение Zn также абсолютно непрерывно, и более того,

f_{Z_n}(x) \to \frac{1}{\sqrt{2\pi}}\, e^{-\frac{x^2}{2}} при n \to \infty,

где f_{Z_n}(x) - плотность случайной величины Zn, а в правой части стоит плотность стандартного нормального распределения.

4. Некоторые обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

4.1. Ц.П.Т. Линдеберга (J. W. Lindeberg)

Пусть независимые случайные величины X_1,\ldots ,X_n, \ldots определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: \mathbb{E}[X_i] = \mu_i,\; \mathrm{D}[X_i] = \sigma^2_i. Как и прежде построим частичные суммы S_n = \sum\limits_{i=1}^n X_i. Тогда в частности, \mathbb{E}[S_n] = m_n = \sum\limits_{i=1}^n \mu_i,\; \mathrm{D}[S_n] = s_n^2 = \sum\limits_{i=1}^n \sigma_i^2. Наконец, пусть выполняется условие Линдеберга:

\forall \varepsilon>0,\; \lim\limits_{n\to \infty}\sum\limits_{i=1}^n \mathbb{E}\left[\frac{(X_i-\mu_i)^2}{s_n^2}\, \mathbf{1}_{\{|X_i-\mu_i|> \varepsilon s_n \}}\right] = 0.

Тогда

\frac{S_n-m_n}{s_n} \to N(0,1) по распределению при n \to \infty.

4.2. Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины {Xi} имеют конечный третий момент. Тогда определена последовательность

r^3_n = \sum_{i=1}^n \mathbb{E}\left[|X_i-\mu_i|^3\right]. Если предел \lim\limits_{n\to \infty} \frac{r_n}{s_n} = 0 (условие Ляпунова),

то

\frac{S_n-m_n}{s_n} \to N(0,1) по распределению при n \to \infty.

4.3. Ц.П.Т. для мартингалов

Пусть процесс (X_n)_{n\in \mathbb{N}} является мартингалом с ограниченными приращениями. В частности, допустим, что

\mathbb{E}\left[X_{n+1}-X_n \mid X_1,\ldots,X_n \right] = 0,\; n \in \mathbb{N},\; X_0 \equiv 0,

и приращения равномерно ограничены, т.е.

\exists C>0\, \forall n \in \mathbb{N}\; |X_{n+1}-X_n| \le C п.н.

Введём случайные процессы \sigma^2_n и τn следующим образом:

\sigma_n^2 = \mathbb{E} \left[(X_{n+1}-X_n)^2 \mid X_1 ,\ldots, X_n\right]

и

\tau_n = \min\left\{k \left\vert\; \sum_{i=1}^k \sigma^2_i \ge n \right. \right\}.

Тогда

\frac{X_{\tau_n}}{\sqrt{n}} \to N(0,1) по распределению при n \to \infty.

www.wreferat.baza-referat.ru

Реферат на тему «Центральная предельная теорема и ее доказательство через ряды Тейлора»

Прежде чем приступить к рассмотрению центральной предельной теоремы, я считаю нужным сказать о слабой сходимости.

Пусть задана последовательность случайных величин (далее с. в.) , задано некоторое распределение с функцией распределения и — произвольная с. в., имеющая распределение .

Определение.

Говорят, что последовательность с. в. при сходится слабо или по распределению к с. в. и пишут: , или , или , если для любого такого, что функция распределения непрерывна в точке , имеет место сходимость при .

Иначе говоря, слабая сходимость — это поточечная сходимость функций распределения во всех точках непрерывности предельной функции распределения.

Свойство 1.

Если , и функция распределения непрерывна в точках и , то

и т.д. (продолжить ряд).

Наоборот, если во всех точках и непрерывности функции распределения имеет место, например, сходимость , то .

Следующее важное свойство уточняет отношения между сходимостями.

Свойство 2.

1. Если , то .

2. Если , то .

Свойство 3.

1. Если и , то .

2. Если и , то .

Несколько содержательных примеров слабой сходимости я рассмотрю ниже. Но основной источник слабо сходящихся последовательностей и необычайно мощное и универсальное средство для асимптотического анализа распределений сумм независимых и одинаково распределенных случайных величин предоставляет нам центральная предельная теорема.

Я буду называть следующее утверждение «ЦПТ Ляпунова» (А. М. Ляпунов: 1901), но сформулирую и докажу теорему Ляпунова только в частном случае, т.е. для последовательности независимых и одинаково распределенных случайных величин.

Центральная предельная теорема.

Пусть — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией: . Обозначим через сумму первых случайных величин: .

Тогда последовательность случайных величин слабо сходится к стандартному нормальному распределению.

Доказательство.

Пусть — последовательность независимых и одинаково распределенных случайных величин с конечной и ненулевой дисперсией. Обозначим через математическое ожидание и через — дисперсию . Требуется доказать, что

Введем стандартизированные случайные величины — независимые с.в. с нулевыми математическими ожиданиями и единичными дисперсиями. Пусть есть их сумма . Требуется доказать, что

Характеристическая функция величины равна

Характеристическую функцию с.в. можно разложить в ряд Тейлора, в коэффициентах которого использовать известные моменты , . Получим

Подставим это разложение, взятое в точке , в равенство и устремим к бесконечности. Еще раз воспользуемся замечательным пределом:

В пределе получили характеристическую функцию стандартного нормального закона. По теореме о непрерывном соответствии можно сделать вывод о слабой сходимости :

распределений стандартизованных сумм к стандартному нормальному распределению, что и утверждается в ЦПТ.

Пользуясь определением и свойствами слабой сходимости, и заметив, что функция распределения любого нормального закона непрерывна всюду на , утверждение ЦПТ можно сформулировать любым из следующих способов:

Следствие.

Пусть — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией. Следующие утверждения эквивалентны друг другу и равносильны утверждению ЦПТ.

· Для любых вещественных при имеет место сходимость

· Для любых вещественных при имеет место сходимость

· Для любых вещественных при имеет место сходимость

· Если — произвольная с. в. со стандартным нормальным распределением, то

Следствием из ЦПТ является предельная теорема Муавра-Лапласа.

Предельная теорема Муавра — Лапласа.

Пусть — событие, которое может произойти в любом из независимых испытаний с одной и той же вероятностью . Пусть — число осуществлений события в испытаниях. Тогда .

Иначе говоря, для любых вещественных при имеет место сходимость

Доказательство.

По-прежнему есть сумма независимых, одинаково распределенных с. в., имеющих распределение Бернулли с параметром, равным вероятности успеха :

Осталось воспользоваться ЦПТ.

Ниже я рассмотрю примеры использования ЦПТ.

Пример 1 .

З а д а ч а. Монета подбрасывается 10000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности более чем на одну сотую.

Р е ш е н и е. Требуется найти , где , — число выпадений герба, а — независимые с. в., имеющие одно и то же распределение Бернулли с параметром 1/2. Домножим обе части неравенства под знаком вероятности на и поделим на корень из дисперсии одного слагаемого.

Согласно ЦПТ или предельной теореме Муавра — Лапласа, последовательность

слабо сходится к стандартному нормальному распределению. Рассмотрим произвольную с. в. , имеющую распределение .

Пример 2.

Прекрасным примером ЦПТ в экономике может служить ее использование в страховом деле. В большинстве случаев конкретный вид распределения потерь (размеров отдельных требований о выплате страховых сумм) не играет существенной роли, поскольку сумма исков, предъявляемых страховщику (величина суммарного иска), обычно зависит только от средней величины и дисперсии убытка. Дело в том, что если количество страховых случаев значительно превышает единицу, то в силу центральной предельной теоремы распределение суммарного иска является нормальным распределением. Обозначив его дисперсию как DZ , а математическое ожидание (среднее значение суммарного иска) как bZ> = bN>bQ>

- где , - среднее значение числа страховых случаев и величины страховой выплаты, получаем следующее выражение для рисковой надбавки Тr :

Т r = [( Т 0 * a )/(bN/b b> * bQ/b b>)] * (bN/b b> * D Q + bQ/b b>2 * D N ) 0.5

- где DQ и DN -дисперсии величины страховой выплаты и количества страховых случаев.

В простейшем случае, когда все выплаты одинаковы (а, следовательно, их дисперсия равна нулю), имеем:

Т r = ( Т 0 * a )/ N 0.5

Эта формула также дает неплохое приближение, если коэффициент вариации уровня страховых выплат значительно меньше единицы.

При включении в страховой полис нескольких независимых рисков ожидаемая величина страховых выплат в соответствии с теоремой о сложении вероятностей представляет собой сумму ожидаемых страховых выплат по каждому риску в отдельности, а рисковая надбавка вычисляется как среднеквадратичная величина всех рисковых надбавок.

botanim.ru

Реферат Центральная предельная теорема и ее доказательство через ряды Тейлора

Прежде чем приступить к рассмотрению центральной предельной теоремы, я считаю нужным сказать о слабой сходимости.

Пусть задана последовательность случайных величин (далее с. в.) $\{\xi_n\}$, задано некоторое распределение $\cal F$с функцией распределения $F_\xi$и $\xi$ —  произвольная с. в., имеющая распределение $\cal F$.

Иначе говоря, слабая сходимость  —  это поточечная сходимость функций распределения во всех точках непрерывности предельной функции распределения. Следующее важное свойство уточняет отношения между сходимостями. Несколько содержательных примеров слабой сходимости я рассмотрю ниже. Но основной источник слабо сходящихся последовательностей и необычайно мощное и универсальное средство для асимптотического анализа распределений сумм  независимых и одинаково распределенных случайных величин предоставляет нам центральная предельная теорема.

Я буду называть следующее утверждение «ЦПТ Ляпунова» (А. М. Ляпунов: 1901), но сформулирую и докажу теорему Ляпунова только в частном случае, т.е. для последовательности независимых и одинаково распределенных случайных величин.

Доказательство.

Пусть $\xi_1,\xi_2,\ldots$ —  последовательность независимых и одинаково распределенных случайных величин с конечной и ненулевой дисперсией. Обозначим через $a$математическое ожидание $\mathsf E\xi_1$и через $\sigma^2$ —  дисперсию $\mathsf D\xi_1$. Требуется доказать, что

\begin{displaymath} \dfrac{S_n-na}{\sigma\sqrt{n}}= \dfrac{\xi_1+\dots+\xi_n-na}{\sigma\sqrt{n}}\mbox{ $\Rightarrow$\space }\mathbf N_{0,1}.\end{displaymath}

Введем стандартизированные случайные величины $\zeta_i=\dfrac{\xi_i-a}{\sigma}$ —  независимые с.в. с нулевыми математическими ожиданиями и единичными дисперсиями. Пусть $Z_n$есть их сумма $Z_n=\zeta_1+\dots+\zeta_n=(S_n-na)/\sigma$. Требуется доказать, что

                                                                       \begin{displaymath} \dfrac{Z_n}{\sqrt{n}}\mbox{ $\Rightarrow$\space }\mathbf N_{0,1}.\end{displaymath}

Характеристическая функция величины ${Z_n}/{\sqrt{n}}$равна

\begin{equation} \varphi_{Z_n/\sqrt{n}}(t) \, {\buildrel{{\boldsymbol{\varphi3}}... ...\left(\varphi_{\zeta_1}\left(\dfrac{t}{\sqrt{n}}\right)\right)}^n.\end{equation}

Характеристическую функцию с.в. $\zeta_1$можно разложить в ряд Тейлора, в коэффициентах которого использовать известные моменты $\mathsf E\zeta_1=0$, $\mathsf E{\zeta_1}^2=\mathsf D\zeta_1=1$. Получим

\begin{displaymath} \varphi_{\zeta_1}(t) \, {\buildrel{{\boldsymbol{\varphi6}}}\... ...t^2}{2}\, \mathsf E{\zeta_1}^2 +o(t^2)=1-\dfrac{t^2}{2}+o(t^2).\end{displaymath}

Подставим это разложение, взятое в точке $t/\sqrt{n}$, в равенство и устремим $n$к бесконечности. Еще раз воспользуемся замечательным пределом:

\begin{displaymath} \varphi_{Z_n/\sqrt{n}}(t)= {\left(\varphi_{\zeta_1}\left(\df... ...t\{-\dfrac{t^2}{2}\right\} \quad \text{ при } \quad n\to\infty.\end{displaymath}

В пределе получили характеристическую функцию стандартного нормального закона. По теореме о непрерывном соответствии можно сделать вывод о слабой сходимости :

     \begin{displaymath} \dfrac{Z_n}{\sqrt{n}}=\dfrac{S_n-na}{\sigma\sqrt{n}} \mbox{ $\Rightarrow$\space }\mathbf N_{0,1}\end{displaymath}

распределений стандартизованных сумм к стандартному нормальному распределению, что и утверждается в ЦПТ.

Пользуясь определением и свойствами слабой сходимости, и заметив, что функция распределения $\Phi_{a,\sigma^2}(x)$любого нормального закона непрерывна всюду на $\mathbb R$, утверждение ЦПТ можно сформулировать любым из следующих способов:

Следствием из ЦПТ является предельная теорема Муавра-Лапласа.

Доказательство.

По-прежнему $\nu_n(A)$есть сумма независимых, одинаково распределенных с. в., имеющих распределение Бернулли с параметром, равным вероятности успеха $p=\mathsf P(A)$:

\begin{displaymath} \nu_n(A)=\xi_1+\dots+\xi_n, \quad \xi_i=I_i(A)=\begin{cases}... ... } A \text{ не произошло в } i-\text{м испытании}; \end{cases} \end{displaymath}

Осталось воспользоваться ЦПТ.

Ниже я рассмотрю примеры использования ЦПТ.

Пример 1.

З а д а ч а.       Монета подбрасывается 10000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности более чем на одну сотую.

Р е ш е н и е.   Требуется найти $\mathsf P\left(\left\vert\dfrac{\nu_n}{n}-\dfrac12\right\vert\gt{,}01\right)$, где $n={10}^4$, $\nu_n=\sum_{i=1}^n\xi_i=S_n$ —  число выпадений герба, а $\xi_i$ —  независимые с. в., имеющие одно и то же распределение Бернулли с параметром 1/2. Домножим обе части неравенства под знаком вероятности на $\sqrt{n}=100$и поделим на корень из дисперсии $\sqrt{\mathsf D\,\xi_1}=1/2$одного слагаемого.

\begin{multline*} \mathsf P\left(\left\vert\dfrac{\nu_n}{n}-\dfrac12\right\vert\... ...\left\vert\dfrac{S_n}{n}-\mathsf E\,\xi_1\right\vert\le 2\right).\end{multline*}

Согласно ЦПТ или предельной теореме Муавра  —  Лапласа, последовательность

\begin{displaymath} \dfrac{\sqrt{n}}{\sqrt{\mathsf D\,\xi_1}} \left(\dfrac{S_n}{... ...t)= \dfrac{S_n-n\,\mathsf E\,\xi_1}{\sqrt{n\,\mathsf D\,\xi_1}}\end{displaymath}

слабо сходится к стандартному нормальному распределению. Рассмотрим произвольную с. в. $\eta$, имеющую распределение ${\mathbf N}_{0,1}$.

\begin{multline*} 1-\mathsf P\left(\dfrac{\sqrt{n}}{\sqrt{\mathsf D\,\xi_1}} \le... ...=1-(1-2\Phi_{0,1}(-2))=2\Phi_{0,1}(-2) =2\cdot 0{.}0228=0{.}0456.\end{multline*}

Пример 2.

Прекрасным примером ЦПТ в экономике может служить ее использование в страховом деле. В большинстве случаев конкретный вид распределения потерь (размеров отдельных требований о выплате страховых сумм) не играет существенной роли, поскольку сумма исков, предъявляемых страховщику (величина суммарного иска), обычно зависит только от средней величины и дисперсии убытка. Дело в том, что если количество страховых случаев значительно превышает единицу, то в силу центральной предельной теоремы  распределение суммарного иска является нормальным распределением. Обозначив его дисперсию как DZ, а математическое ожидание (среднее значение суммарного иска) как <Z> = <N><Q>

- где <N>, <Q> - среднее значение числа страховых случаев и величины страховой выплаты, получаем следующее выражение для рисковой надбавки Тr:

Тr = [(Т0*a)/(<N>*<Q>)]*(<N>*DQ + <Q>2*DN) 0.5

- где DQ и DN -дисперсии величины страховой выплаты и количества страховых случаев.

В простейшем случае, когда все выплаты одинаковы (а, следовательно, их дисперсия равна нулю), имеем:

Тr = (Т0*a)/N0.5

Эта формула также дает неплохое приближение, если коэффициент вариации уровня страховых выплат значительно меньше единицы.

При включении в страховой полис нескольких независимых рисков ожидаемая величина страховых выплат в соответствии с теоремой о сложении вероятностей представляет собой сумму ожидаемых страховых выплат по каждому риску в отдельности, а рисковая надбавка вычисляется как среднеквадратичная величина всех рисковых надбавок.

bukvasha.ru

Реферат ЦПТ

скачать

Реферат на тему:

План:

Введение

Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма достаточно большого количества слабо зависимых случайных величин, имеющих примерно одинаковые масштабы (ни одно из слагаемых не доминирует, не вносит в сумму определяющего вклада), имеет распределение, близкое к нормальному.

Так как многие случайные величины в приложениях формируются под влиянием нескольких слабо зависимых случайных факторов, их распределение считают нормальным. При этом должно соблюдаться условие, что ни один из факторов не является доминирующим. Центральные предельные теоремы в этих случаях обосновывают применение нормального распределения.

1. Классическая формулировка Ц.П.Т.

Пусть X_1,\ldots, X_n,\ldots есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние μ и σ2, соответственно. Пусть S_n = \sum\limits_{i=1}^n X_i. Тогда

\frac{S_n - \mu n}{\sigma \sqrt n} \to N(0,1) по распределению при n \to \infty,

где N(0,1) — нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице. Обозначив символом \bar{X} выборочное среднее первых n величин, то есть \bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i, мы можем переписать результат центральной предельной теоремы в следующем виде:

\sqrt{n} \frac{ \bar{X} - \mu}{\sigma} \to N(0,1) по распределению при n \to \infty.

2. Замечания

3. Локальная Ц.П.Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин \{X_i\}_{i=1}^{\infty} абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение Zn также абсолютно непрерывно, и более того,

f_{Z_n}(x) \to \frac{1}{\sqrt{2\pi}}\, e^{-\frac{x^2}{2}} при n \to \infty,

где f_{Z_n}(x) - плотность случайной величины Zn, а в правой части стоит плотность стандартного нормального распределения.

4. Некоторые обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

4.1. Ц.П.Т. Линдеберга (J. W. Lindeberg)

Пусть независимые случайные величины X_1,\ldots ,X_n, \ldots определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: \mathbb{E}[X_i] = \mu_i,\; \mathrm{D}[X_i] = \sigma^2_i. Как и прежде построим частичные суммы S_n = \sum\limits_{i=1}^n X_i. Тогда в частности, \mathbb{E}[S_n] = m_n = \sum\limits_{i=1}^n \mu_i,\; \mathrm{D}[S_n] = s_n^2 = \sum\limits_{i=1}^n \sigma_i^2. Наконец, пусть выполняется условие Линдеберга:

\forall \varepsilon>0,\; \lim\limits_{n\to \infty}\sum\limits_{i=1}^n \mathbb{E}\left[\frac{(X_i-\mu_i)^2}{s_n^2}\, \mathbf{1}_{\{|X_i-\mu_i|> \varepsilon s_n \}}\right] = 0.

Тогда

\frac{S_n-m_n}{s_n} \to N(0,1) по распределению при n \to \infty.

4.2. Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины {Xi} имеют конечный третий момент. Тогда определена последовательность

r^3_n = \sum_{i=1}^n \mathbb{E}\left[|X_i-\mu_i|^3\right]. Если предел \lim\limits_{n\to \infty} \frac{r_n}{s_n} = 0 (условие Ляпунова),

то

\frac{S_n-m_n}{s_n} \to N(0,1) по распределению при n \to \infty.

4.3. Ц.П.Т. для мартингалов

Пусть процесс (X_n)_{n\in \mathbb{N}} является мартингалом с ограниченными приращениями. В частности, допустим, что

\mathbb{E}\left[X_{n+1}-X_n \mid X_1,\ldots,X_n \right] = 0,\; n \in \mathbb{N},\; X_0 \equiv 0,

и приращения равномерно ограничены, т.е.

\exists C>0\, \forall n \in \mathbb{N}\; |X_{n+1}-X_n| \le C п.н.

Введём случайные процессы \sigma^2_n и τn следующим образом:

\sigma_n^2 = \mathbb{E} \left[(X_{n+1}-X_n)^2 \mid X_1 ,\ldots, X_n\right]

и

\tau_n = \min\left\{k \left\vert\; \sum_{i=1}^k \sigma^2_i \ge n \right. \right\}.

Тогда

\frac{X_{\tau_n}}{\sqrt{n}} \to N(0,1) по распределению при n \to \infty.

wreferat.baza-referat.ru

Смотрите также