Prawa wielkich liczb, centralne twierdzenia graniczne - E-SGH

Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Prawa wielkich liczb, centralne twierdzenia
graniczne
Jacek Kłopotowski
Katedra matematyki i ekonomii matematycznej
17 maja 2012
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Rodzaje zbieżności ciągów zmiennych
losowych
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Niech X , Xn (n = 1, 2, ...) będą zmiennymi losowymi określonymi
na przestrzeni probabilistycznej (Ω, M, P). Omówimy rodzaje
zbieżności ciągu (Xn ) do zmiennej losowej X .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Niech X , Xn (n = 1, 2, ...) będą zmiennymi losowymi określonymi
na przestrzeni probabilistycznej (Ω, M, P). Omówimy rodzaje
zbieżności ciągu (Xn ) do zmiennej losowej X .
Definicja
Mówimy, że ciąg zmiennych losowych (Xn ) jest zbieżny według
prawdopodobieństwa (lub stochastycznie) do zmiennej losowej X
wtedy i tylko wtedy, gdy
lim P ({ω ∈ Ω : |Xn (ω) − X (ω)| ­ ε}) = 0
n→∞
dla każdego ε > 0.
p
Zbieżność stochastyczną oznaczamy przez Xn → X .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Definicja
Mówimy, że ciąg zmiennych losowych (Xn ) jest zbieżny z
prawdopodobieństwem 1 (lub prawie na pewno) do zmiennej
losowej X wtedy i tylko wtedy, gdy
P
n
o
ω ∈ Ω : lim Xn (ω) = X (ω)
n→∞
= 1.
Piszemy wówczas Xn →X
˙ .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Definicja
Mówimy, że ciąg zmiennych losowych (Xn ) jest zbieżny z
prawdopodobieństwem 1 (lub prawie na pewno) do zmiennej
losowej X wtedy i tylko wtedy, gdy
P
n
o
ω ∈ Ω : lim Xn (ω) = X (ω)
n→∞
= 1.
Piszemy wówczas Xn →X
˙ .
Twierdzenie
Jeśli ciąg (Xn ) jest zbieżny z prawdopodobieństwem 1 do zmiennej
losowej X , to ciąg (Xn ) jest zbieżny według prawdopodobieństwa
do zmiennej losowej X .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie odwrotne do powyższego twierdzenia jest fałszywe,
świadczy o tym następujący przykład.
Przykład
Niech (Ω, M, P) będzie przestrzenią probabilistyczną, gdzie
Ω = (0, 1i, M jest rodziną zbiorów borelowskich na przedziale
(0, 1i, P jest prawdopodobieństwem określonym wzorem
P(A) = |A|. Określamy ciąg (An ) podzbiorów zbioru Ω taki, że
E
E
, A6 =
A7 = 0, 81 , A8 =
A1 = 0, 12 , A2 =
A5 =
2 3
4, 4
E
E
, A3 = 0, 41 , A4 =
3
4, 1
E
,
1 2
8, 8
E
, ... itd.
1
2, 1
Jacek Kłopotowski
E
1 2
4, 4
E
,
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład (cd)
Dla dowolnej liczby naturalnej n przyjmujemy
(
Xn (ω) =
1 dla ω ∈ An,
0 dla ω ∈
/ An .
Łatwo można sprawdzić, że dla dowolnej liczby ε > 0 spełniony
jest warunek
lim P ({ω ∈ (0, 1i : |Xn (ω)| ­ ε}) = 0.
n→∞
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład (cd)
Istotnie, jeśli ε > 1, to
P ({ω ∈ (0, 1i : |Xn (ω)| ­ ε}) = 0
dla każdego n ∈ N.
Dla 0 < ε ¬ 1 mamy natomiast
P ({ω ∈ (0, 1i : |Xn (ω)| ­ ε}) = |An | → 0,
gdy n → ∞. Oznacza to, że ciąg (Xn ) jest zbieżny według
prawdopodobieństwa do zmiennej losowej X ≡ 0 (tzn. do zmiennej
losowej X o rozkładzie jednopunktowym skoncentrowanym w
punkcie 0). Z drugiej strony, dla dowolnego ustalonego ω0 ∈ (0, 1i
ciąg liczbowy (Xn (ω0 )) zawiera dwa podciągi, jeden o wyrazach
równych 0, drugi o wyrazach równych 1. Wynika stąd, że ciąg
funkcyjny (Xn ) nie jest zbieżny punktowo do żadnej granicy.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Załóżmy, że zmienne Xn (n = 1, 2, ...), X mają skończone
momenty drugiego rzędu.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Załóżmy, że zmienne Xn (n = 1, 2, ...), X mają skończone
momenty drugiego rzędu.
Definicja
Mówimy, że ciąg zmiennych losowych (Xn ) jest zbieżny przeciętnie
z kwadratem (lub średnio kwadratowo) do zmiennej losowej X
wtedy i tylko wtedy, gdy lim E (Xn − X )2 = 0.
n→∞
Piszemy wówczas l.i.m.Xn = X .
n→∞
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Załóżmy, że zmienne Xn (n = 1, 2, ...), X mają skończone
momenty drugiego rzędu.
Definicja
Mówimy, że ciąg zmiennych losowych (Xn ) jest zbieżny przeciętnie
z kwadratem (lub średnio kwadratowo) do zmiennej losowej X
wtedy i tylko wtedy, gdy lim E (Xn − X )2 = 0.
n→∞
Piszemy wówczas l.i.m.Xn = X .
n→∞
Twierdzenie
Jeśli ciąg (Xn ) jest zbieżny przeciętnie z kwadratem do zmiennej
losowej X , to ciąg (Xn ) jest zbieżny według prawdopodobieństwa
do zmiennej losowej X .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Obok zbieżności ciągów zmiennych losowych możemy również
rozpatrywać zbieżność rozkładów prawdopodobieństwa tych
zmiennych. Ponieważ rozkład prawdopodobieństwa jest
jednoznacznie wyznaczony przez dystrybuantę, więc pojęcie
zbieżności rozkładów sformułujemy przy pomocy pojęcia zbieżności
ciągów dystrybuant.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Obok zbieżności ciągów zmiennych losowych możemy również
rozpatrywać zbieżność rozkładów prawdopodobieństwa tych
zmiennych. Ponieważ rozkład prawdopodobieństwa jest
jednoznacznie wyznaczony przez dystrybuantę, więc pojęcie
zbieżności rozkładów sformułujemy przy pomocy pojęcia zbieżności
ciągów dystrybuant.
Definicja
Mówimy, że ciąg dystrybuant (Fn ) jest zbieżny podstawowo do
dystrybuanty F wtedy i tylko wtedy, gdy w każdym punkcie x ∈ R
ciągłości dystrybuanty F spełniony jest warunek
lim Fn (x) = F (x). O ciągu (Pn ) rozkładów o dystrybuantach Fn
n→∞
mówimy wtedy, że jest słabo zbieżny do rozkładu P
o dystrybuancie F .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie
Jeśli ciąg (Xn ) zmiennych losowych jest zbieżny według
prawdopodobieństwa do zmiennej losowej X , to ciąg (Fn )
dystrybuant tych zmiennych jest zbieżny podstawowo do
dystrybuanty zmiennej losowej X .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie
Jeśli ciąg (Xn ) zmiennych losowych jest zbieżny według
prawdopodobieństwa do zmiennej losowej X , to ciąg (Fn )
dystrybuant tych zmiennych jest zbieżny podstawowo do
dystrybuanty zmiennej losowej X .
Twierdzenie odwrotne do powyższego twierdzenia jest prawdziwe
tylko w szczególnym przypadku, gdy zmienna X ma rozkład
jednopunktowy.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Prawa wielkich liczb
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Niech (Xn ) będzie ciągiem zmiennych losowych określonych na
przestrzeni probabilistycznej (Ω, M, P) o skończonych wartościach
oczekiwanych. Przyjmijmy następujące oznaczenia:
mk = EXk dla k = 1, 2, ...,
Sn = X1 + X2 + ... + Xn , Mn = m1 + m2 + ... + mn dla n = 1, 2, ....
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Niech (Xn ) będzie ciągiem zmiennych losowych określonych na
przestrzeni probabilistycznej (Ω, M, P) o skończonych wartościach
oczekiwanych. Przyjmijmy następujące oznaczenia:
mk = EXk dla k = 1, 2, ...,
Sn = X1 + X2 + ... + Xn , Mn = m1 + m2 + ... + mn dla n = 1, 2, ....
Definicja
Mówimy, że ciąg (Xn ) spełnia słabe prawo wielkich liczb wtedy i
tylko wtedy, gdy
p
1
n (Sn − Mn ) → 0.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Niech (Xn ) będzie ciągiem zmiennych losowych określonych na
przestrzeni probabilistycznej (Ω, M, P) o skończonych wartościach
oczekiwanych. Przyjmijmy następujące oznaczenia:
mk = EXk dla k = 1, 2, ...,
Sn = X1 + X2 + ... + Xn , Mn = m1 + m2 + ... + mn dla n = 1, 2, ....
Definicja
Mówimy, że ciąg (Xn ) spełnia słabe prawo wielkich liczb wtedy i
tylko wtedy, gdy
p
1
n (Sn − Mn ) → 0.
Definicja
Mówimy, że ciąg (Xn ) spełnia mocne prawo wielkich liczb wtedy i
tylko wtedy, gdy
1
˙
n (Sn − Mn ) →0.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Podamy warunki dostateczne na to, aby ciąg (Xn ) spełniał prawo
wielkich liczb.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Podamy warunki dostateczne na to, aby ciąg (Xn ) spełniał prawo
wielkich liczb.
Definicja
Ciąg (Xn ) nazywamy ciągiem niezależnych zmiennych losowych
wtedy i tylko, gdy dla każdego k ∈ N zmienne X1 , X2 , ..., Xk są
niezależne.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Podamy warunki dostateczne na to, aby ciąg (Xn ) spełniał prawo
wielkich liczb.
Definicja
Ciąg (Xn ) nazywamy ciągiem niezależnych zmiennych losowych
wtedy i tylko, gdy dla każdego k ∈ N zmienne X1 , X2 , ..., Xk są
niezależne.
Definicja
Mówimy, że ciąg (Xn ) spełnia warunek Markowa wtedy i tylko
wtedy, gdy
σ 2 +σ 2 +...+σn2
lim 1 2n2
= 0,
n→∞
gdzie
σn2
=
D 2 Xn
dla n ∈ N.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie (prawo wielkich liczb Markowa)
Niech (Xn ) będzie ciągiem niezależnych zmiennych losowych
mających skończone wariancje σn2 = D 2 Xn . Jeśli ciąg (Xn ) spełnia
warunek Markowa, to ciąg (Xn ) spełnia słabe prawo wielkich liczb.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie (prawo wielkich liczb Markowa)
Niech (Xn ) będzie ciągiem niezależnych zmiennych losowych
mających skończone wariancje σn2 = D 2 Xn . Jeśli ciąg (Xn ) spełnia
warunek Markowa, to ciąg (Xn ) spełnia słabe prawo wielkich liczb.
Przykład
Wykażemy, że ciąg (Xn ) niezależnych zmiennych losowych o
√
rozkładach N(0, 3 n) spełnia słabe prawo wielkich liczb.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład (cd)
Zadanie sprowadza się do wykazania, że ciąg (Xn ) zmiennych
losowych spełnia warunek
zmienna Xk ma
√
√ Markowa. Ponieważ
3
rozkład normalny N(0, 3 k), więc σk2 = k 2 . Stąd otrzymujemy
oszacowanie
0<
σ12 +σ22 +...+σn2
n2
=
√
√
3 2 √
3
3
1 + 22 +...+ n2
2
n
¬
√
3
n· n2
n2
=
1
√
3 n.
Z twierdzenia o trzech ciągach wynika zatem, że
σ 2 +σ 2 +...+σn2
= 0.
lim 1 2n2
n→∞
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Definicja
Mówimy, że ciąg (Xn ) spełnia warunek Kołmogorowa wtedy i tylko
wtedy, gdy szereg
∞ 2
P
σn
n=1
n2
jest zbieżny.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Definicja
Mówimy, że ciąg (Xn ) spełnia warunek Kołmogorowa wtedy i tylko
wtedy, gdy szereg
∞ 2
P
σn
n=1
n2
jest zbieżny.
Twierdzenie (pierwsze prawo wielkich liczb Kołmogorowa)
Niech (Xn ) będzie ciągiem niezależnych zmiennych losowych
mających skończone wariancje σn2 = D 2 Xn . Jeśli ciąg (Xn ) spełnia
warunek Kołmogorowa, to ciąg (Xn ) spełnia mocne prawo wielkich
liczb.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład
Wykażemy, że ciąg zmiennych losowych (Xn ) z przykładu 16
spełnia mocne prawo wielkich liczb.
Rozwiązanie. Ponieważ
σn2
n2
=
1
√
3 4,
n
więc szereg
∞ 2
P
σn
n=1
n2
jest zbieżny,
a zatem ciąg (Xn ) spełnia warunek Kołmogorowa. Oznacza to, że
ciąg (Xn ) spełnia mocne prawo wielkich liczb.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład
Wykażemy, że ciąg zmiennych losowych (Xn ) z przykładu 16
spełnia mocne prawo wielkich liczb.
Rozwiązanie. Ponieważ
σn2
n2
=
1
√
3 4,
n
więc szereg
∞ 2
P
σn
n=1
n2
jest zbieżny,
a zatem ciąg (Xn ) spełnia warunek Kołmogorowa. Oznacza to, że
ciąg (Xn ) spełnia mocne prawo wielkich liczb.
Wynika stąd oczywiście, że ciąg (Xn ) spełnia również słabe prawo
wielkich liczb. Tak więc, aby wykazać, że ciąg niezależnych
zmiennych losowych spełnia słabe prawo wielkich liczb można
korzystać albo z twierdzenia Markowa, albo z twierdzenia
Kołmogorowa.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Załóżmy teraz, że niezależne zmienne losowe X1 ,X2 ,... mają
identyczny rozkład z wartością oczekiwaną m = mk dla
k = 1, 2, .... Zbieżność ciągu
1
n (Sn
− Mn )
do zmiennej losowej X ≡ 0 jest równoważna warunkowi, że ciąg
średnich n1 Sn dąży do zmiennej losowej przyjmującej wartość m z
prawdopodobieństwem 1. W tym przypadku zachodzi następujące
twierdzenie.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Załóżmy teraz, że niezależne zmienne losowe X1 ,X2 ,... mają
identyczny rozkład z wartością oczekiwaną m = mk dla
k = 1, 2, .... Zbieżność ciągu
1
n (Sn
− Mn )
do zmiennej losowej X ≡ 0 jest równoważna warunkowi, że ciąg
średnich n1 Sn dąży do zmiennej losowej przyjmującej wartość m z
prawdopodobieństwem 1. W tym przypadku zachodzi następujące
twierdzenie.
Twierdzenie (drugie prawo wielkich liczb Kołmogorowa)
Niech (Xn ) będzie ciągiem niezależnych zmiennych losowych o
identycznych rozkładach. Ciąg (Xn ) spełnia mocne prawo wielkich
liczb wtedy i tylko wtedy, gdy istnieje wartość oczekiwana
m = EXn , gdzie n = 1, 2, ... .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Centralne twierdzenia graniczne
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Niech (Xn ) będzie ciągiem niezależnych zmiennych losowych
określonych na przestrzeni probabilistycznej (Ω, M, P) mających
skończoną wartość oczekiwaną i skończoną dodatnią wariancję.
Przyjmijmy, tak jak w poprzednim paragrafie:
mk = EXk dla k = 1, 2, ...,
Sn = X1 + X2 + ... + Xn ,
Mn = m1 + m2 + ... + mn ,
2
2
2
2
2
2
oraz σq
k = D Xk dla k = 1, 2, ..., Bn = σ1 + σ2 + ... + σn ,
Bn = Bn2 .
Niech Yn będzie zmienną otrzymaną przez standaryzację zmiennej
Sn , tzn.
Sn − Mn
Yn =
.
Bn
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Definicja
Mówimy, że dla ciągu (Xn ) spełnione jest centralne twierdzenie
graniczne wtedy i tylko wtedy, gdy ciąg dystrybuant zmiennych
losowych Yn jest zbieżny podstawowo do dystrybuanty rozkładu
normalnego N(0, 1). O ciągu (Yn ) mówimy wtedy, że jest
asymptotycznie normalny .
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykładem centralnego twierdzenia granicznego jest twierdzenie
integralne de Moivre’a-Laplace’a, które sformułowaliśmy nie
korzystając z pojęcia zmiennej losowej. Podany w tym twierdzeniu
wzór
k−np
<
b
= F (b) − F (a),
lim P a < √
npq
n→∞
gdzie F jest dystrybuantą rozkładu normalnego N(0, 1), możemy
obecnie zinterpretować następująco. Liczba sukcesów k w
schemacie n prób Bernoulliego jest wartością zmiennej losowej Sn o
rozkładzie Bernoulliego z parametrami n, p. Zmienna Sn jest sumą
n niezależnych zmiennych losowych Xk , gdzie k = 1, 2, ..., n, o
identycznym rozkładzie zero-jedynkowym z parametrem p.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Standaryzując zmienne Sn , otrzymujemy
Yn =
Sn − Mn
Sn − np
= √
.
Bn
npq
Tak więc twierdzenie integralne de Moivre’a-Laplace’a orzeka, że
dla ciągu niezależnych zmiennych losowych o identycznych
rozkładach zero-jedynkowych spełnione jest centralne twierdzenie
graniczne.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie integralne de Moivre’a-Laplace’a jest szczególnym
przypadkiem następującego twierdzenia.
Twierdzenie (Lindeberga-Levy’ego)
Jeśli (Xn ) jest ciągiem niezależnych zmiennych losowych o
identycznych rozkładach z wartością oczekiwaną m i skończoną
dodatnią wariancją σ 2 , to ciąg (Xn ) spełnia centralne twierdzenie
graniczne.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie integralne de Moivre’a-Laplace’a jest szczególnym
przypadkiem następującego twierdzenia.
Twierdzenie (Lindeberga-Levy’ego)
Jeśli (Xn ) jest ciągiem niezależnych zmiennych losowych o
identycznych rozkładach z wartością oczekiwaną m i skończoną
dodatnią wariancją σ 2 , to ciąg (Xn ) spełnia centralne twierdzenie
graniczne.
Przykład
Dany jest ciąg niezależnych zmiennych losowych (Xn ) o
jednakowych rozkładach takich, że EXn = 3, D 2 Xn = 2.
Wyznaczymy
przybliżoną wartość prawdopodobieństwa
P 580 <
200
P
Xn < 660 .
n=1
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład (cd)
Zauważmy, że ciąg (Xn ) spełnia założenia twierdzenia
Lindeberga-Levy’ego. Niech S200 =
200
P
Xn , wówczas
n=1
M200 = ES200 = 200 · 3 = 600,
a z niezależności zmiennych Xn wynika, że
2
B200
= D 2 S200 = 200 · 2 = 400,
czyli B200 =
√
400 = 20.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład (cd)
Stąd otrzymujemy
P 580 <
200
P
Xn < 660 = P
n=1
= P −1 <
S200 −600
20
580−600
20
<
S200 −600
20
<
660−600
20
=
< 3 ≈ F (3) − F (−1) = F (3) + F (1) − 1,
gdzie F jest dystrybuantą rozkładu normalnego N (0, 1).
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Podamy teraz twierdzenie graniczne dla ciągu zmiennych losowych
o niejednakowych rozkładach.
Definicja
Mówimy, że ciąg (Xn ) zmiennych losowych o skończonych
wartościach oczekiwanych mn = EXn spełnia warunek Lapunowa
wtedy i tylko wtedy, gdy istnieje taka liczba δ > 0, że
a) ck2+δ = E |Xk − mk |2+δ < +∞ dla k = 1, 2, ...;
Cn
n→∞ Bn
b) lim
= 0, gdzie Cn =
n
P
k=1
Jacek Kłopotowski
ck2+δ
1/(2+δ)
.
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Podamy teraz twierdzenie graniczne dla ciągu zmiennych losowych
o niejednakowych rozkładach.
Definicja
Mówimy, że ciąg (Xn ) zmiennych losowych o skończonych
wartościach oczekiwanych mn = EXn spełnia warunek Lapunowa
wtedy i tylko wtedy, gdy istnieje taka liczba δ > 0, że
a) ck2+δ = E |Xk − mk |2+δ < +∞ dla k = 1, 2, ...;
Cn
n→∞ Bn
b) lim
= 0, gdzie Cn =
n
P
k=1
ck2+δ
1/(2+δ)
.
Twierdzenie (Lapunowa)
Jeśli ciąg (Xn ) niezależnych zmiennych losowych spełnia warunek
Lapunowa, to ciąg (Xn ) spełnia centralne twierdzenie graniczne.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Twierdzenie Lapunowa stosowane jest najczęściej dla δ = 1.
Przykład
Niech (Xn ) będzie ciągiem niezależnych zmiennych losowych o
rozkładach dwupunktowych określonych następująco
P(Xn = n) = P(Xn = −n) = 12 .
Wykażemy, że ciąg (Xn ) spełnia centralne twierdzenie graniczne.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne
Rodzaje zbieżności ciągu zmiennych losowych i ich rozkładów
Prawa wielkich liczb
Centralne twierdzenia graniczne
Przykład (cd)
Zauważmy, że σk2 = k 2 , ck3 = k 3 , więc
Bn2 =
Cn3 =
n
P
k 2 = 61 n(n + 1)(2n + 1),
k=1
2
n
P
k3 =
k=1
1
2 n(n
+ 1)
.
Stąd otrzymujemy
q
3
lim Cn
n→∞ Bn
= lim p 1
n→∞
6
(
2
1
n(n+1)
2
)
n(n+1)(2n+1)
4
n3·
= lim
3
n→∞ n 2 ·
q
3
2
( 12 (1+ n1 ))
p1
6
(1+ n1 )(2+ n1 )
= 0.
Ciąg (Xn ) niezależnych zmiennych losowych spełnia zatem warunek
Lapunowa, a więc spełnia także centralne twierdzenie graniczne.
Jacek Kłopotowski
Prawa wielkich liczb, centralne twierdzenia graniczne