Wykład 6 - E-SGH

Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Wykład 6
Rozkłady wielowymiarowe
Jacek Kłopotowski
Katedra Matematyki i Ekonomii Matematycznej
Szkoła Główna Handlowa
21 marca 2011
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Najmniejszą σ-algebrę podzbiorów przestrzeni Rn zawierającą
iloczyny kartezjańskie przedziałów
(−∞, x1 i × (−∞, x2 i × ... × (−∞, xn i ,
gdzie x1 ,x2 ,...,xn ∈ R nazywamy rodziną zbiorów borelowskich w
przestrzeni Rn i oznaczamy symbolem B(Rn ).
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Najmniejszą σ-algebrę podzbiorów przestrzeni Rn zawierającą
iloczyny kartezjańskie przedziałów
(−∞, x1 i × (−∞, x2 i × ... × (−∞, xn i ,
gdzie x1 ,x2 ,...,xn ∈ R nazywamy rodziną zbiorów borelowskich w
przestrzeni Rn i oznaczamy symbolem B(Rn ).
Definicja
Niech (Ω, M, P) będzie przestrzenią probabilistyczną. Funkcję
X : Ω → Rn nazywamy n-wymiarową zmienną losową (lub
n-wymiarowym wektorem losowym) wtedy i tylko wtedy, gdy
X−1 (B) ∈ M dla każdego zbioru B ∈ B(Rn ).
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Rozkładem prawdopodobieństwa wielowymiarowej zmiennej losowej
X : Ω → Rn nazywamy funkcję PX : B(Rn ) → R określoną dla
dowolnego B ∈ B(Rn ) wzorem PX (B) = P({ω ∈ Ω : X(w ) ∈ B}).
Funkcja PX jest prawdopodobieństwem określonym na σ-algebrze
podzbiorów borelowskich przestrzeni Rn , czyli zmienna losowa
X : Ω → Rn generuje nową przestrzeń probabilistyczną
(Rn , B(Rn ), PX ). Składowe Xi : Ω → R wielowymiarowej zmiennej
losowej X : Ω → Rn są jednowymiarowymi zmiennymi losowymi.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Dystrybuantą rozkładu prawdopodobieństwa zmiennej losowej
X = (X1 , X2 , ..., Xn ) nazywamy funkcję FX : Rn → R określoną
wzorem
FX (x1 , x2 , ..., xn ) = P(X1 ≤ x1 ∧ X2 ≤ x2 ∧ ... ∧ Xn ≤ xn ).
Wartość FX (x1 , x2 , ..., xn ) dystrybuanty FX jest równa
prawdopodobieństwu zdarzenia, że zmienna losowa X przyjmuje
wartości należące do iloczynu kartezjańskiego
(−∞, x1 i × (−∞, x2 i × ... × (−∞, xn i przedziałów
nieograniczonych.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Wyrazimy za pomocą dystrybuanty FX prawdopodobieństwo
zdarzenia, że zmienna losowa X przyjmuje wartości należące do
iloczynu kartezjańskiego przedziałów ograniczonych
Q = (a1 , b1 i × (a2 , b2 i × ... × (an , bn i ,
gdzie ai ≤ bi dla i = 1, 2, ..., n. Zauważmy, że zbiór Q ma 2n
wierzchołków, są nimi punkty q = (q1 , q2 , ..., qn ), gdzie qi jest
równe ai lub bi . Każdemu punktowi q przyporządkujemy znak
sgn(Q, q) = (−1)I (a,q) , gdzie I (a, q) jest równe liczbie tych
wskaźników i dla których ai = qi . Korzystając z indukcji
matematycznej można wykazać, że
P
ozn
P(X ∈ Q) = sgn(Q, q)FX (q) = ∆b−a FX .
q
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
W szczególności, dla n = 1 mamy Q = (a, bi i
∆b−a FX = FX (b) − FX (a),
natomiast dla n = 2 mamy Q = (a1 , b1 i × (a2 , b2 i i
∆b−a FX = FX (b1 , b2 ) − FX (a1 , b2 ) − FX (b1 , a2 ) + FX (a1 , a2 ).
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie
Funkcja F : Rn → R jest dystrybuantą rozkładu
prawdopodobieństwa w przestrzeni Rn wtedy i tylko wtedy, gdy:
a) lim lim ... lim F (x1 , x2 , ..., xn ) = 1,
x1 →∞ x2 →∞
b)
xn →∞
lim F (x1 , x2 , ..., xn ) = 0 dla każdego i = 1, 2, ..., n, x ∈ Rn ,
xi →−∞
c) F jest funkcją niemalejącą i prawostronnie ciągłą względem
każdej ze zmiennych x1 ,x2 ,...,xn ,
d) ∆b−a FX ≥ 0 dla dowolnych punktów a, b ∈ Rn takich, że a ≤ b.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Mówimy że zmienna losowa X ma rozkład czysto skokowy wtedy i
tylko wtedy, gdy istnieje skończony lub przeliczalny zbiór S zawarty
w Rn taki, że:
a) P(X
P = x) ≥ 0 dla każdego x ∈ S;
b)
P(X = x) = 1.
x∈S
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Mówimy że zmienna losowa X ma rozkład czysto skokowy wtedy i
tylko wtedy, gdy istnieje skończony lub przeliczalny zbiór S zawarty
w Rn taki, że:
a) P(X
P = x) ≥ 0 dla każdego x ∈ S;
b)
P(X = x) = 1.
x∈S
Definicja
Funkcję p : S → R określoną wzorem p(x) = P(X = x) nazywamy
funkcją prawdopodobieństwa rozkładu zmiennej losowej X.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Przykład
Przykładem rozkładu czysto skokowego jest wielowymiarowy
rozkład Bernoulliego (nazywany również rozkładem
wielomianowym) z parametrami
P k ∈ N, p1 , p2 , ..., pn takimi, że
pi > 0 dla i = 1, 2, ..., n oraz
pi = 1.
i
P(X1 = k1 ∧ X2 = k2 ∧ ... ∧ Xn = kn ) =
k1
k!
k1 !k2 !...kn ! p1
· p2k2 · ... · pnkn ,
gdzie k1 , k2 , ..., kn są nieujemnymi liczbami całkowitymi,
n
P
i=1
Jacek Kłopotowski
Wykład 6
ki = k.
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Wielowymiarowy rozkład Bernoulliego skupiony jest w punktach o
współrzędnych nieujemnych i całkowitoliczbowych leżących na
hiperpłaszczyźnie o równaniu
x1 + x2 + ... + xn = k.
Na przykład, jeśli zmienna X ma jednowymiarowy rozkład
Bernoulliego z parametrami n ∈ N, p ∈ (0, 1); to zmienna
X = (X1 , X2 ), gdzie X1 = X , X2 = n − X , ma dwuwymiarowy
rozkład Bernoulliego z parametrami n, p, 1 − p.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Mówimy, że wielowymiarowa zmienna losowa X ma rozkład
bezwzględnie ciągły wtedy i tylko wtedy, gdy istnieje taka
nieujemna funkcja f : Rn → R, że dystrybuantę F zmiennej X
można przedstawić w postaci
ˆx1 ˆx2
F (x1 , x2 , ..., xn ) =
ˆxn
...
−∞ −∞
f (u1 , u2 , ..., un )du1 du2 ...dun .
−∞
Funkcję f nazywamy funkcją gęstości rozkładu
prawdopodobieństwa n-wymiarowej zmiennej losowej X.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie (własności funkcji gęstości)
Jeśli f jest funkcją gęstości rozkładu prawdopodobieństwa o
dystrybuancie F , to:
a) f (x) ≥ 0 dla każdego x ∈ Rn ;
n
0)
b) f (x0 ) = ∂x∂1 ∂xF2(x...∂x
w punktach ciągłości x0 funkcji f ;
n
´∞ ´∞
´∞
c)
...
f (x1 , x2 , ..., xn )dx1 dx2 ...dxn = 1.
−∞ −∞
−∞
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Przykład
1. Wielowymiarowy rozkład jednostajny w prostokącie
n
Q = × hai , bi i.
i=1
f (x) =


n
Q
1
dla x ∈ Q,
(bi −ai )
i =1

0
Jacek Kłopotowski
dla x ∈
/ Q.
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Przykład
1. Wielowymiarowy rozkład jednostajny w prostokącie
n
Q = × hai , bi i.
i=1
f (x) =


n
Q
1
dla x ∈ Q,
(bi −ai )
i =1

0
dla x ∈
/ Q.
Przykład
2. Wielowymiarowy nieosobliwy rozkład normalny.
T −1
1√
1
f (x) =
exp − 2 (x − m) A (x − m)
n/2
(2π)
det A
dla x ∈ Rn , gdzie A jest macierzą kwadratową stopnia n
symetryczną i dodatnio określoną (x, m oznaczają wektory
kolumnowe).
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie
Niech X = (X1 , X2 , ..., Xn ) będzie wielowymiarową zmienną losową.
a) Jeśli X ma rozkład czysto skokowy, to każda ze zmiennych Xi
ma rozkład czysto skokowy.
b) Jeśli X ma rozkład absolutnie ciągły, to każda ze zmiennych Xi
ma rozkład absolutnie ciągły.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Mówimy, że zmienne losowe X1 , X2 , ..., Xn : Ω → R są niezależne
wtedy i tylko wtedy, gdy
P(X1 ∈ B1 ∧ X2 ∈ B2 ∧ ... ∧ Xn ∈ Bn ) =
= P(X1 ∈ B1 )P(X2 ∈ B2 )...P(Xn ∈ Bn )
dla dowolnych zbiorów borelowskich B1 , B2 , ..., Bn .
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie
Niech X1 , X2 , ..., Xn będą niezależnymi zmiennymi losowymi.
a) Jeśli istnieją wartości oczekiwane EXi dla i = 1, 2, ..., n, to
istnieje wartość oczekiwana E (X1 · X2 · ... · Xn ) oraz
E (X1 · X2 · ... · Xn ) = EX1 · EX2 · ... · EXn .
b) Jeśli istnieją wariancje D 2 Xi dla i = 1, 2, ..., n, to istnieje
wariancja D 2 (X1 + X2 + ... + Xn ) oraz
D 2 (X1 + X2 + ... + Xn ) = D 2 X1 + D 2 X2 + ... + D 2 Xn .
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie
Niech FX będzie dystrybuantą n-wymiarowej zmiennej losowej
X = (X1 , X2 , ..., Xn ). Zmienne X1 ,X2 ,...,Xn są niezależne w
wielowymiarowym rozkładzie zmiennej X wtedy i tylko wtedy, gdy
FX (x1 , x2 , ..., xn ) = F1 (x1 )F2 (x2 )...Fn (xn ),
gdzie Fi oznacza dystrybuantę rozkładu brzegowego zmiennej Xi .
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Macierzą kowariancji n-wymiarowej zmiennej losowej
X = (X1 , X2 , ..., Xn ) nazywamy macierz kwadratową M stopnia n
określoną wzorem M = [cov(Xi , Xj )] , gdzie
cov(Xi , Xi ) = D 2 Xi , i, j = 1, 2, ..., n.
Przykład
Macierz A występująca we wzorze na funkcję gęstości w
n-wymiarowym nieosobliwym rozkładzie normalnym zmiennej X,
jest macierzą kowariancji tej zmiennej.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Definicja
Funkcją charakterystyczną wielowymiarowej zmiennej losowej
X = (X1 , X2 , ..., Xn ) nazywamy funkcję ϕX : Rn → Z określoną
wzorem
n
P
tk Xk .
ϕX (t1 , t2 , ..., tn ) = E exp i
k=1
Funkcja charakterystyczna wielowymiarowej zmiennej losowej X
spełnia warunki analogiczne jak funkcja charakterystyczna
jednowymiarowej zmiennej losowej.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Przykład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej X o
rozkładzie normalnym danym funkcją gęstości
T −1
1√
1
f (x1 , x2 , ..., xn ) =
exp
−
(x
−
m)
A
(x
−
m)
n/2
2
(2π)
det A
jest równa
ϕX (t1 , t2 , ..., tn ) = exp(itT m − 12 tT At),
gdzie x, m, t oznaczają wektory (pionowe) o współrzędnych
odpowiednio xj , mj , tj dla j = 1, 2, ..., n.
Jacek Kłopotowski
Wykład 6
(∗)
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Rozkłady prawdopodobieństwa zmiennych losowych definiujemy
podając funkcję prawdopodobieństwa dla rozkładów czysto
skokowych i funkcję gęstości dla rozkładów absolutnie ciągłych.
Rozkłady możemy także definiować podając funkcję
charakterystyczną. Korzystając z funkcji charakterystycznej możemy
na przykład określić w ogólnym przypadku wielowymiarowy rozkład
normalny. Mówimy, że zmienna X ma rozkład normalny wtedy i
tylko wtedy, gdy jej funkcja charakterystyczna jest postaci (∗). Jeśli
występująca we wzorze (∗) macierz A jest nieosobliwa, to zmienna
X ma rozkład nieosobliwy, jeśli zaś macierz A jest osobliwa, to
zmienna X ma rozkład osobliwy. W tym ostatnim przypadku nie
jest oczywiście określona funkcja gęstości. Warto też zwrócić
uwagę, że jeśli macierz kowariancji jest macierzą zerową, to
n-wymiarowa zmienna X ma rozkład jednopunktowy, przyjmujemy
zatem umowę, że rozkład jednopunktowy jest rozkładem
normalnym (również dla n = 1).
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie
Jeśli ϕX jest funkcją charakterystyczną wielowymiarowej zmiennej
losowej X = (X1 , X2 , ..., Xn ), to funkcja ϕk określona wzorem
ϕk (tk ) = ϕX (0, 0, ..., tk , ..., 0)
jest funkcją charakterystyczną zmiennej Xk w rozkładzie
brzegowym.
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Twierdzenie
Jeśli ϕX jest funkcją charakterystyczną wielowymiarowej zmiennej
losowej X = (X1 , X2 , ..., Xn ), to funkcja ϕk określona wzorem
ϕk (tk ) = ϕX (0, 0, ..., tk , ..., 0)
jest funkcją charakterystyczną zmiennej Xk w rozkładzie
brzegowym.
Twierdzenie
Zmienne X1 , X2 , ..., Xn są niezależne w wielowymiarowym rozkładzie
zmiennej losowej X = (X1 , X2 , ..., Xn ) wtedy i tylko wtedy, gdy
ϕX (t1 , t2 , ..., tn ) = ϕ1 (t1 )ϕ2 (t2 )...ϕn (tn ).
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Przykład
Wyznaczymy funkcję charakterystyczną zmiennej losowej
X = (X1 , X2 , X3 ), gdzie X1 , X2 , X3 są niezależnymi zmiennymi
losowymi o jednakowych rozkładach wykładniczych z parametrem
λ.
Rozwiązanie. Każda ze zmiennych X1 , X2 , X3 ma funkcję
charakterystyczną ϕ(t) = (1 − itλ )−1 . Stąd otrzymujemy
ϕX (t1 , t2 , t3 ) = (1 − λi t1 )−1 · (1 − λi t2 )−1 · (1 − λi t3 )−1 .
Jacek Kłopotowski
Wykład 6
Wielowymiarowa zmienna losowa i jej rozkład
Funkcja charakterystyczna wielowymiarowej zmiennej losowej
Przykład
Niech X1 , X2 będą niezależnymi zmiennymi losowymi o
jednakowym rozkładzie N(0, 1). Wyznaczymy funkcję
charakterystyczną zmiennej losowej X = (X1 , X2 , X1 + X2 ).
Sprawdzimy, czy zmienna X ma rozkład bezwzględnie ciągły.
Jacek Kłopotowski
Wykład 6