Bài giảng Lý thuyết xác suất và thống kê - Chương 5: Các định lý giới hạn biến ngẫu nhiên nhiều chiều

Nội dung text: Bài giảng Lý thuyết xác suất và thống kê - Chương 5: Các định lý giới hạn biến ngẫu nhiên nhiều chiều

1. Chương 5: CÁC ĐỊNH LÝ GIỚI HẠN BIẾN NGẪU NHIÊN NHIỀU CHIỀU
2. I. Các định lý giới hạn 1. Luật số lớn Các biến ngẫu nhiên X1, , Xn có kỳ vọng EXi , i = 1, 2, , và được gọi là thỏa mãn luật số lớn nếu với bất kỳ ε > 0 ⎡ X11++ Xnn EX ++ EX ⎤ lim P ⎢ − ≤=ε ⎥ 1 n→∞ ⎣ nn⎦
3. Luật số lớn Bernoulli : Xét mô hình nhị thức với xác suất thành công p. Gọi Xi là số lần xuất hiện thành công trong phép thử thứ i. Khi đó X1 , X2 , thỏa mãn luật số lớn (ε > 0) : lim Pf⎡ n − p≤=ε ⎤ 1 (1) n→∞ ⎣ ⎦ X ++ X Trong đó, f = 1 n được gọi là tần suất n n xuất hiện thành công trong n phép thử. Ngoài ra EXi = p, i =1, 2, vì vậy EX+ + EX np in==p nn Nếu (1) thỏa mãn ta nói tần suất fn hội tụ đến p theo xác suất.
4. • Khi các biến ngẫu nhiên Xi có luật phân phối Bernoulli thì chúng thỏa Luật số lớn Bernoulli. Ngoài ra EXi = p , vì vậy EX+ + EX np in= = p nn Và tần suất f n hội tụ đến p theo xác suất. Ứng dụng thực tế : Để xác định xác suất p của sự kiện A trong một phép thử nào đó, người ta lặp lại phép thử một số lớn lần độc lập với nhau. Sau đó lấy tần suất làm xấp xỉ cho p.
5. 2. Định lý giới hạn trung tâm (ĐLGHTT) Các biến ngẫu nhiên X1 , X2 , với kỳ vọng và phương sai hữu hạn, được gọi là thỏa mãn ĐLGHTT nếu ⎡⎤SES− lim P ⎢⎥nn≤=Φxx() (2) n→∞ ⎣⎦⎢⎥DSn Trong đó Sn = X1 + +Xn và Φ(x) là hàm phân phối của luật chuẩn tắc N(0, 1). Nếu đặt ⎡ ⎤ SESnn− Fxn ()=≤ P⎢ x⎥ ⎣⎢ DSn ⎦⎥
6. SESnn− là hàm phân phối của Sn′ = DSn thì (2) có dạng limFxn ( )= Φ ( x ) n→∞
7. Định lý giới hạn trung tâm Moivre – Laplace Xét mô hình Nhị thức với xác suất thành công p, Xi là số lần xuất hiện thành công trong phép thử thứ i. Khi đó X1, X2 , thỏa mãn ĐLGHTT : ⎡⎤Xnp− lim P ⎢⎥≤=Φxx() n→∞ ⎣⎦⎢⎥npq Trong đó X= X1 + + Xn là số lần xuất hiện thành công trong n phép thử và X ~ B(n, p), EX = np, DX = npq.
8. Như vậy trong một số lớn phép thử Bernoulli thì chuẩn hóa của biến ngẫu nhiên chỉ số lần thành công có phân phối Nhị thức sẽ có phân phối xấp xỉ chuẩn. Xnp− ~(0,1)N npq Hay X ~ N(np, npq). Công thức xấp xỉ : Cho X~ B(n, p) với n lớn. Khi đó X ~ N(np, npq) và từ đó ⎛⎞⎛⎞bnp−− anp Pa()≤≤ X b ≈Φ −Φ ⎜⎟⎜⎟ ⎝⎠⎝⎠npq npq
9. 3. Định lý giới hạn địa phương (ĐLGHĐP) Moivre – Laplace : Xét mô hình Nhị thức với xác suất thành công p, Xi là số lần xuất hiện thành công trong phép thử thứ i. Khi đó X1, X2 , thỏa mãn ĐLGHĐP : ⎡⎤2 −()knp− ⎢⎥1 2npq lim⎢⎥PX (= k ) −=e 0 n→∞ ⎢⎥npq 2π ⎣⎦ Với X = X1 + + Xn , X ~ B(n, p).
10. Công thức xấp xỉ : Cho X~ B(n, p) với n lớn. Khi đó 2 −()knp− 1 2npq PX()=≈ k e npq 2π
11. II. Véc tơ ngẫu nhiên 1. Bảng phân phối đồng thời của véc tơ rời rạc (X,Y) Y y1 . . . . yn X x1 p11 . . . . p1n p1. . . . . . . . . . . . . . . . . . . . . xm pm1 . . . . pmn pm. p.1 . . . . p.n 1 Trong đó pij = P(X= xi ; Y= yj ).
12. Các xác suất lề : n ppPXxii. ===∑ j() i j=1 m p. ji===∑ pPYyj() j i =1 Các bảng phân phối lề : Xx1 xm Yy1 yn Pp1. pm. Pp.1 p.n
13. 2. Phân phối có điều kiện : PX(;)== xiji Y y p j PX(/)=== xij Y y = PY()= y jjp. PX(;)== xiji Y y p j PY(/=== yji X x ) = PX()= xii p. 3. Hàm phân phối đồng thời : F(x, y) = P( X ≤ x ; Y ≤ y) Tính chất : 1) 0 ≤ F(x, y) ≤ 1
14. 2) limFxy ( , )= Fx ( ,+∞ ) = FX ( x ) = PX ( ≤ x ) y→+∞ limF (xy , )= F (+∞ , y ) = FY ( y ) = PY ( ≤ y ) x→+∞ limFxy ( , )= 1 x→+∞ y→+∞ 3) lim(,)Fxy= lim(,) Fxy== lim(,) Fxy 0 xyx→−∞ →−∞ →−∞ y→−∞ 4) F(x, y) là hàm không giảm F(x1, y) ≤ F(x2, y) , x1 < x2 F(x, y1) ≤ F(x, y2) , y1 < y2 5) P(a < X ≤ b ; c < Y ≤ d) = F(b, d) – F(a, d) – F(b, c) + F(a, c)
15. 4. Hàm mật độ đồng thời : Nếu hàm phân phối đồng thời của véc tơ (X,Y) có thể biểu diễn dưới dạng x y F(,) x y= ∫∫ f (,) u v du dv , x, y ∈R −∞ −∞ khi đó f(x,y) được gọi là hàm mật độ đồng thời của (X,Y). Tính chất : 1) f(x, y) ≥ 0 ∂2 Fxy(, ) 2) fxy (, ) = tại những điểm liên tục của f(x,y). ∂∂x y 3) ∫∫ f (,x y )dx dy = 1 R2
16. 4) P [] (,) XY ∈= A ∫∫ f (,) xydxdy A với A là tập hợp trên R2 . db⎡ ⎤ 5) P()aXbcYd≤≤; ≤≤=∫∫⎢ f (x ,y )dx⎥ dy ca⎣ ⎦ 5. Hàm mật độ lề : +∞ f ()xfxydy= (, ) X ∫ −∞ +∞ f ()yfxydx= (,) Y ∫ −∞
17. 6. Hàm mật độ có điều kiện : f (,xy ) fxfxy()== ( / ) 0 XY/0= y0 fY ()y0 f (,)xy fyfxy()== ( / ) 0 YXx/0= 0 f X ()x0 7. Tính độc lập ngẫu nhiên : † Rời rạc : Cho véc tơ ( X, Y), biến ngẫu nhiên X và Y là độc lập nếu P(X = xi ; Y = yj ) = P(X = xi ) P( Y = yj ) † Liên tục : Cho véc tơ ( X, Y) với mật độ đồng thời f(x, y), biến ngẫu nhiên X và Y là độc lập nếu f(x, y) = fX (x) . fY (y)
18. 8. Kỳ vọng và phương sai : 1) Kỳ vọng: „ Rời rạc : nnm EX==∑∑∑ xpii. xpiij iij===111 mnm EY ==∑∑∑y j p. jjy pij ji==11j=1 „ Liên tục : +∞ +∞ +∞ EXx==f ()xdx xf (,x y )dx dy ∫∫∫X −∞ −∞ −∞ +∞ +∞ +∞ EY ==yf ()ydyyf (,)x y dx dy ∫∫∫Y −∞ −∞ −∞
19. 2) Phương sai : „ Rời rạc : nnm 22 DX=−∑∑∑() xii EX p. = () x ii − EX p j ii==11j=1 mnm 22 DY =−∑∑∑()y j EY p. jji = ()y −EY p j ji==11j=1 „ Liên tục: +∞ +∞ +∞ DX=−()()()(,) x EX22 f x dx = x − EX f x y dx dy ∫∫X ∫ −∞ −∞ −∞ +∞ +∞ +∞ DY=−()()()(,) y EY22 f y dy = y − EY f x y dx dy ∫∫Y ∫ −∞ −∞ −∞
20. 9. Hiệp phương sai : Cov(X, Y) = E(X–EX)(Y–EY) = E(XY) – EX .EY † Rời rạc : nm Cov(,) X Y=−−∑∑ ( xiii EX )( y EY ) p j ij==11 nm EXY()= ∑∑ xypij ij ij==11 † Liên tục: +∞ +∞ Cov(,) X Y=−−∫∫ ( x EX )( y EY )(,) f x y dx dy −∞ −∞ +∞ +∞ E() XY= ∫∫ xy f (,) x y dx dy −∞ −∞
21. Tính chất : 1) Cov(X, Y) = Cov(Y, X) 2) Cov(X+Y, Z) = Cov(X, Z) + Cov(Y, Z) 3) Cov(kX, Y) = Cov(X, kY) = k Cov(X, Y) 4) Cov(X, X) = DX 5) Cov(,) X Y≤ DX . DY ( Bất đẳng thức Cauchy-Schwarz) 6) [Cov(X, Y)]2 ≤ EX2 . EY2
22. 9. Hệ số tương quan : Cov(,) X Y ρ = XY DX. DY Tính chất : 1) - 1 ≤ ρ XY ≤ 1. 2) Nếu X và Y độc lập thì ρ XY = 0. 3) ρ XY = 1 khi và chỉ khi YaXb =+ với hằng số a và b (có thể ngoại trừ một tập hợp có xác suất 0). Khi ρXY > 0, Y có xu hướng tăng cùng với X. Khi ρXY < 0, Y có xu hướng giảm cùng với X.