Chng5.Mtsnhlýhit Chơng Một số định lý hội tụ Giả sử không gian xác suất (, A, P) ta có dÃy biến ngẫu nhiên {X } (n = 1,2 ) n biến ngẫu nhiên Y A Sự hội tụ theo xác suất I định nghĩa v số đặc điểm Định nghĩa Dẫy {X n } (n = 1,2 ) đợc gọi hội tụ theo x¸c st vỊ X nÕu víi mäi ε > nhá t ý ta ®Ịu cã: lim P( X n − X < ε ) = n →∞ (P) Lóc ®ã ta ký hiƯu X n ⎯⎯→ X (n → ∞) (P) ý nghÜa: Nh− vËy nÕu X n ⎯⎯→ X (n → ∞) th× P{ω : X n (ω) − X(ω) < ε} → (n → ∞ ) có nghĩa P{ : X n (ω) − X(ω) ≥ ε} → (n → ∞ ) Một số đặc điểm Định lý 1: (P) ⎯→ NÕu X n ⎯⎯→ X (n → ∞ ) Yn ( P ) Y (n ) X n + Yn ⎯( P ) X + Y (n → ∞) ⎯→ Chøng minh Víi mäi ε > ta cã Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 213 Chương 5. Một số định lý hội  tụ  [ (X n ε⎤ ⎡ ε⎤ ⎡ + Yn ) − (X + Y ) ≥ ε] ⊂ ⎢ X n − X ≥ ⎥ ∪ ⎢ Yn − Y ≥ ⎥ 2⎦ ⎣ 2⎦ ⎣ VËy ε⎤ ε⎤ ⎡ ⎡ ≤ P[ (X n + Yn ) − (X + Y ) ≥ ε] ≤ P ⎢ X n − X ≥ ⎥ + P ⎢ Yn − Y ≥ ⎥ 2⎦ 2⎦ ⎣ ⎣ Do gi¶ thiÕt vỊ sù héi tụ theo xác suất X n X Yn Y nên giới hạn vế bên phải Từ ta suy lim P[ (X n + Yn ) − (X + Y ) ≥ ε] = n →∞ ⎯→ Do ®ã X n + Yn ⎯( P ) X + Y (n ) (P) Định lý 2: Nếu g hàm liên tục R X n X (n → ∞) th×: (P) g(X n ) ⎯⎯→ g(X) (n ) Chứng minh Vì g hàm liên tục nên x với > cã ∃δ > cho víi mäi x th× x − x < δ ta sÏ cã g ( x ) − g ( x ) < áp dụng cho biến ngẫu nhiên ta có thÓ viÕt: ∀ε > 0, ∃δ > cho: (X n − X < δ ) ⊂ [ g (X n ) − g (X) < ε] LÊy x¸c suất hai vế ta đợc P( X n X < δ ) ≤ P[ g (X n ) − g (X) < ε] Suy lim P( X n − X < δ ) ≤ lim P[ g (X n ) − g (X) < ε] n →∞ n →∞ (P) Do X n ⎯⎯→ X (n → ∞) nên giới hạn vế trái Vậy lim P [ g ( X n ) − g ( X ) < ε ] ≥ n→ ∞ Do xác suất vợt nên ta suy Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 214 Chương 5. Một số định lý hội  tụ  lim P[ g (X n ) − g (X) < ε] = n →∞ ⎯→ §iỊu nµy chøng tá g(X n ) ⎯( P ) g(X) (n → ∞) II Mét sè quy luËt sè lín Ta ®· biÕt r»ng mét biÕn cè cã xác suất coi hầu nh có Tơng tự biến cố có xác suất coi hầu nh chắn xẩy Mặt khác biến cố ngẫu nhiên thờng nhiều nguyên nhân ngẫu nhiên gây Các nguyên nhân ngẫu nhiên biểu thị biến ngẫu nhiên Vì ta phải xem xét biến ngẫu nhiên phải thoả mÃn điều kiện để tác động tổng cộng chúng dẫn đến biến cố có xác suất (hoặc 1) Việc tìm điều kiện nội dung quy luật số lớn Bất đẳng thức Trê-b-sép Bất đẳng thức sở để chứng minh số định lý luật số lớn đợc phát biểu nh sau: ( ) r Víi mäi biÕn ngÉu nhiªn X mà có E X < + r > với số > ta cã: P( X ≥ ε ) ≤ ( ) r E X r ε Chøng minh Ta chøng minh cho trờng hợp X biến ngẫu nhiên liên tục với hàm mật độ xác suất f(x) xác định R Ta cã P( X ≥ ε ) = ∫ f ( x )dx ≤ x ≥ε εr ∫ r x f ( x )dx x ≥ε Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 215 Chương 5. Một số định lý hội  tụ  ≤ r ε +∞ ∫x r f ( x )dx = −∞ ( ) r E X r ε Ghi chó: NÕu thay X bëi X- E(X) vµ r = Ta cã P( X − E( X) ≥ ε ) ≤ E[X − E(X)] ε P( X − E (X) ≥ ε ) V(X) Tức (1) Hoặc viêt dới dạng tơng đơng P( X E ( X) < ) V(X) (2) Các dạng (1) (2) dạng thờng dùng bất đẳng thức Trê_b_sép Định lý Trê-b-sép (luật số lớn Trê-b-sép) Phát biểu: Nếu {X n } ( n = 1,2 ) dẫy biến ngẫu nhiên: a Độc lập đôi b Có phơng sai bị chặn đều, tức tồn số C cho V ( X i ) ≤ C víi mäi i ≥ , th× víi mäi sè ε > nhá t ý ta ®Ịu cã: n ⎛1 n ⎞ lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ = n →∞ n i =1 ⎝ n i =1 ⎠ Chøng minh Ta ký hiÖu X n = n ∑ Xi n i =1 áp dụng bất đẳng thức (2) cho biến ngẫu nhiên X n ta đợc ( ) P X n E (X n ) < ε ≥ − V (X n ) ε2 (α ) Theo tÝnh chÊt cña kú väng to¸n ta cã Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 216 Chương 5. Một số định lý hội  tụ  ⎞ n ⎛1 n E(X n ) = E⎜ ∑ X i ⎟ = ∑ E(X i ) ⎝ n i =1 n i =1 () Do giả thiêt (a) nªn: ⎞ ⎛1 n V(X n ) = V⎜ ∑ X i ⎟ = ⎝ n i =1 ⎠ n n ∑ V(X ) i =1 i Do giả thiết (b) nên ta suy tiếp: V (X n ) ≤ C nC = n n (γ ) Thay kêt ( ) ( ) vào bất đẳng thức ( ) ta đợc: C n ⎛1 n ⎞ P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ ≥ − n i =1 nε ⎝ n i =1 ⎠ LÊy giíi h¹n hai vÕ: n C ⎞ ⎛1 n ⎞ ⎛ lim P ⎜ ∑ X i − ∑ E (X i ) < ε ⎟ ≥ lim ⎜ − ⎟ n →∞ n i =1 nε ⎠ ⎝ n i =1 ⎠ n→∞ ⎝ n ⎛1 n ⎞ lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ ≥ n →∞ n i =1 ⎝ n i =1 ⎠ Do xác suất bị chặn nên ta suy hƯ thøc ph¶i chøng minh ý nghÜa: Qua định lý ta thấy biến ngẫu nhiên X n = n ∑ X i héi tơ theo x¸c n i =1 suất giá trị trung bình kỳ vọng toán biến ngẫu nhiên thành phần tạo nên Nói cách khác ta ký hiệu a n = n X i định lý n i =1 Trê_b_sép cho thấy tính ổn định biến ngẫu nhiên X n quanh giá trị a n Trờng hợp đặc biệt Nếu E ( X i ) hệ thức đà nêu định lý trở thành: ( ) lim P X n − μ < ε = n →∞ LờVnPhongTrnTrngNguyờn,HKTQD 217 Chng5.Mtsnhlýhit Một trờng hợp đặc biệt sau ta gặp X n ( n = 1,2, ) biến ngẫu nhiên độc lập, có quy luật phân phối xác suất, có kỳ vọng phơng sai Khi ấy, biến ngẫu nhiên X i nhận giá trị sai kh¸c rÊt nhiỊu so víi μ , nh−ng biÕn ngẫu nhiên trung bình cộng X n số lớn biến ngẫu nhiên thành phần X i lại nhận giá trị gần với với xác suất gần Định lý Bernoulli (luật số lớn Bernoulli) Phát biểu: Nếu S n sè lÇn xt hiƯn cđa biÕn cè A n phép thử độc lập với phép thử có hai kêt A với xác suất để A xuất phép thử P(A) = p( < p < 1) víi mäi sè ε > nhá tuú ý ta ®Òu cã: ⎞ ⎛S lim P⎜ n − p < ε ⎟ = ⎟ ⎜ n n →∞ ⎠ ý nghĩa: Ta thấy Sn tần suất f n A lợc đồ Bernoulli với hai n (P) tham số n p theo định lý ta thấy f n p (n ) Do n lớn ta lấy giá trị f n làm giá trị xấp xỉ cho p Đây cách xác định xác suất biến cố A theo quan điểm thống kê Chứng minh áp dụng bất đẳng thức Trê_b_sép cho biến ngẫu nhiên f n ta ®−ỵc: P ( f n − E (f n ) < ε ) ≥ − V(f n ) ε2 Nếu gọi X i số lần xuất biÕn cè A phÐp thö thø i” (i = 1, n ) X i biến ngẫu nhiên độc lập, tuân theo quy luật A(p) víi E (X i ) = p vµ V (X i ) = p(1 − p) Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 218 Chương 5. Một số định lý hội  tụ  Do ®ã ⎛S ⎞ ⎛ X + X + + X n ⎞ n E(f n ) = E⎜ n ⎟ = E⎜ ⎟ = ∑ E(X i ) = p n ⎠ n i =1 ⎝n ⎠ ⎝ ⎛S ⎞ V (f n ) = V ⎜ n ⎟ = ⎝ n ⎠ n n ∑ V (X ) = n i =1 i np (1 − p ) = p (1 p ) n Thay kết vào bất đẳng thức ta đợc: P( f n p < ε ) ≥ − p(1 − p) n Lấy giới hạn hai vế ta đợc: p(1 − p) ⎞ lim P( f n − p < ε ) ≥ lim⎜ − ⎟ n →∞ n →∞ nε ⎠ ⎝ Do p(1 − p) hữu hạn nên giới hạn bên phải Do xác suất bị chặn bëi nªn cuèi cïng ta suy ra: lim P( f n − p < ε ) = n Định lý Markov ( luật số lớn Markov) Phát biểu: Nếu dẫy biến ngẫu nhiên {X n } ( n = 1,2, ) thoả mÃn điều kiÖn: n ⎤ ⎡1 lim ⎢ V⎛ ∑ X i ⎞⎥ = ⎟ ⎜ n →∞ ⎣ n i =1 Thì với số ε > nhá t ý ta ®Ịu cã: n ⎛1 n ⎞ lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ = n →∞ n i =1 ⎝ n i =1 ⎠ ý nghĩa: Nh điều kiện định lý Markov rộng điều kiện định lý Trê_b_sép chỗ không đòi hỏi tính độc lập biến ngẫu nhiên thành phần tính bị chặn phơng sai chúng LờVnPhongTrnTrngNguyờn,HKTQD 219 Chng5.Mtsnhlýhit Chứng minh áp dụng bất đẳng thức Trê_b_sép cho biến ngẫu nhiên X n = ⎛ P⎜ ⎜ ⎝ n ∑ X i ta đợc n i =1 n V ∑ X i ⎟ ⎞ n n i =1 ⎠ ⎞ ⎛1 n X i − E⎜ ∑ X i ⎟ < ε ⎟ ≥ − ⎝ ∑ ⎟ n i =1 ε ⎝ n i =1 ⎠ ⎠ Nh− ®· biÕt ⎞ n ⎛1 n E⎜ ∑ X i ⎟ = ∑ E(X i ) ⎝ n i =1 ⎠ n i =1 n ⎞ ⎛1 n V⎜ ∑ X i ⎟ = V⎛ ∑ X i ⎞ ⎟ ⎜ ⎝ n i =1 ⎠ n ⎝ i =1 ⎠ Thay c¸c kÕt vào bất đẳng thức lấy giới hạn hai vế ta đợc: n n ⎞ ⎡1 ⎛ n ⎤ lim P⎜ ∑ X i − ∑ E(X i ) < ε ⎟ ≥ − lim ⎢ V⎜ ∑ X i ⎞ ⎥ ⎟ n →∞ n →∞ ε n i =1 ⎣ n ⎝ i =1 ⎠ ⎦ ⎝ n i =1 Do giả thiết định lý ta suy vế phải 1, xác xuất bị chặn nên ta suy hệ thức phải chứng minh Ghi Đặc biệt nh biến ngẫu nhiên Xn (n = 1,2.) đôi không tơng quan (và mạnh đôi độc lập) điều kiện định lý Markov trở thành: n ∑ V(X i ) → (n → ∞ ) n i =1 ThÝ dô H·y xác định số lợng tối thiểu phép thử cần thực lợc đồ Bernoulli để dựa vào fn ta có xấp xỉ đợc p với độ xác 0,1 độ tin cậy tối thiểu 95% Bài giải Ta phải xác định giá trị tối thiểu n cho: P( f n − p < 0,1) 0,95 LờVnPhongTrnTrngNguyờn,HKTQD 220 Chng5.Mtsnhlýhit Theo định lý Bernoulli ta biết đợc fn hội tụ theo xác suất p Tuy nhiên dựa vào bất đẳng thức Trê_b_sép áp dụng cho fn đà nêu phần chứng minh định lý nµy ta cã: P( f n − p < 0,1) ≥ − VËy ta ph¶i cã: − p(1 − p ) n (0,1) p(1 − p ) = 0,95 ch−a biÕt, nh−ng v× p(1- p) ≤ nªn ta n (0,1) cã thĨ ®¸nh gi¸ tiÕp: 1− ≥ 0,95 4n (0,1) Suy n ≥ 500 ThÝ dô Cho d·y { Xn } (n = 1,2,.) biến ngẫu nhiên độc lập với quy luật phân phối xác suất nh− sau: − i Xi p(xi) i 1− i i i Chøng tá r»ng dẫy biến ngẫu nhiên tuân theo quy luật số lớn Bài giải Ta đễ dàng tính đợc E(Xi) = 0, V(Xi) = i Tõ ®ã n2 VËy n ∑ V(X i ) = i =1 n2 n ∑ i =1 i< n2 n ∑ n= i =1 n n lim ∑ V(X i ) = vµ {X n } ( n = 1,2 ) tu©n theo lt sè lín n →∞ n i =1 B Sù héi tô theo quy luËt Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 221 Chng5.Mtsnhlýhit I Các định nghĩa Định nghĩa DÃy biến ngẫu nhiên {Xn} (n = 1, 2,) đợc gäi lµ héi tơ theo quy lt vỊ X nÕu: lim FX ( x ) = FX ( x ) với x thuộc thuộc tập hợp điểm liên n →∞ n tơc cđa FX (X) ⎯→ Khi ®ã ta ký hiÖu X n ⎯L X (n → ∞) Ghi chó Do cã sù t−¬ng øng ( 1-1 ) hàm đặc trng hàm phân phối nên điều kiện thay bằng: lim g X ( t ) = g X ( t ) n →∞ n Ghi chó Ta biÕt quy luËt chuẩn quy luật thờng gặp có nhiều ứng dụng Vì ta tìm điều kiện d·y biÕn ngÉu nhiªn {X n } ( n = 1,2 ) sÏ héi tơ theo quy lt vỊ quy luật N( 0; 1) Chính xác ta có khái niƯm tiƯm cËn chn nh− sau: NÕu quy lt ph©n phối biến ngẫu nhiên X phụ thuộc vào tham số n ta chọn đợc hai đại lợng m0 (phụ thuộc không phơ thc vµo n) cho n → ∞ hàm phân phối biến ngẫu nhiên ~ X m0 X= Sẽ tiến tới hàm phân phối cđa quy lt chn N( 0;1), tøc lµ ( ) x − u2 ~ lim FX ( x ) = lim P X < x = FU ( x ) = ~ ∫ e du n →∞ n →∞ π −∞ Th× ta nãi r»ng X tiƯm cËn chuÈn (m , σ ) ( ) ThÝ dơ NÕu X tu©n theo quy lt χ (n ) th× nã tiƯm cËn chn n , n Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 222 Chương 5. Một số định lý hội  tụ  Chøng minh ThËt vËy, X tuân theo quy luật (n ) nên g X ( t ) = (1 − 2it ) − n E (X) = n V (X) = 2n suy σ(X ) = n ~ Xn Ta xét biến ngẫu nhiên chuẩn hoá từ X: X = 2n ~ Khi hàm đặc trng X sÏ lµ [ ] g X (t) = E e ~ =e =e ~ itX − it n −it n −n ⎡ it X2 n ⎤ = E ⎢e ⎥ ⎣ ⎦ ⎛ ⎞ gX ⎜ t⎟ ⎝ 2n ⎠ ⎞ ⎛ t⎟ ⎜ − 2i 2n ⎠ ⎝ − n =e − it n ⎛ 2⎞ ⎜ − it ⎟ ⎜ n⎟ ⎝ ⎠ − n Do ®ã n ⎛ 2⎞ ⎟ − ln⎜ − it n⎟ n ⎜ ⎝ ⎠ ln g X ( t ) = −it ~ Khai triÓn Mac_laurin ta cã: ⎛ 2⎞ 1⎛ ⎞ 1⎛ ⎞ ⎟ = −it ⎟ − ⎜ it ⎟ + ln⎜ − it − ⎜ it ⎜ n⎟ n 2⎜ n ⎟ 3⎜ n ⎟ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ Suy t2 ⎛ ⎞ ln g X ( t ) = − + 0⎜ ~ ⎟ ⎝ n⎠ VËy lim g X ( t ) = e ~ − t2 n →∞ Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 223 Chương 5. Một số định lý hội  tụ  Đây hàm đặc trng quy luật N( 0;1) từ ta kết luận hàm phân phối ~ Xn tiến tới hàm phân phối quy luật N( 0;1) n → ∞ , tøc lµ X X= 2n ( ) tiÖm cËn chuÈn n , n II Định lý giới hạn trung tâm liapounov Phát biểu Cho biến ngẫu nhiên độc lập Xk (k = 1,2) có kỳ vọng hữu hạn E(Xk) = ak phơng sai hữu hạn V(X k ) = σ k lim n →∞ NÕu B3 n ∑ E(X n k =1 k − ak )= (*) Trong ®ã: ⎛ n X ⎞ = n V (X ) = n σ B = V (S n ) = V⎜ ∑ k ⎟ ∑ ∑ k k k =1 ⎝ k =1 ⎠ k =1 n n Th× S n = ∑ X k sÏ tiƯm cËn chn víi m0 lµ E(Sn) vµ σ lµ k =1 V(Sn ) , tøc lµ tỉng chn ho¸: ~ Sn − E(Sn ) Sn − E(Sn ) = Sn = σ(Sn ) V(Sn ) SÏ tho¶ m·n ( ) ~ lim F~ ( x ) = lim P Sn < x = FU ( x ) n →∞ n →∞ S n Trong ®ã FU ( x ) hàm phân phối biến ngẫu nhiên U tuân theo quy luật N( 0;1) Nói cách kh¸c: lim g ~ ( t ) = g U ( t ) = e S n →∞ n − t2 Lê Văn Phong ‐ Trần Trọng Ngun, ĐHKTQD 224 Chương 5. Một số định lý hội  tụ  ý nghÜa §iỊu kiƯn (*) đợc gọi điều kiện Liapounov Nếu điều kiện n đợc thoả mÃn với n lớn quy lt ph©n phèi cđa tỉng S n = ∑ X k cã thÓ k =1 n n k =1 k =1 coi xÊp xØ lµ quy lt chn víi kú väng lµ E(S n ) = ∑ E (X k ) = ∑ a k vµ víi n n k =1 k =1 phơng sai V(S n ) = ∑ V(X k ) = ∑ σ k Chứng minh Để chứng minh định lý ta chứng minh hàm đặc trng tổng chuẩn ho¸: n n k =1 k =1 ∑ Xk − ∑ak ~ Sn = Bn Xk − ak Bn k =1 n = tiến tới hàm đặc trng quy luËt N( 0;1) n → ∞ , tøc lµ lim g ~ ( t ) = e S n →∞ − t2 n Theo tÝnh chÊt cña hàm đặc trng thì: n g ~ (t) = g X S n k =1 k −a k (t ) Bn i) Vì trớc hết ta xác định g ( X k −a k ) (t) theo c«ng thøc khai triĨn ®· biÕt: k −1 (iz ) k =0 r! e =∑ iz r +θ zk víi θ < k! Ta suy (itX ) = e itX 0! (itX ) + = + itX − 1! (itX ) + 2! (tX ) +θ t2 t3 X + θ X3 Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 3! víi θ < víi θ < 225 Chương 5. Một số định lý hội  tụ  Do ®ã ta cã thĨ viÕt khai triĨn cđa g X ( t ) nh− sau: t2 g X ( t ) = E(e ) = + itE (X) − E(X ) + R ( t ) itX phần d R(t) thoả mÃn bất đẳng thức ( )t R (t ) C E X 3 Tõ ®ã ta suy ra: g (X k −a k ) (t) = E[e it ( X k −a k ) ] t2 = + itE (X k − a k ) − E(X k − a k ) + R k ( t ) ( Víi R k ( t ) ≤ C.E X k − a k )t C số Vì E (X k − a k ) = E ( X k ) − a k = a k − a k = E(X k − a k ) = E[X k − E(X k )] = V(X k ) = σ k 2 Nªn ta cã: g (X ii) k −a k σ2 k t + R k (t) ) (t) = − Theo tính chất đà biết hàm đặc trng g aX ( t ) = g X (at ) nªn ta suy ra: g (X k −a k ) (t ) = g (X Bn k −a k ⎛ t )⎜ ⎜B ⎝ n σ2 ⎛ t =1− k ⎜ ⎜ Bn ⎝ ⎞ ⎟ ⎟ ⎠ ⎞ ⎛ ⎟ + Rk⎜ ⎟ ⎜B ⎠ ⎝ n =1− ⎛ σ2 k t + Rk⎜ ⎜B 2B2 ⎝ n n ⎛ ®ã R k ⎜ ⎜B ⎝ n ⎞ ⎟ ≤ C.E X k − a k ⎟ ⎠ ( ⎞ ⎟ ⎟ ⎠ ⎞ ⎟ ⎟ ⎠ ) t Bn Tøc lµ Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 226 Chương 5. Một số định lý hội  tụ  ⎛ Rk⎜ ⎜B ⎝ n iii) ( E Xk − ak ⎞ ⎟ ≤ C B3 n )t Nh đà nêu n g ~ (t ) = ∏ g X S n k =1 (t ) k −a k Bn n ln g ~ ( t ) = ∑ ln g X S nªn n k =1 −a k Bn k (t) ⎡ ⎛ t σ2 = ∑ ln ⎢1 − k2 t + R k ⎜ ⎜B k =1 ⎝ n ⎣ 2B n n ⎞⎤ ⎟⎥ ⎟ ⎠⎦ V× ln (1 + α n ) ≈ α n nÕu α n → nªn: ⎡ ⎛ t σ2 ln ⎢1 − k2 t + R k ⎜ ⎜B ⎝ n ⎣ 2B n ⎞⎤ ⎡ σ 2 ⎛ t ⎟⎥ ≈ ⎢− k2 t + R k ⎜ ⎟ ⎜B ⎠⎦ ⎣ B n ⎝ n ⎞⎤ ⎟⎥ ⎟ ⎠⎦ Do ®ã ⎡ σ2 ⎛ t ln g ~ ( t ) ≈ ∑ ⎢− k t + R k ⎜ S ⎜B k =1 ⎝ n ⎣ 2B n n n ⎞⎤ ⎟⎥ ⎟ ⎠⎦ n =− ∑σ k ⎛ t t + ∑Rk⎜ ⎜B 2B2 k =1 ⎝ n n k =1 n ⎛ B2 n = − n2 t + ∑ R k ⎜ ⎜B 2B n k =1 ⎝ n n ⎛ t2 = − + ∑Rk⎜ k =1 ⎜ B n ⎝ Vì Nên iv) Rk B k =1 ⎝ n n ( E Xk − a k ⎞ ⎟ ≤ C ⎟ B3 ⎠ n ⎛ Rk⎜ ⎜B ⎝ n ⎞ ⎟ ≤ C t ⎟ Βn ⎠ )t ∑ E( X Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD ⎞ ⎟ ⎟ ⎠ ⎞ ⎟ ⎟ ⎠ n k =1 ⎞ ⎟ ⎟ ⎠ k − ak ) 227 Chng5.Mtsnhlýhit Nếu điều kiện Liapounov đợc thoả mÃn, tøc lµ nÕu ∑ E(X n Β3 n k =1 ⎛ ⎜ ⎜B ⎝ n n ∑R th× k =1 k k − ak )→ (n → ∞ ) ⎞ ⎟ → n → ∞ ⎟ ⎠ Do ®ã t2 ln g ~ ( t ) → − S (n → ∞ ) n V× thÕ g ~ ( t ) → e S − t2 (n → ∞ ) n VËy định lý đợc chứng minh Hệ (Định lý Lindeberg_levy) NÕu {X n } ( n = 1,2, ) dÃy biến ngẫu nhiên độc lập, có quy luật phân phối xác suất với E(X k ) = a vµ V(X k ) = b vµ có mô_men cấp hữu n n k =1 k =1 hạn S n = X k sÏ tiƯm cËn chn víi m = E (S n ) = ∑ E (X k ) = na vµ σ = σ(S n ) = V (S n ) = n ∑b k =1 k = nb = b n Chøng minh Ta xÐt điều kiện Liapounov dÃy biến ngẫu nhiên nµy Ta cã B3 n ∑ E( X − ak )= ( nb = k ∑ E( X n ) n b3 k =1 n ∑μ k =1 k = −a 3 n b3 ) nμ3= μ n b3 Do giả thiết mô_men trung tâm tuyệt đối cấp hữu hạn nên ta suy Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 228 Chương 5. Một số định lý hội  tụ  n →∞ B3 n lim ∑ E( X k − ak ) = lim n →∞ μ3 n b =0 Vậy dÃy biến ngẫu nhiên xét ta thấy điều kiện Liapounov đợc thoả mÃn nên ta cã kÕt qu¶ ph¶i chøng minh ý nghÜa Nh− vËy n kh¸ lín ta cã thĨ coi quy luật phân phối biến ngẫu nhiên S n = ∑ X k lµ xÊp xØ quy luËt chuÈn N (na ; nb ) Tõ ®ã cã thĨ coi quy n k =1 lt ph©n phèi cđa biÕn ngÉu nhiªn ⎛S víi E(X n ) = E⎜ n ⎝n Sn n = ∑ X k = X n lµ xÊp xØ quy luËt chuÈn n n k =1 ⎞ ⎟ = E(Sn ) = n.a = a n ⎠ n 1 b2 ⎛ Sn ⎞ vµ V(X n ) = V⎜ ⎟ = V(Sn ) = n.b = n n ⎝n⎠ n ⎛ b2 ⎞ tøc lµ ta cã thĨ coi xÊp xỉ quy luật phân phối X n N a; kết n đợc ứng dụng phần thống kê toán sau Hệ (Định lý Moivre_laplace gọi định lý giới hạn tích phân) Nếu {X n } ( n = 1,2, ) dÃy biến ngẫu nhiên độc lập, tuân theo n quy luật A(p) biến ngÉu nhiªn S n = ∑ X k sÏ tiªm cËn chn víi m = np k =1 vµ σ = np(1 − p) = npq Chøng minh Ta coi trờng hợp riêng định lý Lindeberg_levy với E ( X k ) = p vµ V(X k ) = p(1 − p) = pq Ghi chó Lê Văn Phong ‐ Trần Trọng Ngun, ĐHKTQD 229 Chương 5. Một số định lý hội  tụ  V× biến ngẫu nhiên Xk độc lập tuân theo quy luËt A(p) nªn biÕn n ngÉu nhiªn X = S n = ∑ X k , nh− ta ®· biết tuân theo quy luật B(n;p) Vì k =1 định lý Moivre_Laplace phát biểu Quy luật nhị thức B(n;p) tiêm cận chuẩn với m = np vµ σ = npq Tõ X tuân theo quy luật B(n;p) n lớn, đồng thời p không gần th× tỉng x2 ∑ P(X = x ) = x = x1 x2 ∑C x = x1 x n p x q n −x Cã thÓ tÝnh xÊp xØ thông qua hàm (u ) đà dùng cho quy luËt chuÈn nh− sau: x2 ∑ P(X = x ) = P( x x = x1 ≤ X ≤ x2 ) ⎛ x − np X − np x − np ⎞ ⎟ = P⎜ ⎜ npq ≤ npq ≤ npq ⎟ ⎠ ⎝ ⎛ x − np ⎞ ⎛ x − np ⎞ ⎟ ⎟ − Φ0 ⎜ ≈ Φ0 ⎜ ⎜ npq ⎟ ⎜ npq ⎟ ⎠ ⎠ ⎝ ⎝ ThÝ dô: Xác suất để trình sản xuất sản phẩm trở thành phế phẩm 0,005 tính xác suất để số 10000 sản phẩm đợc lấy cách ngẫu nhiên để kiểm tra 70 phế phẩm Bài giải Nếu ký hiệu X số phế phẩm gặp phải ta lấy ngẫu nhiên 10000 sản phẩm ta phải tính P( X 70) ta có lợc đồ Bernoulli với n = 10000 p = 0,005 v× vËy: x P(X ≤ 70) = ∑ Pn ( x ) = ∑ C10000 (0,005 ) (0,995 ) 70 70 x =0 x =0 x 10000 − x Nếu tính trực tiếp xác suất cộng lại khó khăn Vì ta áp dụng định lý giới hạn tích phân để tính xấp xØ Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 230 Chương 5. Một số định lý hội  tụ  Ta cã thÓ viÕt P(X ≤ 70 ) = P(0 ≤ X ≤ 70 ) ⎛ − np X − np 70 − np ⎞ ⎟ = P⎜ ⎜ npq ≤ npq ≤ npq ⎟ ⎠ ⎝ V× np = 10000.0,005 = 50 npq = 10000.0,005.0,995 = 49,75 Nªn ⎛ − 50 X − 50 70 − 50 ⎞ ⎟ ≤ ≤ P (x ≤ ) = P ⎜ ⎜ 49,75 49,75 49,75 ⎟ ⎝ ⎠ ⎛ ⎞ X − 50 = P⎜ − 7,09 ≤ ≤ 2,84 ⎟ ⎜ ⎟ 49,75 ⎝ ⎠ ≈ Φ (2,84) − Φ (−7,09) ≈ 0,9976 Ghi Nếu ký hiệu fn tần suất xuất biến cố A lợc đồ Bernoulli với hai tham số n p fn = X Sn n = = ∑ Xk = Xn n n n k =1 ®ã Xk biến ngẫu nhiên độc lập, tuân theo quy luật A(p) Do X tuân theo quy luật nhị thức đợc xấp xỉ quy luật chuẩn N( np; npq ) ta suy khi quy luật phân phối fn có thĨ coi lµ xÊp xØ quy lt chn N(p ; pq ) n Thí dụ: Xác định số phép thử tối thiểu phải thực tần suất fn cđa biÕn cè A kh¸c víi x¸c st p cđa A lơng không với xác suất không nhỏ LờVnPhongTrnTrngNguyờn,HKTQD 231 Chng5.Mtsnhlýhit Bài giải Nh ta phải xác định n cho P( f n − p < ε ) ≥ γ víi ε đà ấn định Nếu xấp xỉ quy luật cđa fn bëi quy lt chn N(p; pq ) th× theo công thức đà n biết quy luật chuẩn, ta cã ⎛ ε ⎞ P ( f n − p < ε ) ≈ 2Φ ⎜ ⎜ σ(f ) ⎟ ⎟ ⎝ n ⎠ ⎞ ⎛ ⎟ ⎜ ⎜ ε ⎟ = 2Φ ⎛ ε n ⎞ ⎟ ⎜ = 2Φ 0⎜ ⎜ pq ⎟ pq ⎟ ⎠ ⎝ ⎟ ⎜ ⎝ n ⎠ Do ®ã ta phải xác định n cho n 2Φ ⎜ ⎜ pq ⎟ = γ ⎠ ⎝ ⎛ε n ⎞ γ ⎟ tøc lµ Φ ⎜ ⎜ pq ⎟ = ⎠ ⎝ Do γ ®· ấn định nên ta tra bảng giá trị hàm (u ) ta tìm đợc giá trị γ cña U cho Φ (u ) = Tõ ®ã suy u pq ε n ≥ u , tøc lµ n ≥ ε pq LờVnPhongTrnTrngNguyờn,HKTQD 232 Chng5.Mtsnhlýhit Chẳng hạn = 0,95 th× Φ (u ) = 0,475 Ta tra bảng đợc u = 1,96 (1,96 ) pq Tuỳ trờng hợp p cha biết, ta đánh giá n≥ (0,1) NÕu ε= 0,1 th× tiÕp b»ng cách thay tích pq giá trị lớn nã lµ (1,96 ) n≥ 4.(0,1) vµ suy 2 97 Cách ớc lợng ta đà thực cách dùng bất đẳng thức Trê_b_sép nhng với quan niệm đại khái nhiều Ghi chó Liªn quan tíi viƯc xÊp xØ quy lt nhị thức quy luật chuẩn, ta có định lý giới hạn địa phơng sau đây: Định lý Với n lớn p không gần Thì X đủ lớn U nằm khoảng hữu hạn ta có x Pn ( x ) = C n p x q n − x ≈ ®ã u = ϕ(u ) npq x − np , cßn ϕ( u ) hàm mật độ quy luật chuẩn N( 0;1) npq − u2 e tøc lµ ϕ(u ) = 2π Chøng minh ThËt vËy v× u= x − np npq x = np + u npq (1) n − x = nq − u npq nªn (2 ) Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 233 Chương 5. Một số định lý hội  tụ  x q =1+ u np np n−x p =1− u nq nq Theo c«ng thøc Stirling ta cã n!≈ πn n n e − n V× vËy Pn ( x ) = C p q x n x n−x ≈ πn n x e − x πn n n e − n p x q n − x (n −x ) π(n − x ).(n − x ) e −( n − x ) x n ⎛ np ⎞ ⎛ nq ⎞ ⎜ ⎟ ⎜ ⎟ x (n − x ) ⎝ x ⎠ ⎝ n − x ⎠ = 2π n −x (1) Tõ (1) vµ (2) ta suy với n lớn x np n- x ≈ nq Do ®ã n n ≈ = x (n − x ) np.nq npq (2 ) Ngoµi biÕt r»ng víi αn → th× ln(1 + α n ) ≈ α n − α n V× vËy −x x ⎛ x ⎞ ⎛ x ⎞ ⎛ np ⎞ ln⎜ ⎟ = ln⎜ ⎟ = − x ln⎜ ⎟ ⎜ np ⎟ ⎜ np ⎟ ⎝ x ⎠ ⎝ ⎠ ⎝ ⎠ ⎛ q ⎞ ⎟ = x ln⎜ + u ⎜ np ⎟ ⎝ ⎠ ⎡ q q⎤ ≈ − x ⎢u − u ⎥ np np ⎦ ⎣ ⎡ q q⎤ = − np + u npq ⎢u − u ⎥ np np ⎦ ⎣ ( ) Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 234 Chương 5. Một số định lý hội  tụ  T−¬ng tù ⎛ nq ⎞ ln⎜ ⎟ ⎝n −x⎠ (n −x ) ⎛n −x⎞ = ln⎜ ⎟ ⎜ nq ⎟ ⎠ ⎝ −(n −x ) ⎛n −x⎞ = −(n − x )ln⎜ ⎜ nq ⎟ ⎟ ⎝ ⎠ ⎛ p ⎞ ⎟ = −(n − x )ln⎜ − u ⎜ nq ⎟ ⎝ ⎠ ⎡ p p⎤ ≈ −(n − x )⎢− u − u ⎥ nq nq ⎦ ⎣ ⎡ p p⎤ = −( nq − u npq ) ⎢− u − u ⎥ nq nq ⎦ ⎣ Tõ ®ã ta cã ⎡⎛ x ⎞ − x ⎛ n − x ⎞ − ( n − x ) ⎤ ⎡⎛ np ⎞ x ⎛ nq ⎞ ( n − x ) ⎤ ln ⎢⎜ ⎟ ⎜ ⎥ ⎟ ⎥ = ln ⎢⎜ ⎟ ⎜ ⎜ np ⎟ ⎜ nq ⎟ ⎟ ⎝ x ⎠ ⎝n −x⎠ ⎦ ⎠ ⎢⎝ ⎠ ⎝ ⎥ ⎣ ⎣ ⎦ −x ⎛n −x⎞ ⎛ x ⎞ = ln⎜ ⎟ + ln⎜ ⎟ ⎜ nq ⎟ ⎜ np ⎟ ⎠ ⎝ ⎝ ⎠ −(n −x ) q p ⎞ 1 ⎛ ⎟ ≈ − u2 + u3⎜q −p 2 ⎜ np nq ⎟ ⎝ ⎠ Suy ⎡⎛ np ⎞ x ⎛ nq ⎞ ( n − x ) ⎤ lim ln ⎢⎜ ⎟ ⎜ ⎟ ⎥=− u n →∞ ⎣⎝ x ⎠ ⎝ n − x ⎠ ⎦ Tøc lµ ⎡⎛ np ⎞ x ⎛ nq ⎞ ( n − x ) ⎤ − u2 lim ⎢⎜ ⎟ ⎜ ⎟ ⎥=e n →∞ ⎝ x ⎠ ⎝n −x⎠ LờVnPhongTrnTrngNguyờn,HKTQD (3) 235 Chng5.Mtsnhlýhit Căn vào (2) (3) ta thấy n lớn biĨu thøc ë (1) cã thĨ viÕt xÊp xØ lµ u − 1 Pn ( x ) ≈ e 2 π npq 1 − u2 = e = ϕ(u ) npq npq Đó điều phải chứng minh Thí dụ Nếu tính xác suất để 10000 sản phẩm lấy đà xét có 40 phế phẩm th× ta cã: 40 P10000 (40 ) = C10000 (0,005 ) (0,995 ) 40 9960 áp dụng định lý giới hạn địa phơng để tính xấp xỉ xác suất ta cã: npq ≈ 7,05 u= x − np 40 − 50 = ≈ −1,42 7,05 npq Do ®ã P10000 (40 ) ≈ ϕ(− 1,42 ) 7,05 V× ϕ(u ) hàm chẵn nên ( 1,42 ) = (1,42 ) Tra bảng ta đợc (1,42 ) = 0,1456 v× thÕ P10000 (40 ) ≈ (0,1456) = 0,00206 7,05 Nếu dùng trực tiếp mà không dùng định lý giới hạn địa phơng ta có: P10000 (40 ) 0,00197 Ghi Định lý Moivre_Laplace cho phép ta xÊp xØ quy luËt nhÞ thøc B(n;p) bëi quy luËt chuẩn N(np; npq) Sự xấp xỉ tốt np ≥ vµ n(1-p) ≥ Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 236 Chương 5. Một số định lý hội  tụ  Tuy nhiên B(n;p) quy luật rời rạc với giá trị nguyên, quy luật chuẩn quy luật liên tục nên để việc xấp xỉ đợc tốt công thức xấp xỉ x − np ⎞ ⎛ x − np ⎞ ⎟ ⎟ − Φ0 ⎜ P (x ≤ x ≤ x ) ≈ Φ ⎜ ⎜ npq npq Đợc sửa nh− sau: ⎛ x − np − 0,5 ⎞ ⎛ x − np + 0,5 ⎞ ⎟ ⎟ − Φ0 ⎜ P (x ≤ x ≤ x ) ≈ Φ ⎜ ⎟ ⎟ ⎜ ⎜ npq npq Sự sửa đổi đợc áp dụng phân phối rời rạc nhận giá trị nguyên đợc xấp xỉ phân phối liên tục, tức ta xấp xỉ biểu thøc tÝnh x¸c suÊt P (x ≤ x ≤ x ) = x2 ∑ p (x ) x = x1 x2 bëi tÝch ph©n ∫ f (x )dx x1 Trong p(x) hàm xác suất biến ngẫu nhiên rời rạc X, f(x) hàm mật ®é cđa biÕn ngÉu nhiªn liªn tơc NÕu nh− X nhận giá trị nguyên để việc xấp xỉ đợc tốt hơn, ngời ta thay tích phân tÝch x2 + x1 − ph©n 2 ∫ f (x )dx Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 237 ... Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 220 Chương? ?5.? ?Một? ?số? ?định? ?lý? ?hội? ?? ?tụ? ? Theo định lý Bernoulli ta biết đợc fn hội tụ theo xác suất p Tuy nhiên dựa vào bất đẳng thức Trê_b_sép áp dụng cho fn đà nêu phần chứng minh định lý ta... Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 217 Chương? ?5.? ?Một? ?số? ?định? ?lý? ?hội? ?? ?tụ? ? Mét c¸c trờng hợp đặc biệt sau ta gặp X n ( n = 1,2, ) biến ngẫu nhiên độc lập, có quy luật phân phối xác suất, có kỳ vọng phơng sai... VËy lim P [ g ( X n ) − g ( X ) < ε ] ≥ n Do xác suất vợt mét nªn ta suy Lê Văn Phong ‐ Trần Trọng Nguyên, ĐHKTQD 214 Chương? ?5.? ?Một? ?số? ?định? ?lý? ?hội? ?? ?tụ? ? lim P[ g (X n ) − g (X) < ε] = n Điều