I HC QUC GIA H NI TRNG I HC KHOA HC T NHIấN - NGUYN VN TN THUT TON Mễ PHNG MCMC THCH NGHI V NG DNG Chuyờn ngnh: Lý thuyt xỏc sut v thng kờ toỏn hc Mó s: 60460106 TểM TT LUN VN THC S KHOA HC NGI HNG DN KHOA HC: TS TRN MNH CNG H Ni - 2015 Mc lc Li núi u Kin thc chun b 1.1 S hi t ca dóy i lng ngu nhiờn 1.2 Dóy mixingale 1.3 Cỏc thut toỏn mụ phng c bn 1.3.1 Phng phỏp bin i nghch o 1.3.2 Phng phỏp loi b 1.3.3 Phng phỏp ly mu quan trng 1.4 Xớch Markov 5 7 7 11 11 11 12 12 12 13 13 AP 14 14 14 15 15 Phng phỏp MCMC 2.1 Gii thiu 2.2 Mu Metropolis - Hastings 2.3 Mt s thut toỏn MCMC 2.3.1 Mu Gibbs 2.3.2 Mu c lp 2.3.3 Mu Metropolis - Hastings du ng ngu nhiờn 2.3.4 Mu Metropolis (thnh phn n) MCMC thớch nghi 3.1 Thut toỏn Metropolis du ng ngu nhiờn thớch nghi 3.1.1 Mụ t thut toỏn 3.1.2 Tớnh cht ergodic 3.1.3 So sỏnh cỏc thut toỏn Metropolis vi thut toỏn 3.2 3.3 Thut toỏn Metropolis thớch nghi 3.2.1 Mụ t thut toỏn 3.2.2 Tớnh Ergodic 3.2.3 So sỏnh cỏc thut toỏn Metropolis vi thut Mt s ng dng ca MCMC thớch nghi 3.3.1 Mụ hỡnh mụ phng GOMOS 3.3.2 Mụ hỡnh suy gim oxy toỏn AM 15 15 16 17 18 18 18 Kt qu chớnh 20 Ti liu tham kho 21 Li núi u tỡm hiu v MC, ta xột bi toỏn sau: Gi s ta cn tớnh tớch phõn Theo nh lý Newton - Leibnitz, nu F (x) l mt nguyờn hm ca h(x) thỡ h(x)dx I = F (x) = F (1) F (0) Tuy nhiờn, nhiu trng hp, ta khụng th tỡm c F(x) Gi s f (x) l hm mt trờn [0, 1] cho nu h(x) = thỡ f (x) > Ta vit li I = fh(x) (x) f (x)dx Khi ú, chỳng ta ly mu c lp cựng phõn phi (1) (n) (x , , x ) t phõn phi xỏc nh bi mt f v xột: In = n n h(x(i) )/f (x(i) ) i=1 Lut s ln cho ta thy rng In hi t vi xỏc sut ti tớch phõn I n tin ti ngha l In I(h.c.c) Nh vy tớnh xp x I, ta phi thc hin n mụ phng cho bin ngu nhiờn X Cỏc mụ phng MC c bn ny cú u im l d thc hin Tuy nhiờn, nú ch mụ phng c i vi cỏc trng hp n gin Trong nhiu trng hp phc nh s chiu tng lờn (phõn phi nhiu chiu) thỡ cỏc MC c bn khụng th thc hin c gii quyt ny, chỳng ta a mt phng phỏp gi l phng phỏp MCMC í tng chớnh ca phng phỏp MCMC l i xõy dng mt xớch Markov cú tớnh ergodic m phõn phi dng l Khi ú, chỳng ta chy X lờn n thi gian di N v c lng E(h(Y )) bi N1 N n=1 h(Xn ) nh lý ergodic cho ta bit vi N ln, c lng trờn s gn n E(h(Y )) Chỳng ta thy rng vic chn la phõn phi xut l quan trng cho s hi t ca thut toỏn MCMC Vic chn la c phõn phi xut tt thng khú thc hin vỡ thụng tin v mt mc tiờu l khụng cú hoc rt ớt Hn na, thut toỏn MCMC, phõn phi xut c chn cho mi bc mụ phng s dng cỏc thụng tin ó thu c cỏc bc mụ phng trc mụ phng cho bc tip theo, chỳng ta a thut toỏn MCMC thớch nghi ú, phõn phi xut c cp nht cựng quỏ trỡnh s dng thụng tin y tớch ly cho n thi im hin ti Mi la chn phõn phi xut thớch nghi s cho chỳng ta mt dng MCMC thớch nghi Lun gm chng Chng nhc li mt s kin thc b tr v s hi t ca dóy i lng ngu nhiờn, dóy mixingale, cỏc thut toỏn mụ phng MC c bn v xớch Markov Chng trỡnh by v cỏc phng phỏp MCMC c bn Chng trỡnh by chi tit v hai phng phỏp MCMC thớch nghi t hai bi bỏo [6] v [7] ú l thut toỏn Metropolis du ng ngu nhiờn thớch nghi ([6]) v thut toỏn Metropolis thớch nghi ([7]) Ch tớnh hi t ca hai thut toỏn v chng minh tớnh ergodic ca thut toỏn Metropolis thớch nghi Sau mi thut toỏn u a s so sỏnh gia cỏc thut toỏn MCMC ng thi a mt s ng dng thc t ca mụ hỡnh MCMC thớch nghi Li u tiờn, xin chõn thnh cm n thy TS Trn Mnh Cng ó nhn hng dn v tn tỡnh giỳp tụi hon thnh lun ny Lũng bit n sõu sc tụi cng xin c gi n cỏc thy cụ Trng HKHTN HQGHN, Khoa Toỏn - C - Tin ó giỳp tụi hon thnh khúa hc H Ni thỏng 12 nm 2015 Chng Kin thc chun b 1.1 S hi t ca dóy i lng ngu nhiờn Gi s (, F, P ) l khụng gian xỏc sut nh ngha 1.1 Mt dóy cỏc i lng ngu nhiờn hay bin ngu nhiờn (Xn ) c gi l hi t hu chc chn n bin ngu nhiờn X nu: P { : lim Xn () = X()} = n Ký hiu l limn Xn = X(h.c.c) nh ngha 1.2 Cho dóy (Xn ) cỏc bin ngu nhiờn Fn (x), F (x) tng ng l hm phõn phi ca Xn , X Gi C(F ) l cỏc im liờn tc ca hm F Ta núi dóy (Xn ) hi t theo phõn phi n X nu x C(F ), ta cú: lim Fn (x) = F (x) n d X Ký hiu l Xn nh ngha 1.3 Mt dóy cỏc bin ngu nhiờn (Xn ) c gi l hi t theo xỏc sut n bin ngu nhiờn X nu > ta cú : P { : |Xn () X()| > } = P Ký hiu l Xn X nh ngha 1.4 Mt dóy cỏc bin ngu nhiờn (Xn ) c gi l hi t theo trung bỡnh bc r n bin ngu nhiờn X nu r 1, E|Xn |r < n, E|X|r < v : lim E{|Xn X|r } = n L r Ký hiu l Xn X nh ngha 1.5 (lut s ln) Cho dóy (Xn ) cỏc bin ngu nhiờn c lp cựng phõn phi cú cựng k vng EXi = (i = 1, 2, ) t Sn = X1 + +Xn Ta núi dóy (Xn ) tuõn theo lut s ln nu Sn s hi t theo xỏc n sut n nh lớ 1.6 (nh lý gii hn trung tõm) Cho dóy (Xn ) cỏc bin ngu nhiờn c lp cựng phõn phi, cú cựng k vng EXi = v phng sai n nà Khi ú Zn s hi t DXi = (i = 1, 2, ) t Zn = X1 + +X n theo phõn phi n bin ngu nhiờn Z cú phõn phi chun tc 1.2 Dóy mixingale nh ngha 1.7 Cho dóy (Xn )n1 cỏc bin ngu nhiờn bỡnh phng kh tớch khụng gian xỏc sut (, F, P ) v dóy (Fn )+ n= l dóy tng cỏc - i s ca F Khi ú, (Xn , Fn ) c gi l dóy mixingale nu vi mi dóy hng khụng õm cn v m , ú m m , ta cú: ||E(Xn |Fnm )||2 m cn v ||Xn E(Xn |Fn+m )||2 m+1 cn , vi mi n v m nh lớ 1.8 [4, tr 41] Nu {Xn , Fn } l mt mixingale v {bn } l mt dóy hng dng tng n cho 1/2 b2 (logn)2 ) n cn < v n = O(n n=1 thỡ b1 n n i=1 Xi 0(h.c.c) n 1.3 1.3.1 Cỏc thut toỏn mụ phng c bn Phng phỏp bin i nghch o nh lớ 1.9 Xột hm phõn phi ly tớch (cdf) F (x) Gi F l nghch o m rng ca F , tc l: F (u) = min{x S : F (x) u} u (0, 1] Gi U l mt bin ngu nhiờn phõn phi u (0, 1) v t X = F (U ), ú phõn phi ca X cú cdf F (x) (Chỳ ý rng i vi hm phõn phi liờn tc thỡ nghch o m rng l nghch o thụng thng) 1.3.2 Phng phỏp loi b Gi s chỳng ta mun ly mu X l mt bin ngu nhiờn liờn tc vi hm mt f (x) Chỳng ta khụng bit cỏch ly mu t X nhng chỳng ta bit cỏch ly mu t mt bin ngu nhiờn Y tng t vi hm mt g(y) Gi giỏ ca f l supp(f ) = {x : f (x) > 0} Nu ta cú supp(f ) supp(g) v f (x)/g(x) M x thỡ ta cú th ly mu t Y to mu cho X Chỳng ta lp li cỏc bc sau cho n mt mu c tr v Bc 1: Ly mu Y = y t g(y) v U = u t phõn phi u U(0, 1) Sang bc Bc 2: Nu u 1.3.3 f (y) M g(y) thỡ t X = y Ngc li, quay li bc Phng phỏp ly mu quan trng Bõy gi, chỳng ta to mt mu c lp cựng phõn phi (x1 , , xn ) t g v c lng I bi: I = n n i=1 f (xi ) h(xi ) = g(xi ) n n w(xi )h(xi ) i=1 Ta gi cỏch ly mu ny l ly mu quan trng Mt g c gi l (xi ) mt xut hoc mt cụng c v trng s w(xi ) = fg(x c gi l i) trng s quan trng Chỳ ý rng I l mt c lng khụng chch ca I 1.4 Xớch Markov Trong on ny, chỳng ta a mt s nh lý v xớch Markov quan trng cho phng phỏp MCMC nh ngha 1.10 Xớch Markov Mt dóy i lng ngu nhiờn X = {Xn , n = 0, 1, 2, 3, } nhn cỏc giỏ tr trờn S c gi l xớch Markov nu: P(Xn+1 A|Xn = xn ,Xn1 = xn1 , , X0 = x0 ) = P(Xn+1 A|Xn = xn ) vi mi n 0, A S , x0 , x1 , , xn S nh ngha 1.11 Ti gin: Xớch Markov X c gi l ti gin nu tt c cỏc trng thỏi u liờn lc c, tc l vi mi i, j S , cú mt s n cho: P(Xn = i|X0 = j) > nh ngha 1.12 Hi quy Mt xớch Markov X c gi l hi quy nu xỏc sut xớch xut phỏt t trng thỏi i quay tr li i sau hu hn bc bng 1, tc l: P(X tr li trng thỏi i sau hu hn bc |X0 = i) = i S nh ngha 1.13 Hi quy dng : Mt xớch hi quy c gi l hi quy dng nu E(Tii ) < vi mi i S , ú Tii l khong thi gian ln u tiờn tr v trng thỏi i Nu xớch Markov l ergodic vi phõn phi dng thỡ (i) = 1/E(Tii ) õy, phõn phi dng = ((1), (2), ) cũn c gi l phõn phi gii hn (n) n=1 pii nh lớ 1.14 Trng thỏi i l hi quy v ch = nh ngha 1.15 Tớnh khụng chu k: Mt xớch Markov c gi l khụng cú chu k nu khụng tn ti d cỏc ri S1 , S2 , , Sd S cho: P (x, Si+1 ) = P(Xn+1 Si+1 |Xn = x) = x Si , v i {1, 2, 3, , d1} P (x, S1 ) = x Sd nh ngha 1.16 - ti gin Mt xớch Markov c gi l - ti gin nu tn ti mt o khụng tm thng X cho A X vi (A) > v x X , tn ti s nguyờn dng n = n(x) cho: P (n) (x, A)(= P(Xn A|X0 = x)) > nh ngha 1.17 Khong cỏch bin phõn gia hai o xỏc sut P1 v P2 c nh ngha bi: P1 (ã) P2 (ã) = sup |P1 (A) P2 (A)| A nh ngha 1.18 Hi quy Harris: Mt xớch Markov X l hi quy Harris nu B X vi (B) > v x X ta cú: P(Xn B vi n > | X0 = x) = nh lớ 1.19 Phõn phi ca mt xớch Markov khụng cú chu k, hi quy Harris hi t n phõn phi gii hn , tc l: lim P n (x, ã) (ã) n = x X Chỳ ý rng vỡ: q (n) (A) = P(Xn A) = q (0) (x)P n (x, A)dx nờn ta cú lim P(Xn A) = (A) A X v vi mi phõn phi ban u n (0) q nh lớ 1.20 nh lý ergodic: Cho h l mt hm thc no ú v X l mt xớch Markov cú tớnh ergodic vi phõn phi dng Xột ergodic trung bỡnh: N hN = h(Xn ) N n=1 Bõy gi gi s Y cú phõn phi Nu E (|h(Y )|) < thỡ N , N hi t n E (h(Y )) vi xỏc sut ergodic trung bỡnh h nh lớ 1.21 nh lý gii hn trung tõm Nu X l ergodic hỡnh hc ([3])v E (h(Y )2+ ) < vi > thỡ d N h N (E (h(X)), ) N vi l i lng cú liờn quan n thi gian t tng quan y ca X 10 Chng Phng phỏp MCMC 2.1 Gii thiu Trong nhiu trng hp phc nh s chiu tng lờn (phõn phi nhiu chiu) thỡ cỏc mụ phng c bn khụng th thc hin c Hn na, bõy gi, gi s chỳng ta mun bit k vng ca bin ngu nhiờn h(Y) vi Y cú phõn phi nhiu chiu c cho bi hm mt (hoc hm xỏc sut) Tuy nhiờn, chỳng ta khụng th tớnh E(h(Y )) = h(y)(y)dy v cỏc phng phỏp mụ phng c bn cng khụng thc hin c gii quyt ny, chỳng ta a mt phng phỏp gi l phng phỏp MCMC í tng chớnh ca phng phỏp MCMC l i xõy dng mt xớch Markov cú tớnh ergodic m phõn phi dng l Khi ú, chỳng ta chy X lờn n thi gian di N v c lng E(h(Y )) bi N1 N n=1 h(Xn ) nh lý ergodic cho ta bit vi N ln, c lng trờn s gn n E(h(Y )) 2.2 Mu Metropolis - Hastings nh ngha 2.1 Mu Metropolis - Hastings Chn cỏc xỏc sut/mt chuyn q(x, y), x, y S Chỳng c gi l cỏc phõn phi xut Bõy gi, gi s Xn = x S Tin hnh nh sau: 11 Ly mu Z= z da vo q(x, z), z S Chp nhn Z= z vi xỏc sut (x, z) = 1, (z)q(z, x) (x)q(x, z) Nu Z= z c chp nhn thỡ Xn+1 = z Ngc li, nu Z= z khụng c chp nhn thỡ Xn+1 = x 2.3 2.3.1 Mt s thut toỏn MCMC Mu Gibbs Mu Gibbs l mt dng la chn ph bin s dng phõn phi cú iu (1) (d) kin y nh l phõn phi xut Cho xt = (xt , , xt ) v (i) xt = (x1 , , x(i1) , x(i+1) , , x(d) ) Chỳng ta chn mt thnh phn i 1, , d v xut nh mt trng thỏi mi z = (x1 , , x(i1) , y, x(i+1) , , x(d) ), vi y c ly mu t mt cú iu kin y (i) (y|xt )= (z) (x1 , , x(i1) , w, x(i+1) , , x(d) )dw Ngi ta cú th ch rng i vi la chn phõn phi xut ny, xỏc sut chp nhn l gn bng Nu phõn phi cú iu kin y l chun tc v d ly mu thỡ mu Gibbs l mt la chn rt ph dng Ta xem xột mt vớ d n gin: 2.3.2 Mu c lp Nh tờn gi ch trng thỏi mu c lp sut khụng ph thuc vo trng thỏi hin ti ca xớch, tc l q(x, y) = f (y) vi mi x S , ú 12 f l mt hm xỏc sut hoc mt Xỏc sut chp nhn cho mu c lp quy v: (y)f (x) (x, y) = 1, (x)f (y) 2.3.3 Mu Metropolis - Hastings du ng ngu nhiờn õy, chỳng ta chn q(x, y) = f (y x) vi hm xỏc sut hoc mt f no ú Mu Metropolis - Hastings du ng ngu nhiờn cú tờn nh vy t thc t rng s xut l c to theo mt cỏch du ng ngu nhiờn, tc l: y =x+z ú z c a t f Xỏc sut chp nhn cho phõn phi xut ny l: (y)f (x y) (x, y) = 1, (x)f (y x) Chỳ ý rng nu f l i xng qua thỡ õy l mt mu Metropolis Vớ d cho mu Metropolis cng nh mu du ng ngu nhiờn MH l phõn phi trn 2.3.4 Mu Metropolis (thnh phn n) õy l mt xut sỏng to s dng hm xỏc sut hoc mt xut i xng, tc l q(x, y) = q(y, x) Khi ú, xỏc sut chp nhn c n gin húa: (x) (x, y) = 1, (y) 13 Chng MCMC thớch nghi 3.1 Thut toỏn Metropolis du ng ngu nhiờn thớch nghi 3.1.1 Mụ t thut toỏn Gi s rng cỏc im X1 , X2 , , Xk ó c ly mu Khi ú mt im ng viờn Y c ly mu t phõn phi xut qk (ã|X1 , X2 , , Xk ) m bõy gi ph thuc vo lch s (X1 , X2 , , Xk ) (hoc l mt phn ca lch s) im ng viờn c chp nhn vi xỏc sut: (Y, Xk ) = 1, (Y ) , (Xk ) ú, (ã) biu th mt xỏc sut ca phõn phi mc tiờu Trong trng hp chp nhn thỡ ta t Xk+1 = Y , ngc li, Xk+1 = Xk Phõn phi xut qk (ã|X1 , X2 , , Xk ) l phõn phi Gauss vi k vng (trung bỡnh) ti Xk v hip phng sai ph thuc vo mt phn ca lch s qt (ã|X1 , , Xt ) N (Xt , c2d Rt ), ú Rt l ma trn hip phng sai cp d ì d c xỏc nh bi H im XtH+1 , XtH+2 , Xt v yu t t l cd ch ph thuc vo s chiu d Hip phng sai Rt cú th c tớnh toỏn bi h cỏc im XtH+1 , XtH+2 , Xt mt ma trn K cp H ì d, õy mi hng i din 14 cho mt im ly mu Khi ú Rt = K T K H Trong ú, K l ma trn quy tõm (mi ct ca ma trn tõm bng hiu ca ct ma trn ban u tr i trung bỡnh ca ct ú): K = K E[K] Trong thc hnh, mt cỏch d dng cho vic ly mu t N (Xt , c2d Rt ), vớ d nh: N (Xt , c2d Rt ) Xt + cd K T N (0, IH ), H vi N (0, IH ) l phõn phi Gauss chun tc 3.1.2 Tớnh cht ergodic Trc tiờn ta thy rng thut toỏn AP khụng cú tớnh Markov Trong on ny, chỳng ta s ch mt cỏch ngn gn tớnh hi t ca quỏ trỡnh (Xn ) AP n gin, chỳng ta gi s phõn phi mc tiờu b chn v chỳng ta ch nh mt cn di cho kớch thc ca phõn phi xut Bng cỏch chiu phõn phi gii hn ca xớch (Yk ) tr li Rd thu c phõn phi m Xk mụ phng cui cựng Vỡ tớnh o c ca cỏc A nờn hu chc chn rng: (A) = lim (A (X1 ) + A (X2 ) + + A (Xn )), n vi A l hm c trng ca A 3.1.3 3.2 3.2.1 So sỏnh cỏc thut toỏn Metropolis vi thut toỏn AP Thut toỏn Metropolis thớch nghi Mụ t thut toỏn Gi s rng ti thi im t chỳng ta ly mu cỏc trng thỏi X0 , X1 , , Xt1 , ú X0 l trng thỏi ban u Khi ú im ng viờn Y c ly mu t phõn phi xut (i xng tim cn) qt (ã|X0 , , Xt1 ), 15 bõy gi, nú ph thuc vo ton b lch s X0 , , Xt1 im ng viờn Y c chp nhn vi xỏc sut: (Xt1 , Y ) = 1, (Y ) (Xt1 ) Trong trng hp chp nhn, ta t Xt = Y , ngc li, ta t Xt = Xt1 Phõn phi xut qt (ã|X0 , , Xt1 ) c dựng thut toỏn AM l phõn phi Gauss vi k vng ti im hin ti Xt1 v hip phng sai Ct = Ct (X0 , , Xt1 ) Chỳng ta chn mt ch s t0 > cho di mt chu k ban u v nh ngha: C t t0 Ct = (3.1) s cov(X , , X ) + s I t > t d t1 d d Vi t t0 + 1, ta thu c hip phng sai Ct tha cụng thc truy hi: sd T t1 T T Ct + (tX Ct+1 = t1 Xt1 (t + 1)Xt Xt + Xt Xt + Id ) (3.2) t t 3.2.2 Tớnh Ergodic Trong thut toỏn AP, c mụ t trờn, hip phng sai Ct c tớnh toỏn ch t trng thỏi cui H , õy H phn trc, ta ch phng phỏp ny khụng cú tớnh ergodic Nhng phõn phi gii hn ca AP khỏc khụng ỏng k vi phõn phi mc tiờu Mc tiờu on ny ch thut toỏn AM cú tớnh ergodic ỳng v vỡ th cung cp mụ phng chớnh xỏc ca phõn phi mc tiờu nh lớ 3.1 Cho l mt ca phõn phi mc tiờu cú giỏ trờn mt o c b chn S Rd , v gi s rng l b chn trờn Cho > v à0 l phõn phi ban u bt kỡ trờn S nh ngha xớch AM (Xn ) bi dóy xỏc sut chuyn tng quỏt nh nh ngha 3.1 Khi ú xớch AM mụ phng mt cỏch ỳng n phõn phi mc tiờu : vi bt k hm b chn o c f : S R, ng thc lim (f (X0 ) + f (X1 ) + + f (Xn )) = f (x)(dx) n n + S 16 hu chc chn 3.2.3 So sỏnh cỏc thut toỏn Metropolis vi thut toỏn AM Cỏc thut toỏn c so sỏnh l Thut toỏn Metropolis du ng ngu nhiờn (M) vi mt phõn phi xut Gauss, Thut toỏn Metropolis - Hastings thnh phn n (SC) vi mt phõn phi xut Gauss, Thut toỏn Metropolis du ng ngu nhiờn thớch nghi (AP) Thut toỏn Metropolis thớch nghi (AM) Cỏc phõn phi mc tiờu thc nghim Cỏc phõn phi mc tiờu thc nghim c a nh mc 3.1.3 gm , , , Kt qu mụ phng (Hỡnh 3.5) Hỡnh 3.1: So sỏnh cỏc thut toỏn SC, M, AP, AM vi cỏc phõn phi mc tiờu 8- chiu , , , th th hin err( 68, 3%) v std( 68, 3%) 17 3.3 Mt s ng dng ca MCMC thớch nghi Trong thc t cú nhiu ng dng ca MCMC ([10], mc v [6] ) ú l: Mụ hỡnh suy gim oxy, mụ hỡnh tng trng sinh vt phự du v hn ch dinh dng, mụ hỡnh mụ phng GOMOS 3.3.1 Mụ hỡnh mụ phng GOMOS Trong on ny, chỳng ta s ch xột bi toỏn ngc u tiờn, vỡ th d liu tng ng vi tia l l hm truyn o c T abs = [T1abs (l), , Tabs (l)]T ti 1400 bc súng khỏc v mt dũng cha bit ca cỏc khớ khỏc l: N (l) = [N1 (l), , NJ (l)] Phõn phi hu xỏc sut ca mt dũng cho l: P (N (l)|T abs (l)) P (T abs (l)|N (l))P (N (l)) Gi s hm kh nng cú sai s mụ hỡnh Gauss v sai s o c, cú th vit di dng: 12 S(N ) P (T abs |N (l)) = e n (2) |C| õy s m l S(N ) = (G(N (l)) T abs (l))T (C(l))1 (G(N (l)) T abs (l)) o lng c lng cho mi bc súng l: J G (N (l)) = ej=1 j ()Nj (l) Bi toỏn nghch o truyn thng c gii vi gi thit khụng cú thụng tin ó bit Do ú, chỳng ta ỏp dng phng phỏp MCMC thớch nghi cho bi toỏn ny Vi cỏc tham s b nh v tham s tn s cn cú thut toỏn AP, chỳng ta s dng H = U = 500 di xớch l 20000 3.3.2 Mụ hỡnh suy gim oxy Theo dừi c lng s thay i theo thi gian ca s hụ hp ụng h Tuusulanjăarvi v ỏnh giỏ tỏc ng lõu di ca s thờm v 18 Hỡnh 3.2: Mt khớ bi mụ phng AP ti cao 30km T trờn xung di l: Mt khụng khớ, ozone, N O2 , N O3 , aerosols gim bt khụng khớ nhõn to ([10], mc ) nh hng ca oxy nhõn to c nghiờn cu bi mụ hỡnh tiờu th oxy sau: dCO2 P ump = kyear CO2 bTobs Tref + , dt V ol vi CO2 l nng oxy h (mgl1 ), kyear l tng h s t l hụ hp theo nm (d1 ), b l h s nhit ca t l hụ hp, Tobs l nhit quan sỏt ca h ( C), Tref l nhit tham kho (4 C), Pump l thụng lng oxy c bm (kgO2 d1 ), Vol l th tớch ca thit b thụng giú (m3 ) 19 Kt lun Cỏc kt qu chớnh thu c l: Tỡm hiu v phng phỏp MCMC, trung vo mt s thut toỏn MCMC nh mu Gibbs, mu c lp, mu Metropolis - Hastings du ng ngu nhiờn, mu Metropolis thnh phn n Tỡm hiu v hai thut toỏn MCMC thớch nghi, so sỏnh u nhc im v a cỏc ng dng Nu thi gian cho phộp, lun cú th: + Tỡm hiu thờm mt s thut toỏn MCMC thớch nghi khỏc + Vit chng trỡnh v ỏp dng MCMC cho cỏc bi toỏn thc t Vit Nam 20 Ti liu tham kho [1] ng Hựng Thng, M u v lý thuyt xỏc sut v cỏc ng dng, Nh xut bn Giỏo dc, 2005 [2] ng Hựng Thng, Quỏ trỡnh ngu nhiờn v tớnh toỏn ngu nhiờn, Nh xut bn i hc Quc Gia H Ni, 2009 [3] Daren B H Cline and Huay-min H Pu, Geometric ergodicity of nonlinear time series, Texas A & M University Statistica Sinica 9(1999), 1103-1118 [4] P.Hall, C.C.Heyde, Martingale limit theory and its application, Academic Press, 1980 [5] Gareth Roberts, ST911 Fundamentals of Statistical Inference Part III, Department of Statistics, University of Warwick, 2012 [6] Heikki Haario, Eero Saksman, Johanna Tamminen, Adaptive proposal distribution for random walk Metropolis algorithm, University of Helsinki, Finland,1999 [7] Heikki Haario, Eero Saksman, Johanna Tamminen, An adaptive Metropolis algorithm, Bernoulli 7(2) 2001, 223 - 242 [8] Henri P Gavin, The Levenberg-Marquardt method for nonlinear least squares curve-fitting problems, Duke University, September 29, 2015 [9] James Davidson, Robert de Jong, Strong laws of large number for dependent heterogeneous processes: A synthesis of recent and newresults, Econometric Reviews 16(3) 1997, 251-279 21 [10] Marko Laine, Adaptive MCMC methods with applications in enviromental and geophysical models, Finnish meteorological institute contributions No.69, 2008 22 [...]... mô phỏng (Hình 3.5) Hình 3.1: So sánh các thuật toán SC, M, AP, AM với các phân phối mục tiêu 8- chiều π1 , π2 , π3 , π4 Đồ thị thể hiện err(≤ 68, 3%) và std(≤ 68, 3%) 17 3.3 Một số ứng dụng của MCMC thích nghi Trong thực tế có nhiều ứng dụng của MCMC ([10], mục 7 và [6] ) Đó là: Mô hình suy giảm oxy, mô hình tăng trưởng sinh vật phù du và hạn chế dinh dưỡng, mô hình mô phỏng GOMOS 3.3.1 Mô hình mô. .. phương pháp MCMC, tập trung vào một số thuật toán MCMC như mẫu Gibbs, mẫu độc lập, mẫu Metropolis - Hastings du động ngẫu nhiên, mẫu Metropolis thành phần đơn 2 Tìm hiểu về hai thuật toán MCMC thích nghi, so sánh ưu nhược điểm và đưa ra các ứng dụng Nếu thời gian cho phép, luận văn có thể: + Tìm hiểu thêm một số thuật toán MCMC thích nghi khác + Viết chương trình và áp dụng MCMC cho các bài toán thực... Metropolis với thuật toán AM Các thuật toán được so sánh là • Thuật toán Metropolis du động ngẫu nhiên (M) với một phân phối đề xuất Gauss, • Thuật toán Metropolis - Hastings thành phần đơn (SC) với một phân phối đề xuất Gauss, • Thuật toán Metropolis du động ngẫu nhiên thích nghi (AP) • Thuật toán Metropolis thích nghi (AM) Các phân phối mục tiêu thực nghi m Các phân phối mục tiêu thực nghi m được đưa... 3.2.1 So sánh các thuật toán Metropolis với thuật toán AP Thuật toán Metropolis thích nghi Mô tả thuật toán Giả sử rằng tại thời điểm t − 1 chúng ta lấy mẫu các trạng thái X0 , X1 , , Xt−1 , trong đó X0 là trạng thái ban đầu Khi đó điểm ứng viên Y được lấy mẫu từ phân phối đề xuất (đối xứng tiệm cận) qt (·|X0 , , Xt−1 ), 15 bây giờ, nó phụ thuộc vào toàn bộ lịch sử X0 , , Xt−1 Điểm ứng viên Y được chấp... dụng phương pháp MCMC thích nghi cho bài toán này Với các tham số bộ nhớ và tham số tần số cần có trong thuật toán AP, chúng ta sử dụng H = U = 500 Độ dài xích là 20000 3.3.2 Mô hình suy giảm oxy Theo dõi ước lượng sự thay đổi theo thời gian của sự hô hấp mùa đông trong hồ Tuusulanj¨arvi và để đánh giá tác động lâu dài của sự thêm và 18 Hình 3.2: Mật độ khí bởi mô phỏng AP tại độ cao 30km Từ trên xuống... (3.2) t t 3.2.2 Tính Ergodic Trong thuật toán AP, được mô tả ở trên, hiệp phương sai Ct được tính toán chỉ từ trạng thái cuối H , ở đây H ≥ 2 Ở phần trước, ta chỉ ra phương pháp này không có tính ergodic Nhưng phân phối giới hạn của AP khác không đáng kể với phân phối mục tiêu Mục tiêu trong đoạn này chỉ ra thuật toán AM có tính ergodic đúng và vì thế cung cấp mô phỏng chính xác của phân phối mục tiêu... nếu f là đối xứng qua 0 thì đây là một mẫu Metropolis Ví dụ cho mẫu Metropolis cũng như mẫu du động ngẫu nhiên MH là phân phối trộn 2.3.4 Mẫu Metropolis (thành phần đơn) Đây là một đề xuất sáng tạo sử dụng hàm khối xác suất hoặc mật độ đề xuất đối xứng, tức là q(x, y) = q(y, x) Khi đó, xác suất chấp nhận được đơn giản hóa: π(x) α(x, y) = min 1, π(y) 13 Chương 3 MCMC thích nghi 3.1 Thuật toán Metropolis... 13 Chương 3 MCMC thích nghi 3.1 Thuật toán Metropolis du động ngẫu nhiên thích nghi 3.1.1 Mô tả thuật toán Giả sử rằng các điểm X1 , X2 , , Xk đã được lấy mẫu Khi đó một điểm ứng viên Y được lấy mẫu từ phân phối đề xuất qk (·|X1 , X2 , , Xk ) mà bây giờ phụ thuộc vào lịch sử (X1 , X2 , , Xk ) (hoặc là một phần của lịch sử) Điểm ứng viên được chấp nhận với xác suất: α(Y, Xk ) = min 1, π(Y ) , π(Xk )... số mô hình Gauss và sai số đo được, có thể viết dưới dạng: 1 − 12 S(N ) P (T abs |N (l)) = 1 e n (2π) 2 |C| 2 Ở đây số mũ là S(N ) = (G(N (l)) − T abs (l))T (C(l))−1 (G(N (l)) − T abs (l)) Đo lường ước lượng cho mỗi bước sóng λ là: J Gλ (N (l)) = e−Σj=1 σj (λ)Nj (l) Bài toán nghịch đảo truyền thống được giải với giả thiết không có thông tin đã biết Do đó, chúng ta áp dụng phương pháp MCMC thích nghi. .. Rd , và giả sử rằng π là bị chặn trên Cho ε > 0 và µ0 là phân phối ban đầu bất kì trên S Định nghĩa xích AM (Xn ) bởi dãy xác suất chuyển tổng quát như trong định nghĩa 3.1 Khi đó xích AM mô phỏng một cách đúng đắn phân phối mục tiêu π : với bất kỳ hàm bị chặn đo được f : S → R, đẳng thức 1 lim (f (X0 ) + f (X1 ) + + f (Xn )) = f (x)π(dx) n→∞ n + 1 S 16 hầu chắc chắn 3.2.3 So sánh các thuật toán