   TIẾU LUẬN MÔN HỌC KHAI THÁC DỮ LIỆU:  !"# $%&'()*$*+ &'(,$-     !"# $%&'()&* +, /0 12+34 567 7 '-. 869:;<=>?:@ABCDBEF@GH3I'&JK 3LMNKK3O+FPQR3 DS%I@T3LD<UFNVI6WD2:4DH%X6';;J:; YD>DQ;< Z46A&36[34&3\X6L'&FRFPGL]3>'>E;F^ 1M3946AS4:NFP_^3H%F`KL'WD4LR :;YD>DQ;< abFP)UDJEEEBcIKL4I=V@DB)3X6 LS6'QF]BF))%dI@_&4e<4'3K4';4:NFYFU ;;<F]';A 869C;6Af %12+34 567 7  /01 g_&h                       #'# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&/ %"23 &jXk&<XB>;6^%A%4%6&2l&'3MF] >;%A%4%%C>%&jXk&<XBg&jXk&<XB>&BBmXLh3)DS%6^ 4RVD2U4DQ'464<;F&L&I@WD>;6^94BDSIK TI'4+Xg-00nhFPF&L&6^:4'4'@UB'B4:^%C>% 5:Boi&jXk&<XBVDQ'4I4:&'16C<WD<@F\; 6NAL'4:4'4';<FPpL&Lq:^%C>%&jXk&<XB)DBDS AFJ&';FX6>NDWDJAV%A%4%I4L'UDLM ]%I4&D k4'4'BcLR:;<U:^%C>%Boi&jXk&<XB;V2i@ UBoi:^%C>%;<1M3:4'4'rLR:;<@@ I@;;FsTi6&':^%C>%&jXk&<XB6iF2I&4 V>D;%C>%5: ,a GH  D<lA# Không gian m trong đ A l sai Không gian m trong đ A l đng Không gian s kin ca A (không gian ca tt c cc gi tr c th xy ra ca A) YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&* 456789:$;<4=7>?<@ABC$@DCE 994FG7GHIJ6KL7BMNFJEOPQ: BoH&)6^266;I@WD_&)6&2Dg%i D^;'I5)Y9<L&h 4I46U94BDS • (K&4I5Q%]%S4I@WD)Y9<L& • I6^Q%'_&IK&4I5 • (K&4BIIK&g@h6;4I@WD_&BI )Y9<L& • k@DlFN6^BI;)6^6TF^UI59< L&BI;< 4:YDl_&94BDS • Z4BDS:>;94BDS_&6^:@J6;IKWD&C6F@4 :@JI4Z4BDS:_&BIF]>;&<>;te _&IK&g@h6;L'F)>;FHu • Z4  BDS ]%>;  94 BDS _& &  :@  J b  9<  L&  Z4 BDS ]% _&;F]IdDg3h • Z4BDS)FUDI>;94BDS_&6^:@J;'F)3:@Lq6^ :@JI49<L&(dDgvh3;F>;w94BDS_&3:@w o KT2 hg h3g hvg    = • ^>Q%U94BDS o &BI;F]>;F^>Q%U94BDS@D94BDS_&B I>;&DFJ4LM]%  (BI9<L&3 ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&x  (BIIK9<L&3  (K)KUI59<L&_&BI o (F) • Z4BDS)FUDIy7:@>;94BDS_&#FJk; gFP:@h • ^>Q%)FUDI o &:@;F]>;F^>Q%)FUDIFJ:@@D94 BDS_&FJ:q94BDS_&FJ; o KTF\z& 9RS74>T$@DCE: L'64<3H&MWD&C6F@F&L&D<@294 S{IK&D<@DF]{:^V>DDS>D<aD<@2 94S|FC<F]YD>;D<@)I59<L&SL@3:^V>D DS>D<aBcDS%LT:&FeDU94BDSLFUDI_&4 D<@I4&Dbq6L'IK&\>dk&<XBF&L&6^%A %4%294BDS_&6^@&L94BDSLFUDI_&@F) &L4:^@I4&DL':^V>DDS>D<a hg hghvg hvg    = L'F) • ghZ4BDSLg6h_&@g%C>'Nh • gahZ4BDSLg6h_&WD&B4F]V>Da • gavhZ4BDSg)FUDIh_&WD&B4F]V>Da3@D:@ @g%C>'Nh>;FH • gvahZ4BDSg)FUDIh_&@g%C>'Nh>;FH3@DWD& B4F]V>Da 9U$;<4=7>?<@ABC$@DCE: k^%C>%&jXk&<XBF]4%iL'V>D6G:^V>D9 F]6K:qBI@]%V&44L\D^2;4;66iDmg9h)4 L\:SI}L'Q%VDN,+^Q%V>D_&4;66iDF]DS% b6^:^V>D6F]6K:|6^Q%44L\D^2g& > 3& 7 &  h k^%C>%&jXk&<XBF]BoiFYF'44L\6iD3's%C>%' :^V>D6;< ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&~ A%4%k&<XBTiFY%C>%4LM]%6;'4L\6i D)I5&'S>; +# 344L\D^2g& > 3& 7 &  h6K4 LN4&)  +# • &@>N:YDTbF\>dk&<XB  +# • • g-h &Bc2&NoL':YDTg-h&;'V>DDS>D<g € hF] 2:q4F@6eBDS6G4L\6iD € 9DSL'V>DDS>D< ,24Ng& > 3& 7 &  v € hI4&DpIIH&)Q%V>D DS>D<>,SFU>;4BJ>]4N;<:qBJ>]4Y CBJ4L\6iD,RQ<3H&e%9X69•4LM]%iY L'IK&_&)UD>eFY)F]>]F4Q< A%4%%C>%&jXk&<XB&LFA'44F\6;4 L\D^2_&)F^>Q%)FUDI'L\6iD)4I43F\ >;)4L\6iD_&2iFP'394BDS_&4I@]%& > 3& 7 &  p>;I@ WD94BDS_&4D^2F^>Q%g& > 3& 7 &  v € h•&<;':YDTg-h3& )KTBoi'%A%4%%C>%&jXk&<XB  k • g7h  k >;4L\6iD_&%C>%&jXk&<XB )6>N3%A%4%&jXk&<XB>;6^%A%4%6;L'F)4 Ng € h;g&  v € hI4&DF]2&LeBJ_&HL'V>D DS>D< Q%]%42;<AT4D<@ D<@;<B&DF)BcF]BoiFY%C>%{LM]%6:q44% i4WD<EL':YDTg7h(4F\_&:^%C>%&jXk&<XBU FUDIF^>Q%>;JD3%C>%&jXk&<XB k ;<AFA%C>% +# +^L'VI4:V&%A%4%&jXk&<XB;4%A%4% I4>;IK&D<@IKeR6I@66;F]R;6^4 FAKWD&F@6eBJ_&4V>DI4&DI@]%L'4:^V >DDS>D< ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&0 9VWXYIG744Z@: kB&DDS%6^:^-n2iDS>D<_&4I466iD >&<XB36G;<F]6K:|4D^2‚D>''I3X6%3D6<3; ƒ„FC<3&Boi%A%4%%C>%&jXk&<XB;V>DDS>D<{ :;<FY%C>%2iB&D Day Outlook Temp Humidity Wind PlayTennis D1 Sunny Hot High Weak No D2 Sunny Hot High Stron g No D3 Overcas t Hot High Weak Yes D4 Rain Mild High Weak Yes D5 Rain Cool Normal Weak Yes D6 Rain Cool Normal Stron g No D7 Overcas t Cool Normal Stron g Yes D8 Sunny Mild High Weak No D9 Sunny Cool Normal Weak Yes D10 Rain Mild Normal Weak Yes D11 Sunny Mild Normal Stron g Yes D12 Overcas t Mild High Stron g Yes D13 Overcas t Hot Normal Weak Yes D14 Rain Mild High Stron g No ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&  g‚D>''I•BD<3X6%XL&DLX•''>3D6<•3ƒ•BL'h 6i_&H&>;F'44L\6iDgXB's'h_&I46 6iD'2i6;<k@F…:YDTg7hFY%b]%<DeD N34L\6iD k F]':|  k  • •g‚D>''I•BD<v € hgX6%XL&DLX•''>v € h gD6<•v € hgƒ•BL'v € h g†h Y2 k &e2 94BDS{V>DDS>D<eD394BDS_&4 L\6iDl;F]2&LeBJ_&)WD&-n2iDS>D< g>&<XB•<XBh•0‡-n•.*n g>&<XB•'h•/‡-n•.†* A3H&)Y2494BDS)FUDI,2i3ƒ•BL'>; gƒ•BL'v>&<XB•<XBh•†‡0•.†† gƒ•BL'v>&<XB•'h•†‡/•.*. oi4294BDS;>]A'44L\D^2? >N3&2'4 k X':YDTg†hB&D g<XBhgBD<v<XBhg''>v<XBhgv<XBhgBL'v<XBh•. /† g'hgBD<v'hg''>v'hgv'hgBL'v'h•..7.* a'F)3%C>%&jXk&<XB44L\6iD'2i6 ;<&L>]94BDSF]{V>DDS>D<AV&3FY…]% I@WD3&)Y2'494BDS)FUDIFY)4L\6iD>;394BDS ;<>; 9[?J>5\78NFJEOPQ: 2F@MFY6;<3&FP2F]94BDS:qBJ>e4BI9<L& L…BJ4A^,2i3L'LM]%DL3&2 :qKT L'F)>;BJLM]%DS>D<6; 3;   >;BJ>e6; ab%CBJ;<DS%6^>]JU94BDSL'UDLM]%3) F&L&4>]IKF4IYI  >;LS=,2iI4L\_& >;..~;Q%V>DDS>D<_&&p)/LM]% ,a GH  D<lA# [...]... thỏc d liu: Tỡm hiu v ng dung b phõn lp Naùve Bayes Trang 14 trong ú n l tng s ca cỏc v trớ t trong tt c cỏc b hun luyn m giỏ tr muc tiờu l vj, nk l s ln t wk c tỡm thy trong n v trớ, v l tng s cỏc t phõn bit (v cỏc du khỏc) c tỡm thy trong d liu hun luyn 2.3 Thuõt toan chi tiờt: Thut toỏn hun luyn v phõn lp vn bn Naùve Bayes c th hin nh sau: LEARN_NAẽVE _BAYES_ TEXT(Examples, V) Examples l tp hp nhng... vj P(vj) Textj mt ti liu c to bi vic kt hp tt c cỏc ti liu docsj n s t khỏc nhau trong Textj Vi mi t wk trong Vocabulary nk s ln t wk xut hin trong Textj P(wk|vj) CLASSIFY_NAẽVE _BAYES_ TEXT(Doc) Tr v giỏ tr ó phõn lp cho ti liu Doc ai l t c tỡm thy v trớ th i trong Doc positions tt c v tr cỏc t trong Doc cha cỏc t nm trong Vocabulary Return vNB, vi vNB = agrmax P(vj)* GVHD: PGS TS Phỳc Hc viờn:... chớnh on vn ting Anh vớ du trờn Trong trng hp ny, chỳng ta cú biu thc tớnh toỏn phõn lp Naùve Bayes nh sau: GVHD: PGS TS Phỳc Hc viờn: Nguyn Phng Anh Tiu lun mụn hc Khai thỏc d liu: Tỡm hiu v ng dung b phõn lp Naùve Bayes Trang 13 vNB = = Túm li, phõn lp Naùve Bayes vNB l phng phỏp phõn loi cc i húa xỏc sut ca t c tỡm thy trong vn bn, tựy thuc vo cỏc gi nh c lp ca Naùve Bayes Cỏc trng thỏi gi nh c lp... table tblVocabulary Bc 3: Cng trong phng thc Learn_Naùve _Bayes_ Text (Examples, V) ca lp NaùveBayes, chng trỡnh s tớnh cỏc xỏc sut P(vj) v P(wk|vj) vi vj l mi giỏ tr trong tp giỏ tr muc tiờu V, P(vj)= , vi tp |docsj| c load t c s d liu trong table tblExamples tng ng vi giỏ tr muc tiờu l vj Sau khi tớnh xong P(vj) s c lu vo c s d liu table tblTargetValue Sau ú, vi mi t trong tp Vocabulary, xỏc sut P(wk|vj)=... Vocabulary, xỏc sut P(wk|vj)= vi nk l s ln t wk xut hin trong tp ti liu vn bn docsj nm trong th muc giỏ tr muc tiờu vj, tt c cỏc t trong tp ti liu vn bn docsj cng s c thanh lc ging nh tp Vocabulary, v n l s t trong tp ti liu docsj P(wk|vj) cng s c lu vo c s d liu table tblVocabulary vi mi ct c thờm vo trong table l giỏ tr muc tiờu vj tng ng, mi dũng s l cỏc t trong tp Vocabulary vi giỏ tr l xỏc sut P(wk|vj)... s tng ng vi giỏ tr muc tiờu no trong tp giỏ tr muc tiờu V, gm 2 bc: Bc 1: trớch xut tt c cỏc t trong file vn bn Doc ng thi loi b nhng ký t khụng cn thit v lu vo wordDoc Cỏc t trong tp wordDoc khụng cn phi loi b stop word vỡ trong tp ny, ch nhng t nm trong tp GVHD: PGS TS Phỳc Hc viờn: Nguyn Phng Anh Tiu lun mụn hc Khai thỏc d liu: Tỡm hiu v ng dung b phõn lp Naùve Bayes Trang 19 Vocabulary (ó loi... phõn lp Naùve Bayes Trang 21 Chng 4: Kờt luõn B phõn lp vn bn Naùve Bayes l mt phng phỏp hc da trờn lý thuyt Bayes ó em li nhiu hu ớch trong ng dung thc tin Nú c gi v Naùve bi vỡ nú kt hp cht ch vi nhng gi nh n gin rng nhng giỏ tr ca thuc tớnh c lp tựy theo iu kin, da vo vic phõn lp nhng thc th Khi gi nh ny phự hp, b phõn lp Naùve Bayes tr thnh b phõn lp MAP Thm chớ nu gi nh ny khụng phự hp, trong nhiu... P(wk|vj), din t xỏc sut t ca mt vn bn trong lp vj l wk Nú cng tớnh trc giỏ tr xỏc sut P(vj) 1 Thu thp tt c t, du chm cõu v tt c cỏc du khỏc tn ti trong Examples Vocabulary tp hp tt c cỏc t khỏc nhau v nhng du cõu khỏc tn ti trong bt ky ti liu vn bn t tp Examples 2 Tớnh cỏc xỏc sut P(vj) v P(wk|vj) Vi mi giỏ tr vj trong V do o docsj tp con ca nhng ti liu vn bn trong Examples tng ng vi o o o o mi giỏ... phng phỏp phõn lp Naùve Bayes trong phõn loi vn bn bao gm 2 vn chớnh sau: Trc tiờn, ta phi tỡm cỏch th hin cỏc b vn bn hun luyn di dng mt tp cỏc thuc tớnh Tip theo, ta phi tớnh cỏc xỏc sut cn thit nm trong cụng thc phõn lp Naùve Bayes 2.1 Huõn luyờn d liờu: Hng tip cn ca chỳng ta th hin cỏc b vn bn hun luyn tng i n gin: cho mt ti liu vn bn ting Anh, chỳng ta xỏc nh v trớ mi t trong vn bn s cú mt thuc... b phõn lp Naùve Bayes Trang 15 Chng 3: Thiờt kờ v ci t chng trinh 3.1 Cõu trỳc ca chng trinh: S mi liờn h gia cỏc lp trong chng trỡnh: Hỡnh 1: S mi liờn h gia cỏc lp Qua s , ta cú th thy lp Naùve Bayes l lp chớnh liờn h gia lp giao din ngi dựng vi cỏc lp khỏc trong chng trỡnh Chc nng cu th ca cỏc lp nh sau: MainForm: cung cp tp d liu hun luyn v d liu phõn lp t ngi dựng cho lp NaùveBayes x lý, ng thi . L&/ %"23 &jXk&<XB>;6^%A%4%6&2l&'3MF] >;%A%4%%C>%&jXk&<XBg&jXk&<XB>&BBmXLh3)DS%6^ 4RVD2U4DQ'464<;F&L&I@WD>;6^94BDSIK TI'4+Xg-00nhFPF&L&6^:4'4'@UB'B4:^%C>% 5:Boi&jXk&<XBVDQ'4I4:&'16C<WD<@F; 6NAL'4:4'4';<FPpL&Lq:^%C>%&jXk&<XB)DBDS AFJ&';FX6>NDWDJAV%A%4%I4L'UDLM ]%I4&D k4'4'BcLR:;<U:^%C>%Boi&jXk&<XB;V2i@ UBoi:^%C>%;<1M3:4'4'rLR:;<@@ I@;;FsTi6&':^%C>%&jXk&<XB6iF2I&4 V>D;%C>%5: ,a GH  D<lA# Không gian m trong đ A l sai Không gian m trong đ A l đng Không gian s kin ca A (không gian ca tt c cc gi tr c