xây dựng thử chương trình tách thuật ngữ tiếng việt theo phương pháp cổ điển

42 405 0
xây dựng thử chương trình tách thuật ngữ tiếng việt theo phương pháp cổ điển

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

Thông tin tài liệu

Website: http://www.docs.vn Email : lienhe@docs.vn Tel ( : 0918.775.368 MỤC LỤC  : !""#$%! &'()*+(,,-(,,./0 12)232,245# 26789:" 22;<=>?@! ABCDE! ABFC>*EG! ABFC>HIDEG J&KBLMHIDENOG ABCLMHI BP;EBLMHIJ QRSET9UL8V9:J )I>WLXKL8V9:J JQYZ[KYLCVBN\E]$ J^P;EBL?_>?@9`*NG0 $&KB>WaE2bNNNc2dG# ABC>WaE# BP;EB>WaE" BP;EB>e" af&" JafgaEEc;hNchQG JBP;EBYNi>CLM+2cGJJ JAj>WME(;cN(>NNgGJ$ 0k]aESLiHI@E+J" 222BEIBBSEhDE$ 67NPEVHI@EhC$ B9;`V@EhC$ @EK979UV@E$ @EKEBN`EFL$ J@EKEBN`EFEl$ $@EKEBN`EFB$ JTKB979UVT$ JTK9;`m89U97L>$ JJTnElKoK8>Mp9`$ $L>KB979UVL>$ $L>n=ElKo$ $JL>n8>M9ME$ BP;ECEFBV@EC$J NEM8>MT$J JNEM8>ML>$J T@EC$$ T9;cTEq$$ JTM$$ $*ZET8>MEF$0 L>@EC$# L>9;$# JL>Eq$% JL>EqEE$% JJL>Eq_>M$% J$BKrL>$% B979UiIKHI@EhC$" JBEIBs9BEBC>_>Is9:NEIBLiHI@E hC$" &KBLMHI@EhC$" &KB>WaETHI@EhC$! 2htL?YERP;ENfB>WEF@EhCP;EBp 9U$ P;ENfKKB9P[EI_>?@$ JA@_>IM?P;ENf$ u2245,+A,'.0 ^,0 BaE:BB0 BM?P;ENf0 J v62w(,5x()y0J $ BẢNG DANH MỤC HÌNH HOẠ ,fkiS:L?_>?@9` ,fJaf>WaE>e ,f$6z`U>{Bc;VKB  K  ,f06z`U>{_>CEFN>?8_>N?GKBKC>*s*J ,f#ME;cNBR+(*GKBR.dG ,f%ME;cNXXeBR(.d ,f"afU>{ME;cN ,f!MaESD+? ,f MaESD+?|EN}2NDNN 0 LỜI GIỚI THIỆU (EK??s;<FC>9~N<KkrgaEU@>VD~kK EP•NEgoE>?}aEK?sBaE9P[P>NFKDR=C>_>Ir> @KaE_>;<FC>Q>Er#HBNUs;<FC>9~nFEPX @aZE_>N\ENE`RaEECaETaf;<FC> _>C9:D>8TFEH%sB€ESEaEECaE9~Y Y@CP>NFFC>N<KP>NFaEaE_>BaES_>I=K DR=;<FC>(EK??s>r>P>NFKDR=aEn7<g•\; ‚8€kp€KsX8gƒkaf?_>?aK„E9:>nFE >r>:P>NFKgBaEABCaE<9L?EzIaE :kMVp€KaE:aNP•EKp€M9kE hCE}€>=>?@:;<F}>9~N<KkEKg\€E SE*FE@kP[WNEE}€>=>?@„EPK97Y@sB C_>IN`;<FC>9~N<K:IEsKr]?@>NEM9kEVBp €(•|EKBp€M9kEC>_>I;hC€ESE;<FC>9~ E|KEIN8:>aE€9kEVEP•K•9nC>>89kE V\;,C_>IN`;<FC>EK??gaE…9;>roKk; 8>qP>NF]C>K…g†9nKBaESsCi?BP;E B>W9U>?U9p]C>KaEW8IBaESEP•ZE BNU7BK>E8r:>EN9USSS9iM 9kEVp€s9P[]P>FE?}>r>ECSVp€9P[E\KB €ESE‡N[DR=BEC;FsgB>r>RSEaE<€ 8;9U‡N[B>r>LiVBK~9MsBKW@P[ NEkp€skM€ESEXN9•SSBS9iK?X} E\ˆCLiKDR=NY>?@‰‚B€ESEK?saE9P[P>NFsDR= Kg@D>8BS9iSUPXMEPXEV9:(•BaE<ME K?KBLisBK~nU9PNB_>?@9`M9kEkBC> _>I8 ABafFC>BNU<€9k;sBaEP>NFPX MEFC>E|9ME;sEP•WN…N8:>N€…:e NEFC>KB€LiNPX9ngaEBCN=V89:K?K BLiNPX9noXPXES9iSUVEP•BS9iK? K]9`KBLiK?KKEP•9PNNEKISU ABaEIBaNP•E?9pfEP•gaEWN9U9:> oBLiK9PNBLiXBN€9nnUKPXEg sBYB`NP•Es„EnUK]_>CEFBNP•E?k>E FC>KEP•gaEf>EN9P[g@KafBBC]E hf@sEKE}€>:^BCN€NE;<FC>AE*N? *GN9•XKBABFC>*EGKN>ELE} €>BPP<EE}€>KB>WB:Ni>CLMK,C>?}E9~ 9P[BSEK>9P[FEg@_>IN8_>N\EPL?_>?@9`sME;c N ,r>@B>WBE}€>*EKWN>EN}BE>z] C>n8>N|N>>NG(PErXaEK|EP>NFKN # 9pŠEEK?M9P[P>NFPXBMEFC>B8>N|cN>>NG 78>N|cN>>NGhiSPNEBKD>8IsC]EB NEN}ksWBaEHsE8?•sBBsPi9CRNEk aE?WinUW8?NŠENEkC_>IN`;<FC>;KF C>9P[P>NFn8>N|GfFC>gU>D‹@kŒC*9nk 89:97NKK@K9UnUfg@KgBN€TE>zFC>P W?Bgj>W9UEI_>?@89:K?9P[E\Kgj>W•DE•?A BFC>HI&KBABFC>HIgaEoWN>EKk? knBaE9P[P>NFPXMEHIs89:97NKK@Kn UAB9P[BaE`RsT_>Bg€PXEY9BP;E(FE N€P<ENTEPaiNE_>Bg€PEnU9P[BC9URSE BS9i>K? k]KB_>N\ENEABFC>HI?9P[Dq9@PK BKBˆDb‰sˆDQ>NO‰sKˆDENO‰ N}@EX9~nN8:>KaENE9:KLXHIPB E}€>V~E2&sNEB…EiEC<2?<BCE}€> VBNP•E9M\<js^Bs(W&Is>?}sBKaE9nV ?@>WN>EK89:E}€>:BHI@E+s@E^B(FEEa EFK?KBEaEFP;E9]>W[gDR= ,C?sPnkaESK9P[KC>_>INElYgB HI@EhC(:aEECaEVPX9P[BNU@€M Ž*>r>kWs>r>BNUg@sHBst~kEK?KEHEsB aE9P[DR=aE_>HI9CRs_>s_>BNUX]9k nE7T9ns>r>E}€>KDL?YEBaESABFC>HI @EhC9E9P[@€N\E NE9:KYWK?sDNfK?BE}€>pE_>V: DEKB€ESEVn:K S9iV9:KKPXEXBNUBaESLM HI@EhC<BE}€>>NE9:K>WH]EC DLKI;r?(E>?{(E\&f9~E|N8:>NE_>B NfPXE‹E}€>:9:KDI;P>+>89~E| k]9`PXENE_>BNfE}€>9:K % I. Đặt vấn đề (P|E9~@sr>@BaE9P[N9pC?ŠPXME KC>HIBaE9nnUKBKBsBKC>gsBaE g@sBKE}€>g\*ZBSE;<FC>KNEM9kE Vp€KN8p@K9M:>[igP>NFKDR=sPEgaE U_>}9P[NŠE…N8:>MEaEgB9P[P>NFPXMEHI WiE?INEBaE9P[P>NEB;<FC>frXNE ]|E„E9P[p€PXMEHI,C?sBp€9~BSEaE ECaEK_>I=C]EaEHE8?•siSBC]ERSE> (>?}9noYYKB_>I=>zEFC>HIs>E8BaE Sg€s…FC>‹YYŠPXMEHI|EPnBEI >WLMsfg@KC>sBaESNi\aEŠS9i]Eg}s BCN€sN_>?@9`NY@N}BE>zFC>gU>K? hXY@9ns89:97NKK@K|EnUgB9P[FE aEF>iTBE>zKC>HIn>EBE>zFC>K?I 9P[DR=P@K9UEP•ZEnUnFEaESY9kEBN[E| NECBCN€KgBaEd•NKEs|EIU>N•I 8VFC>HIsU>N•B97NPEVBFC>MK?9UnUn9P[ FEP;EB>Wr@ hCgBaETBE>zFC>HINEBp€hC( ••IYKFEg@_>IE}€>:HIn>Es:FC>H IKBgj>WDR=9~9P[BNUN}@EX>?}sFEHI@E hCMnFE97NPEN}EVnnUW8?9P[E?YgBC: 7giBs|BKEFB@EhCNEBHIXBEaEFp @N}@EXP@E+s@E^BhW?fFE97NPEK?IP<E@ K9@Bgj>WgBFC>HIsrInFEg=>WXK9U nUWSE9P[FEP>@V@EhC„EPEI_>?@9P[FE€ MNE@EhC 6UNI•9P[FEL>mK?s9zBŽ9TFEPXE}€>:A BFC>HIsfU>FE97NPEV@EhCsT9n9:NP;EPXE E|EI_>?@KBLMHI@EhC€M<BE}€>; Bg@_>IVE}€>NE9:KYWK?ŽKPEPX@9r>} >WH]ECVX9:K  " II. sở lý thuyết 1. Khái niệm Text Mining  !"#$%& hCRSE;<FC>KM9kEVkp€9~9P[BNUNE …E%HN<M9L?hXFC>9P[>WNE>]_>BNfM9kEV kp€sk>r>9P[97NKfg@KgBN€TFEFC> 9n6niKD>8B9UVKB^BCN€T;<FC>(EP• W8?NŠEnN8:>N€K|EgaEP•ENPX9E…:e NEFC>sCSV|EKBCsgBBBN€9nsSS FE>r>RSEaE;siSPNEBC>?}E?C‡ N[_>?@9` ABFC>KE9MV?@>V_>BNf^BCN€T;<F C>•>BNfgBN€9P[YC>B_>BNf>WK\F C>snElKofB‹>N€NGn=ElN}WFC>n?\E €gaEIKN}KkQ*PBP;EB]Eg}NPX9L? hfW?gBFC>EzCK 7Z‹>fnU f9P[T8gfkQ*KPEoFE‹>Z[XS9ifg@ X9P[E\KN€ŽnFEK]9U9BEBB}>i‹>P   !"##$% 6kXV‹>fS>kKg>EM_>?@>snU9]XC ]E79]XEP•ZEhiSXFC>VkaE?s_>BNfABF C>fN9P[k>WP[€>9P[EIKZ><ZEi&•s9] XC]EfN8XsNPXgP:nPE8€kBkWg@MK „EWN9P[9:>K?_>BBBKi iF>SEV‹>nU99P[_>Y}_>9@S9ifg@ hXkBkSNBINfB?i<aE?f>WN}gaEnEBN`s7Z KX9]X nU_>aE9MgBN€nN8:>‹>9P[8?NPEgaE I‹>K„EnEBN`snUKXsF>iPEMrP•Es97CKg BSEBgj>WYN}]Eg}*9n>aInB}>iKBK9B B‹>9BEDDqsgaErP•E nMsABFC>YNnUKk_>BNfDB9`‹>TB *N>sRSEBgj>W‘nP\B?sWMEs]Eg}sL MKBgj>W9P[BNU<EKE}€>Ni>CLMPME;c ! NLM>NNgGsB>WBN>?:ENENGs_>?M>W N>N>G nUDq9@k]KBi9]XE}€>:ABFC> c bGfkBDMLMGTk‹>F C>KkNEBXNPX c  NENGfkBDMz_>?Tk‹>FC>K k@Y9BnEBN`Y c !">NEGKCaI>E9UfNBWDB9` F>MBn?BM9UaIFC> c #$%>NOGKC9fg@kaI>En• kWFC>  !"#'()%& ABFC>HI?BCN€TB;<FC>HID> G9:W9@@NfNi\B‹>faENG?N€ gEG9BE_>L7nEBN`cNGTBKC>HI8> N|•>BNfK?nU9P[KC<NkEgj>WABFC>N>?: ]EsfP|E9~8?9~9P[9:W<N}Ggj>WABFC>N>?: ]E*EGPXEXCBCN€TB;<FC>n8>N| aE9P[P>NFPXMEE>?};8iKHIWin U8?NŠEFC>zMPXMEHI…ng]P[EX;N8:> XBFC>n8>N|gBY@sFEE}€>Er9L?9~8?NŠEn 9@!’aEVkp€ŠPXMEHI6nnUKBaEH E8?•sBU>‹>9:>NsB@>97KEsB?}>r>g@>MsEI_>?@ _>?:[sBPi9CRGsBaEN}BP;EMA BE}€>:;<FC>N9•KFEH%sEP•P<ENŠEnUP> \MaEPXMEFC>n8>N|(PEN}Y@>Er#HB NUsEP•‹ZEBC]EP>NF<MEHIKWNi…nD>PXE ZEP•ED>?};T9nEP•nUNŠEBIeABFC> HInUnEBN`P;EM;N8:>rXBIeAB FC>N>?:]EgB>?}„EnU8?E?NŠEBgj>WAB FC>HI€M;:>XBgj>WABFC>N>?:]E< fIYCN}FC>HI]9~<ME8>N|Kni•b>OO?G kiSKBgBFC>HIsgLiBKBE} €>g\snBaE> c ˆNKkC}_>9@9>9r>‰ c ˆND>8CnU@>E}NEB>‰ c ˆDnUEHIk]€E9>9r>‰ c ˆE}KkE>?}]9:>KDY}NEB>‰ Q>gLiBaE_>N\EK?sC]ErI9PNB>? >LSUEiBME c ˆ@>SE}nUEL?Nk]C9>9r>‰ d•NKE<9L?nYLi>?>W<€9k6U9M9P[gKHEP W?rInFEaENfE}€>:Ni>CLM}@; &KBABFC>HIKkKBE}€>9lYsEz N8 :> gj >W „E P B PXE E} €> gB > > W aE  bNNNGsLiHID?Gs@D>8aEbN DNGsW9M>NEGsLMHIENOGsU`NY_> >OGsaEEC;<FC>s\B?NEGKILBgj >WABFC> NE9:KK?V?@>9:W9@KBSUs9nKKB        D  ENOG  K  K  B        bN NNGBE}€>XoTEM<PXfU>sgIBsBK:9: BE}€>SU>K?KS9iNPX•KSS>WH] EC hXkC]EABHIP•EEzPXi c &PX:DR=‚PXK?sC]EŽ>?UHITME8> N|:MEn8>N|hiSsXHI&#'(' )"*C]E Ž]E•ELiK&#'('+ ++)",BT9P[P>N}ENŽ kBn8>N|9UCCDR= c MmBaEgaEr@‚PXK?skLifB MmBaEaiTHI&PXK?S>kN8:>K EaEF9E9P[LiKgj>WŽ9P[ZE9ULim PX@hiSs@>gj>WLiHIoYKDBD>8 D>8CTgBsg9nnUMmBTSP%s-s% .s. “ c ABFC>9~9P[EIP[XBgj>WgBFC> EGN>?:]E nN8:>gj>WKP;EB]9P[RSEDE9UfN Bg@N|XsB‹>XsKB}g@XBPX:DR=KBgj>W N8€MŠLikLX97CKB>ki97Cs>9n @KBSEBP;EBgBFC>g9U€KLi]Eg} KLiB}g@BPX…MŽgBIHI9r?9VTWBH IsiSPLXHI S}>>]ZEVDEP•EK9P•E]C>_>IsKCsK 97NPE9UNf{Kfg@BW[NkEXVBHI*9nsBgj >WiVDEnU9P[LLNKBCSK|EY CgDR=gBHIMaEK|EnUNiNKMLi 9P[YC<|E  [...]... Rất nhiều các phương pháp thu thập thông tin được phát triển và kết quả mà chúng đem lại khá tốt Trong đó có rất nhiều phương pháp tồn tại ở dạng chuẩn Các phương pháp này thường dựa theo các phương pháp toán học cổ điển Một số phương pháp khác được phát triển theo hướng dựa trí tuệ nhân tạo Sau đây, chúng ta sẽ tìm hiểu sâu hơn về các phương pháp thu thập thông tin b.1 Các phương pháp chuẩn Phần... Các giải pháp áp dụng cho Vietnamese Text Mining 1 Đặc trưng của văn bản tiếng Việt Tiếng Việt là một ngôn ngữ đơn lập [3], đặc điểm này bao quát toàn bộ đặc trưng tiếng Việt về mặt ngữ âm, ngữ nghĩa và ngữ pháp Do đó, chúng ta phải tiến hành nghiên cứu đặc điểm này của tiếng Việt để có thể có được những hướng nghiên cứu cụ thể về văn bản tiếng Việt a Các đơn vị của tiếng Việt a.1 Tiếng và... tiến Việt thì cách viết hay biểu thị trên khá phổ biến 32 Tất nhiên, ngữ điệu đóng vai trò vô cùng quan trọng trong tiếng Việt, tuy nhiên trong phạm vi nghiên cứu về văn bản tiếng Việt, ngữ điệu sẽ không được đi sâu nghiên cứu c Từ tiếng việt c.1 Từ đơn - từ ghép Như đã trình bày ở trên, từ trong tiếng Việt có thể có một tiếng hay gồm nhiều tiếng Hơn nữa, trong tiếng Việt, những từ nhiều tiếng. .. nhầm trong tiếng Việt Các vấn đề đó gọi là sự mập mờ trong tiếng Việt Ví dụ, với câu thuộc địa bàn, ta có thể có hai cách phân tách thuộc địa|bàn và thuộc|địa bàn Như vậy, đối với tiếng Việt, chúng ta cần có các phương pháp tách từ đặc biệt hơn b.1.2.1 Tiếp cận phương thức TF * IDF Trọng số của một thuật ngữ có thể được xác định theo nhiều cách Cách tiếp cận chung là sử dụng phương thức... của câu về mặt ngữ pháp Nói chung, cấu tạo ngữ pháp có thay đổi thì nghĩa cũng có thay đổi và ngược lại [3] b Các phương tiện ngữ pháp của tiếng việt b.1 Trong phạm vi cấu tạo từ Trong phạm vi cấu tạo từ, phương tiện chủ yếu về ngữ pháp chính là sự kết hợp các tiếng Trật tự sắp xếp các tiếng có vai trò quan trọng trong cấu tạo từ Kết hợp hai phương tiện này, có hai phương thức cấu tạo... trọng trong quá trình nghiên cứu và cài đặt ứng dụng phân tích cú pháp tiếng Việt a.2 Từ và các đặc điểm của từ Từ và tiếng là hai đơn vị khác nhau nhưng đều rất quan trọng trong ngữ pháp tiếng Việt Do đó ta phải đi xét các đặc điểm của từ a.2.1 Từ là đơn vị nhỏ nhất để đặt câu Như trên vừa trình bày, ta thấy từ có thể gồm có một tiếng nhưng cũng có thể gồm hai hay nhiều tiếng, tuy nhiên... hiện được thực hiện theo cách sau: - Các từ phụ được soá đi - Phân biệt các từ bởi khoảng trắng Đối với Anh ngữ hoặc Pháp ngữ, mỗi từ được tách biệt bởi các khoảng trắng Nhưng ngôn ngữ tiếng Việt lại nảy sinh vấn đề từ đơn và từ ghép Đây cũng là một vấn đề khó khăn khi phân tách từ trong tiếng Việt Ví dụ, với từ company trong tiếng Anh, ứng với nó là từ công ty trong tiếng Việt Do vấn đề về... của tiếng Trong tiếng Việt, cũng như trong các văn bản tiếng Việt, ta có thể thấy tiếng là một thành phần khá quan trọng Trong kí pháp, mỗi tiếng đứng độc lập, và ta có thể phát hiện được ngay các tiếng trong cả tiếng nói cũng như trong văn bản [3] a.1.1 Tiếng và giá trị ngữ âm Ngữ âm chính là mặt âm của ngôn ngữ Tại sao ta lại phải nghiên cứu khía cạnh này của ngôn ngữ tiếng Việt. .. yếu do sự phát triển mạnh mẽ gần đây của các thông tin nguyên trực tuyến b Các phương pháp phân loại văn bản b.1 Sử dụng từ điển phân cấp chủ đề Một phương pháp thống kê phân lớp văn bản được điều khiển bởi một từ điển chủ đề có phân cấp được đề xuất Phương pháp này sử dụng một từ điển với một cấu trúc đơn giản Từ điển này có thể dạy được dễ dàng trên một tập hợp tài liệu được phân lớp bằng tay... được nêu trong phần xây dựng luật cú pháp d Câu tiếng việt Câu là đơn vị dùng từ, hay đúng hơn là dùng ngữ mà cấu tạo nên trong quá trình tư duy, thông báo; nó có nghĩa hoàn chỉnh, có cấu tạo ngữ pháp và có tính chất độc lập [3] Xét về cấu trúc câu, tiếng Việt có hai loại câu là câu đơn và câu ghép d.1 Câu đơn Câu đơn là loại câu sở của tiếng Việt, bao gồm một nòng cốt đơn hay một

Ngày đăng: 30/05/2014, 14:27

Từ khóa liên quan

Tài liệu cùng người dùng

  • Đang cập nhật ...

Tài liệu liên quan