Đang tải... (xem toàn văn)
Mục tiêu của luận án nhằm nghiên cứu và đề xuất chuẩn hóa đặc trưng, chuẩn hóa khoảng cách để nâng cao hiệu quả so sánh độ tương tự. Phản hồi liên quan: đề xuất kỹ thuật hiệu chỉnh trong số và dịch chuyển truy vấn.
BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ …… ….***………… VŨ VĂN HIỆU NGHIÊN CỨU MỘT SỐ KỸ THUẬT PHÂN HẠNG TRONG TRA CỨU ẢNH DỰA VÀO NỘI DUNG Chuyên ngành: Cơ sở Toán cho Tin học Mã số: 62 46 01 10 TÓM TẮT LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội – 2017 Cơng trình hồn thành tại: Học viện Khoa học Công nghệ Viện Hàn lâm Khoa học Công nghệ Việt Nam Người hướng dẫn khoa học 1: PGS TS Ngô Quốc Tạo Người hướng dẫn khoa học 2: PGS TS Nguyễn Hữu Quỳnh Phản biện 1: … Phản biện 2: … Phản biện 3: … Luận án bảo vệ trước Hội đồng chấm luận án tiến sĩ, họp Học viện Khoa học Công nghệ - Viện Hàn lâm Khoa học Công nghệ Việt Nam vào hồi … ’, ngày … tháng … năm 201… Có thể tìm hiểu luận án tại: - Thư viện Học viện Khoa học Công nghệ - Th vin Quc gia Vit Nam M ảu Tớnh còp thit ca ti Vểi sá phỏt trin mĐnh m cıa Internet cho phép dπ dàng xây d¸ng, l˜u tr˙ cÏ s d˙ liªu a ph˜Ïng tiªn lĨn Nhi∑u hª thËng tìm ki∏m v´n b£n £nh nh˜ Google, Yahoo phỏt trin mĐnh m nhng nm gản õy nhng vđn cha ỏp ng ềc nhu cảu ngèi dựng Bờn cĐnh nhng tin bẻ CBIR, ngèi dựng vđn g∞p khó kh´n viªc tìm ki∏m thơng tin liên quan t¯ t™p £nh lĨn khơng Áng nhßt K∏t qu£ tìm ki∏m ch˜a §t ˜Ịc nh˜ mong mn Nhi∑u nghiên cu lổnh vác CBIR n vđn ang cậ gng nõng cao hiêu quÊ Mc tiờu, phĐm vi nghiờn cu ca lun ỏn Thụng thèng mẻt thậng tra cu Ênh dáa vo nẻi dung ềc miờu tÊ nh Hỡnh 0.1 Hỡnh 0.1 Hê thậng tra cu Ênh dáa vào nỴi dung Mˆc tiêu cıa lu™n án : So sỏnh ẻ tẽng tá : Nghiờn cu v xuòt chuân hoỏ c trng, chuân hoỏ khoÊng cỏch nõng cao hiêu quÊ so sỏnh ẻ tẽng tá — Ph£n hÁi liên quan : — ∑ xußt kˇ thut hiêu chứnh trng sậ v dch chuyn truy vòn ánh chø sË tra c˘u : Vector ∞c tr˜ng ca tòt cÊ cỏc Ênh cẽ s d liêu ˜Ịc trích rút tr˜Ĩc l˜u tr˙ hª qu£n tr‡ cÏ s d˙ liªu Rút gÂn khơng gian tìm ki∏m s˚ dˆng ti∏p c™n tËi ˜u Pareto K∏t qu£ tra c˘u t™p £nh có kho£ng cách nh‰ nhßt ho∞c ˜Ịc d¸ báo lĨp so vĨi £nh truy vòn PhĐm vi nghiờn cu ca lun ỏn : S˚ dˆng mỴt sË t™p £nh ˜Ịc s˚ dˆng nhi∑u nghiên c˘u v∑ CBIR Xây d¸ng cÏ s d˙ liêu c trng dáa trờn mẻt sậ phẽng phỏp trớch rỳt c trng tật xuòt mẻt sậ k thut cÊi thiên ẻ chớnh xỏc CBIR trờn mẻt sậ Ênh Ci t thác nghiêm cho cỏc xuòt, so sỏnh v ỏnh giỏ ẻ chớnh xỏc Ph˜Ïng pháp nỴi dung nghiên c˘u Ph˜Ïng pháp nghiên c˘u : TÍng hỊp thơng tin liên quan lỉnh v¸c CBIR, l¸a chÂn cách ti∏p c™n ã ˜Ịc áp dˆng thành cơng, ti∏n hành th˚ nghiªm vĨi cỏc d liêu Ênh chuân cỏc bi bỏo khoa hÂc ánh giá k∏t qu£ NỴi dung nghiên c˘u : Nghiên c˘u tÍng quan v∑ tra c˘u £nh dáa vo nẻi dung Nghiờn cu cỏch kt hềp nhiu ∞c tr˜ng t¯ ó phát hiªn quy lu™t, ràng bc cÏ b£n cıa k∏t hỊp nhi∑u ∞c tr˜ng Nghiên c˘u mỴt sË kˇ thu™t gi£m kho£ng trËng ng˙ nghỉa CBIR K∏t qu£ §t ˜Ịc cıa lu™n án ∑ xuòt chuân hoỏ cÊi tin cho phộp nõng cao hiêu quÊ ậi sỏnh ẻ tẽng tá, xuòt k thut hiêu chứnh trng sậ v dch chuyn truy vòn tÍ hỊp ∞c tr˜ng [CT6] ∑ xt s˚ dˆng tËi ˜u Pareto xây d¸ng t™p ˘ng viên khơng gian k∏t hỊp a ∞c tr˜ng ∫ nâng cao Ỵ xác tra c˘u [CT7] Hình 0.2 Hª thËng ∑ xt Ch˜Ïng TÍng quan v∑ tra c˘u £nh dáa vo nẻi dung 1.1 1.1.1 Mẻt sậ c trng £nh th˜Ìng s˚ dˆng CBIR Các ti∏p c™n ∞c trng ton cc Cỏc tip cn ton cc thác hiên trích rút ∞c tr˜ng tồn bỴ £nh, c trng ềc tớnh toỏn dáa trờn cỏc thuẻc tớnh mu sc, kt còu hoc hỡnh dĐng ca Ênh Mẻt sË ∞c tr˜ng ˜Ịc trích rút theo cách ti∏p c™n tồn cˆc nh˜ : l˜Ịc Á màu, t˜Ïng quan màu, mơ men màu, Gabor wavelet, bi∏n Íi Gabor, GIST ˜Ịc s˚ dˆng cơng trình [CT6], [CT7] 1.1.2 Các ti∏p c™n ∞c tr˜ng cˆc bỴ Các kˇ thu™t phát hiên cỏc im ni bt ó ềc xuòt mỴt sË nghiên c˘u nh˜ SIFT (Scale-Invariant Feature Transform) SURF (Speed Up Robust Features) Các ∞c tr˜ng ˜Òc s dng mẻt sậ thác nghiêm ca cụng trỡnh [CT5] 1.2 K∏t hÒp a ∞c tr˜ng CBIR Nhi∑u nghiên c˘u CBIR s˚ dˆng k∏t hÒp nhi∑u ∞c trng trác quan gm cỏc kiu mu sc, kt còu v hỡnh dĐng, mẩi kiu gm nhiu bẻ c trng u im nhăm nhòn mĐnh úng gúp theo kiu HĐn ch l khụng Êm bÊo tớnh cụng băng gia cỏc bỴ ∞c tr˜ng mỴt ki∫u bỴ ∞c tr˜ng có nh˙ng óng góp tích c¸c khác 1.3 Chuân hoỏ CBIR Cỏc thậng tra cu cẽ s d liêu Ênh phc tĐp s dng cỏc c trng thèng ềc trớch rỳt băng nhiu thut toỏn khác vĨi nhi∑u ngn khác nhau, nên khơng ph£i tòt cÊ nhng c trng ny cú cựng phĐm vi 1.3.1 Mc ớch ca chuân hoỏ Êm bÊo sá bình Øng mÈi thành ph¶n ∞c tr˜ng mẻt vộc tẽ c trng Chỉng hĐn nh biu din kt còu b mt, mẻt thnh phản cú th trung bình thành ph¶n khác có th∫ l ẻ lêch chuân Lỳc ny nhòt thit phÊi chuân hoỏ d liêu trểc thác hiên viêc tớnh ẻ t˜Ïng t¸ gi˙a véc tÏ ∞c tr˜ng cıa £nh truy vòn vểi cỏc Ênh 1.3.2 Chuân húa min-max Chuân húa min-max cho phộp chuyn d liêu v phĐm vi [0, 1] nh˜ sau : ˜ }, k , tijk ˜ = {tijk } 7! {tijk tijk min{tijk } , max {tijk } min{tijk } (1.1) ó min{tijk } max {tijk } giá tr‡ nh‰ nhßt v lển nhòt ca chuẩi thnh phản k theo bẻ c trng tij ca tòt cÊ cỏc Ênh cẽ s d liêu 1.3.3 Chuân húa Gauss }, k , tijk ˜ = tijk µk , {tijk } 7! {tijk k def ó µk = mean({tijk }), 1.4 (1.2) def k = var ({tijk }) Kho£ng trËng ng˙ nghæa Thu™t ng˙ “kho£ng trËng ng˙ nghỉa ˜Ịc dùng ∫ miêu t£ s¸ khác gi˙a hai m˘c miêu t£ cıa mỴt £nh bi ng˜Ìi 1.5 ú l nẻi dung trác quan mc thòp v khái niªm ng˙ nghỉa m˘c cao ˜Ịc hi∫u ∫ nâng cao hiêu quÊ tra cu cản thit thu hàp khoÊng trËng ng˙ nghæa Ph£n hÁi liên quan CBIR Ph£n hÁi liên quan CBIR ˜Òc hi∫u nh˜ sau : B˜Ĩc : Máy tính ˜a k∏t qu£ tra c˘u khi t§o (top k ) thơng qua £nh truy vßn B˜Ĩc : Ng˜Ìi dùng cung cßp ánh giá k∏t qu£ top k , ánh giá theo ki∫u nh˜ “liên quan” ho∞c “khơng liên quan” vĨi nh™n th˘c cıa ng˜Ìi dùng ó B˜Ĩc : Máy hÂc th˚ l§i L∞p l§i b˜Ĩc T¯ t™p k∏t qu£ top k mỴt sË ph˜Ïng pháp th˜Ìng s˚ dˆng kˇ thu™t ph£n hÁi liên quan nh˜ hiªu chønh trÂng sË d‡ch chuy∫n truy vßn ; m rẻng truy vòn ; k thut hc mỏy Mẩi phẽng pháp có cách hÂc khác viªc s˚ dˆng thơng tin cıa ng˜Ìi dùng 1.6 Hiªu chønh trÂng sË d‡ch chuy∫n truy vßn CBIR s˚ dˆng ph£n hÁi liên quan Kˇ thu™t hiªu chønh trÂng sË hÂc quan tõm ca ngèi dựng băng cỏch iu chứnh trng sË cıa mÈi ∞c tr˜ng cıa truy vßn trÂng sË cıa mÈi chi∑u mỴt ∞c tr˜ng, ˜Ịc i∑u chønh sau mÈi l¶n l∞p Các trÂng sË lĨn ˜Ịc gán cho nh˙ng ∞c tr˜ng có s¸ phân biªt tËt gi˙a £nh liên quan khơng liên quan ∫ t´ng c˜Ìng Ỵ xác tra c˘u 1.7 Tra cu Ênh dáa vo nẻi dung s dng k thut mỏy hc 1.7.1 Huòn luyên v kim tra D liêu bao gm truy vòn v cỏc Ênh, mẩi truy vòn liờn quan n mẻt sậ cỏc Ênh Sá liờn quan cıa £nh Ëi vĨi truy vßn ˜Ịc cho bi mẻt nhón, k hiêu mẻt loĐi ( a huòn luyên v dá bỏo kim tra) D liêu kim tra gm mẻt truy vòn mểi v cỏc Ênh liờn quan 1.7.2 Nhón d liêu Cỏc truy vòn ˜Ịc ˜a vào hª thËng tìm ki∏m Ênh xp hĐng cao nhòt ềc trÊ v (top rank) Nh˜ v™y, mÈi truy vßn liên quan vĨi nhi∑u £nh Con ng˜Ìi ánh giá d¸a vào s¸ liên quan cỏc cp Ênh-truy vòn Sá ỏnh giỏ liờn quan thèng theo nhi∑u m˘c Ỵ Con ng˜Ìi ánh giá liên quan theo quan i∫m cıa trung bình ng˜Ìi dùng Các nhãn bi∫u diπn s¸ liên quan sau ó ˜Ịc gán cho cỏc cp Ênh-truy vòn 1.7.3 Xõy dáng mụ hỡnh hÂc Mˆc ích s˚ dˆng kˇ thu™t hÂc máy thác hiên nhiêm v xp hĐng D liêu bao gÁm truy vßn £nh, ó mÈi truy vòn liờn quan n mẻt sậ Ênh Thut toỏn sau ó truy c™p mỴt t™p ki∫m tra, t™p mĨi cıa cỏc cp truy vòn - Ênh vểi mc ớch dá báo nhãn x∏p h§ng sau có kh£ n´ng tật nhòt ẻ phự hềp xỏc nh thụng qua mẻt hàm lÈi 1.7.4 Phân lÓp £nh 1.7.4.1 Kˇ thu™t Adaboost õy l phẽng phỏp cho phộp cÊi thiên ẻ xác cıa bßt k˝ thu™t tốn hÂc nào, cho phép k∏t hỊp ph˜Ïng pháp phân lĨp y∏u thnh mẻt phõn lểp mĐnh hẽn 1.7.4.2 Support Vector Machine (SVM) SVM ph‰ng oán k∏t qu£ tra c˘u theo mđu huòn luyên Dáa vo kt quÊ tra cu, ngèi dùng l¸a chÂn £nh liên quan £nh khụng liờn quan tĐo thnh mđu dẽng v mđu õm tẽng ng Sau hc mđu huòn luyên, băng cỏch s dng SVM, bẻ phõn lểp SVM f (x ) s≥ d¶n i∑u chønh theo mˆc ích tra c˘u cıa ng˜Ìi dùng 1.8 MỴt sË ti∏p c™n d¸a theo ph˜Ïng pháp tËi ˜u Pareto T™p Pareto mẻt cha tòt cÊ cỏc im cú ớt nhòt mỴt mˆc tiêu tËi ˜u £m b£o khơng thay Íi mˆc tiêu khác Các i∫m nh˜ v™y ˜Òc gÂi i∫m tËi ˜u Pareto Pareto front ¶u tiên bao gÁm mỴt t™p i∫m khơng b‡ làm trỴi 1.9 Các ph˜Ïng pháp ánh giá Ỵ o hiªu n´ng Hai chø sË ˜Ịc s˚ dˆng Precision (Pr- Ỵ xác) recall (Re - Ỵ hÁi t˜ng) Pr tø sË cıa sË £nh liên quan ˜Ịc tra c˘u (E) vĨi tÍng sË £nh ˜Ịc tra c˘u (D) : Pr = E D Re tø sË cıa sË £nh liên quan ˜Òc tra c˘u (E) vĨi tồn bỴ sË £nh liên quan có cÏ s d˙ liªu (A) : Re = E A 400 Thanh phan thu dac trung mo men mau (3σ) 400 350 350 300 300 250 Tan suat Tan suat 250 200 150 200 150 100 100 50 -1.5 Thanh phan thu dac trung mo men mau (3σ-FCM) 50 -1 -0.5 Gia tri 0.5 -0.6 1.5 -0.4 -0.2 0.2 0.4 0.6 Gia tri (a) (b) Hình 2.4 (a) Phân bậ d liêu c trng mụ men mu (chuân hoỏ ) thnh phản gm 99.68% thuẻc [-1,1] (b) Phõn bậ d liêu c trng mụ men mu (chuân hoỏ FCM ) thnh phản gm 100% thuẻc [-1,1] 6000 Thanh phan thu dac trung ket cau Gabor (3σ) 6000 5000 5000 4000 Tan suat Tan suat 4000 3000 2000 3000 2000 1000 -2 Thanh phan thu dac trung ket cau Gabor (3σ-FCM) 1000 Gia tri (a) -0.5 0.5 1.5 2.5 Gia tri (b) Hình 2.5 (a) Phõn bậ d liêu c trng kt còu Gabor(chuân hoỏ ) thnh phản gm 98.1% thuẻc [-1,1] (b) Phõn bậ d liêu c trng kt còu Gabor (chuân hoỏ FCM ) thnh phản gm 99.95% thc [-1,1] Sau ba vịng ph£n hÁi liên quan, kˇ thut xuòt Đt tểi 87%, 78%, 74%, 69%, 64% top 20, top 40, top 60, top 80 top 100 t˜Ïng ˘ng Hình 2.9(b) so sánh trung bình Ỵ xác top k cıa kˇ thu™t ∑ xt PowerTool sau ba vịng l∞p ph£n hÁi liên quan Hình 2.10(a) so sánh Ỵ xác top 20 cıa kˇ thu™t ∑ xußt PowerTool Bi∫u Á cho bi∏t trung bình mÈi vịng ph£n hÁi liên quan kˇ thu™t ∑ xt ∑u cao hÏn Hình 2.10(b) bi∫u Á so sánh Ỵ xác Ỵ hÁi t˜ng cıa kˇ thu™t ∑ xußt PowerTool trung bình sau ba vịng ph£n hÁi liên quan 2.5 K∏t lu™n ch˜Ïng ∑ xußt ch˜Ïng ã nâng cao hiêu nng v ẻ chớnh xỏc ca thậng CBIR Nẻi dung xuòt gm chuân hoỏ c trng, hiêu chứnh trng sậ ẻ tẽng tá truy vòn v dch chuy∫n 17 300 Thanh phan thu dac trung mo ment Wavelet (3σ) 300 250 250 200 200 Tan suat Tan suat Thanh phan thu dac trung mo men Wavelet (3σ-FCM) 150 100 150 100 50 50 -1.5 -1 -0.5 Gia tri 0.5 -0.4 1.5 -0.3 -0.2 -0.1 0.1 0.2 0.3 0.4 Gia tri (a) (b) Hình 2.6 (a) Phân bË d˙ liªu ∞c trng bòt bin Wavelet(chuân hoỏ ) thnh phản gm 99.5% thuẻc [-1,1] (b) Phõn bậ d liêu c trng bòt bin Wavelet (chuân hoỏ FCM ) thnh phản gm 100% thuẻc [-1,1] Thanh phan thu dac trung GIST (3σ) 500 500 450 400 400 350 300 Tan suat Tan suat 350 250 200 150 300 250 200 150 100 100 50 -1.5 Thanh phan thu dac trung GIST (3σ-FCM) 450 50 -1 -0.5 0.5 Gia tri 1.5 2.5 -0.4 -0.2 0.2 0.4 0.6 Gia tri (a) (b) Hình 2.7 (a) Phõn bậ d liêu c trng hỡnh dĐng GIST (chuân hoỏ ) thnh phản gm 98.8% thuẻc [-1,1] (b) Phõn bậ d liêu c trng hỡnh dĐng GIST (chuân hoỏ FCM ) thnh phản gm 99.9985% thuẻc [-1,1] truy vòn sau mẩi vũng phÊn hÁi liên quan 18 0.8 0.75 0.7 3σ-FCM 3σ 0.7 Do chinh xac tren so anh tra ve 0.65 Do chinh xac 3σ-FCM 3σ 0.65 0.6 0.55 0.5 0.45 0.4 0.6 0.55 0.5 0.45 0.4 0.35 0.35 0.3 0.1 0.2 0.3 0.4 0.5 0.6 0.3 0.7 20 40 Do hoi tuong 60 80 100 120 140 160 180 200 So anh ket qua tra ve (k) (a) (b) Hình 2.8 So sỏnh chòt lềng truy vòn (a) Hiêu nng Precision/Recall (b) Hiêu nng ẻ chớnh xỏc IR-THREESIGMAFCM 0.9 Round Round Round Round Round 0.8 Do chinh xac tren so anh ket qua tra ve Do chinh xac tren anh ket qua tra ve 0.9 0.7 0.6 0.5 0.4 IR-THREESIGMAFCM PowerTool 0.8 0.7 0.6 0.5 0.4 0.3 0.3 20 40 60 80 100 120 140 So anh ket qua tra ve (k) 160 180 20 200 40 60 80 100 120 140 So anh ket qua tra ve (k) (a) 160 180 200 (b) Hình 2.9 (a) Trung bình Ỵ xác cıa kˇ thu™t ∑ xt top k k∏t qu£ theo n´m vịng cıa ph£n hÁi liên quan (b) So sánh trung bình Ỵ xác cıa kˇ thu™t ∑ xt PowerTool top k k∏t qu£ 0.9 0.9 IR-THREESIGMA-FCM PowerTool (MARS) 0.8 Do chinh xac Do chinh xac cua top-20 0.85 0.8 0.75 0.7 0.6 0.5 0.7 0.4 IR-THREESIGMA-FCM PowerTool (MARS) 0.65 So vong lap 10 (a) 0.3 0.1 0.2 0.3 0.4 0.5 Do hoi tuong 0.6 0.7 (b) Hình 2.10 (a) So sánh trung bình Ỵ xác cıa kˇ thu™t ∑ xußt PowerTool top 20 k∏t qu£ theo m˜Ìi vịng cıa ph£n hÁi liên quan (b) Bi∫u Á Precision Recall cıa kˇ thu™t ∑ xußt PowerTool 19 0.8 Ch˜Ïng ∑ xußt kˇ thu™t Pareto front a m˘c sâu nâng cao hiªu qu£ phân lĨp £nh Ch˜Ïng ∑ xußt kˇ thu™t Pareto front a m˘c sâu cho hª thËng CBIR s˚ dˆng k∏t hỊp nhi∑u c trng Thay vỡ tỡm mẻt truy vòn trung tõm ∫ chÂn ˜Òc £nh liên quan ho∞c chø áp dˆng máy phân lĨp, thu™t tốn PDFA cıa lu™n án lòy mẻt thu gn cỏc Ênh ng c viên Cách làm gi£m nhiπu ng˙ nghæa c£i thiªn hiªu n´ng cho máy phân lĨp hÂc máy Hê thậng xuòt nh Hỡnh 3.1 cụng trỡnh nghiờn cu [CT7] Hỡnh 3.1 Hê thậng xuòt 20 3.1 Mẻt sậ tớnh chòt hỡnh thc dáa trờn k thu™t Pareto front a m˘c sâu khơng gian tÍ hÒp ∞c tr˜ng Gi£ thi∏t {Ei | i = 1, N } l mẻt cẽ s d liêu c trng cıa N £nh, ˜Ịc trích rút theo T bỴ ∞c tr˜ng sË ki∫u ∞c tr˜ng tr¸c quan gÁm mu sc, kt còu v hỡnh dĐng ẻ o khoÊng cách t˜Ïng ˘ng cıa mÈi bỴ ∞c tr˜ng gi˙a £nh truy vßn Q £nh I , DQt (I ), t = 1, T MÈi £nh I E có T kho£ng cách so vĨi truy vßn Q t˜Ïng ˘ng vĨi T bỴ ∞c tr˜ng Khơng gian tìm kim cỏc Ênh I cú ẻ tẽng tá so vểi £nh truy vßn Q cˆ th∫ ˜Ịc cho bi : EQ = {(I , (DQ1 (I ), , DQT (I )) | I E}, (3.1) Tn tĐi mẻt ỏnh x§ ⇡Q , song ánh khơng gian tìm ki∏m EQ , nh˜ ⇡Q : E Q !E (I , (DQ1 (I ), , DQT (I )) 7! I (3.2) ∫ Ïn gi£n, Q cË ‡nh, ta ∞t I ⌘ ⇡Q (I ) E A ⌘ {⇡Q (I )/ I A} ⇢ E, I EQ , A ⇢ EQ ‡nh nghỉa 3.1 [CT7] (TrỴi Pareto) Cho I1 I2 hai i∫m cıa khơng gian tìm ki∏m EQ , I1 trỴi hÏn I2 hay I2 b‡ làm trỴi bi I1 (k˛ hiªu I1 Q I2 ) n∏u chø n∏u < t = 1, T , D t (I ) D t (I ), Q Q : t [1, T ] : D t0 (I ) < D t0 (I ), Q Q (3.3) Theo ‡nh nghæa này, rõ rng I1 v I2 khụng gian tỡm kim EQ , tho£ mãn tính chßt I1 Q I2 , th∏ I1 liên quan hÏn I2 Ëi vĨi Q ‡nh nghæa 3.2 [CT7] (Pareto front) Cho A ⇢ EQ , Pareto front cıa A (k˛ hiªu PFQ (A)) ˜Ịc ‡nh nghỉa nh˜ sau : def PFQ (A) = {I A/@I A : I 21 Q I } ⇢ A, (3.4) Pareto front hay t™p Pareto t™p ch˘a tßt c£ i∫m có nhòt mẻt khoÊng cỏch tậi thiu Cỏc im ny ềc gÂi i∫m tËi ˜u Pareto ‡nh nghæa 3.3 [CT7] (Pareto front a m˘c sâu) 3.3.1 Pareto front Ỵ sâu th˘ l ˜Ịc ‡nh nghỉa nh˜ sau : (i) PFDQ0 = ?, def (ii) PFDQl = PFQ (EQ \[lj =11 PFDQt ) def 3.3.2 Giá tr‡ Ỵ sâu : I EQ , depthQ (I ) = l N + ^ l #EQ : I PFDQl ‡nh l˛ 3.1 [CT7] ( ˜Ìng trỴi) MÂi i∫m I khơng gian tìm ki∏m EQ , ln tn tĐi ớt nhòt depthQ (I ) cỏc im khác EQ i∫m liên quan tËt hÏn I theo ∞c tr˜ng m˘c thßp ‡nh nghỉa 3.4 [CT7] (HỊp Pareto) Cho EA ⇢ E L Ỵ sâu cıa Pareto front, hÒp Pareto cıa t™p EA (k˛ hiªu PFUL (EA )) ˜Ịc ‡nh nghỉa nh˜ sau [ def PFUL (EA ) = PFDal (3.5) a2EA ,1lL ‡nh nghæa 3.5 [CT7] (Bao cıa Pareto front) Cho A ⇢ EQ ✏ > 0, bao cıa Pareto front (k˛ hiªu PFBQ,✏ (A)) ˜Ịc ‡nh nghỉa nh˜ sau PFBQ,✏ (A) = {I A/ I0 PFQ (A) : DIt0 (I ) < ✏, t T , T N ? }, Mªnh ∑ 3.1 [CT7] PFQ (A) ⇢ PFBQ,✏ (A) ⇢ A 3.2 Nâng cao hiªu qu£ phân lĨp £nh Hª thËng cụng trỡnh [CT7] hoĐt ẻng theo Thut toỏn 3.1 nh˜ sau : 22 (3.6) Thu™t toán 3.1 PFCBIR (Tra c˘u s˚ dˆng Pareto front a m˘c Ỵ sâu) [CT7] ¶u vào: E CÏ s d˙ liªu ∞c tr˜ng l sË m˘c front ( Ỵ sâu) K SË i∫m cıa t™p hÒp Pareto front a m˘c sâu ¶u ra: T™p £nh k∏t qu£ tho£ mãn /* Tra cu tĐo */ 1: EQ Tớnh ẻ tẽng tá mẩi Ênh vểi Ênh truy vòn Q l 2: PFDQ EQ /* Xây d¸ng t™p ˘ng viên Pareto theo ‡nh nghỉa 3.3 s˚ dˆng thu™t tốn tìm ˘ng viên Pareto 3: NB PFDQl /* Hi∫n th‡ top k Ênh tẽng tá nhòt vểi Q t ng viờn Pareto ( theo ẻ tẽng tá mc thòp) */ 4: Tp huòn luyên : {NB + , NB } NB /* Tp huòn luyên ềc xõy dáng t láa chn cıa ng˜Ìi dùng top k k∏t qu£ */ /* Tra c˘u s˚ dˆng thông tin ph£n hÁi */ 5: while ng˜Ìi dùng ch˜a tho£ mãn 6: Q0 NB + /* S dng k thut hiêu chứnh truy vòn ˜Ịc miêu t£ mˆc 2.3.2 ( ∑ xt [CT6]) */ 7: EQ Tớnh lĐi ẻ tẽng tá mẩi Ênh vểi truy vòn hiêu chứnh Q /* Tớnh ẻ tẽng tá dáa vo k thut hiêu chứnh trng sË ∑ xußt [CT6] */ 8: PFDQl EQ /* Xây d¸ng t™p ˘ng viên Pareto theo ‡nh nghỉa 3.3 s˚ dˆng thu™t tốn tìm ˘ng viên ây l kim tra */ 9: Xõy dáng mẻt hm quy∏t ‡nh phân lÓp ki∫u nh˜ SVM, AdaBoost, cho t™p ki∫m tra 10: NB T™p ki∫m tra /* Hi∫n th‡ top k Ênh tẽng tá nhòt vểi Q t t™p ki∫m tra, ˜Ịc s≠p x∏p gi£m d¶n theo giá tr‡ d¸ báo cıa hàm phân lĨp */ 11: C™p nht huòn luyên : {NB + , NB } NB /* Tp huòn luyên ềc xõy dáng t láa chÂn cıa ng˜Ìi dùng top k k∏t qu£ */ 12: end while 3.3 Th˚ nghiªm 3.3.1 CÏ s d liêu Ênh ỏnh giỏ cỏc kt quÊ Sỏu bẻ ∞c tr˜ng m˘c thßp ˜Ịc s˚ dˆng gÁm L˜Ịc Á HSV, Các mơ men màu, L˜Ịc Á t¸ t˜Ïng quan màu, Các phép lÂc Gabor, Các mô men Wavelet, Gist Ba t™p £nh chu©n ˜Ịc s˚ dˆng : T™p cıa t™p COREL (Db1), Oxford Building (Db2), t™p Caltech ( Db3) 3.3.2 Các ph˜Ïng pháp cÏ s Ph˜Ïng pháp ∑ xt ˜Ịc so sánh vĨi ba ph˜Ïng pháp tra c˘u £nh s˚ dˆng ph£n hÁi liên quan : Tong v cẻng sá (Support vector machine active learning for image retrieval ), Tieu 23 v cẻng sá (Boosting image retrieval), MARS (Relevance feedback : a power tool for interactive content-based image retrieval ) 3.3.3 Phẽng phỏp ỏnh giỏ Thác nghiêm ỏnh giỏ hiêu nng v mt ẻ chớnh xỏc tra c˘u top k k∏t qu£ Hai Ỵ o ˜Ịc trình bày Mˆc 1.9 Ch˜Ïng ˜Ịc s˚ dˆng ∫ ánh giá hiªu n´ng 3.3.4 Các kt quÊ thác nghiêm Mẩi cẽ s d liêu Db1, Db2, Db3 có t˜Ïng ˘ng mỴt danh sách truy vòn CÊ bận k thut u s dng mẻt danh sách truy vßn B£ng 3.1 Các tham sË s˚ dng thác nghiêm Phẽng phỏp l NB (top k ) ∑ xußt SVM AdaBoost MARS 10 10 10 10 20,40,60,80,100,120,140,160,180,200 20,40,60,80,100,120,140,160,180,200 20,40,60,80,100,120,140,160,180,200 20,40,60,80,100,120,140,160,180,200 SË £nh truy vßn Db1 Db2 Db3 100 55 100 100 55 100 100 55 100 100 55 100 B£ng 3.1 tham sË s˚ dng K hiêu : l l sậ lản lp, NB (top k ) l Ênh cú th hĐng dá bỏo (phõn lểp) cao nhòt mẻt lản lp ềc tr£ v∑ bi hª thËng B£ng 3.2 SË ˘ng viên Pareto theo top k Ëi vÓi Db1 top k 20 40 60 80 100 120 140 160 180 200 SË ˘ng viên 60 80 120 160 300 360 420 480 540 600 Tứ lê sậ mđu d liêu giÊm 93.99% 88% 81.99% 76% 70% 64% 57.99% 52% 46% 39.99% 24 B£ng 3.3 SË ˘ng viên Pareto theo top k Ëi vÓi Db2 top k 20 40 60 80 100 120 140 160 180 200 SË ˘ng viên 60 80 120 160 300 360 420 480 540 600 Tø lª sË mđu d liêu giÊm 92.22% 95.23% 92.85% 90.46% 88.08% 85.70% 83.32% 80.93% 78.55% 76.17% B£ng 3.4 SË ˘ng viên Pareto theo top k Ëi vÓi Db3 top k 20 40 60 80 100 120 140 160 180 200 SË ˘ng viên 40 120 180 240 300 360 420 480 360 400 Tứ lê sậ mđu d liêu giÊm 92.22% 77.77% 66.66% 55.55% 44.44% 33.33% 22.22% 11.11% 33.33% 25.55% Các B£ng 3.2, 3.3 3.4 thi∏t l™p sË ˘ng viên t˜Ïng ˘ng theo top k t˜Ïng ˘ng cho Db1, Db2 Db3 Ph˜Ïng pháp ∑ xußt s˚ dˆng t™p ˘ng viên Pareto k∏t hỊp AdaBoost SVM k˛ hiªu Pareto-SVM, Pareto-AdaBoost Hình 3.2 Hình 3.3 cho bi∏t trung bình Ỵ xác t´ng rõ rªt k∏t qu£ top k c£ ba t™p d˙ liªu khác cıa ∑ xt Pareto-AdaBoost Pareto-SVM Các Hình 3.4, 3.5 cho thòy ẻ chớnh xỏc ca cỏc xuòt cao hẽn ph˜Ïng pháp cÏ s ba t™p d˙ liªu khác Thơng th˜Ìng k∏t qu£ tra c˘u th˜Ìng hi∫n th 20 Ênh liờn quan nhòt phự hềp vểi mẻt hình hi∫n th‡ ∑ xt cÙng ã so sánh vÓi ph˜Ïng pháp truy∑n thËng : Tra c˘u phân lÓp £nh s˚ dˆng SVM AdaBoost, tra c˘u theo hiêu chứnh trng sậ (MARS) Trong thác nghiêm ny 20 £nh liên quan nhßt ˜Ịc hi∫n th‡ c£ sáu vòng cıa ph£n hÁi liên quan 25 0.9 Pareto-AdaBoost (Db1) 0.5 Round Round Round Round Round 0.8 Pareto-AdaBoost (Db2) 0.6 Round Round Round Round Round 0.45 0.55 Pareto-AdaBoost (Db3) Round Round Round Round Round 0.7 0.6 0.5 Do chinh xac tren tap Top-k Do chinh xac tren tap Top-k Do chinh xac tren tap Top-k 0.5 0.4 0.35 0.3 0.45 0.4 0.35 0.3 0.25 0.4 0.25 0.2 0.3 0.2 20 40 60 80 100 120 140 160 180 200 Top-k 0.15 20 40 60 80 100 120 140 160 180 200 Top-k 20 40 60 80 100 120 140 160 180 200 Top-k Hình 3.2 Trung bình Ỵ xác k∏t qu£ top k ca xuòt Pareto-AdaBoost trờn ba d liêu Db1, Db2, Db3 theo n´m vòng ph£n hÁi liên quan 0.9 0.8 Pareto-SVM (Db1) 0.45 Round Round Round Round Round Pareto-SVM (Db2) 0.55 Round Round Round Round Round 0.4 0.5 Pareto-SVM (Db3) Round Round Round Round Round 0.7 0.6 0.5 Do chinh xac tren tap Top-k Do chinh xac tren tap Top-k Do chinh xac tren tap Top-k 0.45 0.35 0.3 0.4 0.35 0.3 0.25 0.25 0.4 0.2 0.3 0.2 20 40 60 80 100 120 140 160 180 200 Top-k 0.15 20 40 60 80 100 120 140 160 180 200 Top-k 20 40 60 80 100 120 140 160 180 200 Top-k Hình 3.3 Trung bình Ỵ xác k∏t qu£ top k ca xuòt Pareto-SVM trờn ba d liêu Db1, Db2, Db3 theo n´m vòng ph£n hÁi liên quan Trong Hỡnh 3.6 ẻ chớnh xỏc ca xuòt Pareto-AdaBoost ậi vểi d liêu Db1, Db2 v Db3 Đt tẽng ˘ng 90%, g¶n 50%, g¶n 60% Trong Hình 3.7 xuòt Pareto-SVM ậi vểi d liêu Db1, Db2 v Db3 Đt tẽng ng l 90.08%, gản 42.7%, g¶n 56.2% Các ph˜Ïng pháp cÏ s, t™p d liêu Db1, SVM v AdaBoost Đt tểi 70.6% v 74.2%, MARS Đt 83.2% Trờn d liêu Db2, SVM AdaBoost §t tĨi 22.9% 27.8%, MARS §t 40.1% Trờn d liêu Db3, SVM, AdaBoost Đt tểi 29.8% 38.1%, MARS §t 42.5% 26 (Db1) 0.7 0.6 0.5 0.4 0.3 (Db2) 0.45 Pareto-AdaBoost SVM AdaBoost (i.Boot) MARS 0.4 Do chinh xac tren tap Top-k 0.8 Do chinh xac tren tap Top-k 0.45 Pareto-AdaBoost SVM AdaBoost (i.Boot) MARS 0.35 0.4 Do chinh xac tren tap Top-k 0.9 0.3 0.25 0.2 0.15 0.1 20 40 60 80 100 120 140 160 180 200 Top-k (Db3) Pareto-AdaBoost SVM AdaBoost (i.Boot) MARS 0.35 0.3 0.25 0.2 0.15 0.1 20 40 60 80 100 120 140 160 180 200 Top-k 20 40 60 80 100 120 140 160 180 200 Top-k Hình 3.4 So sánh Ỵ xác k∏t qu£ top k cıa kˇ thu™t ∑ xt Pareto-AdaBoost vĨi kˇ thu™t cÏ s ba t™p d˙ liªu Db1, Db2, Db3 0.9 0.8 (Db1) 0.4 Pareto-SVM SVM AdaBoost (i.Boot) MARS (Db2) 0.5 Pareto-SVM SVM AdaBoost (i.Boot) MARS 0.35 0.45 (Db3) Pareto-SVM SVM AdaBoost (i.Boot) MARS 0.6 0.5 Do chinh xac tren tap Top-k Do chinh xac tren tap Top-k Do chinh xac tren tap Top-k 0.4 0.7 0.3 0.25 0.2 0.35 0.3 0.25 0.2 0.4 0.15 0.15 0.3 20 40 60 80 100 120 140 160 180 200 Top-k 0.1 20 40 60 80 100 120 140 160 180 200 Top-k 0.1 20 40 60 80 100 120 140 160 180 200 Top-k Hình 3.5 So sánh Ỵ xác k∏t qu£ top k cıa kˇ thu™t ∑ xt Pareto-SVM vĨi kˇ thu™t cÏ s ba t™p d˙ liªu Db1, Db2, Db3 3.4 K∏t lu™n ch˜Ïng Trong ch˜Ïng ∑ xußt ph˜Ïng pháp tra c˘u £nh s˚ dˆng Pareto front a m˘c Ỵ sâu, cho phép nâng cao Ỵ xác cıa mỴt sË kˇ thu™t phân lÓp s˚ dˆng máy hÂc T™p ˘ng viên Pareto mĨi c™p nh™t phù hỊp hÏn vĨi £nh c¶n tra cu Cỏc kt quÊ thác nghiêm trờn ba Ênh cho thòy phẽng phỏp xuòt cú ẻ chớnh xỏc cao hÏn Ëi vÓi ph˜Ïng pháp cÏ s 27 Db1 0.9 Db2 0.5 Pareto-AdaBoost SVM AdaBoost (i.Boot) MARS 0.45 Db3 0.6 Pareto-AdaBoost SVM AdaBoost (i.Boot) MARS Pareto-AdaBoost SVM AdaBoost (i.Boot) MARS 0.55 0.8 0.75 Do chinh xac tren ket qua top-20 Do chinh xac tren ket qua top-20 Do chinh xac tren ket qua top-20 0.85 0.4 0.35 0.3 0.5 0.45 0.4 0.35 0.7 0.25 0.65 Hình 3.6 So vong lap 0.2 0.3 So vong lap 0.25 So vong lap Á th‡ Ỵ xác cıa ph˜Ïng pháp Pareto-AdaBoost, SVM, AdaBoost MARS t™p d˙ liªu Db1, Db2, Db3 Db1 0.95 Db2 0.45 Pareto-SVM SVM AdaBoost MARS 0.9 Db3 0.6 Pareto-SVM SVM AdaBoost MARS Pareto-SVM SVM AdaBoost MARS 0.55 0.85 0.8 0.75 Do chinh xac tren ket qua top-20 Do chinh xac tren ket qua top-20 Do chinh xac tren ket qua top-20 0.4 0.35 0.3 0.5 0.45 0.4 0.35 0.25 0.7 0.3 0.65 0.2 Hình 3.7 So vong lap 0.25 So vong lap So vong lap Á th‡ Ỵ xác cıa ph˜Ïng pháp Pareto-SVM, SVM, AdaBoost MARS t™p d˙ liªu Db1, Db2 Db3 28 K∏t lu™n h˜Ĩng phát tri∫n Lu™n án xây d¸ng hª thËng CBIR s˚ dˆng a ∞c tr˜ng bao gÁm quy trình : chu©n hố, gi£m kho£ng trËng ng˙ nghỉa, rút gÂn khơng gian tìm ki∏m thơng qua tìm t™p ˘ng viên áp dˆng cho bßt k˝ kˇ thu™t hÂc máy viªc phân lĨp £nh theo truy vòn khc phc nhng hĐn ch s dˆng chu©n hố max , , lu™n ỏn ó xuòt k thut chuân hoỏ c trng FCM cho d liêu c trng khụng ng nhòt mẻt phĐm vi CÊi tin ny ó cÊi thiên Ỵ xác tính Ỵ t˜Ïng t¸ k∫ Nõng cao hiêu quÊ ẻ chớnh xỏc tra cu băng kˇ thu™t hiªu chønh trÂng sË d‡ch chuy∫n truy vßn s˚ dˆng ph£n hÁi liên quan ˜a tốn tra c˘u £nh s˚ dˆng a ∞c tr˜ng theo cách ti∏p c™n tËi ˜u Pareto ∫ tìm t™p ˘ng viên s˚ dˆng làm t™p ki∫m tra cho máy phân lểp Cỏc thác nghiêm lm sỏng t tớnh chòt rỳt gÂn khơng gian tìm ki∏m, có th∫ xem nh˜ sÏ lÂc cÏ s d˙ liªu lĨn gi£m ˜Ịc sậ mđu d liêu, cÊi thiên ẻ chớnh xỏc phõn lểp Tra cu Ênh dáa vo nẻi dung vđn cũn nhiu vòn cản tip tc nghiờn cu Trong giểi hĐn ca mẻt lun ỏn cha th giÊi quyt ht mi vòn , lun ỏn giÊi quyt mẻt phản cỏc vòn chuân hoỏ c trng, hiêu chứnh trÂng sË, rút gÂn khơng gian tìm ki∏m óng góp ca lun ỏn vđn cũn hĐn ch : Thác nghiêm cÏ s d˙ liªu ch˜a ı lĨn, ch˜a ánh giá hiªu n´ng v∑ thÌi gian Ëi vĨi ∑ xußt Trong nghiên c˘u t˜Ïng lai s≥ ti∏p tˆc nghiên c˘u ∫ bÍ sung cho nh˙ng h§n ch∏ nêu 29 Nh˙ng i∫m óng góp mĨi cıa lu™n ỏn xuòt chuân hoỏ FCM cho d liêu c trng Ênh tra cu Ênh dáa vo nẻi dung, khc phc cỏc hĐn ch s dng chuân hoỏ min-max v chuân hoỏ gausian vểi d liêu ∞c tr˜ng £nh khơng Áng nhßt ∑ xt ã nõng cao ẻ chớnh xỏc tớnh ẻ tẽng tá ca cỏc bẻ c trng xuòt cÊi tin k thut hiêu chứnh trng sậ v dch chuyn truy vòn ∫ thu hµp “kho£ng trËng ng˙ nghỉa” tra c˘u Ênh dáa vo nẻi dung Hm cp nht trng sậ dáa vo ẻ lêch chuân khoÊng cỏch ca cỏc bẻ c trng, ẻ lêch chuân ca ẻ di vector c tr˜ng i∫m sË liên quan Gi£i quy∏t bi toỏn tra cu Ênh dáa vo nẻi dung s dng t hềp c trng băng tip cn tậi u Pareto ∫ thu t™p ˘ng viên Pareto T™p ˘ng viên Pareto xuòt l ròt hiêu quÊ nõng cao hiêu nng ẻ chớnh xỏc ca mỏy phõn lểp 30 Danh mˆc cơng trình ã cơng bË [CT1] Nguyπn H˙u Qu˝nh, Nguyπn Th‡ Thu Hà, VÙ V´n Hiªu, Cù Viªt DÙng MỴt ph˜Ïng pháp tra c˘u £nh s˚ dˆng kˇ thu™t hÂc t¯ ng˜Ìi dùng K y∏u HỴi ngh‡ khoa hc cụng nghê Quậc gia lản th VI "Nghiờn cu cÏ b£n ˘ng dˆng Cơng nghª thơng tin", Tr.316-324 FAIR 2013 [CT2] VÙ V´n Hiªu, Nguyπn H˙u Qu˝nh, Nguyπn Th Thu H, Ngụ Quậc TĐo Mẻt phẽng phỏp tra cu Ênh s dng vựng thuản nhòt v phÊn hi liờn quan K yu Hẻi ngh khoa hc cụng nghê QuËc gia l¶n th˘ VII "Nghiên c˘u cÏ b£n ˘ng dˆng Cơng nghª thơng tin", Tr.350-357 FAIR, 2014 [CT3] V Vn Hiêu, Nguyn Hu Qunh, Ngụ Quậc TĐo Mẻt phẽng phỏp tra cu Ênh dáa vo ẻ tẽng tá nh™n th˘c, K y∏u HỴi th£o Qc gia nghiên c˘u v ng dng Cụng nghê thụng tin lản th VIII, Tr.461-466, FAIR 2015 [CT4] VÙ V´n Hiªu, Nguyπn H˙u Qu˝nh, Ngụ Quậc TĐo, Dẽng Phỳ Thuản, o Th Thu Qunh Ph˜Ïng pháp tra c˘u £nh theo nỴi dung s˚ dˆng SVD k∏t hỊp ∞c tr˜ng Haar, K y∏u HỴi th£o Quậc gia Mẻt sậ vòn chn lc ca Cụng nghê thụng tin v Truyn thụng lản th 18, Tr.262-271, Nxb Khoa hÂc Kˇ thu™t, 12/2015 [CT5] VÙ V´n Hiêu, Lờ HÊi Sẽn, Ngụ Quậc TĐo Khai phỏ thụng tin phõn oĐn Ênh cÊi thiên thậng tra cu £nh s˚ dˆng ph˜Ïng pháp SIMPLE, K y∏u HỴi th£o Quậc gia Mẻt sậ vòn chn lc ca Cụng nghê thụng tin v Truyn thụng lản th 18, Tr.112-117, Nxb Khoa hÂc Kˇ thu™t, 12/2015 [CT6] VÙ V´n Hiêu, Ngụ Hong Huy, Ngụ Quậc TĐo, Nguyn Hu Qunh Mẻt phẽng phỏp mểi chuân hoỏ d liêu v hiêu chønh trÂng sË cho tÍ hỊp ∞c tr˜ng tra c˘u £nh theo nỴi dung Chun san cơng trình nghiên c˘u, phát tri∫n ˘ng dˆng CNTT&TT, T™p V-1, SË 15 (35), tháng 6/2016, Tr.63-75, ISSN :1859-3526 [CT7] Van-Hieu Vu, Truong-Thang Nguyen, Huu-Quynh Nguyen, Quoc-Tao Ngo Content based image retrieval using multiple features and Pareto approach Journal of Computer Science and Cybernetics ISSN : 1813-9663 V.32, N.2 (2016), p169–187 DOI no 10.15625/1813-9663/32/2/8611 31 ... 3: … Luận án bảo vệ trước Hội đồng chấm luận án tiến sĩ, họp Học viện Khoa học Công nghệ - Viện Hàn lâm Khoa học Công nghệ Việt Nam vào hồi … ’, ngày … tháng … năm 201… Có thể tìm hiểu luận án. .. th˚ nghiªm vĨi cỏc d liêu Ênh chuân cỏc bi bỏo khoa hÂc ánh giá k∏t qu£ NỴi dung nghiên c˘u : Nghiên c˘u tÍng quan v∑ tra c˘u £nh dáa vo nẻi dung Nghiờn cu cỏch kt hềp nhiu ∞c tr˜ng t¯ ó phát hiªn... lĨn ˜Ịc gán cho nh˙ng ∞c tr˜ng có s¸ phân biªt tËt gi˙a £nh liên quan khơng liên quan ∫ t´ng c˜Ìng Ỵ xác tra c˘u 1.7 Tra cu Ênh dáa vo nẻi dung s dng k thut mỏy hc 1.7.1 Huòn luyên v kim tra D liêu
