Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ i ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG LÊ THỊ UYÊN KHAI PHÁ LUẬT QUYẾT ĐỊNH TRÊN BẢNG DỮ LIỆU CÓ THUỘC TÍNH THAY ĐỔI Chuyên ngành: Khoa học máy tính Mã số: 60.48.01.01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Ngƣời hƣớng dẫn khoa học: GS.TS VŨ ĐỨC THI THÁI NGUYÊN - 2013 Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ i LỜI CAM ĐOAN Tôi xin cam đoan rằng đây là công trình nghiên cứu của tôi, có sự hỗ trợ từ Giáo viên hướng dẫn là GS.TS Vũ Đức Thi. Các nội dung nghiên cứu và kết quả trong đề tài này là trung thực và chưa từng được ai công bố trong bất cứ công trình nghiên cứu nào trước đây. Những số liệu trong các bảng biểu phục vụ cho việc phân tích, nhận xét, đánh giá được chính tác giả thu thập từ các nguồn khác nhau có ghi trong phần tài liệu tham khảo. Ngoài ra, đề tài còn sử dụng một số nhận xét, đánh giá cũng như số liệu của các tác giả, cơ quan tổ chức khác, và cũng được thể hiện trong phần tài liệu tham khảo. Nếu sai tôi xin hoàn toàn chịu trách nhiệm. Thái Nguyên, ngày 15 tháng 9 năm 2013 Tác giả luận văn Lê Thị Uyên Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ ii LỜI CẢM ƠN Với lòng biết ơn sâu sắc nhất, em xin gửi đến các Thầy Cô ở Trường Đại Học Công Nghệ Thông Tin và Truyền thông cùng các Thầy ở Viện Khoa Học và Công Nghệ Việt Nam đã cùng với tri thức và tâm huyết của mình để truyền đạt vốn kiến thức quý báu cho chúng em trong suốt khóa học vừa qua. Luận văn được hoàn thành dưới sự hướng dẫn, chỉ bảo tận tình của GS.TS Vũ Đức Thi. Xin bày tỏ lòng biết ơn chân thành và sâu sắc tới Thầy đã quan tâm, nghiêm khắc và tạo mọi điều kiện để em có thể hoàn thành những mục tiêu của đề tài. Sau cùng, em xin kính chúc các Thầy Cô thật dồi dào sức khỏe, niềm tin để tiếp tục thực hiện sứ mệnh cao đẹp của mình là truyền đạt kiến thức cho thế hệ mai sau. Em xin chân thành cảm ơn! Thái Nguyên, ngày 15 tháng 9 năm 2013 Tác giả luận văn Lê Thị Uyên Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ iii MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN ii MỤC LỤC iii DANH MỤC CÁC KÝ HIỆU VIẾT TẮT v DANH MỤC HÌNH vi CHƢƠNG 1: TỔNG QUAN 1 1.1. Khai phá dữ liệu 1 1.1.1. Kỹ thuật phân lớp dữ liệu 2 1.1.2. Một số kỹ thuật phân lớp phổ biến 2 1.1.3. Kỹ thuật phân nhóm dữ liệu 3 1.2. Khai phá luật quyết định 3 1.3. Lý thuyết tập thô 5 1.3.1. Hệ thông tin 5 1.3.2. Quan hệ bất khả phân biệt 6 1.3.3. Xấp xỉ tập hợp 8 1.3.4. Ứng dụng của tập thô (reduct) 9 1.3.5. Bảng quyết định 13 1.3.6. Các bước để xây dựng bảng quyết định 15 1.3.7. Luật quyết định 16 1.4. So sánh kỹ thuật phân lớp dựa trên luật kết hợp và phân lớp dựa trên luật tập thô 19 1.5. Kết luận chương 20 CHƢƠNG 2: KHAI PHÁ LUẬT QUYẾT ĐỊNH TRÊN BẢNG DỮ LIỆU CÓ CÁC GIÁ TRỊ THUỘC TÍNH THAY ĐỔI 21 2.1. Giới thiệu 21 2.2. Khái niệm làm thô, làm mịn giá trị thuộc tính 22 2.3. Tiến trình cập nhật tri thức khi làm thô, làm mịn các giá trị thuộc tính 22 2.3.1. Yêu cầu và giả thiết bài toán 22 2.3.2. Cơ sở toán học 23 Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ iv 2.3.3. Thuật toán 26 2.3.4. Độ phức tạp thuật toán 34 2.3.5. Ví dụ minh họa 37 2.4. Kết luận chương 2 39 CHƢƠNG 3: CÀI ĐẶT VÀ THỬ NGHIỆM 40 3.1. Cài đặt 40 3.1.1. Yêu cầu hệ thống 40 3.1.2. Cấu trúc các lớp chương trình 40 3.2. Thử nghiệm chương trình 44 3.2.1. Hướng dẫn chạy chương trình 44 3.2.2. Mô tả 7 thuật toán 46 3.3. Đánh giá thuật toán 52 3.4. Kết luận chương 3 52 KẾT LUẬN 53 TÀI LIỆU THAM KHẢO 54 Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ v DANH MỤC CÁC KÝ HIỆU VIẾT TẮT Ký hiệu Ý nghĩa BN p (X) P – miền biên của X P X P – Xấp xỉ trên của X P X P – Xấp xỉ dưới của X IND(P) P – Quan hệ bất khả phân biệt Sup(C i , D j ) Độ hỗ trợ của luật quyết định C i D j Cov(C i , D j ) Độ phủ của luật quyết định C i D j Acc(C i , D j ) Độ chính xác của luật quyết định C i D j Acc (t) (C, D) Ma trận Độ chính xác tại thời điểm t của tất cả luật quyết định C i D j Sup (t) (C, D) Ma trận Độ hỗ trợ tại thời điểm t của tất cả luật quyết định C i D j Cov (t) (C, D) Ma trận Độ phủ tại thời điểm t của tất cả luật quyết định C i D j Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ vi DANH MỤC HÌNH Hình 2.1: Các bước cơ bản của thuật toán trích rút luật quyết định khi làm thô/mịn các giá trị thuộc tính 26 Hình 3.1: Mối liên hệ giữa các lớp trong chương trình 41 Hình 3.2: Mối quan hệ các lớp trong DecisionRules 41 Hình 3.3: Mối quan hệ các lớp trong DecisionTable 41 Hình 3.4: Mối quan hệ các lớp trong SupportMatrix 42 Hình 3.5: Mối quan hệ trong lớp SqlHelper 43 Hình 3.6: Trong lớp Ultilities 43 Hình 3.7: Trong lớp AlgoCharn 44 Hình 3.8: Cấu trúc bảng DS1 44 Hình 3.9: Cấu trúc bảng TableMetaData 44 Hình 3.10: Giao diện chương trình nạp bảng quyết định 45 Hình 3.11: Minh họa tính toán với dữ liệu 45 Hình 3.12: Minh họa tính toán với dữ liệu khi tính toán 46 Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ 1 CHƢƠNG 1: TỔNG QUAN 1.1. Khai phá dữ liệu Khám phá tri thức là một quá trình tìm kiếm trong cơ sở dữ liệu các mẫu đúng đắn, có ích tiềm tàng và có thể hiểu được đối với người sử dụng. Quá trình khám phá tri thức gồm nhiều pha, mỗi pha có vai trò và tầm quan trọng riêng. Khai phá dữ liệu (DM) là một pha quan trọng trong toàn bộ tiến trình khai phá tri thức, sử dụng các thuật toán đặc biệt để chiết xuất các mẫu từ dữ liệu. Về bản chất đây là giai đoạn duy nhất để rút trích và tìm ra được các mẫu, các mô hình, các tri thức tiềm ẩn có trong cơ sở dữ liệu phục vụ cho việc mô tả và dự đoán. Quá trình khai phá dữ liệu trải qua ba bước: Bước một: Lọc dữ liệu (giai đoạn tiền xử lý). Khi dữ liệu được thu thập từ nhiều nguồn khác nhau, nên sẽ có những sự sai sót, dư thừa và trùng lặp. Lọc dữ liệu nhằm loại bỏ những dư thừa để có được dữ liệu ở định dạng thống nhất. Dữ liệu sau khi lọc và chỉnh sửa sẽ gọn hơn, do vậy có thể xử lý nhanh chóng hơn. Ví dụ, trong bài toán tìm quy luật mua hàng của khách hàng trong một siêu thị, ta cần phải xem khách hàng thường cùng mua những mặt hàng nào, dựa trên đó ta sẽ sắp xếp những món hàng để thuận tiện cho việc mua hàng của khách hàng. Từ dữ liệu nguồn do siêu thị cung cấp, có thể có nhiều thuộc tính không cần thiết cho khai phá dữ liệu như: Mã khách hàng, nhà cung cấp, đơn giá hàng, người bán hàng, … Các dữ liệu này cần cho quản lý bán hàng nhưng không cần cho khai phá dữ liệu, vì vậy có thể loại bỏ các thuộc tính này trước khi tiến hành công việc khai phá dữ liệu. Bước hai: Khai phá dữ liệu (là công việc chính) sử dụng các thuật toán khác nhau để khai phá các tri thức tiềm ẩn trong dữ liệu. Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ 2 Bước ba (giai đoạn hậu xử lý) là quá trình đánh giá kết quả khai phá theo yêu cầu của người dùng. Các kỹ thuật khai phá dữ liệu khác nhau được đánh giá theo các quy tắc, trong số các kết quả thỏa mãn yêu cầu đánh giá, giữ lại kết quả phù hợp nhất với yêu cầu của người sử dụng. Có nhiều kỹ thuật khai phá dữ liệu được nghiên cứu, trong đó có hai kỹ thuật được các nhà nghiên cứu sử dụng nhiều nhất là: Kỹ thuật phân lớp dữ liệu và kỹ thuật phân nhóm dữ liệu. 1.1.1. Kỹ thuật phân lớp dữ liệu Phân lớp dữ liệu là kỹ thuật nhằm xây dựng mô hình cho phép phân các đối tượng vào lớp được biết trước nào đó. Kỹ thuật này phép dự đoán giá trị bị thiếu của thuộc tính trong dữ liệu hay dự đoán giá trị của dữ liệu sẽ xuất hiện trong tương lai. Phân lớp dữ liệu là kỹ thuật được xem là một trong những kỹ thuật hay được dùng nhất trong học máy và khai phá dữ liệu. Quá trình phân lớp dữ liệu được thực hiện qua hai bước. Thứ nhất dựa vào tập hợp dữ liệu huấn luyện (các đối tượng dữ liệu đã được gán nhãn lớp) để xây dựng một mô hình mô tả những đặc trưng của các lớp hoặc các khái niệm tương ứng với lớp. Thứ hai dựa trên mô hình phân lớp dữ liệu hoặc mô hình diễn giải và phân biệt các khái niệm đã được xác định để gán nhãn lớp cho những đối tượng được quan tâm. 1.1.2. Một số kỹ thuật phân lớp phổ biến Cây quyết định là một cấu trúc cây, trong đó mỗi nút trong của cây biểu thị một phép phân nhánh tương ứng với một thuộc tính; mỗi nhánh biểu thị một điều kiện; các nút lá tương ứng với các lớp. Để phân lớp một đối tượng chưa biết, các giá trị thuộc tính của đối tượng đó được kiểm tra bám theo cây quyết định. Đường dẫn đi từ gốc đến một nút lá nào đó tương ứng với đối tượng cho phép xác định lớp tương ứng của nó. Cây quyết định có thể dễ dàng chuyển thành một tập các luật phân lớp. Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ 3 Tập thô được sử dụng trong việc phân lớp nhằm mục đích khám phá các quan hệ có cấu trúc đối với dữ liệu không chính xác hoặc dữ liệu có các giá trị thuộc tính đã được rời rạc hóa. Do đó, đối với các thuộc tính có giá trị liên tục thì nó phải được rời rạc hóa trước khi sử dụng. 1.1.3. Kỹ thuật phân nhóm dữ liệu Phân nhóm dữ liệu là quá trình nhóm những đối tượng thành các lớp. Các đối tượng trong một lớp tương đồng nhau, nhưng độ tương đồng của chúng phải lớn hơn độ tương đồng với các đối tượng trong các lớp khác. Trong phân nhóm, không đòi hỏi biết được số lớp cần cấu tạo ra. Mặt khác, với kỹ thuật này, các đối tượng được nhóm lại trong cùng một lớp dựa vào sự giống nhau của chúng, được xác định bởi những đặc trưng giống nhau. Thông thường, người ta sử dụng sự giống nhau định lượng dưới dạng khoảng cách. Độ đo giống nhau có thể xác định dựa trên ý kiến chuyên gia trong lĩnh vực. 1.2. Khai phá luật quyết định Khai phá các luật quyết định là quá trình xác định những luật quyết định trên bảng quyết định cho trước, phục vụ cho việc phân lớp của các đối tượng mới. Khai phá luật quyết định đã được nhiều chuyên gia trong và ngoài nước quan tâm trên cả hai phương diện lý thuyết và ứng dụng, các nghiên cứu này chủ yếu xem xét trên các bảng dữ liệu tĩnh. Trong thực tế, dữ liệu thường xuyên thay đổi theo thời gian. Đã có một số nghiên cứu về các khía cạnh khác nhau để cập nhật tri thức trên các bảng dữ liệu động, tập trung chủ yếu vào ba trường hợp sau đây: + Tập các giá trị thuộc tính thay đổi trong khi tập các đối tượng và tập các thuộc tính không đổi. + Tập các đối tượng thay đổi trong khi tập các thuộc tính và tập các giá trị thuộc tính không đổi. [...]... không đầy đủ dựa trên các quan hệ đặc trưng khi tập các thuộc tính thay đổi theo thời gian Ở trong nước, trong những năm gần đây đã có nhiều tác giả, nhóm tác giả quan tâm, nghiên cứu, trình bày các giải pháp khác nhau nhằm giải quyết có hiệu quả bài toán khai phá tri thức trên bảng dữ liệu động Trong trường hợp này, để sinh các luật kết hợp, thuật toán khai phá các luật kết hợp khi bảng dữ liệu được gia... các độ đo của các luật quyết định Đây là những vấn đề cơ bản cần nắm bắt và trình bày các kết quả trong chương sau của luận văn Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ 21 CHƢƠNG 2: KHAI PHÁ LUẬT QUYẾT ĐỊNH TRÊN BẢNG DỮ LIỆU CÓ CÁC GIÁ TRỊ THUỘC TÍNH THAY ĐỔI 2.1 Giới thiệu Trong các ứng dụng thực tế theo thời gian các giá trị của các thuộc tính có sự thay đổi Sự thay đổi này nói chung... trung tâm học liệu http://www.lrc-tnu.edu.vn/ và 19 1.4 So sánh kỹ thuật phân lớp dựa trên luật kết hợp và phân lớp dựa trên luật tập thô - Kỹ thuật phân lớp dựa trên luật kết hợp được phát triển trên cơ sở sửa đổi thuật toán khai phá luật kết hợp Apriori Bao gồm: + Thứ nhất: Sinh tập mục thường xuyên, thực hiện việc phát hiện tất cả các tập mục có chứa thuộc tính tương ứng với thuộc tính mục tiêu... việc phân hoạch dữ liệu thành nhiều phần nhỏ tương ứng với các mục dữ liệu và lưu chúng ở bộ nhớ ngoài, mỗi lần xử lý chỉ đưa một số tập phân hoạch vào bộ nhớ trong Đồng thời, cũng xem xét đến trường hợp bảng dữ liệu gia tăng theo chiều ngang dựa trên việc xây dựng cây quyết định để sinh luật Trong khuôn khổ của luận văn, xin trình bày thuật toán khai phá luật quyết định trên bảng dữ liệu động theo... và rời rạc hóa dữ liệu + Thứ hai: Từ bảng quyết định thu được, tiến hành sinh các luật quyết định bằng cách liên kết các bộ giá trị thuộc tính trong từng lớp Xem xét về vấn đề sinh luật, sự khác biệt đáng kể giữa hai kỹ thuật phân lớp dựa trên luật kết hợp và Kỹ thuật phân lớp dựa trên tập thô là do cách xử lý dữ liệu, kỹ thuật phân lớp dựa trên luật kết hợp xem tần suất của các thuộc tính quan tâm... cận gia tăng đối với trường hợp thay đổi của bảng dữ liệu có các giá trị thuộc tính thay đổi Trong trường hợp này, để đánh giá kết quả trích rút các luật quyết định, luận văn sử dụng độ chính xác và độ phủ của luật Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ 5 1.3 Lý thuyết tập thô 1.3.1 Hệ thông tin * Định nghĩa 1.1: Một tập dữ liệu được cho dưới dạng bảng, trong đó các hàng biểu diễn... đều được thay bằng một cặp khái niệm không chính xác gọi là xấp xỉ dưới và xấp xỉ trên của khái niệm không rõ ràng Xấp xỉ dưới gồm tất cả các đối tượng chắc chắn thuộc về khái niệm, xấp xỉ trên bao gồm tất cả các đối tượng có thể thuộc về khái niệm * Mục đích: - Chỉ ra được khách hàng nào có thuộc tính quyết định có giá trị dương - Chỉ ra được khách hàng nào có thuộc tính quyết định không có giá trị... trị thuộc tính sẽ làm cho xấp xỉ dưới của một khái niệm bị thu hẹp lại và xấp xỉ trên của nó được mở rộng ra Kết quả sẽ ngược lại nếu ta làm mịn các giá trị thuộc tính Như vậy, khi làm thô, làm mịn các giá trị thuộc tính thì các phân hoạch được sinh bởi các thuộc tính cũng trở nên thô hay mịn hơn Điều này có nghĩa là các lớp tương đương và các luật quyết định đã thu được trước đó có thể bị thay đổi. .. trong khi đó, kỹ thuật phân lớp dựa trên tập thô thì xem sự phân biệt giữa các giá trị thuộc tính trên cơ sở khái niệm phân biệt là quan trọng Số hóa bởi trung tâm học liệu http://www.lrc-tnu.edu.vn/ 20 1.5 Kết luận chƣơng Chương một trình bày tổng quan về khai phá dữ liệu, khai phá các luật quyết định, đồng thời trình bày một số vấn đề cơ bản của lý thuyết tập thô, luật quyết định và đưa ra công thức... thô, làm mịn các giá trị thuộc tính 2.3.1 Yêu cầu và giả thiết bài toán Cho bảng quyết định DS = (U, C D, V, f), Va, Vd tương ứng là tập các giá trị của thuộc tính điều kiện a và thuộc tính quyết định d Yêu cầu bài toán là: Tiến hành trích rút các luật quyết định mới khi làm thô, làm mịn các giá trị thuộc tính điều kiện và khi làm thô, làm mịn các giá trị thuộc tính quyết định Các luật quyết định được . bán hàng nhưng không cần cho khai phá dữ liệu, vì vậy có thể loại bỏ các thuộc tính này trước khi tiến hành công việc khai phá dữ liệu. Bước hai: Khai phá dữ liệu (là công việc chính) sử dụng. chương 20 CHƢƠNG 2: KHAI PHÁ LUẬT QUYẾT ĐỊNH TRÊN BẢNG DỮ LIỆU CÓ CÁC GIÁ TRỊ THUỘC TÍNH THAY ĐỔI 21 2.1. Giới thiệu 21 2.2. Khái niệm làm thô, làm mịn giá trị thuộc tính 22 2.3. Tiến trình. giá trị thuộc tính thay đổi trong khi tập các đối tượng và tập các thuộc tính không đổi. + Tập các đối tượng thay đổi trong khi tập các thuộc tính và tập các giá trị thuộc tính không đổi.