TRƢỜNG ĐẠI HỌC LẠC HỒNG DỰ ĐOÁN KẾT QUẢ HỌC TẬP CỦA SINH VIÊN TRƢỜNG NGHỀ SỬ DỤNG PHƢƠNG PHÁP HỒI QUY BAYES GIÁO VIÊN HƢỚNG DẪN: TS HOÀNG THỊ LAN GIAO HỌC VIÊN THỰC HIỆN: VÕ THỊ NGỌC LIÊN Đồng Nai, tháng 09/2013 NỘI DUNG TRÌNH BÀY I Tổng quan khai phá liệu phát tri thức II Hệ hỗ trợ định mô hình hỗ trợ định III Phân tích hồi quy IV Dự đoán kết học tập dựa vào lý thuyết phân lớp Naive Bayes TỔNG QUAN KHAI PHÁ DỮ LIỆU VÀ PHÁT HIỆN TRI THỨC Giới thiệu khai phá liệu (KPDL)  Khai phá tri thức từ lượng lớn liệu  Sử dụng liệu lịch sử để khám phá qui tắc cải thiện định tương lai Quy trình phát tri thức Bước 1: Hình thành, xác định, định nghĩa toán Bước 2: Thu thập, tiền xử lý liệu Bước 3: Khai phá liệu rút tri thức Bước 4: Phân tích kiểm định kết Bước 5: Sử dụng tri thức phát Hình 1: Quy trình phát tri thức HỆ HỖ TRỢ RA QUYẾT ĐỊNH VÀ MÔ HÌNH HỖ TRỢ QUYẾT ĐỊNH Hệ hỗ trợ định HHTQĐ hệ thống máy tính tương tác nhằm giúp người định sử dụng liệu mơ hình để giải vấn đề khơng có cấu trúc Các thành phần hệ hỗ trợ định     Phân hệ Quản lý liệu Phân hệ Quản lý mô hình Phân hệ Quản lý dựa vào kiến thức Phân hệ Quản lý giao diện người dùng Vận dụng phƣơng pháp toán học để phân lớp liệu  Khái niệm phân lớp – Tiến trình xử lý nhằm xếp mẫu liệu hay đối tượng vào lớp định nghĩa trước – Kỹ thuật phổ biến học máy khai phá liệu  Các bƣớc để giải toán phân lớp Bước 1: Học (Training): xây dựng mơ hình phân lớp Bước 2: Phân lớp (classification): Bước sử dụng mơ hình phân lớp xây dựng bước để kiểm tra, đánh giá thực phân lớp  Các kỹ thuật phân lớp – Phương pháp dựa định – Phương pháp dựa luật – Phương pháp Naive Bayes – Mạng Neuron – …  Phƣơng pháp phân lớp Naive Bayes  Định lý Bayes Tính xác suất xảy kiện ngẫu nhiên A biết kiện liên quan B xảy – Xác suất ký hiệu P(A|B) – Đọc "xác suất A có B" 10 Bước 2: Phân lớp cho mẫu X Vậy X1(lớp Đ) = 5/8*2/5*0/5*2/5*2/5 = X2(lớp R) = 3/8*2/3*1/3*1/3*2/3 = 0.0123 CNB = max (X1(lớp Đ) ; X2(lớp R)) = X2(lớp R)  X thuộc lớp Rớt nghĩa với sinh viên sống Nông thôn , điểm vào thấp, kinh tế gia đình Trung bình giới tính nam kết Rớt 18 Một số ƣu điểm phƣơng pháp Naive Bayes – Tính xác suất rõ ràng cho giả định – Kết hợp nhiều dự đoán nhiều giả định – Các thuộc tính tập mẫu học phải độc lập với điều kiện – Độ xác thuật toán phân lớp phụ thuộc nhiều vào tập liệu học ban đầu 19 PHÂN TÍCH HỒI QUY 20 Khái niệm phân tích hồi qui Phân tích hồi quy tìm mối quan hệ phụ thuộc biến, gọi biến phụ thuộc vào nhiều biến khác Ví dụ Khi cố gắng giải thích tiêu dùng người, sử dụng biến giải thích thu nhập độ tuổi 21 Mơ hình hồi quy đơn Phương trình hồi quy đơn biến (đường thẳng) có dạng tổng quát: Y=a+bX Trong đó: Y: biến số phụ thuộc; X: biến số độc lập; a: tung độ gốc hay nút chặn; b: độ dốc hay hệ số góc 22 Mơ hình hồi qui tuyến tính đa biến Mơ hình hồi qui tuyến tính nhiều chiều có dạng : Y = α + 𝛽1 X1 + 𝛽2 X2 + … + 𝛽 𝑘 Xk + U  Y (biến phụ thuộc): tiêu phân tích  α ( biến độc lập): hệ số chặn  β: hệ số ước lượng  Xi yếu tố ảnh hưỏng đến suất.Với i chạy từ đến k  U sai số 23 DỰ ĐOÁN KẾT QUẢ HỌC TẬP DỰA VÀO LÝ THUYẾT PHÂN LỚP NAIVE BAYES 24  Bài toán Dựa vào thông tin liệu đầu vào là: – Điểm trung bình học kỳ – Thơng tin cá nhân: Nơi ở, giới tính, kinh tế gia đình… Dự đoán kết cuối sinh viên đạt đƣợc trình đào tạo 25 Xây dựng chƣơng trình dự đốn Phần 1: Thu thập thơng tin cần thiết sinh viên Phần 2: Thực dự đoán kết học tập   Bước 1: – Kiểm tra thông tin đầu vào – Trùng huấn luyện cho kết dự đốn Bước 2: – Dùng thuật toán phân lớp Naive Bayes để dự đốn 26 Chƣơng trình thực nghiệm Trang 1: Trang chủ, thể thơng tin hình ảnh trường 27 Trang 2: Dự đoán kết học tập 28 Trang 3: Nhập luật 29 Kết thực nghiệm – Dự đốn kết học tập cuối suốt q trình học từ có lộ trình học tốt – Bộ huấn luyện mẫu cịn xác suất dự đốn kết bị ảnh hưởng Hƣớng phát triển – Thử nghiệm chương trình xây dựng huấn luyện mẫu với liệu đầu điểm mơn học học kì trước để dự đốn kết học kì sau 30 Tài liệu tham khảo [1] Hoàng Thị Lan Giao, Giang Hào Cơn (2011) - Nghiên cứu ứng dụng thuật tốn phân lớp vào tốn dự đốn rủi ro tín dụng ngân hàng tổ chức tín dụng - Một số vấn đề chọn lọc Công nghệ thông tin truyền thông, Cần Thơ, 7-8 tháng 10 năm 2011 [2] Nguyễn Văn Huy (2009)- Thuật toán Bayes ứng dụng Khóa luận tốt nghiệp đại học quy ngành CNTT [3] Hệ hỗ trợ định http://idoc.vn/tai-lieu/he-ho-tro-ra-quyet-dinh.html [4] Bài giảng Khai phá liệu, trường đại học Hàng Hải (2011) http://www.ebook.edu.vn/?page=1.37&view=22169 [5] Tìm hiểu luật kết hợp khai phá liệu http://baigiang.violet.vn/present/same/entry_id/3541561 31 XIN CHÂN THÀNH CẢM ƠN QUÝ THẦY CÔ VÀ CÁC BẠN 32 ... thuật phân lớp – Phương pháp dựa định – Phương pháp dựa luật – Phương pháp Naive Bayes – Mạng Neuron – …  Phƣơng pháp phân lớp Naive Bayes  Định lý Bayes Tính xác suất xảy kiện ngẫu nhiên A biết... xây dựng mơ hình phân lớp Bước 2: Phân lớp (classification): Bước sử dụng mơ hình phân lớp xây dựng bước để kiểm tra, đánh giá thực phân lớp  Các kỹ thuật phân lớp – Phương pháp dựa định – Phương. .. phân lớp phụ thuộc nhiều vào tập liệu học ban đầu 19 PHÂN TÍCH HỒI QUY 20 Khái niệm phân tích hồi qui Phân tích hồi quy tìm mối quan hệ phụ thuộc biến, gọi biến phụ thuộc vào nhiều biến khác Ví