BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TP HCM - NGUYỄN THỊ DIỆU HIỀN KẾT HỢP KỸ THUẬT GOM CỤM VÀ MẠNG NƠRON ĐỂ ĐÁNH GIÁ CẢM QUAN THỰC PHẨM LUẬN VĂN THẠC SĨ Chuyên ngành: Công nghệ Thông tin Mã số ngành: 60480201 TP HỒ CHÍ MINH, tháng 03 năm 2016 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TP HCM - NGUYỄN THỊ DIỆU HIỀN KẾT HỢP KỸ THUẬT GOM CỤM VÀ MẠNG NƠRON ĐỂ ĐÁNH GIÁ CẢM QUAN THỰC PHẨM LUẬN VĂN THẠC SĨ Chuyên ngành: Công nghệ Thông tin Mã số ngành: 60480201 TP HỒ CHÍ MINH, tháng 03 năm 2016 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TP HCM - NGUYỄN THỊ DIỆU HIỀN KẾT HỢP KỸ THUẬT GOM CỤM VÀ MẠNG NƠRON ĐỂ ĐÁNH GIÁ CẢM QUAN THỰC PHẨM LUẬN VĂN THẠC SĨ Chuyên ngành: Công nghệ Thông tin Mã số ngành: 60480201 CÁN BỘ HƯỚNG DẪN KHOA HỌC: TS LƯ NHẬT VINH TP HỒ CHÍ MINH, tháng 03 năm 2016 CƠNG TRÌNH ĐƯỢC HỒN THÀNH TẠI TRƯỜNG ĐẠI HỌC CƠNG NGHỆ TP HCM Cán hướng dẫn khoa học : TS Lư Nhật Vinh (Ghi rõ họ, tên, học hàm, học vị chữ ký) Luận văn Thạc sĩ bảo vệ Trường Đại học Công nghệ TP HCM ngày 20 tháng 03 năm 2016 Thành phần Hội đồng đánh giá Luận văn Thạc sĩ gồm: (Ghi rõ họ, tên, học hàm, học vị Hội đồng chấm bảo vệ Luận văn Thạc sĩ) TT Họ tên PGS.TS Vũ Đức Lung PGS.TSKH Nguyễn Xuân Huy TS Cao Tùng Anh PGS.TS Quản Thành Thơ TS Vũ Thanh Hiền Chức danh Hội đồng Chủ tịch Phản biện Phản biện Ủy viên Ủy viên, Thư ký Xác nhận Chủ tịch Hội đồng đánh giá Luận sau Luận văn sửa chữa (nếu có) Chủ tịch Hội đồng đánh giá LV TRƯỜNG ĐH CÔNG NGHỆ TP HCM PHÒNG QLKH – ĐTSĐH CỘNG HÕA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập – Tự – Hạnh phúc TP HCM, ngày … tháng… năm 20 … NHIỆM VỤ LUẬN VĂN THẠC SĨ Họ tên học viên: Nguyễn Thị Diệu Hiền, Giới tính: Nữ Ngày, tháng, năm sinh: 28/05/1982, Nơi sinh: Long An Chuyên ngành: Công nghệ Thông Tin, MSHV: 1441860010 I- Tên đề tài: Kết hợp kỹ thuật gom cụm mạng nơron để đánh giá cảm quan thực phẩm II- Nhiệm vụ nội dung: Tìm hiểu lý thuyết đánh giá cảm quan thực phẩm Tìm hiểu lý thuyết mạng nơron Tìm hiểu kỹ thuật gom cụm K-Means huấn luyện mạng nơron dùng giải thuật lan truyền ngược (backpropagation) Hiện thực thực nghiệm chương trình dự báo đánh giá cảm quan sản phẩm rượu trắng so sánh kết thực nghiệm chương trình huấn luyện có kết hợp kỹ thuật gom cụm không kết hợp kỹ thuật gom cụm III- Ngày giao nhiệm vụ: 08/2015 IV- Ngày hoàn thành nhiệm vụ: 15/01/2016 V- Cán hướng dẫn: TS Lư Nhật Vinh CÁN BỘ HƯỚNG DẪN (Họ tên chữ ký) KHOA QUẢN LÝ CHUYÊN NGÀNH (Họ tên chữ ký) i LỜI CAM ĐOAN Em cam đoan rằng, kết tham khảo từ cơng trình khác trình bày luận văn nội dung trình bày luận văn em thực Các số liệu, kết nêu luận văn trung thực chưa công bố cơng trình khác Học viên thực Luận văn (Ký ghi rõ họ tên) ii LỜI CÁM ƠN Tôi xin gửi lời cảm ơn sâu sắc tới TS Lư Nhật Vinh, người hướng dẫn khoa học, tận tình bảo, giúp đỡ tạo điều kiện cho tơi hồn thành luận văn Tơi xin chân thành cảm ơn quý Thầy, Cô trường Đại học Cơng nghệ Thành phố Hồ Chí Minh giảng dạy truyền đạt kiến thức cho Cuối cùng, xin cảm ơn người thân bạn bè đồng nghiệp chia sẻ, giúp đỡ tơi hồn thành luận văn Tôi xin chân thành cảm ơn Học viên thực Nguyễn Thị Diệu Hiền iii TÓM TẮT Ngày nay, không dừng lại mức nghiên cứu lý thuyết, nghiên cứu ứng dụng mạng nơron để giải toán thực tế ứng dụng rộng rãi nhiều lĩnh vực khác Các ứng dụng mạng nơron đời ngày nhiều ngày hoàn thiện Việc ứng dụng mạng nơron để đánh giá cảm quan thực phẩm vấn đề chưa có nhiều ứng dụng Việt Nam Tuy nhiên phương pháp thực nghiệm chương trình tốn nhiều thời gian để huấn luyện cho kết dự báo với độ xác chưa cao Từ vấn đề nêu trên, nghiên cứu tác giả trình bày cách tiếp cận kết hợp kỹ thuật gom cụm mạng nơron để đánh giá cảm quan thực phẩm Dữ liệu tiến hành gom cụm dùng giải thuật K-Means, huấn luyện liệu cụm dùng giải thuật lan truyền ngược Với phương pháp kết dự báo số đánh giá cảm quan thực phẩm xác giảm thời gian huấn luyện iv ABSTRACT Today, not only in the theoretical study, the neural network applied research to solve practical problems are widely applied in many different fields The neural network applications launch more and more and more complete The application of neural network for sensory evaluation of food is not a new problem and there are many applications in Vietnam However this method when the experimentation programs take time to train and to the results predicted with accuracy is not high From the above problem, in this study the author presents a new approach that combines techniques of clustering and neural network for sensory evaluation of food The data will be carried out by clustering algorithm K-Means, the next train on each cluster user data back-propagation algorithm With this new method, the results forecasted indicators sensory evaluation of food will be more accurate and reduce training time v MỤC LỤC Danh mục từ viết tắt vii Danh mục bảng viii Danh mục biểu đồ, hình ảnh ix MỞ ĐẦU Giới thiệu vấn đề .1 Đối tượng phạm vi nghiên cứu Mục tiêu đề tài: Nội dung nghiên cứu: Phương pháp luận phương pháp nghiên cứu Bố cục đề tài CHƯƠNG 1: TỔNG QUAN 1.1 Giới thiệu chung .5 1.2 Khái niệm đánh giá cảm quan thực phẩm 1.3 Các phương pháp đánh giá cảm quan thực phẩm 1.4 Quy trình thực đánh giá cảm quan thực phẩm 1.5 Đánh giá hiệu quy trình phương pháp đánh giá cảm quan .10 1.6 Kết luận 10 CHƯƠNG 2: CƠ SỞ LÝ THUYẾT 11 2.1 Tổng quan mơ hình mạng nơron nhân tạo 11 2.1.1 Giới thiệu mạng nơron nhân tạo 11 2.1.2 Các nơron sinh học não người 14 2.1.3 Mơ hình mạng nơron nhân tạo 16 2.1.4 Phân loại cấu trúc mạng nơron nhân tạo 17 2.1.5 Các hình thức học mạng nơron nhân tạo 22 2.1.6 Một số phương pháp huấn luyện mạng nơron nhân tạo 28 2.1.7 Các vấn đề xây dựng mạng MLP 29 2.1.8 Xác định tham số cho mạng 32 2.1.9 Vấn đề lãng quên (catastrophic forgetting) .34 Trang 65 4.4.1 Huấn luyện liệu nhóm với 1,084 dịng liệu Bước 1: Đưa liệu vào chương trình chia thành phần, phần dùng huấn luyện phần dùng kiểm thử hình 4.8 Hình 4.8: Dữ liệu nhóm Bước 2: Chọn thơng số Hình 4.9 Hình 4.9: Chọn thơng số huấn luyện nhóm Trang 66 Bước 3: Tiến hành huấn luyện hình 4.10 Hình 4.10: Huấn luyện nhóm Bước 4: Kiểm thử xuất kết Hình 4.11 Hình 4.11: Kết huấn luyện liệu nhóm Thời gian huấn luyện liệu nhóm 1: 1498 giây Sai số học: 0,0095 Trang 67 4.4.2 Huấn luyện liệu nhóm với 2,896 dịng liệu Bước 1: Đưa liệu vào chương trình chia thành phần, phần dùng huấn luyện phần dùng kiểm thử Hình 4.12 Hình 4.12: Dữ liệu nhóm Bước 2: Chọn thơng số Hình 4.13 Hình 4.13: Chọn thơng số huấn luyện nhóm Trang 68 Bước 3: Tiến hành huấn luyện hình 4.14 Hình 4.14: Huấn luyện nhóm Bước 4: Kiểm thử xuất kết Hình 4.15 Hình 4.15: Kết huấn luyện liệu nhóm Thời gian huấn luyện liệu: 1872 giây Sai số học: 0,0086 Trang 69 4.4.3 Huấn luyện liệu nhóm với 918 dòng liệu Bước 1: Đưa liệu vào chương trình chia thành phần, phần dùng huấn luyện phần dùng kiểm thử hình 4.16 Hình 4.16: Dữ liệu nhóm Bước 2: Chọn thơng số hình 4.17 Hình 4.17: Chọn thơng số huấn luyện nhóm Trang 70 Bước 3: Tiến hành huấn luyện hình 4.18 Hình 4.18: Huấn luyện nhóm Bước 4: Kiểm thử xuất kết Hình 4.19 Hình 4.19: Kết huấn luyện liệu nhóm Thời gian huấn luyện liệu: 1285 giây Sai số học: 0,009 Trang 71 4.5 So sánh kết thực nghiệm chương trình 4.5.1 Huấn luyện liệu không dùng giải thuật K-Means gom cụm so với nhóm Huấn luyện liệu khơng gom cụm so với liệu gom cụm nhóm Bước 1: Đưa tồn liệu vào chương trình chia thành phần, phần dùng huấn luyện phần dùng kiểm thử (dữ liệu kiểm thử giống liệu kiểm thử nhóm 1) hình 4.20 Hình 4.20: Bộ liệu so với nhóm Bước 2: Tiến hành huấn luyện Hình 4.21 Hình 4.21: Huấn luyện so với nhóm Trang 72 Bước 3: Kiểm thử xuất kết Hình 4.22 Hình 4.22: Kết huấn luyện liệu so với nhóm Thời gian huấn luyện liệu: 1507 giây Sai số học: 0,184 4.5.2 Huấn luyện liệu khơng dùng giải thuật K-Means gom cụm so với nhóm Bước 1: Đưa toàn liệu vào chương trình chia thành phần, phần dùng huấn luyện phần dùng kiểm thử (dữ liệu kiểm thử giống liệu kiểm thử nhóm 2) Hình 4.23 Hình 4.23: Bộ liệu so với nhóm Trang 73 Bước 2: Tiến hành huấn luyện Hình 4.24 Hình 4.24: Huấn luyện so với nhóm Bước 3: Kiểm thử xuất kết Hình 4.25 Hình 4.25: Kết huấn luyện liệu so với nhóm Thời gian huấn luyện liệu: 2254 giây Sai số học: 0,184 4.5.3 Huấn luyện liệu không dùng giải thuật K-Means gom cụm so với nhóm Trang 74 Bước 1: Đưa tồn liệu vào chương trình chia thành phần, phần dùng huấn luyện phần dùng kiểm thử (dữ liệu kiểm thử giống liệu kiểm thử nhóm 3) Hình 4.26 Hình 4.26: Bộ liệu so với nhóm Bước 2: Tiến hành huấn luyện Hình 4.27 Hình 4.27: Huấn luyện so với nhóm Trang 75 Bước 3: Kiểm thử xuất kết Hình 4.28 Hình 4.28: Kết huấn luyện liệu so với nhóm Thời gian huấn luyện liệu: 1597 giây Sai số học: 0,184 Đánh giá kết huấn luyện liệu dùng thuật tốn gom cụm K-Means khơng dùng thuật toán gom cụm: Bảng 7: So sánh số liệu thực nghiệm Dữ liệu Nhóm Nhóm Nhóm So sánh Thời gian học Dùng K-Means Không dùng K-Means 1498 1507 0,0095 0,184 1872 2254 0,0086 0,184 Thời gian học 1285 1597 Sai số học 0,009 0,184 Sai số học Thời gian học Sai số học Sau thực nghiệm chương trình đưa kết quả, nhận thấy dùng giải thuật K-Means gom cụm liệu trước huấn luyện kết thực nghiệm tối ưu không gom cụm liệu trước huấn luyện Trang 76 Hình 4.29: So sánh kết thực nghiệm Kết luận: Thực nghiệm chương trình phân tích tầm quan trọng đánh giá cảm quan việc cải tiến tạo sản phẩm khó khăn việc đánh giá cảm quan thực nghiệm thủ công Nghiên cứu điểm mạnh, điểm yếu mạng nơron kết hợp với kỹ thuật gom cụm K-Means để giải toán đánh giá cảm quan thực phẩm Việc ứng dụng mạng nơron để giải toán đánh giá cảm quan thực phẩm phương pháp mang tính khả quan cao Quá trình cài đặt chương trình đánh giá cảm quan thu số kết định Đồng thời qua việc tiến hành thử nghiệm thu giá trị dự báo có độ xác cao (vào khoảng 99%) Cho thấy tính ưu việt việc ứng dụng kỹ thuật gom cụm mạng nơron để đánh giá cảm quan thực phẩm Mở hướng khả quan cho việc ứng dụng máy học vào giải toán đánh giá cảm quan thực phẩm Trang 77 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN Kết luận Luận văn nghiên cứu vấn đề bản: - Lý thuyết kỹ thuật gom cụm - Kỹ thuật đánh giá cảm quan thực phẩm - Lý thuyết mơ hình mạng nơron nhân tạo - Luận văn nghiên cứu xây dựng huấn luyện mạng nơron giúp q trình đánh giá cảm quan nhanh chóng xác - Đưa cải tiến việc sử dụng mạng nơron nhân tạo kết hợp với kỹ thuật gom cụm để xây dựng toán dự đoán, thay sử dụng mạng nơron để huấn luyện luận văn sử dụng phương pháp gom cụm liệu trước huấn luyện So với phương pháp huấn luyện không dùng kỹ thuật gom cụm liệu trước huấn luyện kết dự báo xác thời gian chạy nhanh - Cài đặt chương trình thực nghiệm mơ hình dự đốn đánh giá cảm quan sản phẩm rượu trắng phương pháp kết hợp kỹ thuật gom cụm mạng nơron nhân tạo - Việc đánh giá cảm quan thực phẩm thực theo phương pháp truyền thống, tốn nhiều thời gian kinh phí để đưa định Sử dụng kỹ thuật gom cụm để tiền xử lý liệu kết hợp với ưu điểm khả học đưa định từ điều học mạng nơron việc ứng dụng mạng nơron kết hợp kỹ thuật gom cụm để dự báo phương pháp thực phẩm - Mô xây dựng thành công tiến hành thực nghiệm với liệu cho thấy: Trong q trính huấn luyện mạng hội tụ mạng phụ thuộc vào nhiều yếu tố như: Khoảng khởi tạo giá trị hàm thành viên Trang 78 Hướng phát triển - Nghiên cứu thuật tốn học khác để so sánh tính tối ưu chi phí thời gian thực - Đưa vào thực nghiệm dây chuyền sản xuất để hoàn chỉnh mơ hình phân lớp đánh giá cảm quan giai đoạn tiền đánh giá cảm quan - Kết hợp hệ chuyên gia, hệ hỗ trợ định vào trình đánh giá cảm quan - Sử dụng phương pháp gom cụm khác tốt K-Means để có độ xác cao thời gian chạy ngắn Trang 79 TÀI LIỆU THAM KHẢO [1] Nguyễn Đình Thúc, mạng nơron – Phương pháp Ứng dụng, nhà xuất giáo dục TP.Hồ Chí Minh [2] Nguyễn Hồng Dũng, Trương Cao Suyền, Nguyễn Thị Minh Tú, Phan Thụy Xuân Uyên (2007), Đánh giá cảm quan thực phẩm, nguyên lý thực hành, NXB ĐHQG TPCHM [3] Han, J., & Kamber, M (2006) “Data Mining” (Vol 2) [4] Hà Duyên Tư (1956-2006), Kỹ thuật phân tích cảm quan thực phẩm, Nhà xuất Khoa học Kỹ thuật Hà Nội [5] http://archive.ics.uci.edu/ml/datasets/Wine%20Quality [6] L.M.Nam (2015) “Luận văn thạc sĩ Kết hợp gom cụm tập hợp mạng nơron để dự báo liệu chuỗi thời gian” Đại học Bách khoa Thành phố Hồ Chí Minh [7] Madhukar Bhotmange and Pratima Shastri, Prof Kenji Suzuki (Ed.), (2011), Application of Artificial Neural Networks to Food and Fermentation Technology, Artificial Neural Networks - Industrial and Control Engineering Applications [8] StatSoft Inc (2003), Neural Networks [9] Zhang, Jun, & Chen, Yixin (1997), “Food sensory evaluation employing artificial neural networks,” Sensor Review, 17(2), pp.150-158(9)