BỘ GIÁO DỤC VÀ ĐÀO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM TẠO HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM Đỗ Viết Mạnh XÂY DỰNG CHATBOT BÁN HÀNG DỰA TRÊN MƠ HÌNH SINH LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Hà Nội – 2020 BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM Đỗ Viết Mạnh XÂY DỰNG CHATBOT BÁN HÀNG DỰA TRÊN MƠ HÌNH SINH Chun ngành: Hệ thống thông tin Mã số: 8480104 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN CÁN BỘ HƯỚNG DẪN KHOA HỌC TS Nguyễn Việt Anh Hà Nội – 2020 LỜI CAM ĐOAN Tơi Đỗ Viết Mạnh, học viên khóa 2018A, ngành Công nghệ thông tin, chuyên ngành Hệ Thống Thông Tin Tôi xin cam đoan luận văn “Xây dựng Chatbot bán hàng dựa mơ hình sinh” tơi nghiên cứu, tìm hiểu phát triển hướng dẫn TS Nguyễn Việt Anh, chép từ tài liệu, cơng trình nghiên cứu người khác mà không ghi rõ tài liệu tham khảo Tôi xin chịu trách nhiệm lời cam đoan Hà Nội, ngày tháng năm 2020 Tác giả Đỗ Viết Mạnh LỜI CẢM ƠN Lời cảm ơn trân trọng em muốn dành tới thầy cô Học viện khoa học công nghệ Việt Nam, Viện công nghệ thông tin, Viện Hàn lâm khoa học cơng nghệ Việt Nam nói chung thầy môn Hệ thống thông tin khoa Cơng nghệ thơng tin nói riêng tận tình giảng dạy truyền đạt kiến thức quý báu suốt khố cao học vừa qua, giúp em có kiến thức chuyên môn tảng để làm sở lý luận khoa học cho luận văn Đặc biệt em xin chân thành cảm ơn thầy TS Nguyễn Việt Anh dìu dắt hướng dẫn em suốt trình làm luận văn, bảo định hướng thầy giúp em tự tin nghiên cứu vấn đề giải toán cách khoa học Em xin trân trọng cảm ơn Ban giám hiệu Học viện khoa học công nghệ Việt Nam - Viện Hàn lâm khoa học công nghệ Việt Nam tạo điều kiện cho em học tập làm luận văn cách thuận lợi Mặc dù cố gắng nhiều, chắn trình học tập luận văn khơng khỏi thiết sót Em mong thơng cảm bảo tận tình thầy bạn Hà Nội, ngày tháng năm 2020 Tác giả Đỗ Viết Mạnh MỤC LỤC DANH MỤC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT Từ viết tắt Từ chuẩn Diễn giải AI Artificial Intelligence Trí tuệ nhân tạo ANN Artificial Nerual Network Mạng nơ-ron nhân tạo CBOW Continuous Bag of Words CNN Convolution Neural Network Mạng nơ-ron tích chập CRF Conditional Random Fields Mơ hình xác xuất trường điều kiện ngẫu nhiên DM Dialogue Management Quản lý hội thoại DNN Deep Neural Networks Mơ hình học sâu DTS Dialogue State Tracking Theo dõi trạng thái hội thoại FSA Finite State Automata Mơ hình dựa máy trạng thái hữu hạn FSM Finite State Machine Máy trạng thái hữu hạn GLAD Global-Locally SelfAttentive State Tracker Dialogue HMM Hiden Markov Models Mô hình Markov ẩn LSTM Long short-term memory Mạng cải tiến để giải vấn đề phụ thuộc dài NLG Natural Language Generation Thành phần sinh ngôn ngữ NLP Natural Language Processing Xử lý ngôn ngữ tự nhiên NLU Natural Language Hiểu ngôn ngữ tự nhiên Understanding ML Machine Learning Học máy, máy có khả học tập POS Part Of Speech Gán nhãn từ loại RNN Recurrent Neural Network Mạng nơ-ron hồi quy SVM Vector Support Machine Máy vector hỗ trợ DANH MỤC HÌNH VẼ VÀ ĐỒ THỊ MỞ ĐẦU Mạng xã hội ngày phát triển, đặc biệt thương mại điện tử trở thành xu thế, không doanh nghiệp mà tất cá nhân bán hàng trực tiếp thơng qua internet Dưới góc độ người mua hàng, họ cần nắm rõ thơng tin sản phẩm, người bán hàng cần đưa trao đổi để cung cấp thêm nhiều thông tin sản phẩm, nhằm thuyết phục người mua đưa định mua hàng Để giải toán trên, người bán hàng cần xây dựng hệ thống Chatbot bán hàng tự động giúp giảm thiểu chi phí nhân sự, tăng hiệu bán hàng, chăm sóc khách hàng tăng khả tương tác Vậy Chatbot bán hàng tự động ? Tại lại cần mơ ? Những lợi ích thuận tiện xử dụng mơ hình ? Để giải đáp cho câu hỏi trên, đặt góc độ người bán hàng ta thấy gặp phải trường hợp yêu cầu tư vấn sản phẩm vào lúc nghỉ buổi trưa, buổi tối hay có nhiều khách hàng muốn tư vấn sản phẩm vào thời điểm khách hàng thường xuyên đưa câu hỏi mang tính chất trùng lặp …vv Ở trường hợp khơng có Chatbot tự động phản hồi u cầu nhanh chắn hiệu bán hàng giảm đáng kể, uy tín chuyên nghiệp người bán hàng khách hàng đánh giá thấp Hiện nhiều người bán hàng sử dụng công cụ quảng cáo từ Facebook, google…vv, chi phí cho việc quảng cáo cao, sử dụng Chatbot bán hàng tự động tạo nhiều chiến dịch quảng cáo, giảm chi phí nhiều mà lại mang lại tính hiệu cao Những vấn đề nêu trên, chứng minh lúc đủ thời gian nguồn nhân lực để sẵn sàng kết nối với khách hàng Do đó, mơ hình trả lời bán hàng tự động thiết thực bối cảnh Các hệ thống bán hàng tự động dừng lại mức độ trả lời câu hỏi đơn giản có sẵn, việc hỗ trợ Tiếng Việt khơng đầy đủ, khó khăn việc cải tiến Những bất cập làm cho việc vận hành sử dụng hệ thống không mang lại nhiều lợi ích thiết thực Dựa vào mơ hình sinh, tơi xây dựng Chatbot trả lời tự động cho Tiếng Việt nhằm phục vụ riêng cho nghiệp vụ bán hàng 9 Thời đại Chatbot bắt đầu phát triển lợi ích từ ứng dụng chúng mang lại giúp hưởng nhiều lợi ích Với phát triển tiến trí tuệ nhân tạo năm gần đây, hồn tồn mong đợi tương lại nơi Chatbot không thay người đưa định mà giúp giải vấn đề sống Động lực nghiên cứu Ở nước ta, việc giải đáp thắc mắc phận chăm sóc khách hàng qua tin nhắn trực tuyến ưa chuộng Tuy nhiên, việc thực cách thủ cơng gặp nhiều khó khăn như: tốn nhiều thời gian chi phí chi trả cho nhân viên để trả lời câu hỏi đơn giản giống Chính vậy, nhu cầu cấp thiết cần hệ thống điều khiển thông minh, tự động để mang lại hiệu cao Chatbot lựa chọn hoàn hảo Hiện nay, ứng dụng trò chuyện trực tuyến người sử dụng bắt đầu trở thành phương tiện ưa thích để giao tiếp với doanh nghiệp giải thắc mắc khách hàng Ứng dụng nhắn tin nhanh trở thành điểm đến hàng đầu cho thương hiệu nhằm tiếp cận người tiêu dùng, khơng có đáng ngạc nhiên Chatbot ngày trở nên phổ biến Với khối lượng lớn câu hỏi, yêu cầu mà phải giải ngày như: khách hàng hỏi thông tin sản phẩm, tư vấn dịch vụ, nhân viên hỏi nội quy, quy định công ty, hỏi việc chúng muốn tìm hiểu lứa tuổi…ngồi Chatbot cịn áp dụng nhiều lĩnh vực: Lĩnh vực giải trí: Các Chatbot giải trí trực tuyến tốt dựa AI ứng dụng Mitsuku, Rose, Insomno Bot…người dùng nói chuyện tương tác với chúng hàng giờ, trả lời câu hỏi bạn theo cách nhân văn hiểu tâm trạng bạn với ngôn ngữ bạn sử dụng Lĩnh vực thời tiết: Poncho Chatbot điển hình thiết kế để trở thành chuyên gia thời tiết, dự báo thời tiết chúng gửi cảnh báo thời tiết xấu với chấp thuận người dùng 10 10 Hình 49: Hình ma trận ước lượng nhầm lẫn xây dựng liệu intent Với biểu đồ ước lượng ta thấy liệu câu đầu vào cho intent người dùng bị xung đột hay nhầm lẫn với Điều đảm bảo tính đắn tập liệu cho việc đào tạo bot 69 69 Intent Độ đo precision recall f1-score support ask_hello 1.0 1.0 1.0 ask_product_feedbac k 1.0 1.0 1.0 ask_product_num 1.0 1.0 1.0 11 ask_product_payment 1.0 1.0 1.0 ask_product_price 1.0 1.0 1.0 ask_product_quality 1.0 1.0 1.0 12 ask_product_ship 1.0 1.0 1.0 17 ask_product_size 1.0 1.0 1.0 11 ask_product_warranty 1.0 1.0 1.0 Hình 50: Ước lượng độ xác tập liệu trainning intent Sử dụng mơ hình EmbeddingIntentClassifier dựa tảng mơ hình starspace [26] facebook để đào tạo cho Chatbot phục vụ việc phân loại ý định người dùng cho thấy độ xác tương đối cao tập liệu cho toán ngân hàng Entities Độ đo precision recall f1-score support product_name 1.0 1.0 1.0 24 location 1.0 1.0 1.0 21 kilogam 1.0 1.0 1.0 height 1.0 1.0 1.0 size 1.0 1.0 1.0 Hình 51: Ước lượng độ xác trích chọn thơng tin Việc áp dụng mơ hình CRF cho trích chọn thơng tin đạt độ xác cao 0.99% Qua trình đào tạo cho bot thấy việc training nhiều liệu độ xác trích xuất cao với CRF Để đảm bảo việc trích chọn 70 70 thơng tin xác entity phải trainning cho bot từ 10 đến 20 liệu Dưới danh sách câu hỏi trả lời người dùng tương tác với Chatbot thử nghiệm cuối No Người dùng Chatbot Ý định Xin chào shop Xin chào! Chúng tơi giúp cho bạn? ask_hello Hi shop Xin chào! Chúng hân hạnh phục vụ bạn! ask_hello Slot Bộ sp1 có cịn Bộ sp1 cịn bạn khơng shop product_num product_name: sp1 Mẫu sp2 Mẫu sp2 bên có cịn cịn bạn khơng product_num product_name: sp2 Có cịn Bộ bên cịn sp33 khơng hàng shop product_num product_name: sp3 Hiện shop full Bộ size cho sản phẩm bạn size product_size Mình nặng 80kg, cao Bạn nên mặc size XL để 1m7 mặc cho thoải mái nhá size product_size 71 71 kilogame: 80kg, height: 1m7 Giá sp33 shop Giá sp4 Giá sp4 bên là 299k b shop Xin giá mẫu 10 sp5 với shop Giá sản phẩm sp33 299k Giá mẫu sp5 bên 299k product_price product_price product_price Sản phẩm bên sử dụng chất vải thun co dãn Bộ mặc chiều, chống tia uv, 11 có mát product_quality kháng khuẩn, giặt khơng không shop phai màu, shop xin đảm bảo chất lượng 12 Bên đảm bảo chất Bộ lượng hàng bên giặt có bị ok nhé, chất vải co dãn product_quality phai màu chiều, chống tia uv, kháng không khuẩn, giặt không phai màu, Với sách trả hàng Được đổi trả bạn trả hàng hàng trong vòng ngày, bạn 13 product_warranty vui lòng để nguyên tem shop mác sản phẩm giúp 14 Tức ngày trả lại hàng 72 72 khơng Có ship Bên khuyến 15 Thái Ngun mại free ship tồn quốc khơng shop product_ship Ship hàng thời 16 gian nhận 17 Nhận hàng với tốn khơng Mình Tất sản phẩm ship 18 toán cod COD nhận tiền giao product_payment không hàng 19 20 Cảm ơn Cảm ơn bạn phản hồi! product_feedback Mình Cảm ơn bạn phản hồi! nhận Chúc bàn ngày tốt product_feedback hàng lành shop Hình 52: Bảng mơ tả đoạn hội thoại test với Chatbot 3.6 Đánh giá Từ trình tìm hiểu, xây dựng kết khách quan từ thực nhiệm tơi có đánh sau: - Xây dựng liệu đào tạo, huấn luyện cho Chatbot kịch xây dựng hội thoại yếu tố vô quan trọng Đây hai yếu tố có ảnh hưởng lớn đến tính linh hoạt độ thơng minh Chatbot 73 73 - Việc định nghĩa xây dựng ý định quan trọng phải phân tích tỉ mỉ với chủ đề khác để đưa tập ý định tốt Đối với ý định không rõ ràng hay gần mặt ngữ nghĩa khiến cho độ xác Chatbot giảm Nên việc thiết kế ý định slot vô quan trọng Với đoạn hội thoại nằm kịch dựng sẵn Chatbot đáp ứng tốt trả lời cho người dùng Tuy nhiên việc xây dựng kịch cho Chatbot khó khăn đoạn hội thoại xảy nhiều trường hợp Đối với hội thoại dài phức tạp việc lưu trữ slot để lưu ngữ cảnh hội thoại Chatbot có khả trả lời ngẫu nhiên mẫu câu template khiến cho đoạn hội thoại trở nên tự nhiên Bên cạnh bot có khả điều hướng người dùng đến mẫu câu trả lời sẵn, người dùng hỏi câu phạm vi huấn luyện Tuy nhiên việc điều hướng dựa khả trả lời ngẫu nhiên bot dẫn đến việc bot chưa thông minh việc xử lý tình Qua tốn tơi đánh giá việc áp dụng toán Chatbot cho nghiệp vụ bán hàng khả thi, có tính thực tiễn cao đáp ứng số vấn đề nghiệp vụ bán hàng 74 74 CHƯƠNG 4: KẾT LUẬN Trong luận văn tìm hiểu số kiến thức tổng quan hệ thống Chatbot, thành phần cấu trúc nhiệm vụ thành phần Chatbot, tìm hiểu số thuật toán áp dụng vào việc xây dựng Chatbot để giải toán Chatbot bán hàng Trong trình tìm hiểu xây dựng ứng dụng Chatbot hỗ trợ người dùng cho nghiệp vụ bán hàng đạt số kết định sau: Các vấn đề mà luân văn làm được: Trình bày kiến thức tổng quan hệ thống Chatbot, mơ hình Chatbot bán hàng nay, tìm hiểu chi tiết cấu trúc thành phần vấn đề gặp phải xây dựng hệ thống Chatbot Nắm luồng hoạt động hay bước xử lý thành phần mơ hình Chatbot Bên cạnh tơi nắm số thuật toán phương pháp để xử lý liệu Chatbot Trong trình xây dựng tập liệu đào tạo, huấn luyện cho Chatbot giúp có kinh nghiệm quý báu việc xử lý gán nhãn liệu với ngữ nghĩa nhập nhằng Từ xây dựng liệu huấn luyện tốt đem lại độ xác cao mơ hình Xây dựng thành cơng chương trình thử nghiệm hệ thống Chatbot phục vụ nghiệp vụ bán hàng theo mơ hình thuật tốn trình bày với CSDL thử nghiệm tham khảo qua kênh Fanpage Facebook bán hàng thật đánh giá kết thử nghiệm Tuy nhiên, việc đánh giá kết cịn thực thủ cơng Định hướng nghiên cứu tiếp theo:  Tích hợp speech to text text to speech cho bot Khi tích hợp vào Chatbot để hỗ trợ người dùng qua giọng nói song song với giao diện  Xây dựng bot hỗ trợ multi intent Hay người dùng hỏi nhiều câu hỏi kép Xây dựng bot mang tính cảm xúc hay nhân cách hóa Chatbot giúp Chatbot trở nên giống người 75 75 TÀI LIỆU THAM KHẢO Yun-Nung (Vivian) Chen, Asli Celikyilmaz and Dilek Hakkani-Tur, 2018:” Deep Learning for Dialogue Systems” Tom Bocklisch, 2018: “Conversational AI with Rasa NLU & Rasa Core” Hongshen Chen, Xiaorui Liu, Dawei Yin and Jiliang Tang, 11 Jan 2018: “A Survey on Dialogue Systems: Recent Advances and New Frontiers” Daniel Jurafsky & James H Martin, 23 September 2018: “Dialog Systems and Chatbots” Daniel Jurafsky & James H Martin, 23 September 2018: “Advanced Dialog Systems” Jason D Williams, Kavosh Asadi and Geoffrey Zweig, 24 Apr 2017: “Hybrid Code Networks: practical and efficient end-to-end dialog control with supervised and reinforcement learning” Andrew Maas, Spring 2017: “Dialogue System Introduction and Frame- Based Dialogue” Peng Jin, Yue Zhang, Xingyuan Chen and Yunqing Xia:“Bag-of- Embeddings for Text Classification” Ledell Wu, Adam Fisch, Sumit Chopra, Keith Adams, Antoine Bordes and Jason Weston, 21 Nov 2017: “StarSpace: Embed All The Things!” 10 Bing Liu and Ian Lane, JUN 2018: “End-to-End Learning of Task- Oriented Dialogs” 11 John A Bullinaria, 2005: “IAI: Semantic Networks and Frames” 12 Mikhail Burtsev, Alexander Seliverstov, Rafael Airapetyan, Mikhail Arkhipov, Dilyara Baymurzina, Nickolay Bushkov, Olga Gureenkova, Taras Khakhulin, Yuri Kuratov, Denis Kuznetsov, Alexey Litinsky, Varvara Logacheva, Alexey Lymar, Valentin Malykh, Maxim Petrov, Vadim Polulyakh, Leonid Pugachev, Alexey Sorokin, Maria Vikhreva and Marat Zaynutdinov, 15 JUN 2018: “DeepPavlov: Open-Source Library for Dialogue Systems” 13 Hao Fang, 17 Apr 2018: “Dialog Management and System Evaluation” 14 Jason Weston, “Tasks and Architectures for Language Understanding and Dialogue with memory” 15 DENNY BRITZ, 2015, “Recurrent Neural Networks Tutorial” 16 SONVX, 2018, “Học biểu diễn ngôn ngữ cho máy tính” 17 Colah’s blog, August 27, 2015, “Understanding LSTM Networks” 18 Van Deemter, Krahmer, Emiel; Theune, 1999 “Plan-based vs template- based NLG” 19 Ondrej Plátek, Petr Belohlávek, Vojtech Hudecek, and Filip Jurcícek, 2016 “Recurrent Neural Networks for Dialogue State Tracking” 20 Matthew Henderson, Blaise Thomson and Steve Young, 2014 “Word-Based Dialog State Tracking with Recurrent Neural Networks” 21 Victor Zhong, Caiming Xiong, Richard Socher, 2018 “Global-Locally SelfAttentive Dialogue State Tracker” 22 Pei-Hao Su, Nikola Mrksic, Inigo Casanueva, Ivan Vulic, 2018 “Deep Learning for Conversational AI” 23 Jagan Jami, 2017, “INFOGRAPHIC: THE FUTURE OF CHATBOTS STATISTICS & TRENDS” 24 Larry Kim, 2018 “The Top Messenger Apps in the World” 25 Liron Hakim Bobrov, January 2019, “Mobile Messaging App Map of the World” 26 Vu Anh, Jul 2019, “Underthesea - Vietnamese NLP Toolkit” 27 Hammersley, J., & Clifford P, Unpublished manuscript ,1971, “Markov fields on finite graphs and lattices” 28 PHỤ LỤC ... loại chatbot dịch vụ bán hàng, ship đồ ăn,…vv 1.2.3 Mơ hình Chatbot bán hàng mà luận văn nghiên cứu Từ phân tích ưu nhược điểm mơ hình Chatbot dựa menu/button nhận dạng từ khố, tơi lựa chọn xây dựng. .. KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM Đỗ Viết Mạnh XÂY DỰNG CHATBOT BÁN HÀNG DỰA TRÊN MƠ HÌNH SINH Chun ngành: Hệ thống thông tin Mã số: 8480104 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN CÁN BỘ HƯỚNG DẪN KHOA... Chatbot triển khai thực tế phần lớn xây dựng mơ hình truy xuất thông tin áp dụng miền ứng dụng cụ thể Với tốn luận văn tập trung xây dựng mô hệ thống Chatbot hỗ trợ người dùng nghiệp vụ bán hàng