Áp dụng học tăng cường cho bài toán nhận dạng hành động hàng ngày sử dụng dữ liệu từ cảm ứng đơn giản Tạ Việt Cường Trường Đại học Công nghệ Chuyên ngành: Khoa học máy tính; Mã số: 60 48 01 Người hướng dẫn: PGS. TS. Bùi Thế Duy Năm bảo vệ: 2012 Abstract: Nhận dạng hoạt động hàng ngày trong môi trường thông minh là một vấn đề đáng quan tâm đối với nhiều ứng dụng trong hệ thống nhà thông minh. Hệ thống cần phải có khả năng nhận dạng các hành động thay đổi theo thói quen của người sử dụng. Cho đến nay, đã có một số các mô hình học máy được áp dụng vào việc nhận dạng hành động. Tuy nhiên, hầu hết đều chỉ hoạt động tốt trong trường hợp dữ liệu huấn luyện đã được xác định khi học. Trong khi đó, thói quen của người sự dụng trong môi trường nhà thông minh thay đổi theo thời gian, điều này yêu cầu các thuật toán học máy phải có khả năng cập nhật lại mô hình khi có dữ liệu mới. Keywords: Khoa học máy tính; Bài toán nhận dạng; Khai thác dữ liệu; Dữ liệu từ cảm ứng Table of Contents 1 Introduction 2 1.1 Overview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.2 Our Works . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1.3 Thesis Outline . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 2 Related Work 5 2.1 Daily Activity Recognition in Smart Home System . . . . . . . . . . 5 2.2 Daily Activity Recognition approach . . . . . . . . . . . . . . . . . . 6 2.3 Incremental learning model . . . . . . . . . . . . . . . . . . . . . . . 7 3 Framework for Activity Recognition in the Home Environment 10 3.1 Data Acquisition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 3.2 Data annotation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 3.3 Feature extraction . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 3.4 Segmentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 4 Growing Neural Gas model 15 4.1 GNG structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 4.1.1 Competitive Hebbian Learning . . . . . . . . . . . . . . . . . 17 4.1.2 Weights Adapting . . . . . . . . . . . . . . . . . . . . . . . . . 18 4.1.3 New Node Insertion . . . . . . . . . . . . . . . . . . . . . . . . 19 4.2 Using GNG network for supervised learning . . . . . . . . . . . . . . 23 4.2.1 Separated Weighted Euclid . . . . . . . . . . . . . . . . . . . . 24 4.2.2 Reduce Overlapping Regions by Using a Local Error Threshold 25 5 Radial Basic Function network 27 5.1 Standard Radial Basic Function . . . . . . . . . . . . . . . . . . . . . 27 5.2 Incremental Radial Basic Function . . . . . . . . . . . . . . . . . . . 29 iv TABLE OF CONTENTS v 6 Experiment and Result 31 7 Conclusion 35 7.1 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 7.2 Future works . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36 Bibliography Anastasi, G., Conti, M., Falchi, A., Gregori, E., & Passarella, A. (2004). Perfor- mance measurements of motes sensor networks. In MSWiM 04: Proceedings of the 7th ACM international symposium on Modeling, analysis and simulation of wireless and mobile systems (pp. 174–181). ACM Press. Brdiczka, O., Maisonnasse, J., & Reignier, P. (2005). Automatic detection of in- teraction groups. Proceedings of the 7th international conference on Multimodal interfaces (pp. 32–36). New York, NY, USA: ACM. Carpenter, G. A., Grossberg, S., Markuzon, N., Reynolds, J. H., & Rosen, D. B. (1992). Fuzzy artmap: A neural network architecture for incremental supervised learning of analog multidimensional maps. IEEE Transactions on Neural Net- works, 3, 698–713. Chen, C., Das, B., & Cook, D. (2010). A data mining framework for activity recogni- tion in smart environments. Intelligent Environments IE 2010 Sixth International Conference on, 80–83. Cook, D. J., Augusto, J. C., & Jakkula, V. R. (2009). Ambient intelligence: Tech- nologies, applications, and opportunities. Pervasive and Mobile Computing, 5, 277–298. Cook, D. J., & Schmitter-Edgecombe, M. (2009). Assessing the quality of activities in a smart environment. Methods of Information in Medicine, 48, 480–485. Cover, T., & Hart, P. (1967). Nearest neighbor pattern classification. IEEE Trans- actions on Information Theory, 13, 21–27. Doctor, F., Hagras, H., & Callaghan, V. (2005). A fuzzy embedded agent-based 37 Bibliography 38 approach for realizing ambient intelligence in intelligent inhabited environments. IEEE Transactions on Systems, Man, and Cybernetics, Part A, 35, 55–65. Freund, Y., & Schapire, R. (1995). A desicion-theoretic generalization of on-line learning and an application to boosting. Computational learning theory, 904, 23– 37. Fritzke, B. (1993). Growing cell structures - a self-organizing network for unsuper- vised and supervised learning. Neural Networks, 7, 1441–1460. Fritzke, B. (1995). A growing neural gas network learns topologies. Advances in Neural Information Processing Systems 7 (pp. 625–632). MIT Press. Gottfried, B., Guesgen, H. W., & H¨ubner, S. (2006). Designing smart homes. chapter Spatiotemporal reasoning for smart homes, 16–34. Berlin, Heidelberg: Springer- Verlag. Hamker, F. H. (2001). Life long learning cell structures continuously learning with- out catastrophic interference. Neural Netw., 14, 551–573. Hastie, T., & Tibshirani, R. (1996). Discriminant adaptive nearest neighbor classi- fication. IEEE Trans. Pattern Anal. Mach. Intell., 18, 607–616. Helal, S., Mann, W., El-Zabadani, H., King, J., Kaddoura, Y., & Jansen, E. (2005). The gator tech smart house: A programmable pervasive space. Computer, 38, 50–60. Joshi, P., & Kulkarni, P. (2012). Incremental learning: Areas and methods a survey. International Journal of Data Mining and Knowledge Management Process, 2. Kohonen, T. (1989). Self-organization and associative memory: 3rd edition. New York, NY, USA: Springer-Verlag New York, Inc. Kruschke, J. K. (1992). Alcove: an exemplar-based connectionist model of category learning. Psychological Review, 99, 22–44. L¨uhr, S., West, G., & Venkatesh, S. (2007). Recognition of emergent human be- haviour in a smart home: A data mining approach. Pervasive Mob. Comput., 3, 95–116. Bibliography 39 Macqueen, J. B. (1967). Some Methods for classification and analysis of multivariate observations. Procedings of the Fifth Berkeley Symposium on Math, Statistics, and Probability (pp. 281–297). University of California Press. Madden, S., & Franklin, M. J. (2002). Fjording the stream: An architecture for queries over streaming sensor data. Proceedings of the 18th International Confer- ence on Data Engineering (pp. 555–). Washington, DC, USA: IEEE Computer Society. Martinetz, T. (1993). Competitive Hebbian Learning Rule Forms Perfectly Topology Preserving Maps. Proc. ICANN’93, Int. Conf. on Artificial Neural Networks (pp. 427–434). London, UK: Springer. Martinetz, T., & Schulten, K. (1991). A neural-gas network learns topologies. Ar- tificial Neural Networks, 1, 397–402. Moody, J., & Darken, C. J. (1989). Fast learning in networks of locally-tuned processing units. Neural Comput., 1, 281–294. M¨uhlenbrock, M., Brdiczka, O., Snowdon, D., & Meunier, J L. (2004). Learning to detect user activity and availability from a variety of sensor data. Proceed- ings of the Second IEEE International Conference on Pervasive Computing and Communications (PerCom’04) (pp. 13–). Washington, DC, USA: IEEE Computer Society. Polikar, R., Byorick, J., Krause, S., Marino, A., & Moreton, M. (2002). Learn++: a classifier independent incremental learning algorithm for supervised neural net- works. Rashidi, P., & Cook, D. J. (2009). Keeping the resident in the loop: Adapting the smart home to the user. Rashidi, P., & Cook, D. J. (2010). Mining sensor streams for discovering human activity patterns over time. Time, 431–440. Rashidi, P., Cook, D. J., Holder, L. B., & Schmitter-Edgecombe, M. (2011). Discov- ering activities to recognize and track in a smart environment. IEEE Transactions on Knowledge and Data Engineering, 23, 527–539. Bibliography 40 Tapia, E. M., Intille, S. S., & Larson, K. (2004). Activity recognition in the home using simple and ubiquitous sensors. Pervasive Computing, 3001, 158–175. Van Kasteren, T., Noulas, A., Englebienne, G., & Krse, B. (2008). Accurate activity recognition in a home setting. Proceedings of the 10th international conference on Ubiquitous computing UbiComp 08, 344, 1. Wren, C. R., & Tapia, E. M. (2006). Toward scalable activity recognition for sensor networks. Networks, 3987, 168–185. Youngblood, G. M., Cook, D. J., & Holder, L. B. (2005). Managing adaptive versatile environments. Pervasive Mob. Comput., 1, 373–403. . Áp dụng học tăng cường cho bài toán nhận dạng hành động hàng ngày sử dụng dữ liệu từ cảm ứng đơn giản Tạ Việt Cường Trường Đại học Công nghệ Chuyên ngành: Khoa học máy tính;. phải có khả năng cập nhật lại mô hình khi có dữ liệu mới. Keywords: Khoa học máy tính; Bài toán nhận dạng; Khai thác dữ liệu; Dữ liệu từ cảm ứng Table of Contents 1 Introduction 2 1.1. dạng các hành động thay đổi theo thói quen của người sử dụng. Cho đến nay, đã có một số các mô hình học máy được áp dụng vào việc nhận dạng hành động. Tuy nhiên, hầu hết đều chỉ hoạt động tốt trong