TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VIỆN CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG ─────── * ─────── Báo cáo xử lí liệu đa phương tiện Đề 8: Tìm hiểu phép biến đổi xử lí liệu đa phương tiện ứng dụng Giảng viên hướng dẫn: PGS.TS Nguyễn Thị Hoàng Lan Sinh viên thực hiện: Nguyễn Xuân Thạo 20122461 Lê Thị Hải Yến 20122839 Đoàn Anh Tuấn 20122668 Nguyễn Đình Phúc 20122233 Hà Nội, tháng năm 2016 Mục lục I Phép biến đổi đơn vị Định nghĩa Trong không gian vector liệu (mảng chiều gồm n giá trị), phép biến đổi đơn vị định nghĩa bởi: y = TA x T với điều kiện TA TA* = I Trong đó: • x : Ma trận liệu đầu vào có dạng [1*n]={ x1 , x2 , x3 , , xn • • • y : Ma trận hệ số biến đổi TA TA* : Ma trận phép biến đổi T : Ma trận chuyển vị ma trận phức liên hợp ma trận • I } TA : Ma trận đơn vị Xét điều kiện ta thấy: −1 TA TA = I Mặt khác: Nếu TA TA −1 trực giao TA = TA ⇒ TAT TA = I ma trận thực TA TA* = TA ⇒ TAT = TAT* Do đó: ma trận vừa thực vừa trực giao (điều kiện thỏa mãn) Tồn phép biến đổi ngược: xˆ = TS yˆ = ∑i Tsi y i TA TAT* = I • • TS = T A −1 = T AT* ⇒ TS T A = TA TS = I Tsi = ( si ,1 , si , , , si , n ) ma trận T ma trận • T A* hàng thứ i cột thứ i T A* Tsi gọi vector sở phép biến đổi Phép biến đổi đơn vị phân tích vector x thành tổ hợp tuyến tính vector sở với hệ số phân tích y Kì vọng: ˆ = δ [i − j] E Φi , Φ j Trong không gian trực chuẩn, ta có: −1 TA ma trận trực giao T TS = TA = TA ⇒ TA TAT = TAT TA = I E Φ i , Φ j = δ [i − j] Tính chất chung phép biến đổi đơn vị Các phép biến đổi đơn vị có tính chất chung: - Bảo tồn lượng: ||x||2=||y||2 (đẳng thức Parseval), khơng gây sai số miền không gian - Năng lượng tập trung: Đối với ảnh thông thường, lượng phân bố không đều; thành phần biến thiên nhanh chiếm lượng nhỏ tín hiệu; nhiều phép biến đổi đơn vị tập trung lượng ảnh vào vài thành phần hệ số biến đổi 5 - Giải tương quan: Đầu vào vector có thành phần tương quan mạnh, qua phép biến đổi nhận thành phần tương quan yếu Áp dụng phép biến đổi đơn vị nén liệu Phép biến đổi áp dụng tốt nén liệu cần phải giải tương quan, có tốc độ nén nhanh xác Đánh giá: Trong phép biến đổi đơn vị, phương pháp biến đổi KL tốt lí thuyết cho nén liệu Nguyên nhân vì: Phép biến đổi KL đạt giải tương quan tốt nên mặt lí thuyết phương pháp nén liệu tốt Tuy nhiên, giải pháp thực tế, phép biến đổi DCT coi xấp xỉ tốt cho phép KLT dùng theo chuẩn JPEG Nguyên nhân: - Phép biến đổi DCT chia tín hiệu xử lý theo khối để phù hợp với giả thiết ổn định tương đối khối - Phép biến đổi DCT tính tốn đối xứng, có cấu trúc phép xây dựng thuật tốn tính nhanh - Đảm bảo độ giải tương quan tốt DCT tiêu chuẩn quốc tế cho hệ thống mã chuyển vị có đặc tính gói lượng tốt (gói lượng ảnh vào phần nhỏ hệ số hàm truyền), cho kết số thực có thuật tốn nhanh để thực chúng DCT mang lại tỉ lệ nén hiệu chất lượng ảnh suy giảm chấp nhận Chính với JPEG định dạng ảnh phổ biến nay, việc sử dụng DCT giúp giảm nhiều chi phí tài nguyên lưu trữ truyền tải II Phép biến đổi KL,PCA Phép biến đổi KL 1.1 Khái niệm Phép biến đổi KL có nguồn gốc từ khai triển chuỗi trình ngẫu nhiên liên tục Biến đổi KL gọi biến đổi Hoteling hay phương pháp thành phần 6 Phép biến đổi KL phép biến đổi tuyến tính đơn vị dựa vecto riêng giá trị riêng ma trận tương quan phép giảm thứ nguyên không gian với sai số nhỏ 1.2 Cơ sở lý thuyết phép biến đổi KL Đây phép biến đổi không gian chiều thành không gian chiều, với Mỗi thành phần vectơ miêu tả đặc tính đối tượng Nếu ta biến đổi từ không gian n chiều không gian m chiều, ta làm giảm thông tin dư thừa (giảm thứ nguyên) Mục đích biến đổi KL chuyển từ không gian n chiều sang không gian trực giao m chiều cho sai số bình phương nhỏ Gọi tập vector sở không gian trực giao Với với Mọi vector y khơng gian trực giao viết: với Gọi kết thu không gian m chiều Sai số phép biến đổi Sai số trung bình bình phương: Mà , Theo định nghĩa R, phương trình trở thành: đạt ( đạt 7 Đặt (5) Như đạt (5) Để tìm ta dùng phương pháp đạo hàm dẫn đến việc giải phương trình: Phương trình gọi phương trình đặc trưng R với trị riêng véctơ riêng tương ứng Đây sở lý thuyết biến đổi KL 1.3 Các bước thực biến đổi KL Không gian quan sát Phép biến đổi KL: cho sai số trung bình bình phương nhỏ ma trận phép biến đổi Các bước thực hiện: Tính ma trận tương quan R X: R có giá trị riêng tương ứng với vecto riêng (trực giao đơi một) Có phương trình đặc trưng R: ⇔ ⇒ giá trị riêng ⇒ vecto riêng Chọn M giá trị lớn N giá trị tìm được, ta có M vecto tương ứng Ma trận biến đổi với Phép biến đổi PCA Mục tiêu PCA tìm khơng gian với số chiều nhỏ không gian cũ 8 Các trục toạ độ không gian xây dựng cho trục, độ biến thiên liệu lớn Thuật tốn PCA Cho ma trận • Bước 1: Tiền xử lý Với độ lệch chuẩn cột j X • Bước 2: Xây dựng khơng gian Tìm giá trị riêng vecto riêng ma trận hiệp phương sai R có N giá trị riêng �, ta xếp theo thứ tự giảm dần, tương ứng N vecto riêng u • Bước 3: Chuyển liệu từ không gian ban đầu vào không gian Chọn k vecto riêng đầu tiên: Toạ độ điểm khơng gian là: III Tìm hiểu thuật tốn trích chọn đặc trưng ảnh dựa phép biến đổi KL-PCA Bắt đầu Tập ảnh luyện tập Kết thúc Mỗi ảnh tương ứng với vectơ , [ Mỗi vectơ khơng gian ,[ Tính vectơ trung bình ,[ Chọn K vectơ riêng lớn ,[ Tính Tính ma trận hiệp phương sai Tính vectơ riêng ma trận hiệp phương sai Bước 1: Chuẩn bị tập ảnh luyện tập ……… Tập ảnh luyện tập bao gồm M ảnh kích thước Bước 2: Mỗi ảnh tương ứng với vectơ 10 …… … NxN • Chuyển đổi ma trận ảnh tương đương với vectơ liệu thành phần, vectơ biểu diễn dạng ma trận cột cỡ • • • Ví dụ: > • Mỗi ảnh tưng ứng với vectơ : Bước 3: Tính vectơ trung bình 11 …… • Tính vectơ trung bình ,[ Bước 4: Tính Trừ vectơ ban đầu cho vectơ trung bình , • Tính vectơ trung bình : • Trừ vectơ ban đầu cho vectơ trung bình Bước 5: Tính ma trận hiệp phương sai • • , Bước 6: Tính giá trị riêng, vectơ riêng ma trận hiệp phương sai • • : giá trị riêng • : Vectơ riêng C • Do ma trận có kích thước lớn ( ) nên khối lượng tính tốn lớn 12 • • Vì ma trận có kích thước nhỏ ( ) nên ta tính vectơ riêng theo ma trận sau tính , Bước 7: Chọn K vectơ riêng lớn • Khơng gian đặc trưng (Eigen face space) : , • Mỗi vectơ khơng gian riêng tương ứng với vectơ 13 Tài liệu tham khảo Slide giảng xử lí liệu đa phương tiện Nguyễn Thị Hồng Lan “Principal Component Analysis” CS498 Principal Component Analysis – PCA