Tiểu luận chuyên đề MỤC LỤC Nhóm 14 Tiểu luận chuyên đề Chương 2: Cấu trúc mạng mô hình nơron Trong chương 1, chúng tơi trình bày mô tả đơn giản mạng nơron sinh học mạng nơron Bây giới thiệu mơ hình tốn học đơn giản nơron giải thích nơron nhân tạo liên kết tương tác để tạo thành nhiều cấu trúc mạng Chúng minh họa hoạt động mạng thông qua số ví dụ đơn giản Khái niệm ký hiệu sử dụng chương sử dụng suốt sách Chương không bao hàm tất cấu trúc mà sử dụng sách giới thiệu khối lắp ghép Các cấu trúc phức tạp giới thiệu thảo luận cần thiết chương sau Tuy nhiên nhiều chi tiết trình bày Hãy ý người đọc không cần thiết nhớ tất tài liệu/ công thức/ kí hiệu chương lần đọc Thay vào đó, đọc sách tiền đề để bạn bắt đầu nguồn để bạn xem lại Lý thuyết ví dụ Các ký hiệu Các mạng nơron mà kí hiệu tốn học biểu diễn cấu trúc tiêu chuẩn cho chúng chưa thiết lập vững Hơn nữa, giấy tờ sách mạng nơron đến từ nhiều lĩnh vực khác nhau, bao gồm kỹ thuật, vật lý, tâm lý toán học nhiều tác giả có xu hướng sử dụng từ vựng cá biệt cho chuyên môn họ Kết là, nhiều sách giây tờ lĩnh vực khó để đọc khái niệm tạo dường phức tạp Đây điều đáng tiếc tránh mở rộng ý tưởng quan trọng Điều kìm hãm đời ý tưởng Trong sách cố gắng sử dụng ký hiệu tiêu chuẩn chỗ có làm rõ ràng giữ cho vấn để đơn giản mà khơng tính xác Đặc biệt chúng tơi có gắng xác định quy ước thực tế sử dụng chúng cách thích hợp Các hình minh họa, phương trình tốn học chữ thảo luận, hình minh họa phương trình tốn học sủ dụng ký hiệu sau: Vô hướng: chữ nhỏ in nghiêng: a, b, c Véctơ: chữ nhỏ in đậm: a, b, c Ma trận: chữ viết hoa in đậm: A,B,C Nhóm 14 Tiểu luận chuyên đề Ký hiệu thêm mà liên quan tới cấu trúc mạng giới thiệu bạn đọc chương Một danh sách hồn chỉnh kí hiệu mà sử dụng xuyên suốt sách ghi Phụ lục B, bạn có tể xem bạn có thắc mắc Mơ hình nơron 2.1 Nơron đầu vào đơn Một nơron đầu vào đơn hình 2.1, đầu vào vô hướng p nhân lên nhờ khối lượng vô hướng w để tạo thành wp, sau gửi tới cộng Một đầu vào khác, l, nhân lên nhờ đường chéo b qua cộng Đầu cộng n, xem đầu vào mạng, tới hàm số chuyển f mà tạo đầu nơron vô hướng a (Một số tác giả dùng thuật ngữ “hàm số kích hoạt” thay cho hàm chuyển “offset” thay cho giá trị ngưỡng.) Nếu liên hệ mẫu đơn giản với nơron sinh học mà thảo luận chương 1, trọng lượng w tương đương với sức mạnh khớp thần kinh, tế bào thể đặc trưng cộng hàm chuyển, đầu nơron a tương ứng cho tín hiệu thần kinh (axon) Hình 2.1 Nơron đầu vào đơn Nơron tính tốn nhờ a =f(wp +b) Ví dụ w = 3, p = b = -1,5, a =f(3(2)- 1,5) = f(4,5) Đầu thực phụ thuộc vào hàm chuyển cụ thể mà chọn Chúng thảo luận hàm chuyển phần sau Giá trị ngưỡng giống khối lượng trừ đầu vào khơng đổi Tuy nhiên, bạn khơng muốn có giá trị ngưỡng nơron cụ thể, bỏ qua Chúng ta xem ví dụ điều chương 3, 14 Nhóm 14 Tiểu luận chuyên đề Chú ý w b tham số vơ hướng điều chỉnh nơron Điển hình là, hàm số chuyển chọn nhà thiết kế tham số w b điều chỉnh nhờ số quy tắc học tập để mối quan hệ đầu ra/đầu vào nơron đạt số mục tiêu cụ thể ( xem chương cho phần giới thiệu quy tắc học ) Như mô tả phần tiếp theo, chúng tơi có các hàm số chuyển khác cho mục đích khác 2.2 Các hàm số chuyển Hàm số chuyển hình 2.1 hàm tuyến tính hàm phi tuyến tính n Một hàm số chuyển cụ thể chọn để thỏa mãn số đặc điểm vấn đề mà nơron cố gắng giải Nhiều hàm số chuyển đưa sách Ba hàm số sử dụng thường xuyên thảo luận Hàm số chuyển hard limit, bên trái hình 2.2, đặt đầu nơron đối số hàm số nhỏ 0, đối số lớn Chúng ta sử dụng hàm số để tạo nơron mà phân lọai đầu vào thành loại riêng biệt Điều sử dụng rộng rãi chương Hình 2.2: Hàm số chuyển hạn chế cứng/nghiêm ngặt Hình bên phải hình 2.2 minh họa cho đặc tính đầu ra/ đầu vào nơron đầu vào đơn mà sử dụng hàm số chuyển hạn chế nghiêm ngặt Ở thấy tác động khối lượng giá trị ngưỡng Chú ý biểu tượng cho hàm số chuyển hạn chế cứng hình Các biểu tượng thay toàn f biểu đồ mạng lưới để hàm số cụ thể sử dụng Đầu hàm số chuyển tuyến tính với đầu vào a = n , (2.1) Như minh họa hình 2.3 Các nơron với hàm số chuyển sử dụng mạng ADALINE, mà thảo luận chương 10 Nhóm 14 Tiểu luận chuyên đề Hình 2.3 Hàm số chuyển tuyến Đầu (a) chống lại đặc tính đầu vào (p) nơron tuyến tính đầu vào đơn với bias hình 2.3 Hàm số chuyển log-sigmoid hình 2.4 Hình 2.4 Hàm số chuyển Log-sigmoid Hàm số chuyển đưa đầu vào ( mà có giá trị dương vơ âm vô cùng) bỏ đầu giới hạn từ đến 1, theo mô tả sau: Hàm số chuyển log-sigmoid thường sử dụng mạng đa tầng mà huấn luyện sử dụng thuật tốn truyền lan ngược, phần hàm phân biệt ( xem chương 11) Nhóm 14 Tiểu luận chuyên đề Hầu hết hàm số chuyển sử dụng sách tóm tắt bảng 2.1 Có thể xác định hàm chuyển khác thêm vào hàm mà bảng 2.1 muốn Bảng 2.1 Các hàm số chuyển Tên Mối quan hệ Biểu tượng Hàm MATLAB Hạn chế cứng a = n1 Satlins Log-Sigmoid Logsig Sigmoid tiếp tuyến Hipebon Tagsig Tuyến dương a = n