Bài giảng Lý thuyết thông tin: Chương 0 - Bùi Văn Thành

38 82 0
Bài giảng Lý thuyết thông tin: Chương 0 - Bùi Văn Thành

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

Thông tin tài liệu

Mời các bạn cùng tìm hiểu thí nghiệm ngẫu nhiên, không gian mẫu, biến cố; xác suất;... được trình bày cụ thể trong Bài giảng Lý thuyết thông tin: Chương 0 do Bùi Văn Thành biên soạn. Hy vọng tài liệu là nguồn thông tin hữu ích cho quá trình học tập và nghiên cứu của các bạn.

Trường Đại Học Cơng Nghệ Thơng Tin KHOA MẠNG & TRUYỀN THƠNG LÝ THUYẾT THƠNG  Bùi Văn Thành TIN thanhbv@uit.edu.vn Tháng 7 năm 2013 Chương 0 XÁC SuẤT MA TRẬN XÁC SUẤT (Probability)  1.1. THÍ NGHIỆM NGẪU NHIÊN, KHƠNG GIAN MẪU, BIẾN  CỐ:  1.1.1. Thí nghiệm ngẫu nhiên (Random Experiment)  Thí nghiệm ngẫu nhiên là một thí nghiệm có hai đặc tính : ­Khơng  biết chắc hậu quả nào sẽ xảy ra. ­Nhưng biết được các hậu quả có  thể xảy ra  Ví dụ:  Tung một con xúc sắc là một thí nghiệm ngẫu nhiên vì : ­Ta khơng biết chắc mặt nào sẽ xuất hiện  ­Nhưng biết được có 6 trường hợp xảy ra (xúc sắc có 6 mặt 1, 2, 3,  4, 5, 6)  Ràng buộc: ­Con xúc sắc đồng chất để 6 mặt đều có thể xuất hiện như nhau ­Cách tung xúc sắc khơng cố ý thiên vị cho mặt nào hiện ra.  1.1.2. Khơng gian mẫu (Sample Space)  Tập hợp các hậu quả có thể xảy ra trong thí nghiệm ngẫu nhiên gọi là  khơng gian mẫu của thí nghiệm đó Ví dụ: Khơng gian mẫu của thí nghiệm thảy một con xúc xắc là: E = {1,  2, 3, 4, 5, 6}  Khơng gian mẫu của thí nghiệm thảy cùng một lúc hai đồng xu là:  E = {SS, SN, NS, NN} với S: Sấp, N: Ngửa   1.1.3. Biến cố (Event)  a) Biến cố  ­Mỗi tập hợp con của khơng gian mẫu là một biến cố ­Biến cố chứa một phần tử gọi là biến cố sơ đẳng   Ví dụ:  Trong thí nghiệm thảy 1 con xúc sắc : ­Biến cố các mặt chẵn là : {2, 4, 6}. Biến cố các mặt lẻ: {1, 3, 5} ­Các biến cố sơ đẳng là : {1}, {2}, {3}, {4}, {5}, {6} b) Biến cố xảy ra (hay thực hiện)  Gọi r là một hậu quả xảy ra và A là một biến cố: ­nếu r ∈ A ta nói biến cố A xảy ra  ­nếu r ∉ A ta nói biến cố A khơng xảy ra  Ví dụ:  Trong thí nghiệm thảy một con xúc sắc nếu mặt 4 xuất hiện thì:  ­Biến cố {2,4,6} xảy ra vì 4 ∈{2, 4, 6} ­Biến cố {1,3,5} khơng xảy ra vì 4 ∉{1, 3, 5} Ghi chú: ­φ⊂ E => φ là một biến cố ∀r, r ∉φ => φ là một biến cố vơ phương (biến cố khơng) ­E ⊂ E  => E là một biến cố ∀ r, r ∈ E => E là một biến cố chắc chắn  1.1.4. Các phép tính về biến cố  Cho 2 biến cố A, B với A⊂ E và B ⊂ E  a) Biến cố hội A ∪ B (Union): Biến cố hội của 2 biến  cố A và B được ký hiệu là A ∪ B: A ∪ B xảy ra  (A  xảy ra HAY B xảy ra)  b) Biến cố giao A ∩ B (Intersection): A ∩ B xảy ra  (A  xảy ra VÀ B xảy ra)  A∩B  c) Biến cố phụ A (Biến cố đối lập, Component of A):A xảy ra   A khơng xảy ra  d) Biến cố cách biệt ( biến cố xung khắc, mutually exclusive  event)  A cách biệt với B  A ∩ B = φ  A cách biệt với B  A với B khơng cùng xảy ra  Ví dụ:  Trong thí nghiệm thảy một con xúc sắc, ta có khơng gian  mẫu: E = {1, 2, 3, 4, 5, 6} ­Gọi A là biến cố mặt lẻ xuất  hiện => A = {1, 3, 5} ­Gọi B là biến cố khi bội số của 3  xuất hiện => B = {3, 6} ­Gọi C là biến cố khi mặt 4 xuất  hiện => C = {4}, biến cố sơ đẳng.  Ta có: A ∪ B = {1, 3, 5, 6} A ∩ B = {3} A = {2,4,6} :  biến cố khi mặt chẵn xuất hiện. A ∩ C = φ => A và C là  2 biến cố cách biệt.  e) Hệ đầy đủ (Collectively Exhaustive)  Gọi A1, A2…, Ak là k biến cố trong khơng gian mẫu E  Nếu A1∪ A2∪… ∪Ak  = E thì K biến cố trên được gọi  là một hệ đầy đủ.  1.2. XÁC SUẤT (Probability).  1.2.1. Định nghĩa:  Nếu thơng gian mẫu E có N biến cố sơ đẳng và biến cố A có n biến  cố sơ đẳng thì xác suất của biến cố A là : P(A) = n(A)/N Một cách khác ta có thể viết : P(A) = Số trường hợp A xảy ra/Số trường hợp cóthể xảy Ví dụ:  Trong thí nghiệm thảy một con xúc sắc, xác suất biến cố các mặt  chẵn xuất hiện là : P(A) =n(A)/N = 3/6=1/2  1.2.2. Tính chất:  a. Gọi A là một biến cố bất kỳ trong khơng gian mẫu E : 0 ≤ P(A) ≤ 1  b. P (φ) = 0 => φ là Biến cố vơ phương P (E) = 1 => E là Biến cố chắc  chắn  1.2.3. Cơng thức về xác suất : a) Xác suất của biến cố hội:  P (A ∪ B) = P (A) + P(B) ­ P( A ∩ B) Chứng minh:  Gọi N : là số phần tử của khơng gian mẫu E  n1: là số phần tử của (A ­ B)  n2: là số phần tử của (A∩B)  n3: là số phần tử của (B ­ A)    n(A ∪ B)=n1 + n2 + n3= n1+n2+n2+n3 –n2 = n(A) +n(B) ­n(A ∩ B)  Do đó : n( A ∪ B)/N = n(A)/N + n(B)/N ­ n(A ∩ B )/N  10 P(A ∪ B) = P(A) + P(B) ­ P(A ∩ B)  Ví dụ:  Xác suất bắn trúng đích của một người bằng 0,7. Nếu người đó  bắn 25 phát Xác định sốlần có khả năng trúng đích nhất Giải : n = 25, p = 0,7, q = 0,3  np ­ q  ≤ k0 ≤ np + p  25 * 0,7 – 0,3  ≤ k0 ≤ 25 * 0,7 + 0,7  17,2  ≤ k0 ≤ 18,2  Vì k là số ngun, nên chọn k = 18 24  c) Các cơng thức gần đúng để tính Pn (k) và Pn  (k1,k2)  Các cơng thức được rút ra từ các định lý giới hạn Cơng thức Moixre ­ Laplace :  Pn(k) ≈ϕ(xk)/ npq  • Cơng thức Moixre ­ Laplace được sử dụng khi n khá  lớn  • p là xác suất của biến cố A trong phép thử Bernoulli, p  khơng q gần 0 và 1  xk = (k­np)         / npq  ϕ(x) = 1 /  2π * e­x²/2 : hàm số Gauss  25 Ví dụ:  Xác suất để sản xuất ra một chi tiết loại tốt là 0.4.Tìm xác suất  để trong 26 chi tiết sản xuất ra thì có 13 chi tiết loại tốt Vấn đề là tìm P26(13)  n = 26  p = 0.4  q = 0.6  xk = (k ­ np) /            npq = 1,04  ϕ(xk) = ϕ(1,04) = 0,2323  P26(13) = ϕ(xk)/           npq = 0,2323/2,5 = 0,093  Pn (k1, k2) ≈∅ (β) ­∅ (α)   α = (k1 ­ np)/            npq   β = (k2 ­ np)/           npq  26  ∅(x) = 1/  2π∫0 x e­x²/2dx : hàm Laplace chuẩn  Ví dụ:  Một phân xưởng sản xuất bóng đèn đạt trung bình là  70% sản phẩm loại tốt. Tìm xác suất để trong 1000 bóng  đèn có từ 652 đèn 760 bóng đèn loại tốt. Xác suất phải  tìm là P1000 (652, 760) n = 1000, p = 0,7 q = 0,3 k1 = 652  k2 = 700  α = (k1 ­ np)/         npq = ­ 3,31 =>∅ (α) = ∅(­3,31) = ­  0,499520  β = (k2 ­ np)/        npq = 4,14 =>∅ (β) = ∅(4,14) =  0,499968  P1000 (652, 760) = ∅ (β) ­∅ (α) = 0,999488  27 Cơng thức Poisson  • Nếu n →∞ và p → 0 sao cho np = λ (const) thì  Pn (k) ≈ (e­λλk) / k! Định lý Poisson cũng có thể dùng để tính gần đúng Pn  (k1,k2)  28 Ví dụ:  Tổng sản phẩm của xí nghiệp A trong 1 q là 800. Xác xuất để  sản xuất ra một phế phẩm là 0.005. Tìm xác suất để cho : Có 3 sản phẩm là phế phẩm  Có khơng q 10 sản phẩm bị hỏng    Giải: n =800, p = 0,005 => λ = np = 4       1. P800(3) = e­44³/3! = 0,1954 2. P800(0,10) =  29 MA TRẬN Mơ tả:  Các dòng ngang của ma trận gọi là hàng và các cột  thẳng đứng là cột. Hình dạng ma trận được đặc trưng  bởi số hàng và số cột (kích thước ma trận). k phần tử.  Ma trận thường được viết thành bảng kẹp giữa 2 dấu  ngoặc vng "[" và "]" (hoặc, hiếm hơn, dấu ngoặc  "(" và ")").   Thí dụ: Ma  trận  thường  được  dùng  để  mô  ta  không  gian  30 trạng thái trong điều khiển tự động Các loại ma trận đặc biệt  Ma trận tam giác  là ma trận vng được chia thành hai loại là  ma trận tam giác trên và ma trận tam giác dưới  Ma trận tam giác trên khi các phần tử nằm phía dưới hạng tử có giá trị  = 0, aij=0 với mọi i>j  Ma trận tam giác dưới khi các phần tử nằm phía trên hạng tử có giá trị  bằng khơng, aij=0 với mọi i

Ngày đăng: 11/02/2020, 18:43

Từ khóa liên quan

Mục lục

  • Slide 1

  • Chương 0

  • XÁC SUẤT (Probability)

  • Slide 4

  • Slide 5

  • Slide 6

  • Slide 7

  • Slide 8

  • Slide 9

  • Slide 10

  • Slide 11

  • Slide 12

  • Slide 13

  • Slide 14

  • Slide 15

  • Slide 16

  • Slide 17

  • Slide 18

  • Slide 19

  • Slide 20

Tài liệu cùng người dùng

Tài liệu liên quan