10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc NỘI DUNG Bài tốn QHPT khơng ràng buộc Điều kiện tối ưu Một số phương pháp giải tốn QHPT khơng ràng buộc 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc Bài tốn Quy hoạch phi tuyến khơng ràng buộc có dạng: (P krb ) min{ f ( x ) : x ∈ ℝ }, n f :ℝ →ℝ n hàm phi tuyến 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc I Điều kiện tối ưu Định lý 1(Điều kiện bậc nhất) f xác định, khả vi ℝn Cho hàm * n Nếu x ∈ℝ nghiệm cực tiểu địa phương ∇f ( x* ) = tốn 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc Định lý f hàm lồi khả vi ℝn Khi đó, Giả sử * n x ∈ℝ nghiệm cực tiểu toàn cục toán krb ( P ) ∇f ( x* ) = 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc Định lý (Điều kiện bậc hai) f khả vi liên tục hai lần ℝn Giả sử hàm Khi đó: x* ∈ℝn điểm cực tiểu địa phương f i) Nếu ℝn * * ∇f ( x ) = ∇ f ( x ) nửa xác định dương; ii) Ngược lại , * * ∇f ( x ) = ∇ f ( x ) xác định dương * x điểm cực tiểu địa phương chặt f n ℝ 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc Ví dụ1: Cho hàm số f ( x1 , x ) = e Ta có: x2 − x1 e x2 +x  −3e + 3x  ∇f ( x) =  x  3e − 3x e x2     x2  6x1  −3e ∇ f (x) =  x 3x2 x2   −3e 9e − 3x1e  x2 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc II Phương pháp hướng giảm 10/6/2010 Ý tưởng Lược đồ chung Định nghĩa hướng giảm Xác định độ dài bước + Thủ tục tìm xác theo tia + Thủ tục quay lui Tốc độ hội tụ Tuyến tính; Trên tuyến tính; Bậc MaMH C02012 Chương 3: QHPT không ràng buộc Ý tưởng Lược đồ chung Định nghĩa hướng giảm Xác định độ dài bước + Thủ tục tìm xác theo tia + Thủ tục quay lui Tốc độ hội tụ Tuyến tính; Trên tuyến tính; Bậc 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc Ý tưởng: Xuất phát từ điểm x0 ∈ℝn , ta xây k dựng dãy điểm x , x , , x , cho f ( x ) ≥ f ( x ) ≥ f ( x ) ≥ ≥ f ( x ) k dãy { x } hội tụ đến điểm dừng x* ∈ ℝ n k hàm f ∇f ( x* ) = ) ( 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 10 Phương pháp Newton cổ điển Phương pháp Newton túy Phương pháp Newton với bước điều chỉnh Phương pháp tựa Newton 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 52 Phương pháp tựa Newton k Tại bước lặp, thay tính hướng Newton p , ta tính hướng d = − H k ∇f ( x ), k k Hk ma trận không suy biến, đối xứng, xác định dương 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 53 Thuật toán (Thuật toán D.F.P.) Bước khởi đầu Xuất phát từ điểm tùy ý x1 ∈ ℝn có ∇f (x1) ≠ 0; Chọn tùy ý ma trận xác định dương H1 (Thường chọn H1 ma trận đơn vị I ) Đặt k := 1; Bước lặp k (k=1,2,…) (k1 ) Đặt d k := −Hk ∇f ( xk ); Tính tk := argmin{ϕ(t ) := f ( xk + td k ), t > 0}; ( k2 ) 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 54 (k3 ) Tính xk +1 := xk + tk d k ; vk := xk +1 − xk ; ∇f ( xk +1 ) (k4 ) If ∇ f ( x k +1 ) ≈ Then dừng thuật toán Else Chuyển bước (k5 ) ; k k +1 k (k5 ) Tính u := ∇f ( x ) −∇f ( x ) k k T k k T v (v ) ( H k u )( H k u ) H k +1 := H k + k k − ; k k u ,v u , Hku (k6 ) Đặt k := k + quay lại Bước lặp k 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc 55 III Phương pháp tìm kiếm trực tiếp krb Để giải toán ( P ) hàm mục tiêu f(x) khơng khả vi có khả vi việc lấy đạo hàm đạo hàm riêng khó khăn Xét hai thuật tốn: Thuật tốn Hooke Jeeves Thuật tốn tìm kiếm theo đơn hình 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc 56 Thuật toán Hooke Jeeves Thuật tốn tìm kiếm theo đơn hình 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc 57 Thuật tốn Hooke Jeeves Thuật toán (Thuật toán giảm theo tọa độ) Bước n Xuất phát từ điểm tùy ý x = ( x1 , x2 , , xn ) ∈ℝ Chọn véctơ v = (0, , 0, δ , 0, , 0), i = 1, , n, i i δ > số cho trước Chọn trước số ε > đủ nhỏ 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 58 Bước Đặt x = x Trong ba điểm x x ± v chọn điểm mà giá trị hàm mục tiêu bé 11 nhất, ký hiệu điểm x Để đơn giản ta viết: Tìm 10 10 10 x = arg min{ f ( x ), f ( x + v ), f ( x − v )} 11 10 10 10 (theo tọa độ thứ nhất); x = arg min{ f ( x ), f ( x + v ), f ( x − v )} 12 11 11 11 (theo tọa độ thứ hai); ⋮ 1n 1n−1 1n−1 1n−1 n n x = arg min{ f ( x ), f ( x + v ), f ( x − v )} (theo tọa độ thứ n); 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 59 Gán y := x ; x1 = y Then Chuyển Bước Bước If Else Chuyển Bước 4; * Bước If δ ≤ ε Then Dừng thủ tục ( x ≈ x ) Else Đặt 1n i v v = , i = 1, , n quay lại Bước 1; i Bước Đặt x = x1 + 2( y1 − x1 ); x1 := x quay lại Bước 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 60 Thuật toán Hooke Jeeves Thuật tốn tìm kiếm theo đơn hình 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc 61 Thuật tốn tìm kiếm theo đơn hình Thuật tốn Bước 1 n +1 n • Tạo đơn hình có (n+1) đỉnh x , , x ∈ ℝ • Tính f ( x i ), i = 1, , n + Bước Tính f max := f ( x ) = max{ f ( x ) : i = 1, , n + 1}, iM ∈{1, , n + 1} iM i f := f ( xim ) = max{ f ( xi ) : i = 1, , n + 1}, im ∈{1, , n + 1} Đặt x 10/6/2010 max := x ; x iM := x im MaMH C02012 Chương 3: QHPT không ràng buộc 62 Bước ( Tiêu chuẩn tối ưu) max − f ≤ ε Then Dừng thủ tục If f ( x nghiệm tối ưu địa phương f giá trị tối ưu tương ứng) Else Chuyển Bước Bước 4.(Tính điểm trọng tâm) i n +1 f (x ) i S x = ∑ n +1 x i i =1 ∑ f (x ) i =1 (tổ hợp lồi x i , i = 1, , n + ) 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 63 Bước Chiếu đối xứng x max S qua x max R ) (tức x = x + x ) 2 x = x + 2( x − x R R Đặt f := f ( x ) Bước If f R ≤ f Then Chuyển Bước Else Chuyển Bước R S Bước Chiếu đối xứng x qua x E S R S x = x + 2( x − x ); Đặt f E := f ( x E ) E xiM := x E (x max := x E ), If f < f Then Đặt R 10/6/2010 max S max S MaMH C02012 Chương 3: QHPT khơng ràng buộc 64 đơn hình Quay Bước xiM := x R ( x max := x R ), Quay Bước Else Đặt Bước (Đã có f R > f ) R max xiM := x R ( x max := x R ), If f < f Then đơn hình Quay Bước Else Chuyển Bước Bước (Đã có f R ≥ f max ) Tính max S K K x = x + x f := f ( x ) 2 K 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 65 If f < f Then x := x ( x := x ), đơn hình Quay Bước Else Thu hẹp đơn hình theo công thức K max iM K max K i x = x + x , ∀i ∈{1, , n + 1}\{im} 2 i Quay lại Bước 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc 66 ... DUNG Bài tốn QHPT khơng ràng buộc Điều kiện tối ưu Một số phương pháp giải tốn QHPT khơng ràng buộc 10/6/2010 MaMH C02012 Chương 3: QHPT khơng ràng buộc Bài tốn Quy hoạch phi tuyến khơng ràng. .. C02012 Chương 3: QHPT không ràng buộc Ví dụ1: Cho hàm số f ( x1 , x ) = e Ta có: x2 − x1 e x2 +x  −3e + 3x  ∇f ( x) =  x  3e − 3x e x2     x2  6x1  −3e ∇ f (x) =  x 3x2 x2   −3e 9e − 3x1e... C02012 Chương 3: QHPT không ràng buộc 50 (k3 ) If ∇ f ( x k +1 ) ≤ ε Then dừng thuật toán x* ≈ x k +1 ) (lấy Else k := k + quay lại Bước lặp k 10/6/2010 MaMH C02012 Chương 3: QHPT không ràng buộc