ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC TÔ VIỆT HƯNG VỀ ĐIỀU KIỆN CẦN TỐI ƯU CẤP CHO BÀI TỐN TỐI ƯU CĨ CÁC RÀNG BUỘC ĐẲNG THỨC VÀ BẤT ĐẲNG THỨC Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 60.46.36 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: PGS TS ĐỖ VĂN LƯU THÁI NGUYÊN - 2010 Số hóa Trung tâm Học liệu - Đại học Thái Ngun http://www.lrc-tnu.edu.vn Cơng trình hồn thành TRƯỜNG ĐẠI HỌC KHOA HỌC - ĐẠI HỌC THÁI NGUYÊN Người hướng dẫn khoa học: PGS TS ĐỖ VĂN LƯU Phản biện 1: Phản biện 2: Luận văn bảo vệ trước hội đồng chấm luận văn họp tại: TRƯỜNG ĐẠI HỌC KHOA HỌC - ĐẠI HỌC THÁI NGUN Ngày tháng năm 2010 Có thể tìm hiểu THƯ VIỆN TRƯỜNG ĐẠI HỌC KHOA HỌC THÁI NGUYÊN TRUNG TÂM HỌC LIỆU ĐẠI HỌC THÁI NGUYÊN Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mục lục Mục lục Mở đầu Chương Điều kiện cần tối ưu cấp cho tốn có ràng buộc đẳng thức bất đẳng thức 1.1 Phát biểu toán kết bổ trợ 1.1.1 Bài tốn (P1 ) điều kiện quy 1.1.2 Mở rộng kết Hestenes 1.1.3 Mở rộng bổ đề Yuan 12 1.2 Điều kiện cần tối ưu cấp 13 1.3 Các điều kiện quy (MMF) (GSCS) điều kiện tối ưu cấp 19 Chương Điều kiện cần tối ưu cấp cho tốn có ràng buộc đẳng thức, bất đẳng thức ràng buộc tập 25 2.1 Các khái niệm kết có liên quan 25 2.2 Nguyên lí cực trị 29 2.3 Bài tốn có ràng buộc F (x) ∈ C 39 Kết luận 43 Tài liệu tham khảo 44 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mở đầu Lý thuyết điều kiện tối ưu phận quan trọng lý thuyết tối ưu hóa Người ta thường quan tâm nghiên cứu điều kiện tối ưu cấp 1, cấp cấp cao Các điều kiện tối ưu cấp tỏ hiệu việc tìm nghiệm tối ưu tập điểm dừng A Baccari A Trad [4] dẫn điều kiện cần tối ưu cấp cho toán tối ưu với ràng buộc đẳng thức bất đẳng thức không gian hữu hạn chiều với giả thiết tập nhân tử Lagrange đoạn thẳng bị chặn với điều kiện đủ đảm bảo giả thiết Một điều kiện cần tối ưu cấp với điều kiện cần quy Mangasarian-Fromovitz tăng cường (MMF) điều kiện bù chặt suy rộng (GSCS) thiết lập A Arutyunov F L Pereira [3] nghiên cứu điều kiện cần tối ưu cấp cho cực tiểu địa phương theo tơpơ hữu hạn tốn tối ưu với ràng buộc đẳng thức, bất đẳng thức ràng buộc tập không gian véc tơ, áp dụng cho toán tối ưu với ràng buộc bao hàm thức F (x) ∈ C Luận văn trình bày điều kiện cần tối ưu cấp cho toán tối ưu với ràng buộc đẳng thức bất đẳng thức với giả thiết tập nhân tử Lagrange đoạn thẳng bị chặn điều kiện cần tối ưu cấp cho cực tiểu địa phương theo tơpơ hữu hạn tốn tối ưu với ràng buộc đẳng thức, bất đẳng thức ràng buộc tập không gian véc tơ toán tối ưu với ràng buộc bao hàm thức F (x) ∈ C Luận văn bao gồm phần mở đầu, hai chương, kết luận danh mục tài liệu tham khảo Chương trình bày điều kiện cần tối ưu cấp Baccari - Trad [4] cho toán tối ưu với ràng buộc đẳng thức bất đẳng thức với giả thiết tập nhân Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn tử Lagrange đoạn thẳng bị chặn Kết điều kiện quy Mangasarian - Fromovitz điều kiện số ràng buộc tích cực nhiều là điều kiện đủ để tập nhân tử Lagrange đoạn thẳng bị chặn Điều kiện cần tối ưu cấp với điều kiện quy (MMF) điều kiện bù chặt suy rộng (GSCS) trình bày chương Chương trình bày điều kiện cần tối ưu cấp Arutyunov - Pereira [3] cho cực tiểu địa phương theo tôpô hữu hạn toán tối ưu với ràng buộc đẳng thức, bất đẳng thức ràng buộc không gian véc tơ Ngun lí cực trị cấp áp dụng để dẫn nguyên lí cực trị cấp cho toán tối ưu với ràng buộc bao hàm thức F (x) ∈ C Nhân dịp này, em xin gửi lời cảm ơn sâu sắc tới thầy giáo PGS TS Đỗ Văn Lưu Viện Toán học giao đề tài tận tình hướng dẫn em suốt q trình nghiên cứu để hồn thành luận văn Cũng em xin gửi lời cảm ơn chân thành tới thầy cô giáo Trường Đại học Khoa học, Khoa Công nghệ Thông tin - Đại học Thái Ngun, thầy giáo cơng tác Viện Tốn học, Viện Cơng nghệ Thơng tin tận tình tham gia giảng dạy Lớp Cao học Toán K2 - Trường Đại học Khoa học Thái Nguyên, giúp em hoàn thành chương trình học tập trường Đồng thời, tơi xin cảm ơn tới tất bạn học viên Lớp Cao học Tốn K2 nhiệt tình động viên, giúp đỡ tơi q trình học tập Tơi xin cảm ơn lãnh đạo Trường THPT Chu Văn An - TP Móng Cái, lãnh đạo Sở Giáo dục Đào tạo Quảng Ninh tạo điều kiện thuận lợi cho hồn thành khóa học Thái Ngun, ngày 20 tháng năm 2010 Tác giả Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương Điều kiện cần tối ưu cấp cho tốn có ràng buộc đẳng thức bất đẳng thức Chương trình bày điều kiện cần tối ưu cấp cho điểm cực tiểu địa phương x∗ toán tối ưu với ràng buộc đẳng thức bất đẳng thức với giả thiết tập nhân tử Lagrange Λ(x∗ ) đoạn thẳng bị chặn với điều kiện đủ để Λ(x∗ ) đoạn thẳng bị chặn Điều kiện cần tối ưu cấp với điều kiện quy Mangasarian-Fromovitz tăng cường (MMF) điều kiện bù chặt suy rộng (GSCS) trình bày chương Các kết trình bày chương Baccari - Trad [4] 1.1 Phát biểu toán kết bổ trợ 1.1.1 Bài tốn (P1 ) điều kiện quy Xét tốn tối ưu khơng lồi: (P1 ) min{f (x) | g(x) ≤ 0, h(x) = 0} f : Rn → R; g : Rn → Rp ; h : Rn → Rq hai lần khả vi liên tục Bài tốn (P1 ) khơng có ràng buộc đẳng thức hay bất đẳng thức Sau ta nhắc lại ký hiệu, định nghĩa kết dùng chương Hàm Lagrange tổng quát toán (P1 ) xác định Rn × Rp+1 × Rq + Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn định nghĩa p L(x, λ0 , λ, µ) = λ0 f (x) + q λi gi (x) + i=1 µj hj (x) j=1 Hàm Lagrange tốn (P1 ) xác định Rn × Rp × Rq định nghĩa + L(x, λ, µ) = L(x, 1, λ, µ) Gradient mà trận Hessian L theo x, ký hiệu L(x, λ, µ) xx Gradient f theo x véctơ cột f (x), x L(x, λ, µ) f (x)t véc tơ chuyển vị Tập chấp nhận F = {x | g(x) ≤ 0, h(x) = 0} Với x ∈ F , tập số tích cực I(x), nón tới hạn C(x), tập nhân tử Lagrange tổng quát Λ0 (x) tập nhân tử Lagrange Λ(x) định nghĩa tương ứng sau: I(x) = {i | gi (x) = 0}, C(x) = {d | f (x)t d ≤ 0, gi (x)t d ≤ 0, i ∈ I(x), hj (x)t d = 0, j = 1, 2, , q}, Λ0 (x) = {(λ0 , λ, µ) = | x L(x, λ0 , λ, µ) = 0, (λ0 , λ) ∈ Rp+1 , λi gi (x) = 0, ∀i}, + Λ(x) = {(λ, µ) | λ0 = 1, (λ0 , λ, µ) ∈ Λ0 (x)} Dạng toàn phương Q Rn định nghĩa Q(x) = B(x, x), B dạng song tuyến tính đối xứng Rn Định nghĩa 1.1 Cho Q dạng toàn phương Rn , S tập Rn Q gọi bán xác định dương S Q(s) ≥ 0, ∀s ∈ S Ký hiệu Q S Định nghĩa 1.2 Một tập khác rỗng L ⊂ Rm đoạn thẳng tồn X ∈ Rm , Y ∈ Rm khoảng J ⊂ R cho L = X + J.Y = {l = X + θY | θ ∈ J} Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Nhận xét 1.1 Nếu Y = L đóng bị chặn, J đóng bị chặn Khi ta viết L = X + [a, b]Y với số thực a ≤ b Hơn nữa, L khơng tập điểm L có điểm cực biên X + aY X + bY Định nghĩa 1.3 Nón cấp K nón có dạng K = E + R+ d0 , E không gian véc tơ Rn d0 ∈ Rn Chú ý rằng, không gian véc tơ E ⊂ Rn nón cấp Sau đây, ta nhắc lại điều kiện quy cổ điển mà ta sử dụng Định nghĩa 1.4 Điểm chấp nhận x∗ ∈ F gọi thỏa mãn điều kiện bù chặt (SCS) Λ(x∗ ) khác rỗng với i ∈ I(x∗ ), tồn (λ, µ) ∈ Λ(x∗ ) cho λi > Nhận xét 1.2 Nếu x∗ ∈ F , điều kiện (SCS) p∗ số ràng buộc bất đẳng thức tích cực, khẳng định sau đúng: (i) Với i ∈ I(x∗ ), tồn (λi , µi ) ∈ Λ(x∗ ) cho λi > 0, i (λ∗ , µ∗ ) = p∗ (λi , µi ) ∈ Λ(x∗ ) i∈I(x∗ ) thỏa mãn λ∗ > với i ∈ I(x∗ ) i (ii) Nón tới hạn C(x∗ ) không gian véc tơ Để thấy điều này, cho d ∈ C(x∗ ) J = {1, 2, , q}; Khi đó, ∗ , λ∗ , µ∗ ) = =⇒ x L(x ∗ , λ∗ , µ∗ )t d (a) x L(x = 0, (b) gi (x∗ )t d ≤ 0, λ∗ > 0, ∀i ∈ I(x∗ ), hj (x∗ )t d = 0, ∀j ∈ J, i (c) f (x∗ )t d ≤ =⇒ gi (x∗ )t d = 0, ∀i ∈ I(x∗ ) Vì vậy, C(x∗ ) = {d | gi (x∗ )t d = 0, i ∈ I(x∗ ), hj (x∗ )t = 0, j ∈ J} Định nghĩa 1.5 Điểm chấp nhận x∗ ∈ F gọi thỏa mãn điều kiện quy độc lập tuyến tính (LICQ) véc tơ gi (x∗ ), ∀i ∈ I(x∗ ), hj (x∗ ), j = 1, 2, , q, độc lập tuyến tính Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Điều kiện quy Mangasarian-Fromovitz (MFCQ) định nghĩa sau: Định nghĩa 1.6 Ta nói điều kiện quy (MFCQ) điểm chấp nhận x∗ ∈ F , hai điều kiện sau đúng: (i) q véc tơ hj (x∗ ) độc lập tuyến tính, (ii) tồn véc tơ d∗ cho gi (x∗ )t d∗ < 0, ∀i ∈ I(x∗ ); hj (x∗ )t d∗ = 0, j = 1, 2, q Bổ đề 1.1 ([8]) Điều kiện (MFCQ) khơng tồn (λ, µ) = cho λi ≥ 0, ∀i ∈ I(x∗ ), (1.1) q λi gi (x∗ ) + i∈I(x∗ ) µj hj (x∗ ) = (1.2) j=1 Nhận xét 1.3 Cho x∗ ∈ F thỏa mãn điều kiện sau: (a) Khơng có ràng buộc bất đẳng thức tích cực (b) Chỉ có ràng buộc bất đẳng thức tích cực Khi đó, sử dụng (1.2), từ điều kiện (MFCQ) kéo theo điều kiện (LICQ) Định nghĩa 1.7 Một điểm chấp nhận x∗ ∈ F thỏa mãn điều kiện đủ tối ưu cấp (SC2) Λ(x∗ ) khác rỗng sup (d)t (λ,µ)∈Λ(x∗ ) ∗ xx L(x , λ, µ)d > 0, ∀d ∈ C(x∗ ), d = (1.3) Kết sau biết đến điều kiện cần tối ưu Karush-Kuhn-Tucker: Giả thiết x∗ nghiệm tối ưu địa phương toán (P1 ) thỏa mãn điều kiện (LICQ) Khi đó, Λ(x∗ ) tập điểm (tức là, Λ(x∗ ) = {(λ, µ)}) thỏa mãn điều kiện cần tối ưu cấp hai cổ điển: (CN 2) (d)t ∗ xx L(x , λ, µ)d Số hóa Trung tâm Học liệu - Đại học Thái Nguyên ≥ 0, ∀d ∈ C(x∗ ) http://www.lrc-tnu.edu.vn (CN 2) có tính chất quan trọng nhân tử Lagrange (λ, µ) cho véc tơ d ∈ C(x∗ ) Nếu điều kiện (LICQ) không đúng, Λ(x∗ ) khơng tập điểm điều kiện (CN 2) không thỏa mãn (xem [1]) Tuy nhiên, điều kiện (CN 2) điều kiện sau thỏa mãn (xem [5]): (i) Các hàm ràng buộc g h affine (ii) Các hàm f g lồi, h affine x∗ thỏa mãn điều kiện Slater (iii) Tồn (λ, µ) ∈ Rp × Rq cho (x∗ , λ, µ) điểm yên ngựa hàm Lagrange + tốn (P1 ) Khơng có điều kiện quy mà nghiệm tối ưu địa phương toán (P1 ) thỏa mãn điều kiện cần tối ưu cấp cấp Fritz John sau (xem [5]): Λ0 (x∗ ) = ∅, ∀d ∈ C(x∗ ) ∃(λ0 , λ, µ) ∈ Λ0 (x∗ ) : (d)t (1.4) ∗ xx L(x , λ0 , λ, µ)d ≥ (1.5) Điều kiện cần tối ưu cấp (1.5) có hai mặt hạn chế: Thành phần thứ λ0 λ, (1.5), triệt tiêu nhân tử (λ0 , λ, µ) (1.5) khơng thiết cho tất véc tơ tới hạn Giả thiết nghiệm tối ưu địa phương x∗ tốn (P1 ) thỏa mãn điều kiện (MFCQ) Khi đó, theo [6] Λ(x∗ ) khác rỗng bị chặn, lồi compact Mọi (λ0 , λ, µ) ∈ Λ0 (x∗ ) thỏa mãn λ0 > Điều kiện (1.5) viết (GN 2) max (d)t (λ,µ)∈Λ(x∗ ) ∗ xx L(x , λ, µ)d ≥ ∀d ∈ C(x∗ ), điều kiện (GN 2) khắc phục mặt hạn chế thứ Mặt hạn chế thứ hai, ví dụ đưa [1], điều kiện (MFCQ) không kéo theo điều kiện (CN 2) Tuy nhiên, trường hợp sau, điều kiện (MFCQ) kéo theo điều kiện (CN 2): (i) n ≤ (ii) Có nhiều hai ràng buộc bất đẳng thức tích cực Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 31 Nhận xét 2.4 Cho C nón lồi Giả thiết quan hệ sau đúng: • h ∈ C + span{x0 } (nói riêng x0 = 0) • Nón C có số diện hữu hạn Khi đó, cách sử dụng Nhận xét 2.3, ta có σ(x∗ , TC (x0 , h)) = 0, ∀x∗ ∈ NC (x0 ) Chứng minh Định lí 2.1 cách bỏ ràng buộc F1 (x) ≤ F2 (x) = phương pháp hàm phạt Vai trò trung tâm chứng minh khẳng định sau cho phép ta chuyển qua giới hạn Định lí 2.2 Giả sử X khơng gian Banach {Πn } dãy không gian tuyến tính đóng X cho codim Πn ≤ k, ∀n Khi đó, tồn khơng gian tuyến tính đóng Π ⊆ X cho codim Π ≤ k, Π ⊆ Ls{Πn } Từ sau, ta ký hiệu Ls giới hạn tôpô dãy tập hợp.2 Định lí 2.3 Giả sử An : X → Rk dãy tốn tử tuyến tính liên tục, hội tụ theo chuẩn đến tốn tử tuyến tính A Khi đó, tồn khơng gian tuyến tính đóng Π ⊆ X cho codim Π ≤ k, Π ⊆ Ls {Ker An }, Π ⊆ Ker A Định lí 2.3 chứng minh cách đặt Πn = Ker An Định lí 2.2 Chứng minh (Định lí 2.1) Ta chia việc chứng minh Định lí 2.1 làm bước Trước hết, Bước 1, ta chứng minh tập Λa khác rỗng trường hợp không gian X hữu hạn chiều Chú ý rằng, giới hạn tôpô dãy tập hợp {Πn } tập hợp tất điểm giới hạn dãy {xn } cho xn ∈ Πn , ∀n Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 32 Sau đó, cách sử dụng kết có trên, ta trường hợp X không gian hữu hạn chiều, với h ∈ K(x0 ) w ∈ OC (x0 , h), ∃λ ∈ Λa cho ∂ 2L (x0 , λ)[h, h] + ∂x2 ∂L (x0 , λ), w ∂x ≥ (2.8) Trong Bước 3, ta chứng minh (2.8) cách tổng quát đầy đủ, tức là, ta bỏ giả thiết dim X < ∞ Cuối cùng, Bước 4, ta chứng minh (2.5) Bước Ta giả thiết X không gian hữu hạn chiều Ta định nghĩa tích vơ hướng X biến thành khơng gian Euclide Ta bỏ ràng buộc F1 (x) ≤ 0, F2 (x) = toán xét phương pháp hàm phạt Với số nguyên dương i, ta đặt k1 + (F1,j (x))4 + |F2 (x)|4 fi (x) = f (x) + i + |x − x0 |4 , j=1 đó, a+ = max{a, 0} Xét họ toán cực tiểu sau, gọi i-bài toán, fi (x) → min, x ∈ C, |x − x0 | ≤ δ Ở đây, δ > chọn cho x0 cực tiểu toán ban đầu δ-lân cận điểm x0 (nhắc lại không gian X giả thiết không gian hữu hạn chiều bước này, đó, δ tồn tại) Nghiệm i-bài tốn ký hiệu xi Ta chứng minh xi → x0 , i → ∞ Thật vậy, cách sử dụng X không gian hữu hạn chiều cách trích dãy (nếu cần thiết), ta có hội tụ dãy {xi } đến x Bây giờ, ta x = x0 Thật vậy, từ fi (xi ) ≤ fi (x0 ) = f (x0 ), ∀i, ta suy lim F1,j (xi ) ≤ 0, i→∞ ∀j F2 (xi ) → 0, i → ∞ (2.9) Từ suy F1 (x) ≤ F2 (x) = Hơn nữa, bất đẳng thức (2.9) kéo theo f (xi ) + |xi − x0 |4 ≤ f (x0 ), ∀i Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 33 Do đó, f (x) + |x − x0 |4 ≤ f (x0 ) ≤ f (x) Như vậy, x = x0 Ta có |xi − x0 | < δ, ràng buộc |x − x0 | ≤ δ ràng buộc khơng tích cực Nói cách khác, i-bài tốn tốn hữu hạn chiều địa phương với ràng buộc x ∈ C Điều kiện cần cấp (xem [10]) cho toán có dạng ∂fi (xi ) ∈ −N (xi , C) ∂x (2.10) Ta chứng minh điều kiện cần cấp cho toán này: ∂ fi (xi )[x, x] ≥ 0, ∂x2 ∀x ∈ I (2.11) Thật vậy, theo định nghĩa không gian bất biến, ta có xi + εx ∈ C, ∀x ∈ I, ∀ε (2.12) Định nghĩa hàm vô hướng φ sau: φ(ε) = fi (xi + εx) Hàm φ trơn và, (2.12), đạt cực tiểu địa phương ε = Vì vậy, φ (0) ≥ Tính đạo hàm cấp φ ta φ (0) = (∂ fi /∂x2 )(xi )[x, x] ≥ Do đó, (2.11) chứng minh Bây giờ, ta diễn giải điều kiện (2.10), (2.11) ngôn ngữ kiện toán j k1 + + Cho λ1,i = 4iF1,j (xi )|F1,j (xi )|2 , λ1,i = (λ1,i , , λ1,i ), λ2,i = 4iF2 (xi )|F2 (xi )|2 , λ0,i = (1 + |λ1,i |2 + |λ2,i |2 )−1/2 , λ1,i = λ0,i λ1,i , λ2,i = λ0,i λ2,i , λi = (λ0,i , λ1,i , λ2,i ) Khi đó, điều kiện (2.10) (2.11) có dạng ∂L (xi , λi ) + 1(i) ∈ −N (xi , C), ∂x ∂ 2L (xi , λi )[x, x] + 12iλ0,i ∂x2 + |F1 (xi )|2 + 1(i) ≥ 0, ∀x ∈ I ∂F1 (xi )x ∂x (2.13) 2 + |F2 (xi )| ∂F2 (xi )x ∂x (2.14) với |x| ≤ Ở đây, 1(i) dãy hội tụ Theo cách xây dựng, |λi | = 1, λ0,i ≥ 0, Số hóa Trung tâm Học liệu - Đại học Thái Nguyên λ1,i ≥ 0, ∀i http://www.lrc-tnu.edu.vn (2.15) 34 Bằng cách trích dãy con, ta có λ = (λ0 , λ1 , λ2 ) cho λi → λ, i → ∞ Chuyển qua giới hạn (2.13) (2.15) sử dụng tính nửa liên tục trên tập C ánh xạ đa trị N (·, C), ta rút λ ∈ Λ Ta chứng minh tồn khơng gian tuyến tính Π, thỏa mãn (2.4) Với mục đích đó, ta định nghĩa tốn tử tuyến tính Ai : I → Rk công thức Ai x = F (xi )x Theo Định lí 2.3, tồn khơng gian tuyến tính Π ⊆ I cho Π ⊆ Ker F (x0 ), Π ⊆ Ls{Ker Ai }, codimI Π ≤ k Lấy véc tơ h ∈ Π Theo định nghĩa giới hạn tôpô trên, tồn dãy {hi }, với hi ∈ I ∩ Ker F (xi ), cho, cách trích dãy , ta có hi → h, i → ∞ Thay x = hi vào (2.14) qua giới hạn ta nhận (2.4) Do đó, λ ∈ Λa Vì vậy, Λa = ∅ Bước Cũng bước trước, ta xét X không gian hữu hạn chiều Để thuận tiện, ta giả thiết f (x0 ) = Cố định véc tơ tùy ý h ∈ K(x0 ) với |h| = lấy w ∈ OC (x0 , h) Ta chứng minh (2.8) Theo định nghĩa tồn dãy {εn } ↓ cho xn = x0 + εn h + ε2 w + o(ε2 ) ∈ C, n n ∀εn (2.16) Xét hàm định nghĩa γ(χ) = 0, ∀χ ≤ 1, , ∀χ > (χ − 1) Với số nguyên dương n, xét toán cực tiểu sau theo biến (x, χ) ∈ X × R: fn (x, χ), với điều kiện: (x, χ) ∈ C × R, F1 (x) − χF1 (xn ) ≤ 0, F2 (x) − χF2 (xn ) = 0, ≤ χ |x − x0 |2 ≤ δ Bài toán gọi n-bài toán Ở đây, δ > định nghĩa fn (x, χ) = f (x) − χf (xn ) + γ(χ), Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn (2.17) 35 đó, f (x) = f (x) + |x − x0 |4 Với n đủ lớn, ta có |εn h + (ε2 /2)w| < δ Lấy giá trị n Tồn n nghiệm n-bài toán, điểm (x, χ) xác định x = xn χ = thỏa mãn tất ràng buộc tốn này, hình cầu {x : |x| ≤ δ} compact γ(χ)χ−1 → ∞ χ → ∞ (2.18) Ta rằng, số nghiệm n-bài tốn, tồn nghiệm (ˆn , χn ) cho χn > Thật vậy, cho (xn , χn ) nghiệm n-bài toán Nếu x ˆ ˆ χn > 0, ta đặt xn = xn , χn = χn Giả sử χn = Khi đó, xn điểm chấp nhận ˆ ˆ toán (P3 ) Nếu xn = x0 , fn (xn , 0) = f (xn ) + |xn − x0 |4 ≥ f (x0 ) + |xn − x0 |4 > f (x0 ) = Mặt khác, ta có fn (xn , 0) ≤ fn (xn , 1) = = f (x0 ) Điều mâu thuẫn chứng tỏ xn = x0 Trong trường hợp này, fn (xn , χn ) = f (x0 ) = 0, đó, giá trị cực tiểu n-bài tốn Vì vậy, điểm (ˆn , χn ) = (xn , 1) x ˆ nghiệm n-bài tốn điểm thỏa mãn tất ràng buộc n-bài toán fn (xn , 1) = Hơn nữa, tọa độ cuối điểm dương Do đó, với n bất kỳ, tồn nghiệm (ˆn , χn ) n-bài toán cho χn > Sau đây, ta x ˆ ˆ xét nghiệm Từ (2.18), ta kết luận dãy {χn } bị chặn Điều với fn (ˆn , χn ) ≤ 0, ˆ x ˆ kéo theo f (ˆn ) ≤ const|f (xn )| Do f (xn ) → f (x0 ) = n → ∞, ta kết luận x với điểm giới hạn x dãy {ˆn }, ta có f (ˆ) ≤ 0, x ∈ C, F1 (ˆ) ≤ 0, F2 (ˆ) = ˆ x x ˆ x x Tuy nhiên, f (ˆ) ≥ 0, ta có x = x0 Vì vậy, xn → x0 n → ∞ x ˆ ˆ Ta áp dụng điều kiện cần nhận Bước nghiệm n-bài toán Theo nhận xét trên, với n đủ lớn, ta chọn nghiệm (ˆn , χn ) n-bài x ˆ toán cho tất bất đẳng thức (2.17) chặt Do đó, ta phải đề cập đến điều kiện cần mang tính đặc trưng địa phương nên ta bỏ qua ràng buộc (2.17) Vì vậy, ta xây dựng hàm Lagrange cho n-bài toán sau: Ln (x, χ, λ) = λ0 fn (x, χ) + λ1 , F1 (x) − χF1 (xn ) + λ2 , F2 (x) − χF2 (xn ) Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 36 Theo kết nhận Bước 1, tồn λn khơng gian tuyến tính Πn ⊆ I cho |λn | = 1, λ0,n ≥ 0, λ1,n ≥ 0, (2.19) λ0,n f (xn ) + λ1,n , F1 (xn ) + λ2,n , F2 (xn ) = λ0,n γ (χn ), ˆ ∂ Ln (ˆn , χn , λn ) ∈ −N (ˆn , C), x ˆ x ∂x ∂F Πn ⊆ Ker (ˆn ), x ∂x ∂ Ln (ˆn , χn , λn )[ξ, ξ] ≥ 0, x ˆ ∂x2 ∀ξ ∈ Πn , (2.20) (2.21) (2.22) codimI Πn ≤ k (2.23) Chú ý rằng, (2.20) tương đương với đẳng thức ∂ Ln /∂χ = Hơn nữa, ta bỏ qua biến phân cấp theo χ (2.23), ta khơng cần đến Bằng cách trích dãy con, ta có véc tơ đơn vị λ giới hạn dãy {λn } Bằng cách lấy giới hạn n → ∞ (2.19) (2.21), ta kết luận λ ∈ Λ (lại sử dụng tính nửa liên tục ánh xạ đa trị N (·, C)) Ta chứng minh λ ∈ Λa Theo Định lí 2.2, tồn khơng gian Π ⊆ I cho codimI Π ≤ k, Π ⊆ Ls{Πn } Lấy b ∈ Π Tồn dãy {bn } cho, cách trích dãy con, ta nhận bn ∈ Πn , ∀n, bn → b n → ∞ Do (2.22), ta có (∂F/∂x)(ˆn )bn = 0, ∀n Như vậy, (∂F/∂x)(x0 )b = Do đó, Π ⊆ x Ker(∂F/∂x)(x0 ) Tương tự, từ (2.23) ta có (∂ L/∂x2 )(x0 , λ)[b, b] ≥ 0, ∀b ∈ Π Như vậy, λ ∈ Λa Trở lại bất đẳng thức (2.20), ta có h ∈ K kéo theo ∂F1 (x0 )h ≤ 0, ∂x ∂F2 (x0 )h = 0, ∂x ∂f (x0 ), h ∂x ≤ Do đó, cách khai triển ánh xạ F2 điểm x0 đến số hạng cấp sử dụng (2.16), ta nhận F2 (xn ) = F2 (xn ) − F2 (x0 ) ∂F2 ∂ F2 = (x0 )(xn − x0 ) + (x0 )[(xn − x0 )]2 + o(|xn − x0 |2 ) ∂x ∂x ∂F2 ∂F2 ∂ F2 (x0 )h + εn (x0 )w + ε2 (x0 )[h, h] + o(ε2 ) = εn n ∂x ∂x n ∂x2 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 37 Vì vậy, λ2,n , F2 (xn ) = ε2 n λ2,n , ∂ F2 (x0 )[h, h] ∂x2 + λ2,n , ∂F2 (x0 )w ∂x + o(ε2 ) n Khai triển tương tự với ánh xạ F1 (sử dụng λ1,n , (∂F1 /∂x)(x0 )h ≤ 0), ta nhận λ1,n , F1 (xn ) ≤ ε2 n λ1,n , ∂ F1 (x0 )[h, h] ∂x2 + λ1,n , ∂F1 (x0 )w ∂x + o(ε2 ) n Tương tự, với hàm f (sử dụng (∂f /∂x)(x0 ), h ≤ 0), ta nhận λ0,n , f (xn ) ≤ ε2 n λ0,n , ∂ 2f (x0 )[h, h] ∂x2 + λ0,n , ∂f (x0 )w ∂x + o(ε2 ) n Thay ba quan hệ vào vào bất đẳng thức (2.20), chia hai vế cho ε2 , sau đó, chuyển qua giới hạn n → ∞, ta nhận (2.8) Vì vậy, với w ∈ OC (x0 , h), ta chứng minh (2.8) Bước Bây ta chứng minh (2.8) trường hợp tổng quát (tức là, với dim X = ∞) Cố định véc tơ tùy ý h ∈ K(x0 ) lấy w ∈ OC (x0 , h) Ta ký hiệu M tập hợp tất không gian hữu hạn chiều M ∈ M cho h ∈ M, F (x0 )(M ) = Im F (x0 ) w ∈ OC∩M (x0 , h) Ta lấy M ∈ M xét toán nhận từ toán ban đầu cách thay X M Với toán hữu hạn chiều này, theo chứng minh Bước 2, tồn nhân tử Lagrange λM = (λ0 , λ1,M , λ2,M ) cho M λ0 ≥ 0, M λ1,M ≥ 0, |λM | = 1, ∂L (x0 , λM ) ∈ −N M (x0 , C), ∂x ∂ 2L ∂L (x0 , λM )[h]2 + (x0 , λM ), w ∂x ∂x ≥ 0, số dạng tồn phương (∂ L/∂x)(x0 , λM ) khơng gian M ∩ Ker F (x0 ) không lớn codimI (Im F (x0 )) Tập hợp véc tơ λM ký hiệu Λa (M, h, w) Theo chứng minh trên, tập hợp khác rỗng đóng với M ∈ M Hơn nữa, với M1 , M2 , , Mn ∈ M, rõ ràng ta có n Λa (Mi , h, w) ⊇ Λa (M1 + · · · + Mn , h, w) = ∅ i=1 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 38 Vì vậy, hệ tập hợp Λa (M, h, w), M ∈ M, có tâm Do đó, theo tính compact mặt cầu đơn vị Rk+1 , tập hợp Ta lấy tùy ý véc tơ λ ∈ λ∈Λ M ∈M M ∈M Λa (M, h, w) khác rỗng Λa (M, h, w) Rõ ràng, quan hệ ∂ 2L (x0 , λ)[h]2 + ∂x2 ∂L (x0 , λ), w ∂x ≥0 với véc tơ Bây giờ, để λ ∈ Λa , ta cần chứng minh tồn không gian Π thỏa mãn (2.4) Thật vậy, số chiều cực đại không gian I ∩Ker F (x0 ), mà dạng tồn phương (∂ L/∂x2 )(x0 , λ) xác định âm, không vượt số (k − dim(Im F (x0 ))) Điều khẳng định suy λ ∈ Λa (M, h, w) với không gian hữu hạn chiều M ∈ M Sự tồn không gian Π thỏa mãn (2.4) suy từ bổ đề sau (Bổ đề 3.1, Chương [2]): Bổ đề 2.1 ([2]) Cho q dạng toàn phương hữu hạn định nghĩa không gian véc tơ X Khi đó, số q số đối chiều khơng gian có đối chiều nhỏ mà dạng tồn phương xác định khơng âm Vì vậy, (2.8) chứng minh Bước Ta chứng minh (2.5) Cố định tùy ý véc tơ h ∈ K(x0 ), lấy tập lồi T (h) ⊆ OC (x0 , h) Chú ý rằng, T (h) = ∅ σ(·, T (h)) = −∞, (2.5) cách tầm thường Do đó, ta giả thiết tập hợp T (h) khác rỗng Do kết nhận Bước 3, nên (2.8) với w ∈ T (h) Vì vậy, ta có bất đẳng thức sau: inf max w∈T (h) λ∈Λa ∂ 2L (x0 , λ)[h, h] + ∂x2 ∂L (x0 , λ), w ∂x ≥ Vì T (h) ⊆ X lồi, Λa ⊆ Rk+1 lồi compact hàm (∂ L/∂x2 )(x0 , λ)[h, h] + (∂L/∂x)(x0 , λ), w song tuyến tính theo biến w ∈ X λ ∈ Rk+1 , sử dụng Bổ đề 2.2 ta kết luận rằng, bất đẳng thức vế trái thay max inf λ∈Λa w∈T (h) ∂ 2L (x0 , λ)[h, h] + ∂x2 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên ∂L (x0 , λ), w ∂x http://www.lrc-tnu.edu.vn 39 Bổ đề 2.2 ([3]) Xét không gian Euclide hữu hạn chiều Z, tập compact lồi Z ⊂ Z, véc tơ a ∈ Z, tập lồi T ⊆ X ánh xạ tuyến tính A : X → Z Giả sử inf max Aw + a, z ≥ w∈T z∈Z Khi đó, max inf Aw + a, z ≥ z∈Z w∈T Vì vậy, max λ∈Λa ∂ 2L (x0 , λ)[h, h] + inf ∂x2 w∈T (h) ∂L (x0 , λ), w ∂x ≥ Từ h tùy ý, ta suy (2.5) Định lí chứng minh 2.3 Bài tốn có ràng buộc F (x) ∈ C Xét toán cực tiểu f (x) → min, (Q) F (x) ∈ C, đây, C tập đóng cho trước Y = Rk Dưới đây, ta trình bày điều kiện cần tối ưu cho toán Cố định điểm x0 ∈ X Ta giả thiết hàm f F hai lần khả vi liên tục lân cận x0 theo tôpô hữu hạn Ký hiệu ΛQ = ΛQ (x0 ) tập nhân tử Lagrange λ toán Q tương ứng với điểm x0 theo quy tắc nhân tử Lagrange, tức là, ∂LQ (x0 , λ) = 0, ∂x λ0 ≥ 0, λ ∈ N (F (x0 ), C), |λ| = đó, λ = (λ0 , λ) với λ0 ∈ R, λ ∈ Y ∗ , LQ (x, λ) = λ0 f (x) + λ, F (x) Lấy không gian tuyến tính M nằm Y xét tập tất nhân tử Lagrange λ ∈ ΛQ mà với nhân tử đó, tồn khơng gian tuyến tính Π ⊆ X (phụ thuộc vào λ) cho codim Π ≤ k, Π⊆ ∂F (x0 ) ∂x −1 (M ), ∂ LQ (x0 , λ)[x, x] ≥ 0, ∀x ∈ Π ∂x2 (ở đây, codim = codimX ) Ta ký hiệu tập nhân tử Lagrange ΛQ (x0 , M ) Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 40 Định lí 2.4 (Nguyên lí cực trị) Giả sử x0 điểm cực tiểu địa phương theo tơpơ hữu hạn τ tốn (Q) Khi đó, với khơng gian bất biến I theo C, tập ΛQ (x0 , I) khác rỗng Hơn nữa, với h ∈ KQ = h: ∂F (x0 )h ∈ TC (F (x0 )), ∂x ∂f (x0 ), h ∂x ≤0 , với tập lồi T (h) ⊆ OC (F (x0 ), (∂F/∂x)(x0 )h), điều kiện sau đúng: max λ∈ΛQ a ∂ LQ (x0 , λ)[h, h] − σ(λ, T (h)) ∂x2 ≥ (2.24) ΛQ = conv ΛQ (x0 , I) a Chứng minh Ta đưa toán (Q) dạng toán (P3 ) xét trên: f (x) → min, F (x) − y = 0, y ∈ C, (2.25) cực tiểu theo biến (x, y) ∈ X × Y Điểm (x0 , F (x0 )) cực tiểu địa phương (2.25) Bây ta áp dụng Định lí 2.1 cho tốn Hàm Lagrange tốn (2.25) có dạng L(x, y, λ) = λ0 f (x) + λ, F (x) − y , điều kiện (2.3) có dạng ∂L (x0 , F (x0 ), λ) = −λ ∈ −N (F (x0 ), C) ∂y Bằng cách sử dụng bao hàm thức đây, công thức (2.3), (2.5) định nghĩa tập ΛQ , ta nhận kết mong muốn Ta ý bao hàm thức Π ⊆ ((∂F/∂x)(x0 ))−1 (M ) (đáng lẽ Π ⊆ Ker(∂F/∂x)(x0 ) phát biểu Định lí 2.1) suy từ việc phát biểu lại toán (Q) trường hợp đặc biệt toán (P3 ): Nếu ta đặt F (x, y) = F (x)−y, ∀h ∈ ((∂F/∂x)(x0 ))−1 (M ), ∃h ∈ M cho (h, h) ∈ Ker(∂F /∂(x, y))(x0 , y0 ) Định lí chứng minh Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 41 Nhận xét 2.5 Bài toán (Q) nghiên cứu [6] với giả thiết tập C lồi điều kiện quy Robinson không gian Banach Y Với điều kiện quy Robinson, tác giả nhận điều kiện tối ưu sau: max λ∈ΛQ ∂ LQ (x0 , λ)[h, h] − σ(λ, T (h)) ∂x2 ≥ 0, ∀h ∈ KQ (2.26) Đồng thời, với điều kiện quy Robinson, Định lí 2.4 ta có λ0 > 0, ∀λ ∈ ΛQ Định lí 2.4 với Y hữu hạn chiều, chí khơng có điều kiện quy Robinson giả thiết lồi tập C, kết Bonnans and Shapiro [5] cho trường hợp hàm Lagrange tổng quát Trong trường hợp tổng quát, (2.24) mạnh (2.26), ΛQ ⊆ conv ΛQ Chú ý C nón lồi nhọn (tức a C ∩ [−C] = {0}) đóng, khơng gian bất biến cực đại IC {0} bao hàm thức trở thành đẳng thức Nhận xét 2.6 Các điều kiện cần tối ưu (2.26) cho tốn khơng giả thiết điều kiện quy Robinson tập lồi C có phần khác rỗng nhận [5] Ví dụ 2.2 (Bài tốn quy hoạch bán xác định) Cho X = Rn , Y = S p × Rk2 , C = p p S− × {0}, S p khơng gian p × p -ma trận đối xứng, S− nón ma trận bán xác định âm, n, p, k2 số nguyên dương Xét ánh xạ F1 : X → S p F2 : X → Rk2 định nghĩa F1 (x) := i,j xi xj Si,j + ψ1 (x) F2 (x) := Q(x) + ψ2 (x) Ở đây, xi tọa độ véc tơ x, Si,j ma trận đối xứng, ψl , l = 1, ánh xạ trơn, cho ψl (0) = 0, (∂ψl /∂x)(0) = 0, (∂ ψl /∂x2 )(0) = 0, l = 1, Q(x) = ( Q1 x, x , , Qk2 x, x ), Qi ma trận đối xứng Trang bị cho khơng gian S p tích vơ hướng p p A · B = trace(AB) Khi đó, nón đối ngẫu S− nón S+ gồm tất ma trận bán xác định dương Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 42 Xét toán cực tiểu f (x) → min, p F1 (x) ∈ S− , F2 (x) = 0, f hàm trơn Để cho đơn giản, ta giả thiết (∂f /∂x)(0) = Cho k := p(p + 1)/2 + k2 , F = (F1 , F2 ) Xét điểm x = Vì (∂F/∂x)(0) = nên điều kiện quy Robinson khơng thỏa mãn Do đó, điều kiện tối ưu Bonnans and Shapiro [5], áp dụng Mặt khác, áp dụng Định lí 2.4, ta nhận điều kiện cần tối ưu sau: Nếu x = cực tiểu địa phương tốn xét, λ0 = (do (∂F/∂x)(0) = 0) p Do đó, ∀h ∈ Rn , ∃λ1 ∈ S+ , λ2 ∈ Rk2 , cho hi hj Si,j · λ1 + Q(h), λ2 ind ≤ k, (λ1 , λ2 ) = 0, (2.27) i,j hi hj Si,j · λ1 + Q(h), λ2 ≥ 0, i,j ind q ký hiệu số dạng toàn phương q không gian cho.3 (Ở đây, ta sử dụng kiện h ∈ KQ , −h ∈ KQ σ(λ1 , TS p (0, 0)) = − p với λ1 ∈ S+ ) Do đó, ta kết luận rằng, tồn h ∈ Rn cho hi hj Si,j · λ1 + Q(h), λ2 < i,j với bất ind i,j kỳ (λ1 , λ2 ) hi hj Si,j · λ1 + Q(h), λ2 thỏa mãn (2.27) (đặc biệt, p > k, ∀(λ1 , λ2 ) = cho λ1 ∈ S+ ), x = cực tiểu địa phương tốn xét Chỉ số dạng tồn phương q không gian V định nghĩa số chiều của không gian V có số chiều cực đại mà dạng tồn phương q xác định âm Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 43 Kết luận Luận văn trình bày điều kiện cần tối ưu cấp cho toán tối ưu với ràng buộc đẳng thức bất đẳng thức không gian hữu hạn chiều với giả thiết tập nhân tử Lagrange đoạn thẳng bị chặn Kết với điều kiện Mangasarian-Fromovitz điều kiện số ràng buộc bất đẳng thức tích cực nhiều 2, ta có tập nhân tử Lagrange đoạn thẳng bị chặn Với điều kiện quy Mangasarian-Fromovitz tăng cường (MMF) điều kiện bù chặt suy rộng (GSCS) ta nhận điều kiện tối ưu cấp Luận văn trình bày điều kiện cần tối ưu cấp cho cực tiểu địa phương theo tôpô hữu hạn tốn tối ưu có ràng buộc đẳng thức, bất đẳng thức ràng buộc tập không gian véc tơ Áp dụng nguyên lí cực trị cấp ta nhận ngun lí cực trị cấp cho toán tối ưu với ràng buộc bao hàm thức F (x) ∈ C Điều kiện cần tối ưu cấp cho lớp toán tối ưu có ràng buộc khác đề tài nhiều tác giả quan tâm nghiên cứu Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 44 Tài liệu tham khảo [1] Anitescu, M (2000) Degenerate nonlinear programming with a quadratic growth condition, SIAM J Optim., vol 10, pp 1116-1135 [2] Arutyunov, A V (2000), Optimality Con ditions: Abnormal and Degenerate Problems, Kluwer Academic Publishers Dordrecht, The Netherlands [3] Arutyunov, A V and Pereira, F L (2006), Second-order necessary optimality conditions for problems without a priori normal assumptions, Math Oper Res., vol 31, pp 1-12 [4] Baccari, A and Trad, A (2004), On the classical necessary second-order optimality conditions in the presence of equality and inequality constraints, SIAM J Optim., vol 15, pp 394-408 [5] Bonnans, J F., A Shapiro (2000), Perturbation Analysis of Optimization Problems, Springer-Verlag, New York [6] Bonnans, J F., R Cominetti, A Shapiro (1999), Second-order optimality conditions based on parabolic second-oder tangent sets, SIAM J Optim 9, pp 466-492 [7] Gauvin, J (1997)A necessary and sufficient regularity condition to have bounded multipliers in nonconvex programming, Math Program., vol 12, pp 136-138 [8] Hestenes, M R (1975) Optimization Theory: The Finite Dimensional Case, Robert E Krieger Publishing Company, Hungtington, NY [9] Hiriart-Urruty, J.-B and Torki, M (2002) Permanently going back and forth between the "quadratic world" and the "convexity world" in optimization, Appl Math Optim., vol 45, pp 169-184 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 45 [10] Mordukhovich, B S (1988), Approximation Methods in Problems of Optimization and Control , Nauka, Moscow, Russia [11] Mordukhovich, B S (1993), Complete characterization of openness, metric regularity, and Lipshitzian properties of multifunctions, Trans Amer Math Soc 340, pp 1-36 [12] Yuan, Y (1990), On a subproblem of trust region algorithms for constrained optimization, Math Program., vol 47, pp 53-63 Số hóa Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ... Chương Điều kiện cần tối ưu cấp cho tốn có ràng buộc đẳng thức bất đẳng thức Chương trình bày điều kiện cần tối ưu cấp cho điểm cực tiểu địa phương x∗ toán tối ưu với ràng buộc đẳng thức bất đẳng thức. .. 12 1 .2 Điều kiện cần tối ưu cấp 13 1.3 Các điều kiện quy (MMF) (GSCS) điều kiện tối ưu cấp 19 Chương Điều kiện cần tối ưu cấp cho tốn có ràng buộc đẳng thức, bất đẳng. .. bất đẳng thức ràng buộc tập không gian véc tơ, áp dụng cho toán tối ưu với ràng buộc bao hàm thức F (x) ∈ C Luận văn trình bày điều kiện cần tối ưu cấp cho toán tối ưu với ràng buộc đẳng thức bất