Đang tải... (xem toàn văn)
Bài giảng Tối ưu hóa nâng cao - Chương 2: Các kiến thức cơ sở cung cấp cho người học các kiến thức: Tập lồi, tổ hợp lồi và bao lồi, hàm lồi ngặt và hàm lồi mạnh, đặc trung hàm lồi, biến đổi giữa các dạng bài toán tối ưu,... Mời các bạn cùng tham khảo.
Các kiến thức sở Hồng Nam Dũng Khoa Tốn - Cơ - Tin học, Đại học Khoa học Tự nhiên, Đại học Quốc gia Hà Nội Tập lồi Định nghĩa Tập hợp S ⊆ Rn tập lồi λx + (1 − λ)y ∈ S, ∀λ ∈ [0, 1], x, y ∈ S Nói cách khác đoạn thẳng nối hai điểm hoàn toàn nằm tập hợp hai đầu mút thuộc tập hợp Tập lồi Định nghĩa Tập hợp S ⊆ Rn tập lồi λx + (1 − λ)y ∈ S, ∀λ ∈ [0, 1], x, y ∈ S Nói cách khác đoạn thẳng nối hai điểm hoàn toàn nằm tập hợp hai đầu mút thuộc tập hợp Tập lồi Tập khơng lồi Ví dụ tập lồi Tập rỗng, điểm, đường thẳng, tồn khơng gian Rn Hình cầu {x ∈ Rn | x ≤ r } với chuẩn trước · bán kín r cho Siêu phẳng (hyperplane) {x ∈ Rn | aT x = b} với a ∈ Rn , b ∈ R cho trước Nửa không gian (halfspace) {x ∈ Rn | aT x ≤ b} với a ∈ Rn , b ∈ R cho trước {x ∈ Rn | Ax = b} với A ∈ Rm×n , b ∈ Rm cho trước Đa diện {x ∈ Rn | Ax ≤ b} với A ∈ Rm×n , b ∈ Rm cho trước Tổ hợp lồi bao lồi Định nghĩa Một tổ hợp lồi x1 , x2 , , xk ∈ Rn tổ hợp tuyến tính λ1 x1 + λ2 x2 + · · · + λk xk với hệ số λ1 , λ2 , , λk ≥ thỏa mãn λ1 + λ2 + · · · + λk = Tổ hợp lồi bao lồi Định nghĩa Một tổ hợp lồi x1 , x2 , , xk ∈ Rn tổ hợp tuyến tính λ1 x1 + λ2 x2 + · · · + λk xk với hệ số λ1 , λ2 , , λk ≥ thỏa mãn λ1 + λ2 + · · · + λk = Định nghĩa Bao lồi tập hợp S, conv(S), tập hợp tất tổ hợp lồi phần tử thuộc S Tổ hợp lồi bao lồi Định nghĩa Một tổ hợp lồi x1 , x2 , , xk ∈ Rn tổ hợp tuyến tính λ1 x1 + λ2 x2 + · · · + λk xk với hệ số λ1 , λ2 , , λk ≥ thỏa mãn λ1 + λ2 + · · · + λk = Định nghĩa Bao lồi tập hợp S, conv(S), tập hợp tất tổ hợp lồi phần tử thuộc S conv(S) tập lồi tập lồi bé chứa S Tổ hợp lồi bao lồi Định nghĩa Một tổ hợp lồi x1 , x2 , , xk ∈ Rn tổ hợp tuyến tính λ1 x1 + λ2 x2 + · · · + λk xk với hệ số λ1 , λ2 , , λk ≥ thỏa mãn λ1 + λ2 + · · · + λk = Định nghĩa Bao lồi tập hợp S, conv(S), tập hợp tất tổ hợp lồi phần tử thuộc S conv(S) tập lồi tập lồi bé chứa S Hàm lồi Định nghĩa Một hàm số f : S → R, S ⊆ Rn , gọi hàm lồi Miền định nghĩa S tập lồi Hàm f thỏa mãn f (λx + (1 − λ)y ) ≤ λf (x) + (1 − λ)f (y ), ∀λ ∈ [0, 1], x, y ∈ S Hàm lồi Định nghĩa Một hàm số f : S → R, S ⊆ Rn , gọi hàm lồi Miền định nghĩa S tập lồi Hàm f thỏa mãn f (λx + (1 − λ)y ) ≤ λf (x) + (1 − λ)f (y ), ∀λ ∈ [0, 1], x, y ∈ S Tối ưu liên tục vs tối ưu rời rạc Đơi địi hỏi biến phải số nguyên hay nhị phân Ví dụ biến số ôtô cần để vận chuyển, số nhân lực, hay biến định có làm việc khơng Khi ta có tốn tối ưu hóa nguyên tối ưu hóa nhị phân Trong nội dung môn học không xét đến dạng toán 20 Cực trị địa phương tồn cục Xét tốn tối ưu f (x) s.t gi (x) ≤ 0, i = 1, 2, , k hj (x) = 0, j = 1, 2, , l Kí hiệu X miền CNĐ 21 Cực trị địa phương tồn cục Xét tốn tối ưu f (x) s.t gi (x) ≤ 0, i = 1, 2, , k hj (x) = 0, j = 1, 2, , l Kí hiệu X miền CNĐ x¯ ∈ X gọi nghiệm tối ưu địa phương (locally optimal) tồn R > cho f (¯ x ) ≤ f (x), ∀x ∈ X : x − x¯ ≤ R 21 Cực trị địa phương toàn cục Xét toán tối ưu f (x) s.t gi (x) ≤ 0, i = 1, 2, , k hj (x) = 0, j = 1, 2, , l Kí hiệu X miền CNĐ x¯ ∈ X gọi nghiệm tối ưu địa phương (locally optimal) tồn R > cho f (¯ x ) ≤ f (x), ∀x ∈ X : x − x¯ ≤ R Để phân biệt với nghiệm tối ưu địa phương với nghiệm tối ưu, ta gọi nghiệm tối ưu nghiệm tối ưu toàn cục (globally optimal) 21 Cực trị địa phương toàn cục 22 Cực tiểu địa phương toán tối ưu lồi Định lý Nghiệm tối ưu địa phương toán tối ưu lồi nghiệm tối ưu toàn cục Chứng minh Chứng minh phản chứng dựa tính lồi miền CNĐ hàm mục tiêu 23 Điểm dừng Điểm dừng (stationary point) x hàm khả vi f điểm ∇f (x) = 24 Điểm dừng Điểm dừng (stationary point) x hàm khả vi f điểm ∇f (x) = Ta thấy điểm cực trị địa phương điểm dừng 24 Điểm dừng Điểm dừng (stationary point) x hàm khả vi f điểm ∇f (x) = Ta thấy điểm cực trị địa phương điểm dừng Tuy nhiên cần lưu ý điểm dừng cực trị địa phương 24 Điểm dừng Điểm dừng (stationary point) x hàm khả vi f điểm ∇f (x) = Ta thấy điểm cực trị địa phương điểm dừng Tuy nhiên cần lưu ý điểm dừng cực trị địa phương Ví dụ: f (x) = x f (0) = điểm cực trị 24 Đường mức Đường mức hàm số f : Rn → R tập hợp có dạng Lc (f ) = {x | f (x) = c} 25 Đường mức Đường mức hàm số f : Rn → R tập hợp có dạng Lc (f ) = {x | f (x) = c} f (x, y ) = (x + y − 11)2 + (x + y − 7)2 Log-spaced level curve 25 Đường mức gradient hàm biến Với hàm f khả vi, gradient điểm hoặc vng góc với đường mức điểm 26 Đường mức gradient hàm biến Với hàm f khả vi, gradient điểm hoặc vng góc với đường mức điểm Ví dụ: f (x, y ) = x − 3x − 2y 26 Tài liệu tham khảo Chương chương 3, S Boyd and L Vandenberghe, Convex Optimization, Cambridge University Press Chương 1, J Nocedal and S Wright, Numerical Optimization, Springer 27 ... toán tối ưu lồi Bài toán tối ưu f (x) s.t gi (x) ≤ 0, i = 1, 2, k gọi là toán tối ưu lồi f gi hàm lồi 17 Bài toán tối ưu lồi Bài toán tối ưu f (x) s.t gi (x) ≤ 0, i = 1, 2, k gọi là toán tối. .. tốn tối ưu hóa có ràng buộc 15 Các loại tốn tối ưu Khi khơng có điều kiện ràng buộc ta có tốn tối ưu hóa khơng ràng buộc Ngược lại ta có tốn tối ưu hóa có ràng buộc Tiếp theo ta xét loại tốn tối. .. tập lồi Bài toán tối ưu f (x) s.t gi (x) ≤ 0, i = 1, , k hj (x) = 0, j = 1, , l lồi 17 Bài toán tối ưu lồi Bài toán tối ưu f (x) s.t gi (x) ≤ 0, i = 1, 2, k gọi là toán tối ưu lồi f