ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN KHOA TOÁN - CƠ - TIN HỌC Phan Ngọc Tú BÀI TOÁN QUY HOẠCH PHI TUYẾN VỚI KỸ THUẬT PHÂN RÃ VÀ ỨNG DỤNG LUẬN VĂN THẠC SỸ Chuyên ngành: Toán giải tích Mã số: 60.46.01.02 NGƯỜI HƯỚNG DẪN KHOA HỌC PGS.TS NGUYỄN HỮU ĐIỂN Hà Nội - 2014 DANH MỤC CÁC KÝ HIỆU VIẾT TẮT QHTT Quy hoạch tuyến tính QHPT Quy hoạch phi tuyến Rn Không gian thực n chiều ∇ f (x) Gradient hàm f điểm x ∇2 f ( x ) ∂ f (x) x Ma trận Hessian hàm f điểm x Chuẩn Euclid Đạo hàm riêng hàm f theo biến x Mục lục Lời nói đầu iii Các kiến thức 1.1 Một số kiến thức toán tối ưu 1.2 Bài toán đối ngẫu Phân rã quy hoạch tuyến tính 2.1 2.2 Những ràng buộc phức tạp 12 2.1.1 Cấu trúc toán 13 2.1.2 Sự phân rã 16 2.1.3 Thuật toán phân rã Dantzig-Wolfe 21 Những biến phức tạp 30 2.2.1 Cấu trúc toán 30 2.2.2 Thuật toán phân rã Benders 31 Phân rã quy hoạch phi tuyến 3.1 12 44 Phương pháp giảm dư Lagrange 45 3.1.1 45 Sự phân rã i 3.2 3.1.2 Thuật toán 50 3.1.3 Đối ngẫu bất khả thi 51 3.1.4 Cập nhật hệ số 52 Phân rã Lagrange gia tăng 54 3.2.1 Sự phân rã 54 3.2.2 Thuật toán 56 3.2.3 Tính tách 57 3.2.4 Cập nhật hệ số 57 3.2.5 Cập nhật tham số phạt 57 Kết luận 61 Tài liệu tham khảo 62 ii Lời nói đầu Tối ưu hóa môn toán học ứng dụng nghiên cứu, giảng dạy học tập nhiều trường Đại học - Cao đẳng, góp phần quan trọng việc ứng dụng khoa học công nghệ vào sống sản xuất Ngày nay, Quy hoạch tuyến tính (QHTT) phần quan trọng phát triển hoàn thiện lý thuyết tối ưu hóa Phần đề cập tối ưu phi tuyến, gọi quy hoạch phi tuyến (QHPT) Ở hai phần này, số toán thực tế sống ta hay gặp toán có kích thước lớn, việc xử lý chúng thông thường điều Vì việc thiết kế thuật toán theo hướng giải toán lớn vấn đề quan tâm xử lý Trong luận văn xem xét ý đến trường hợp riêng toán tối ưu hóa, toán có cấu trúc phân rã khai thác thuận lợi Các toán phân rã tối ưu hóa toán phổ biến kỹ thuật khoa học ứng dụng Luận văn đề cập đến toán QHTT QHPT với trường hợp ràng buộc phức tạp biến phức tạp Các kỹ thuật phân rã bao gồm Dantzig - Wolfe, Benders, phương pháp giảm dư Lagrange kỹ thuật khác Bố cục luận văn bao gồm ba chương Chương trình bày số khái niệm tối ưu hóa, định lý Karush - Kuhn - Tucker, toán đối ngẫu Chương tập trung vào toán có cấu trúc phân rã QHTT, iii thuật toán phân rã Dantzig - Wolfe đề cập đến trường hợp ràng buộc phức tạp thuật toán Benders trường hợp biến phức tạp Ở có ví dụ minh họa rõ Chương tập trung vào số toán có cấu trúc phân rã QHPT, với trường hợp ràng buộc phức tạp xem xét qua ví dụ sử dụng phương pháp giảm dư Lagrange phương pháp Lagrange gia tăng Trong luận văn chắn tránh khỏi hạn chế sai sót, mong nhận góp ý ý kiến đóng góp Thầy Cô bạn đọc Qua em xin bày tỏ lòng biết ơn chân thành sâu sắc tới PGS.TS Nguyễn Hữu Điển, người giúp đỡ em trình thực luận văn Hà Nội, tháng 09 năm 2014 Học viên Phan Ngọc Tú iv Chương Các kiến thức 1.1 Một số kiến thức toán tối ưu Trong không gian vectơ R n , cho D ⊆ R n tập khác rỗng hàm số thực f : D → R tùy ý Bài toán tối ưu có dạng (P) min{ f ( x) : x ∈ D } toán tìm vectơ (điểm) x∗ ∈ D cho f ( x∗ ) ≤ f ( x) với x ∈ D Trường hợp D = R n ta có toán tối ưu không ràng buộc min{ f ( x) : x ∈ R n } hay minn f ( x) x ∈R Trái lại, (P) toán tối ưu có ràng buộc Khi tập D thường cho (1.1) D = x ∈ R n : gi ( x ) 0, i = 1, , m; h j ( x) = 0, j = 1, , p với gi , h j : R n → R hàm số cho trước, gọi hàm ràng buộc Các hệ thức gi ( x) ≥ gọi ràng buộc bất đẳng thức, hệ thức h j ( x) = gọi ràng buộc đẳng thức Bài toán (P) với f (x) không tuyến tính tập D cho (1.1) có hàm gi , h j phi tuyến Các toán tối ưu phi tuyến thuộc loại toán tối ưu liên tục (không ràng buộc D = R n hay có ràng buộc D cho đẳng thức bất đẳng thức) Định nghĩa 1.1 (Hàm nửa liên tục) + Hàm f : D → R gọi hàm nửa liên tục điểm x ∈ D với ε > có δ > cho f ( x ) − ε f ( x) với x thuộc D, x − x < δ Hàm f gọi nửa liên tục D f liên tục điểm x ∈ D Định nghĩa tương đương với limx ∈ D,x →x f ( x) f ( x ) + Hàm f : D → R gọi hàm nửa liên tục điểm x ∈ D với ǫ > có δ > cho f ( x) f ( x ) + ε với x thuộc D, x − x < δ Hàm f gọi nửa liên tục trên D f liên tục điểm x ∈ D Định lí 1.1 Một hàm f(x) nửa liên tục tập compact D khác rỗng phải đạt cực tiểu D Tương tự, hàm f(x) nửa liên tục trên tập compact D khác rỗng phải đạt cực đại D Định lí 1.2 a) Một hàm f : D → R nửa liên tục tập đóng D khác rỗng mà (coercive) D, nghĩa f ( x) → +∞ x ∈ D, x → +∞, f phải có cực tiểu D b) Một hàm f : D → R nửa liên tục trên tập đóng D khác rỗng mà - f D, nghĩa f ( x) → −∞ x ∈ D, x → +∞, f phải có cực đại D Định lí 1.3 (Định lý Karush - Kuhn - Tucker) Giả sử hàm f, gi , h j (i = 1, , m; j = 1, , p) khả vi tập mở chứa D, x∗ ∈ D điểm cực tiểu địa phương toán x∗ điểm qui Khi đó, tồn vectơ λ∗ = (λ1∗ , , λ∗m )T , µ∗ = (µ1∗ , , µ∗p )T thỏa mãn  p m  ∗ ∗ ∗   (1.1) ∇ f ( x ) + ∑ λi ∇ gi ( x ) + ∑ µ∗j ∇h j ( x∗ )   i =1 j =1  λi∗ gi ( x∗ ) = λi∗ 0, i = 1, , m (1.2)     gi ( x∗ ) 0, i = 1, , m; h j ( x∗ ) = 0, j = 1, , p (1.3) Chứng minh Do x∗ điểm cực tiểu địa phương nên theo điều kiện cần tối ưu cấp ta có < ∇ f ( x∗ ), d > với d ∈ TD ( x∗ ) Do x∗ điểm qui (tức TD ( x∗ ) = S( x∗ )) nên bất đẳng thức với d ∈ S( x∗ ), nghĩa với d ∈ R n nghiệm hệ phương trình với x∗ thay cho x0 Áp dụng bổ đề Farkas cho ma trận A với ma trận chuyển vị AT có cột −∇ gi ( x∗ ), i ∈ I ( x∗ ), ∇h j ( x∗ ), −∇h j ( x∗ ) ( j = 1, , p) Ta tìm số thực λi∗ ∗ ∇ f (x ) = − 0(i ∈ I ( x∗ )), α j ∑ i∈T (x∗ ) λi∗ ∇ gi ( x∗ ) + 0, β j 0( j = 1, , p) cho p ∑ (α j − β j )∇h j (x∗ ) j =1 Bằng cách đặt λi∗ = với i ∈ / I ( x∗ ), µ∗j = β j − α j với j = 1, , p ta nhận hai điều Do x∗ ∈ D nên ta có điều cuối Nhận xét 1.1 a) Đối với toán (P) ta lập hàm số sau đây, gọi hàm Lagrange tương ứng với (P) p m L( x, λ, µ) = f ( x) + ∑ λi gi ( x) + i =1 (x ∈ R n , λi thành ∑ µ j h j ( x) j =1 với i µ j tùy ý với j) Khi điều kiện KKT viết lại ∇x L( x, λ, µ) = 0, λT ∇λ L( x, λ, µ) = 0, ∇λ L( x, λ, µ) 0, ∇µ L( x, λ, µ) = 0, điều kiện (1.1) gọi điều kiện dừng, ∇x L( x, λ, µ) = 0; (1.2) điều kiện bù (1.3) điều kiện chấp nhận b) Trường hợp tập D có thêm ràng buộc xk với k ∈ K ⊂ {1, , n}, tức D = { x ∈ R n : gi ( x ) 0, i = 1, , m; h j ( x) = 0, j = 1, , p; xk 0, k ∈ K}, điều kiện (1.1) đổi thành (các điều kiện (1.2), (1.3) không thay đổi) (1.1a) (1.1b) (1.1c) p m ∂h j ( x∗ ) ∂gi ( x∗ ) ∂ f (x∗ ) + ∑ λi + ∑ µj = ∀k ∈ / K, ∂xk ∂xk ∂xk i =1 j =1 m ∂h j ( x∗ ) ∂gi ( x∗ ) ∂ f (x∗ ) + ∑ λi + ∑ µj ∂xk ∂x ∂xk k i =1 j =1 p xk∗ [ 0, xk∗ ∀k ∈ K, p m ∂h j ( x∗ ) ∂g ( x∗ ) ∂ f (x∗ ) + ∑ λi i + ∑ µj ] = 0, ∀k ∈ K ∂xk ∂x ∂x k k i =1 j =1 Ví dụ 1.1 a) Tìm điều kiện KKT cho toán sau (P) min{ f ( x) = − log x1 − log x2 : x1 + x2 − 0, x1 0, x2 } điểm cực tiểu địa phương x∗ = ( x1∗ , x2∗ ) (P) Trong ví dụ g(x) = x1 + x2 − Hàm Lagrange có dạng L( x, λ) = f ( x) + λg( x) = − log x1 − log x2 + λ( x1 + x2 − 2) Điều kiện KKT x∗   − + λ 0, − + λ 0, x (λ − ) = 0, x2 (λ − ) = x1 x2 x1 x2  λ( x1 + x2 − 2) = 0, x1 + x2 − 0, x1 0, x2 0, λ Giải hệ ta điểm KKT x∗ = (1, 1)T với λ∗ = Đó nghiệm cực tiểu toán (Chú ý (P) toán lồi) b) Một ví dụ khác Kiểm tra điều kiện KKT toán sau ( x1 − )2 + ( x2 − )4 , với điều kiện x 2 g1 ( x ) = x + x − g3 ( x ) = − x + x − 0, g2 ( x) = x1 − x2 − 0, 0, g4 ( x) = − x1 − x2 − Có thể thấy x∗ = (1, 0)T điểm cực tiểu, I ( x∗ ) = {1, 2} Ta có   −1 1 , ∇ g2 ( x ∗ ) = ∇ f ( x ∗ ) =   , ∇ g1 ( x ∗ ) = −1 − Vì điều kiện KKT thỏa mãn đặt λ∗ = ( 43 , 41 , 0, 0)T 1.2 Bài toán đối ngẫu Những kết thu cho toán quy hoạch tuyến tính khái quát cho toán quy hoạch phi tuyến Xét toán gốc phi tuyến tổng quát f ( x), với x (1) h( x) = 0, g( x ) Hình 3.1: Minh họa toán ví dụ minh họa 3.1; (a) cực tiểu mặt phẳng XY; (b) hàm đối ngẫu; (c) giải thích đồ họa 3-D toán đối ngẫu toán gốc 47 Và hàm đối ngẫu trở thành: max 4µ − 12 µ2 , với µ ≥ Ở nghiệm µ = µ 4, z = Chú ý giá trị tối ưu hàm Lagrange ứng với giá trị µ luôn µ đạt điểm x = y = , dẫn đến x y hàm µ, hàm Lagrange biểu diễn L(x,y) Hình 3.2: Giải thích đồ họa 3-D hàm liên quan toán cực tiểu 3.1 Giải thích hình học Cho điểm x=(x,y), dễ dàng tính toán tương ứng với giá trị µx (Xem hình 3.1c) Với điểm A=(x,y)=(0,0) B=(x,y)=(2,2), tương ứng với µ A = 48 µ B = Do với điểm x (3.1) µx = (µ A − µ B )d AB Trong d phép chiếu vectơ x đường thẳng x = y AB khoảng cách hai điểm A B Xét vectơ s T = (1,1) sT x x+y d= √ = √ sT s (3.2) Thay (3.2) vào (3.1): µx = (µ B −µ A√ )( x +y) AB = 4( x +y ) √ √ 2 = x + y Và hàm Lagrange là: L( x, y) = x2 + y2 + ( x + y)(− x − y + 4) Nó tồn mang giải thích hình học 3D tất hàm liên quan toán hình 3.1c 3.2 Cuối hàm trở thành tối ưu f ( x, y) = x2 + y2 , hàm Lagrange L( x, y, µ) = L(x,y), liên hợp hai hàm hàm đối ngẫu Φ(µ) biểu diễn Nó xóa mà nghiệm tối ưu toán đạt điểm yên ngựa hàm Lagrange, tức giá trị lớn hàm đối ngẫu giá trị nhỏ hàm gốc trùng Phân tích nghiệm Những khôi phục giải phân hủy giảm dư Lagrange toán đối ngẫu phân phối hình dáng minh họa Xét toán đối ngẫu max ∑ Φi (µ), với µ ≥ µ i =1 Trong Φ1 (µ) = L1 (µ) = x2 − µx + 2µ , với x ≥ x Φ2 (µ) = L2 (µ) = y2 − µy + 2µ, với y ≥ y Trong hình 3.3a biểu diễn 3D hàm mục tiêu L1 ( x, µ) L2 (y, µ) với µ = 49 Hình 3.3: Đồ họa minh họa phân rã giảm dư Lagrange cho giá trị µ = 3.1.2 Thuật toán Giai đoạn thuật toán giảm dư Lagrange cho cách giải toán đối ngẫu trình bày Thuật toán 3.1 (Phương pháp giảm dư Lagrange) Bước 0; Thiết lập ban đầu Đặt υ = biến khởi đầu λ(υ) = λ0 µ(υ) = µ0 ( υ −1 ) Đặt Φdown = − ∞ Bước 1: Giải toán gốc giảm dư Giải toán gốc giảm dư (RPP)) tìm giá trị nhỏ xυ giá trị hàm mục tiêu giá trị cực tiểu Φ(υ) Cập nhật cận cho hàm mục tiêu toán gốc, ( υ −1 ) ← Φ(υ) Φυ ≥ Φdown Bước 2: Cập nhật hệ số ( υ) Φdown Cập nhật bội sử dụng vài phương pháp bắt đầu mục 3.3.4 Nếu tồn tại, cập nhật cận hàm mục tiêu 50 Bước 3: Kiểm tra hội tụ Nếu λ ( υ +1 ) − λ ( υ −1 ) λ( υ) ≤ ε µ ( υ +1 ) − µ ( υ −1 ) µ ( υ) ≤ ε và/hoặc tiêu chuẩn dừng mục 3.3.4 thỏa mãn, nghiệm ε tối ưu x∗ = xυ , dừng Cách khác, đặt υ ← υ + đến bước 3.1.3 Đối ngẫu bất khả thi Sự khác giá trị hàm mục tiêu toán gốc tìm giá trị nhỏ giá trị hàm mục tiêu toán đối ngẫu tìm giá trị lớn gọi khe đối ngẫu Nó trường hợp hay sử dụng khe đối ngẫu giảm với kích cỡ toán gốc Một nghiệm toán đối ngẫu đạt được, nghiệm toán gốc liên hợp không khả thi trình khả thi thiếu Quá trình phải tìm nguyên sơ khả thi gồm nghiệm tối ưu gọi giai đoạn toán giảm dư Lagrange Giai đoạn đổi giá trị bội thu cuối giai đoạn tới đạt nguyên thủy khả thi Quá trình Gradient (Xem mục 3.1.4) thường sủ dụng Trong nhiều toán cụ thể chúng hiệu để đạt tính khả thi vài bước lặp mà không thay đổi đáng kể giá trị hàm mục tiêu toán đối ngẫu giá trị lớn 3.1.4 Cập nhật hệ số Dưới có mục đích rõ ràng, vectơ bội λ µ gọi lại với tên θ = cột(λ, µ) Vectơ cột ràng buộc không khớp (lệch nhau) lần lặp υ thiết lập Gradient hàm đối ngẫu, tức s(υ) = cột[c( xυ ), d( xυ )], 51 vectơ gradient cho hàm đối ngẫu, mà sủ dụng bên Chi tiết tìm chương Dưới gradient (SG) Vectơ bội cập nhật sau θ ( υ +1 ) =θ ( υ) +k ( υ +1 ) s ( υ +1 ) s ( υ) (υ) → ∞ Một lựa chọn tiêu biểu yêu cầu Trong lim k (υ) → ∑∞ υ =1 k υ→ ∞ ( k υ) = a+bυ , a b đại lượng vô hướng không đổi Phương pháp Gradient (SG) đơn giản tới bổ sung (thi hành) gánh nặng tính toán nhỏ Tuy nhiên, tăng chậm đến tối ưu hình dáng dao động Đây hệ tính không khả thi hàm đối ngẫu Xa nữa, hoạt động dao động làm khó để đặt tiêu chuẩn dừng thích hợp Nó đặc trưng dừng sau số phép lặp đặc biệt Ví dụ 3.2 (Cập nhật Gradient) Để làm rõ phương pháp Gradient làm việc nào, ví dụ 3.1 giải sử dụng trình cập nhật hệ số Kết toán x∗ = y∗ = 2, f ( x∗ , y∗ ) = Hệ số liên hợp Lagrange với ràng buộc có giá trị tối ưu µ∗ = Hàm Lagrange L( x, y, µ) = x2 + y2 + µ(− x − y + 4) Các bước giải thuật toán Bước 0: Thiết lập ban đầu Đặt µ = µ0 Bước 1: Nghiệm toán gốc giảm dư Bài toán gốc giảm dư phân tích hai toán (2µ số gán tới toán con) x2 − µx + 2µ với x ≥ 0, x y2 − µy + 2µ với y ≥ y Trong nghiệm xác định theo thứ tự xc yc Bước 2: Cập nhật bội Một phương pháp Gradient với số tỉ lệ 52 k (µ) = a+bυ sử dụng, µ←µ+ (− xc − yc + 4) a + bµ |(− xc − yc + 4)| Bước 3: Kiểm tra hội tụ Nếu hệ số µ không thay đổi đủ, dừng lại; nghiệm tối ưu x∗ = xc , y∗ = yc Phương pháp khác tiếp tục bước Xét a = 1, b = 0,1 giá trị bội ban đầu µ(0) , thuật toán dến bảng hình 3.4 bên Hình 3.4: Quá trình phát triển thuật toán giảm dư Lagrange sử dụng sử dụng phương pháp cập nhật hệ số gradient 3.2 Phân rã Lagrange gia tăng Quá trình phân rã Lagrange gia tăng (AL) xét 53 3.2.1 Sự phân rã Hàm Lagrange gia tăng toán (P) có công thức (3.3) A( x, z, λ, µ, α, β) = f ( x) + λT c( x) + α c( x) nd + ∑ µi di ( x ) + zi + β di ( x ) + zi 2 i =1 Những tham số phạt α β đại lượng xác định đủ lớn để đảm bảo tính lồi địa phương zi (i = 1, , nd ) biến thêm để biến đổi ràng buộc bất đẳng thức vào ràng buộc đảng thức Chú ý số hạng bậc hai trao hàm Lagrange gia tăng thuộc tính lồi chặt Trong hình 3.11, giải thích đồ họa hàm Lagrange gia tăng biểu diễn Để thuận tiện, ta định nghĩa vi = zi (i = 1, , nd ), hàm Lagrange gia tăng tương đương với (3.4) A( x, v, λ, µ, α, β) = f ( x) + λT c( x) + α c( x) 2 nd + ∑ µi ( di ( x ) + vi ) + β ( di ( x ) + vi ) i =1 Quá trình phân rã Lagrange gia tăng liên quan đến giảm thiểu hàm Lagrange gia tăng (3.4) Chú ý giảm thiểu tối đa đối tới v mang phân tích kiểu bị phân rã, dẫn đến toán liên quan đến x Sự cực tiểu hóa (3.4) với vi (3.5) pi = µi (di ( x) + vi ) + β(di ( x) + vi )2 , v i ≥0 biến vi phải không âm Bài toán dễ dàng giải Đạo hàm hàm mục tiêu với vi µi + β(di ( x) + vi ) Nếu vi > 0, đạo hàm phải 0, từ vi = −di ( x) − µi β Nếu vi = 0, điều có nghĩa di ( x) thỏa mãn đẳng thức, 54 dẫn đến µi > 0, đạo hàm phải không âm Do (3.6) vi = max{0, −di ( x) − µi }; i = 1, , nd β Từ hàm mục tiêu toán (3.4) đánh sau pi =   2β (µi + βdi ( x))2 − µ2i vi =  − µ2 vi = −di ( x) − 2β i µi β Những kết kết hợp vào công thức (3.7) pi = (max{0, µi + βdi ( x)) − µi 2β Cuối ta thay biểu thức pi (i = 1, , nd ) vào (2.3) để thu biểu diễn hàm Lagrange gia tăng (3.8) A( x, λ, µ, α, β) = f ( x) + λT c( x) + α c( x) 2 nd + (max{0, µi + βdi ( x)) − µi ∑ 2β i=1 Ngoài ra, điểm xử lý phi tuyến ràng buộc bất đẳng thức sử dụng Việc xử lý đòi hỏi thêm biến phụ để ràng buộc bất đẳng thức Hàm Lagrange gia tăng toán (P) tới chuyển vào ràng buộc đẳng thức Những biến phụ sau kết hợp tới hàm mục tiêu thông qua số hạng rào cản logarithm đảm bảo tính dương chúng 3.2.2 Thuật toán Sự phân rã dựa Lagrange gia tăng tương tự trình phân rã Lagrange ban đầu mục tiếp Sự khác số hạng bậc hai AL làm cho toán gốc giảm dư không phân tích Để phân tích hai trình sử dụng Chúng 55 đề cập mục 3.2.3 Thuật toán cung cấp Thuật toán 3.2 (Phân rã Lagrange gia tăng) Bước Thiết lập ban đầu Thiết lập hệ số λ µ, tham số phạt α β Bước 1: Nghiệm toán gốc giảm dư Giải toán gốc giảm dư (3.8) Bài toán làm tách rời (xem mục 3.2.3 đây) Bước 2: Cập nhật hệ số Tính gradient hàm đối ngẫu cập nhật hệ số với mục đích cực tiểu hóa hàm đối ngẫu (xem mục 3.2.4) Bước 3: Kiểm tra tính hội tụ Nếu hệ số không thay đổi đáng kể hai lần lặp liên tiếp dừng, nghiệm tìm kiếm Những trường hợp khác tiếp tục với bước 3.2.3 Tính tách Quá trình để thu tính tách chuyển thành phương trình tuyến tính số hạng bậc hai Lagrange gia tăng số lượng nhỏ không đổi biến để giá trị phép lặp để hoàn tất tính tách Quá trình thứ hai hoàn toàn không đổi Lagrange gia tăng số lượng nhỏ biến để giá trị phép lặp tới hoàn tất tính tách 3.2.4 Cập nhật hệ số Một quy tắc hợp lý để cập nhật hệ số λ λ(υ+1) = λ(υ) + αc( x(υ) ) Khi hệ số µ không âm, cập nhật sau ( υ +1 ) µi ( υ) = max{0, µi + βdi ( x(υ) )}; i = 1, , nd 56 3.2.5 Cập nhật tham số phạt Những tham số phạt α β tăng với số lượng lặp lặp lại mà tính lồi trì, cách mà điều kiện xấu số xuất Chúng ta bắt đầu phân tích chi tiết phương pháp Lagrange gia tăng cách cho tham số phạt α đủ lớn, Lagrange gia tăng có điểm cực tiểu địa phương gần điểm tối ưu thật Điều xuất phát từ Bổ đề đơn giản sau Bổ đề 3.1 Cho A B ma trận đối xứng n × n Giả sử B nửa xác định dương A xác định dương không gian Bx = Khi có α∗ cho với α α∗ ma trận A + αB xác định dương Chứng minh Giả sử trái ngược với k có xk với | xk | = cho xkT ( A + kB) xk Dãy { xk } có dãy hội tụ đến giới hạn x Bây xkT Bxk 0, dẫn đến x T Bx = Điều dẫn đến x T Bx Tuy nhiên điều mâu thuẫn với giả thuyết Bổ đề Ví dụ 3.3 (Phân rã Lagrange gia tăng) Bài toán giải f ( x, y) = x2 + y2 , với − x − y ≤ −4; x ≥ 0; y ≥ 0, x,y có nghiệm x∗ = y∗ = , f ( x∗ , y∗ ) = Hệ số Lagrange liên kết với ràng buộc có giá trị tối ưu µ∗ = Hàm AL là: A( x, y, µ) = x2 + y2 + (max {0, µ + β(− x − y + 4)})2 − µ2 2β Những toán để giải bước thuật toán phân rã x2 + (max {0, µ + β(− x − y + 4)})2 − µ2 với x ≥ 0, 2β x2 + (max {0, µ + β(− x − y + 4)})2 − µ2 với y ≥ 2β x x Thuật toán áp dụng Bước Thiết lập ban đầu 57 Hình 3.5: Hình vẽ minh họa hàm Lagrange hàm Lagrange gia tăng cho giá trị khác tham số phạt β ví dụ minh họa 3.3 58 Những biến hệ số thiết lập, tức x = y = 5, µ = 3, β = 0, Bước Nghiệm toán gốc giảm dư Bài toán phân tích vào hai toán Bài toán x2 + x (max {0, + 0, 3(− x − + 4)})2 − 32 với x ≥ 2.0, có nghiệm x = 1,17 Bài toán thứ hai y2 + y (max {0, + 0, 3(−5 − y + 4)})2 − 32 với y ≥ 0, 2.0, có nghiệm y = 1,17 Bước Cập nhật hệ số: Hệ số cập nhật µ = max {0, µ + β(− x − y + 4)} = max {0, + 0, 3(−1, 17 − 1, 17 + 4)} = 3, 50 Bước Kiểm tra tính hội tụ Hệ số µ thay đổi đầy đủ, biến cập nhật x = y = 1, 17 Tham số β tăng β ←− 1, 2β Thuật toán tiếp tục bước tính hội tụ đạt Thuật toán dừng υ = 10, dẫn đến nghiệm x = y = 2, 00 µ = 4, 00 β = 1, 86 f ( x, y) = 8, 00 Sự khai (khai triển) thuật toán biểu diễn bảng hình 3.6 Hình 3.6: Phát triển thuật toán Lagrange gia tăng ví dụ 3.3 59 Kết luận Trong luận văn em trình bày số trường hợp riêng toán tối ưu hóa, toán có cấu trúc đặc biệt, bao gồm kỹ thuật phân rã Dantzig - Wolfe, phân rã Bender, phương pháp giảm dư Lagrange kỹ thuật khác Song song với số ví dụ số minh họa cho kỹ thuật phân rã Để đánh giá, lựa chọn phương pháp, ta cần biết đánh giá mức độ hội tụ thuật toán tối ưu Do thời gian thực luận văn không nhiều, kiến thức hạn chế, em xin phép hoàn thiện phát triển lập trình thuật toán tương lai Mặc dù cố gắng, song tránh khỏi có sai sót, em mong nhận góp ý quý thầy cô bạn đọc 60 Tài liệu tham khảo [1] Bùi Thế Tâm - Trần Vũ Thiệu (1998), Các phương pháp tối ưu hóa, NXB Giao thông vận tải [2] Trần Vũ Thiệu - Nguyễn Thị Thu Thủy (2011), Giáo trình tối ưu phi tuyến, NXB ĐHQG Hà Nội [3] Nguyễn Hữu Điển (2006), Một số vấn đề thuật toán, NXB Giáo dục [4] Antonio J.Conejo - Enrique Castilo - Roberto Mínguez - Raquel García Bertrand (2005), Decomposition techniques in mathematical programming, Springer [5] David G.Luenberger (2007), Linear and Nonlinear Programming, Springer 61 [...]... u8 ≤ 0 là bài toán với những ràng buộc phức tạp Định lí 2.2 (Khai triển gốc và đối ngẫu) Nếu một bài toán quy hoạch tuyến tính có một cấu trúc phân rã với những ràng buộc phức tạp, bài toán quy hoạch tuyến tính đối ngẫu của nó có một cấu trúc phân rã với những biến phức tạp Và ngược lại, nếu một bài toán quy hoạch tuyến tính có một cấu trúc phân rã với những biến phức tạp, bài toán quy hoạch tuyến tính... phức tạp Kỹ thuật phân rã được giải thích trong chương tiếp theo 11 Chương 2 Phân rã trong quy hoạch tuyến tính 2.1 Những ràng buộc phức tạp Kích thước của một bài toán quy hoạch tuyến tính có thể rất lớn Người ta có thể gặp phải trong thực tế những bài toán với hàng trăm hàng ngàn phương trình hoặc ẩn số Để giải quy t những bài toán này phải sử dụng một số kỹ thuật đặc biệt cho thuận tiện và cần thiết... tiện và cần thiết Ngoài ra, một giải pháp phân phối của các bài toán lớn có thể được mong muốn vì lý do kỹ thuật hoặc thực tế Kỹ thuật phân rã cho phép loại nhất định của các bài toán được giải quy t một cách phân cấp hoặc phân phối Ngoài ra, chúng dẫn đến sự đơn giản hóa thủ tục nghiệm của bài toán được nghiên cứu Đối với một kỹ thuật phân rã có ích , bài toán ở đây phải có cấu trúc thích hợp Hai... tiêu cực và điều này có thể được sử dụng để đạt được một nghiệm cơ bản khả thi có giá trị hàm mục tiêu nhỏ hơn so với hiện tại Do tầm quan trọng của nó, ta dành một phần cho phương pháp phân hủy Dantzig - Wolfe 2.1.3 Thuật toán phân rã Dantzig-Wolfe Thuật toán phân rã Dantzig-Wolfe làm việc như dưới đây Input Một bài toán quy hoạch tuyến tính với những ràng buộc phức tạp Output Nghiệm của bài toán thu... tạp, bài toán quy hoạch tuyến tính đối ngẫu của nó có một cấu trúc phân rã với những ràng buộc phức tạp Chứng minh Chứng minh của định lý 2.2 là đơn giản từ định nghĩa bài toán đối ngẫu của một bài toán quy hoạch tuyến tính 2.2.2 Thuật toán phân rã Benders Nghiệm của bài toán (2.5) - (2.7) có thể thu được bằng cách tham số hóa bài toán này như một hàm của những biến ràng buộc x1 , , xn Điều này... cho phép sử dụng các thuật toán giải hiệu quả cao Ma trận này bao gồm trong mỗi cột chỉ có một 1 và -1 Tuy nhiên, hai ràng buộc cuối cùng ngăn chặn việc sử dụng một thuật toán hiệu quả trừ khi một cơ chế phân rã thích hợp được sử dụng như thuật toán phân rã Dantzig-Wolfe Kỹ thuật phân rã được giải thích trong chương tiếp theo 10 Trong thực tế, số lượng thiết bị sản xuất có thể cao như 100, và việc xây... phức tạp làm cho nghiệm của bài toán (2.5) - (2.7) trở nên khó khăn Nếu chúng được cố định với các giá trị nhất định, bài toán (2.5) - (2.7) trở nên đơn giản đáng kể Điều này là bởi vì hoặc là nó phân rã trong bài toán hoặc đạt một cấu trúc mà nghiệm của nó là đơn giản Một bài toán với các biến phức tạp có thể được chuyển đổi, sử dụng bài toán đối ngẫu, vào một bài toán với các ràng buộc phức tạp Ví... các ràng buộc phức tạp và cấu trúc biến phức tạp Hai trường hợp này được xem xét trong chương này Trong một bài toán quy hoạch tuyến tính, các ràng buộc phức tạp liên quan đến các biến từ các khối khác nhau rõ ràng, ràng buộc phức tạp cản trở một nghiệm của bài toán bằng các khối 12 2.1.1 Cấu trúc bài toán Xét bài toán quy hoạch tuyến tính n (2.1) min x1 ,x2 , ,xn ∑ c j x j , với j =1 n (2.2) ∑ eij... cạnh của bài toán chi phí sản xuất năng lượng tối thiểu, không có ràng buộc tuyến tính bổ sung, yêu cầu 2100 − 1 ràng buộc, một con số có thể ngăn chặn thậm chí viết ra bài toán Tuy nhiên, nghiệm của nó là tầm thường bằng cách sử dụng quy tắc trật tự Tuy nhiên, nếu ràng buộc tuyến tính thêm được bao gồm, kết quả bài toán sẽ trở nên không viết được và nan giải, trừ khi một kỹ thuật phân rã được sử dụng. .. ( p(1) = 2) bài toán giảm dư được thu bằng cách giải quy t ba bài toán con hai lần Đầu (1) (1) (1) tiên, hệ số chi phí c1 = −1, c2 = −1, và c3 = −1 được sử dụng Những bài toán con cho nghiệm đầu tiên là min − x1 , với 1 x1 2, min − x2 , với 1 x1 2, min − x1 , với 1 x3 2, x1 (1) có nghiệm là x1 = 2 Và x2 (1) có nghiệm là x2 = 2 Và x1 25 (1) có nghiệm là x3 = 2 Giá trị hàm mục tiêu của bài toán giảm dư ... phân rã với biến phức tạp Và ngược lại, toán quy hoạch tuyến tính có cấu trúc phân rã với biến phức tạp, toán quy hoạch tuyến tính đối ngẫu có cấu trúc phân rã với ràng buộc phức tạp Chứng minh... , xn ) Thuật toán Đầu vào Một toán quy hoạch tuyến tính với biến phức tạp, giá trị sai số υ để điều chỉnh hội tụ 32 Đầu Nghiệm toán quy hoạch tuyến tính thu sau sử dụng thuật toán phân rã Benders... buộc tuyến tính thêm bao gồm, kết toán trở nên không viết nan giải, trừ kỹ thuật phân rã sử dụng để giảm bớt ràng buộc phức tạp Kỹ thuật phân rã giải thích chương 11 Chương Phân rã quy hoạch tuyến