Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 1 Mô hình hồi qui tuyến tính bội: Lựa chọn mô hình và kiểm định giả thiết 1) Giới thiệu dạng hàm Logarit kép Trong bài giảng này chúng ta tiếp tục thảo luận mô hình hồi qui và tập trung vào những dạng hàm nào có thể là phù hợp với biến phụ thuộc và các biến hồi qui. Điều này rất quan trọng vì dạng hàm phù hợp cũng là một trong các giả định OLS của mô hình hồi qui bội. Khiá cạnh quan trọng trong đó mô hình hồi qui tuyến tính là nó là tuyến tính trong các tham số. Nó không cần là tuyến tính trong các biến. Các mô hình là tuyến tính trong các tham số dễ ước lượng bởi phương pháp OLS, nhưng phần mềm của máy vi tính hiện đại cũng tạo điều kiện cho chúng ta ước lượng các mô hình phi tuyến trong các tham số . Mô hình Logarit kép Mô hình logarit kép là một mô hình trong đó biến phụ thuộc và các biến độc lập ở dạng logarit. Mô hình này có nhiều công dụng khác nhau trong kinh tế học : các mô hình cầu có hệ số co giãn không đổi, hay các hàm sản xuất Cobb-Douglas. Trong khi chúng ta thường dùng các đường thẳng để thể hiện các đường cầu khi giới thiệu các nguyên tắc kinh tế vi mô, thì chúng có thể không đại diện tốt cho dữ liệu thực tế. Thường là, mối quan hệ giữa giá và lượng cầu được mô tốt bằng mô hình logarit kép. Hai đồ thị dưới đây chỉ ra liên hệ giữa mối quan hệ tuyến tính dưới dạng logarit của các biến và mối quan hệ tương ứng giữa chính những biến này : Mối quan hệ mô tả đường cong không thể được ước lượng bằng phương pháp OLS. Tuy nhiên , nếu chúng ta lấy logarit cả hai vế, thì kết quả này là một mối tương quan tuyến tính và chúng ta có thể ước lượng bằng OLS. Một nét đặc trưng hữu ích của mô hình logarit kép là độ co giãn của biến phụ thuộc theo một biến giải thích được cho trực tiếp bởi hệ số độ dốc. Hãy nhớ lại định nghĩa của độ co giãn điểm : Y X YX X Y η ∂ = ∂ log(X) X log(Y) Y 2 β i 1i Xβ Y − = Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 2 Nếu chúng ta ước lượng một hàm hồi qui tuyến tính, thì chúng ta có một hàm ước lượng cho độ dốc của Y theo X. Tuy nhiên, nếu chúng ta ước lượng mô hình logarit kép, thì chúng ta có kết quả sau: () Y X XY Y X Y X Y 1 log(X) )log( ∂ ∂ = ⇒ ∂=∂ ∂=∂ β β β Một ứng dụng thường gặp nhất của mô hình logarit kép là để ước lượng các hàm sản xuất. Hàm sản xuất Cobb-Douglas đã được phát hiện là cung cấp một đại diện tốt cho sản xuất trong nhiều tình huống, nhất là khi chúng ta ước lượng sản lượng các sản phẩm trong nông nghiệp. Mô hình này có dạng là : ε β β εβ 3 2 1 LKY = Đây là một dạng mô hình không thể ước lượng trực tiếp bởi OLS. Tuy nhiên, nếu chúng ta lấy logarit cả hai vế , chúng ta tìm ra () ( ) ( ) ε β β β log log log )log( 321 + + += LKY dạng này thì tuyến tính trong các tham số, nên nó có thể được ước lượng bằng OLS. Một dạng hàm sản xuất Cobb-Douglas mô tả lợi thế kinh tế theo qui mô (RTS) là tổng các hệ số của hai biến log(K) và log(L), vì vậy khi ước lượng được các hệ số hồi qui thì chúng ta cũng sẽ ước lượng RTS. 2) Lựa chọn mô hình 2.1 Hệ số xác định và hệ số xác định điều chỉnh Hệ số xác định R 2 được xác định giống như trước đây (trong mô hình hồi qui đơn): TSS ESS - 1 2 =R Khi giá trị R 2 lớn hơn cho chúng ta biết mô hình hồi qui "tốt hơn", nhưng chúng ta cần cảnh giác về việc ý nghĩa “tốt hơn” này đạt được ra sao và nên nhớ rằøng mỗi mô hình hồi qui có nhiều thuộc tính cần được xem xét đồng thời khi đánh giá chất lượng của nó. Sẽ là sai lầm khi đánh giá một mô hình chỉ trên cơ sở giá trị hệ số xác định R 2 . Việc bổ sung thêm các biến hồi qui vào một mô hình hồi qui bội không thể làm giảm giá trị R 2 , cho dù là những biến hồi qui này không phù hợp, vì thế thường có vài nỗ lực gia tăng các biến hồi qui vào mô hình. Tuy nhiên, chúng ta sẽ học được cách tiếp cận sau nữa là sự gia tăng của R 2 sẽ chịu đánh đổi bằng sự giảm độ chính xác của những ước lượng. Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 3 Lý do là TSS không phụ thuộc vào số biến giải thích nhưng ESS lại phụ thuộc vào số biến giải thích. ESS khi tăng lên thêm biến giải thích (ví dụ X k+1 ) nếu đạt được một một ESS lớn hơn thì tốt hơn là cho ước lượng 0 1 = + ∧ K β và chúng ta vẫn dùng mô hình chỉ có K biến giải thích. Điều này kéo theo cách làm thông thường rằng khi tăng thêm biến giải thích thường là làm giảm ESS và làm tăng R 2 hoặc ít ra là không giảm nó cho dù biến mới này có phù hợp trong việc giải thích biến phụ thuộc hay không. Như vậy khi so sánh hai mô hình hồi qui bội có số biến giải thích khác nhau chúng ta cũng không thể sừ dụng hệ số xác định này. Các nhà nghiên cứu nên nhớ rằng việc bổ sung thêm một biến hồi qui cũng làm tăng thêm một hệ số ước lượng, điều này tăng thêm "công việc" mà dữ liệu phải làm. Nói cách khác, với một lượng thông tin đã cho chúng ta phải phân phối chúng cho số lượng hệ số lớn hơn. Một cách nhằm kết hợp sự đánh đổi giữa cái được tiềm năng của thông tin từ một biến hồi qui tăng thêm và chi phí của việc ước lượng hệ số cho biến đó là việc sừ dụng một loạt "tiêu chuẩn lựa chọn mô hình" khác nhau. Hệ số xác định điều chỉnh sẽ cân đối giữa sự gia tăng sức mạnh giải thích được đóng góp bởi một biến hồi qui bổ sung với sự giảm mức chính xác khi sừ dụng thông tin để ước lượng hệ số ước lượng của biến giải thích bổ sung. R 2 điều chỉnh được tính giống như R 2 nhưng có tính đến bậc tự do của ESS và TSS Nguồn SS df SS / df Phần đã giải thích RSS K -1 Phần không giải thích ESS n - k ESS / (n – K) Phần cần giải thích TSS n -1 TSS / (n –1) Chúng ta có TSS = RSS + ESS Lưu ý : Cách dùng các ký hiệu ESS và RSS ở đây là theo tác giả Ramu Ramanathan xuất bản lần thứ 5, riêng tác giả Damodar N. Gujarati sách xuất bản lần thứ 4 lại sừ dụng theo cách khác (ESS = phần đã giải thích, RSS phần không giải thích). Chúng ta nên thận trọng khi đọc tài liệu vì các thống kê kiểm định có những ký hiệu khác nhau nhưng ý nghĩa lại giống nhau. R 2 điều chỉnh ( ) () () 22 n - K 1 1 - 1 - 1 - R TSS n - 1 ESS n R nK − == − Trong công thức của hệ số xác định có điều chỉnh chúng ta thấy rằng khi tăng K thì mẫu số giảm nên có thể làm tăng hệ số xác định, nhưng ngược lại (1 – R 2 ) cũng có thể giảm xuống giảm xuống do R 2 có thể tăng khi tăng biến giải thích. Điều này có thể dẫn đến là khi tăng thêm biến giải thích thì hệ số xác định điều chỉnh có thể được cải thiện, cũng có thể không thay đổi hoặc thậm chí có thể giảm đi. Hệ số xác định có thể sừ dụng để so sánh hai mô hình hồi qui có số biến giải thích khác nhau. Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 4 Nghiên cứu biểu thức này để thấy điều gì xảy ra với 2 R khi chúng ta bổ sung thêm một biến hồi qui và ESS không cải thiện . Nên nhớ rằng khi định dạng hai mô hình khác nhau từ một bộ dữ liệu chúng ta không thể so sánh hệ số xác định của chúng một cách trực tiếp mà cách tính hệ số xác định tương đương để so sánh là bình phương r (hệ số tương quan) giữa giá trị thực tế của biến phụ thuộc và giá trị ước lượng tính từ hàm hồi qui bội. Ví dụ: hàm hồi qui bội thông thường và hàm hồi qui bội log kép. Chúng ta có ví dụ từ file pm: chúng ta hồi qui dạng hàm thông thường và hàm log kép cho biến giá trị gia tăng va theo vốn K và lao động. Chúng ta quan sát hệ số xác định của hai mô hình này. Sau đó so sánh hệ số xác định của mô hình hồi qui đầu tiên với hệ số tương quan của giá trị va và giá trị ước lượng của nó qua dạng hàm log kép vaf. Kết quả là hệ số xác định của hàm log kép tốt hơn. Bước 1: hồi qui va theo k và l Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 5 Bước hai hồi qui log(va) theo log(k) và log(l) Bước ba: tính hệ số xác định thực tế cho hàm log kép Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 6 Kết quả chúng ta được ở bảng sau cho hệ số xác định của hàm log kép 2.1 Các tiêu chuẩn lựa chọn khác Sách Ramanathan, in lần thứ năm, liệt kê 8 tiêu chuẩn khác để lựa chọn mô hình. Các tiêu chuẩn này có thể hiện khác nhau và các nhà nghiên cứu khác nhau có thể lựa chọn các tiêu chuẩn khác nhau phù hợp với các ứng dụng cụ thể. Nêu một ví dụ trong chương 4 bảng 4.2 Hai tiêu chuẩn phổ biến mà EViews cho chúng ta biết làø Tiêu chuẩn Thông tin Akaike (AIC) và Tiêu chuẩn Schwarz: () 2 ESS n K n AIC e  =   () ESS n K n Schwarz n  =   Khi sừ dụng những tiêu chuẩn này để so sánh các mô hình khác nhau, mô hình nào có giá trị những tiêu chuẩn này thấp hơn sẽ được ưu tiên hơn khi lựa chọn. Cần lưu ý là R 2 , 2 R , và các tiêu chuẩn AIC và Schwarz khác nhau như thế nào. Nguyên tắc chung là hệ số xác định điều chỉnh càng lớn càng tốt. Còn các tiêu chuẩn lựa chọn khác (8 tiêu chuẩn) thì càng nhỏ càng tốt. Tuy nhiên trong các tiêu chuẩn khác này lại có những ưu tiên khác nhau cho các mô hình khác nhau. Ví dụ tiêu chuẩn Schwarz có tác Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 7 dụng so sánh các mô hình đơn giản nhưng sẽ gặp khó khăn khi so sánh các mô hình phức tạp. AIC thì thích hợp trong phân tích chuỗi thời gian. 3) Kiểm định giả thiết Hồi qui tuyến tính bội cũng có các tính chất gần giống như hồi qui tuyến tính đơn nhưng bậc tự do đã thay đổi. Các hệ số ước lượng tuân theo phân phối chuẩn 2 K ˆ (, ) ˆ - ~ N(0,1) K K KK K N β β ββσ ββ σ ∧ ∧  Chúng ta gọi tỉ số trên là tỉ số chuẩn chuẩn hóa Ước lượng phương sai của sai số Như trong trường hợp hồi qui đơn, ước lượng phương sai sai số dựa vào các phần dư bình phương tối thiểu. Trong đó K là số hệ số có trong phương trình hồi qui bội K -n e 2 i 2 ∑ = ε s Thực tế là: [ ] 22 εε σ =sE Nếu các sai số ngẫu nhiên tuân theo phân phối chuẩn thì chúng ta cũng có () () 2 K -n 2 2 ~ K -n χ σ ε ε s Nếu chúng ta viết các sai số chuẩn của các ước lượng hệ số là ( ) kk ˆˆ k ˆ s ˆ ββ σβ ==es (Anh/Chị sẽ thấy ký hiệu khác nhau trong các tài liệu khác nhau). Điều này không thành vấn đề nếu như chúng ta biết ý nghĩa của từng ký hiệu. Chúng ta có: phân phối t chính là tỉ số giữa tỉ số chuẩn chuẩn hóa và căn bậc hai của to số phân phối Khi Bình Phương / bậc tự do: () 2 kk n - K 2 ˆˆ ˆˆ - - t-stat ~ t s kk kk s ε ββ ββ ββ σσ  ÷= =   () K -n ˆ k t~stat - t s - ˆ = k k β ββ Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 8 Với hiểu biết về phân phối chọn mẫu của trị thống kê t, chúng ta có khả năng xây dựng các khoảng tin cậy và kiểm định giả thiết cho các hệ số hồi qui như trong mô hình hồi qui tuyến tính đơn, chỉ có điều khác biệt ở đây là bậc tư do của phân phối t đã thay đổi. 3.1 Kiểm định hệ số riêng biệt a) Kiểm định một đuôi Giả thiết : 00 10 : : K K H H β β ββ = 〉 Mức ý nghĩa α và bậc tự do tìm ra giá trị () * n - K, c t t α 〉 Tính 0 ˆ ˆ - s k k c t β β β = Luật quyết định: () , c ttn K α 〉− Chúng ta có thể sừ dụng giá trị p-value trong EViews. Nếu p.value tính được nhỏ hơn mức ý nghĩa thì chúng ta bác bỏ giả thiết không. Hãy xem ví dụ dưới đây: Chắc chắn là chúng ta tính được t c và chắc chắn chúng ta tìm ra được ( ) , (27 3,0.05) 1.71088 c tn K t t α −=− = > và p-value > 0.05 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 9 Do đó chúng ta không thể bác bỏ giả thiết không là hệ số co giãn của VA theo K là bằng 0.4. b) Kiểm định hai đuôi Cách làm tương tự như trên nhưng có những thay đổi là: Giả thiết 00 10 : : K K H H β β β β = ≠ Luật quyết định: ( ) ,/2 c ttnK α 〉− bác bỏ gỉa thiết không Chúng ta có thể sừ dụng giá trị p-value trong EViews. Nếu p.value tính được nhỏ hơn mức ý nghĩa thì chúng ta bác bỏ giả thiết không. c) Kiểm định ý nghĩa thống kê của các hệ số hồi qui Ý nghĩa: kiểm định rằng biến giải thích có thực sự ảnh hưởng đến biến phụ thuộc hay không. Nói cách khác là hệ số hồi qui có ý nghĩa thống kê hay không. Cách làm tương tự như trên nhưng có những thay đổi là: Giả thiết 0 1 : 0 : 0 K K H H β β = ≠ Luật quyết định: ( ) ,/2 c ttnK α 〉− bác bỏ gỉa thiết không Chúng ta có thể sừ dụng giá trị p-value trong EViews. Nếu p.value tính được nhỏ hơn mức ý nghĩa thì chúng ta bác bỏ giả thiết không. Chúng có thể nhìn lại kết quả của ví dụ trong EViews. Trường hợp này có thể nhìn thấy ngay từ trong bảng kết quả hồi qui mà không cần phải thức hiện thêm lệnh nào cả: Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 10 [...]... pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Giả thiết không là β2 = 0 Nguyễn Trọng Hoài 16 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Rất thú vị là thống kê F ở đây tính được cũng giống như chúng ta đã tính cho trường hồi qui hai lần Hãy nhìn... Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Hãy xem ví dụ ở bảng sau: Nguyễn Trọng Hoài 12 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Fc =14186 〉 F( K - 1 , n - K,α ) = 3.4 p... tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Chúng ta phải điền vào hộp thọai những nội dung cần thiết, hãy kiểm tra có gì khác biết so với hướng dẫn trước đây Sau đó nhấp OK và tiến hành kiểm tra dữ liệu đã nhập đúng chưa Nguyễn Trọng Hoài 22 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn... phải hồi qui hai bước giống như trên mà chúng ta chỉ hồi qui mô hình không giới hạn sau đó lại sừ dụng Wald Và chúng ta có kết quả kiểm định này trong EViews như sau: Nguyễn Trọng Hoài 19 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Điều tuyệt diệu là thống kê F giống hệt như cách tính. .. dựng mô hình hồi qui log(va) theo log(k), sau đó chúng ta hồi qui biến log(va) theo log (k) và log(l) sau đó kiểm tra rằng việc gia tăng biến như vậy có gia tăng sức giải thích của mô hình hay không Bước một: Chúng ta hồi qui biến log(va) theo log(k) Nguyễn Trọng Hoài 13 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn... một hàm hồi qui: dạng hàm này rất có ý nghĩa trong kinh tế và được gọi là hàm giới hạn Chúng ta nên suy nghĩ là tại sao chúng ta lại đưa ra dạng hàm này và từ đâu? Kết quả hồi qui cho chúng ta ở bảng kế tiếp Nguyễn Trọng Hoài 23 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Sau đó hồi qui... là mô hình không giới hạn) Chúng ta làm cả hai cách như sau: Bước một: Chúng ta hồi qui PRICE cho một biến giải thích SQRT Nguyễn Trọng Hoài 17 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Bước hai: Chúng ta hồi qui PRICE cho tất cả các biến giải thích Nguyễn Trọng Hoài 18 Chương Trình... pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Chúng ta chỉ nhìn vào bảng kết quả và bình tĩnh phân tích: tc = t-Statistic và p-value = Prob Chắc chắn chúng ta sẽ có thể cho ra nhận xét về ảnh hưởng của K và L lên VA như thế nào 3.2 Kiểm định mức độ ý nghĩa chung của mô hình (trường hợp đặc biệt của KIỂM ĐỊNH WALD) Trong mô hình hồi qui bội, giả thiết “không”... Hoài 24 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Thực hiện kiểm định Wald cho hai hàm nói trên bằng cách tính thống kê F Hãy kiểm tra Fc = 3.77 có đúng hay không và chúng được tính như thế nào? Sau đó tra bảng tìm F(1,17, 0.05) = 4.45 Chúng ta cũng có thể tìm trực tiếp giá trị này... chọn mô hình và kiểm định giả thiết Bước hai: Chúng ta hồi qui log(VA) theo log(k) và log(l), có nghĩa là chúng ta tăng thêm một biến giải thích và kiểm tra xem biến tăng thêm này có làm tăng mức ý nghĩa của mô hình Nguyễn Trọng Hoài 14 Chương Trình Giảng Dạy Kinh Tế Fulbright Niên Khóa 2007 - 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Sau đó . mô hình hồi qui bội. Khiá cạnh quan trọng trong đó mô hình hồi qui tuyến tính là nó là tuyến tính trong các tham số. Nó không cần là tuyến tính trong các biến. Các mô hình là tuyến tính trong. 2008 Các phương pháp phân tích Mô hình hồi qui tuyến tính bội : Lựa chọn mô hình và kiểm định giả thiết Nguyễn Trọng Hoài 1 Mô hình hồi qui tuyến tính bội: Lựa chọn mô hình và kiểm định giả. phụ thuộc và giá trị ước lượng tính từ hàm hồi qui bội. Ví dụ: hàm hồi qui bội thông thường và hàm hồi qui bội log kép. Chúng ta có ví dụ từ file pm: chúng ta hồi qui dạng hàm thông thường