Thông tin tài liệu
Chương 4
Mô hình hồi qui đa biến
iiii
uXXY +++=
33221
βββ
iii
XbXbbY
33221
ˆ
++=
Mô hình hồi qui đa với 2 biến giải thích
Hệ số hồi qui cũng được ước lượng thông qua sử dụng phương pháp bình phương bé
nhất như trong phân tích hồi qui đơn. Giá trị ước lượng phù hợp của Y trong quan sát thứ i
phụ thuộc vào giá trị ước lượng b
1
, b
2
, và b
3
.
11
iiii
uXXY +++=
33221
βββ
iii
XbXbbY
33221
ˆ
++=
iiiiii
XbXbbYYYe
33221
ˆ
−−−=−=
Mô hình hồi qui đa với 2 biến giải thích
Sai số e
i
trong quan sát thứ i là sự khác biệt giữa giá trị thực tế và giá trị ước lượng phù
hợp của Y.
12
∑∑
−−−==
2
33221
2
)(
iiii
XbXbbYeRSS
Mô hình hồi qui đa với 2 biến giải thích
Chúng ta cũng xác định tổng bình phương của các sai số RSS và lựa chọn b
1
, b
2
, và b
3
làm
sao để tối thiểu hóa giá trị này.
13
∑∑
−−−==
2
33221
2
)(
iiii
XbXbbYeRSS
)2222
22(
323233122133
221
2
3
2
3
2
2
2
2
2
1
2
iiiiii
iiiiii
XXbbXbbXbbYXb
YXbYbXbXbbY
+++−
−−+++=
∑
∑∑
∑∑∑
∑∑∑∑
++
+−−
−+++=
iii
iiiii
iiii
XXbbXbb
XbbYXbYXb
YbXbXbnbY
3232331
2213322
1
2
3
2
3
2
2
2
2
2
1
2
22
222
2
0
1
=
b
RSS
∂
∂
0
2
=
b
RSS
∂
∂
0
3
=
b
RSS
∂
∂
Mô hình hồi qui đa với 2 biến giải thích
Đầu tiên, chúng ta triển khai biểu thức RSS và sau đó chung ta sử dụng điều kiện đạo hàm
hay vi phân bậc một của biểu thức để tìm cực tiểu.
14
33221
XbXbYb −−=
Mô hình hồi qui đa với 2 biến giải thích
Chúng ta có 3 phương trình cho 3 tham số chưa biết. Giải phương trình để tìm b
1
, b
2
, và b
3
,
Chúng ta có thể có các giá trị của các tham số được tìm như trên. Giá trị của b
3
giống với
giá trị của b
2
, với các giá trị của chỉ số 2 và 3 được thay thế lẫn nhau.)
15
( )( ) ( )
∑∑
−−−
2
3322
XXYYXX
iii
( )( ) ( )( )
( ) ( ) ( )( )
( )
2
3322
2
33
2
22
332233
2
∑∑∑
∑∑
−−−−−
−−−−−
=
XXXXXXXX
XXXXYYXX
b
iiii
iiii
33221
XbXbYb −−=
Mô hình hồi qui đa với 2 biến giải thích
16
( )( ) ( )
∑∑
−−−
2
3322
XXYYXX
iii
( )( ) ( )( )
( ) ( ) ( )( )
( )
2
3322
2
33
2
22
332233
2
∑∑∑
∑∑
−−−−−
−−−−−
=
XXXXXXXX
XXXXYYXX
b
iiii
iiii
Biểu thức của b
1
được mở rộng một cách trực tiếp từ mô hình hồi qui đơn.
33221
XbXbYb −−=
Mô hình hồi qui đa với 2 biến giải thích
17
( )( ) ( )
∑∑
−−−
2
3322
XXYYXX
iii
( )( ) ( )( )
( ) ( ) ( )( )
( )
2
3322
2
33
2
22
332233
2
∑∑∑
∑∑
−−−−−
−−−−−
=
XXXXXXXX
XXXXYYXX
b
iiii
iiii
Tuy nhiên, biểu thức cho các hệ số hồi qui tương đối phức tạp hơn so với hệ số hồi qui
trong mô hình hồi qui đơn.
33221
XbXbYb −−=
Mô hình hồi qui đa với 2 biến giải thích
18
( )( ) ( )
∑∑
−−−
2
3322
XXYYXX
iii
( )( ) ( )( )
( ) ( ) ( )( )
( )
2
3322
2
33
2
22
332233
2
∑∑∑
∑∑
−−−−−
−−−−−
=
XXXXXXXX
XXXXYYXX
b
iiii
iiii
Nhìn chung sẽ rất nhiều biến thì dùng biều biểu thức đại số thông thường là không đủ. Vì
thế, cần phải sử dụng biểu thức dạng ma trận.
. reg EARNINGS S EXP
Source | SS df MS Number of obs = 540
+ F( 2, 537) = 67.54
Model | 22513.6473 2 11256.8237 Prob > F = 0.0000
Residual | 89496.5838 537 166.660305 R-squared = 0.2010
+ Adj R-squared = 0.1980
Total | 112010.231 539 207.811189 Root MSE = 12.91
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
+
S | 2.678125 .2336497 11.46 0.000 2.219146 3.137105
EXP | .5624326 .1285136 4.38 0.000 .3099816 .8148837
_cons | -26.48501 4.27251 -6.20 0.000 -34.87789 -18.09213
Mô hình hồi qui đa với 2 biến giải thích
Đây là kết quả hồi qui đối với 540 quan sát từ số liệu thực tế.
19
EXPSINGSNEAR 56.068.249.26
ˆ
++−=
[...]... độc lập A.6 Yếu tố ngẫu nhiên có phân phối chuẩn Từ mô hình hồi qui đơn đến mô hình hồi qui đa, chúng bắt đầu bằng nhắc lại các giả định của mô hình hồi qui đơn 1 Đặc điểm của hệ số hồi qui đa A.1: Mô hình là tuyến tính trong các tham số và được xác định rõ Y = β + β X + + β X + u 1 2 2 k k A.2: Không có mối quan hệ tương quan chính xác giữa các biến độc lập ở trong mẫu A.3 Yếu tố ngẫu nhiên có kỳ... ngẫu nhiên có phân bố độc lập A.6 Yếu tố ngẫu nhiên có phân phối chuẩn Trong trường hợp các giả định của mô hình có hiệu lực, các ước lượng theo phương pháp bình phương bé nhất trong mô hình hồi qui tổng thể là ước lượng không chệch và hiệu quả giống như mô hình hồi qui đơn 3 Đặc điểm của hệ số hồi qui đa Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 ( X 2 i − X 2 )( Yi − Y ) ∑ ( X 3 i − X... trong mô hình hồi qui đơn 4 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 2 2 σu σu 1 1 2 σ b2 = × = × 2 2 2 ( X 2 i − X 2 ) 1 − rX 2 , X 3 nMSD( X 2 ) 1 − rX 2 , X 3 ∑ Sự khác biệt ở chổ trong mô hinhf hồi qui đa, biểu thức trên được nhân với yếu tố mà nó phụ thuộc vào hệ số tương quan giữa hai biến X2 và X3 5 Tính chính xác của các hệ số hồi qui Y... Chúng ta đã có một ước tính không có ý nghĩa bởi vì chúng ta có ước tính quá xa từ số liệu thực tế 22 Đặc điểm của hệ số hồi qui đa Đặc điểm của hệ số hồi qui đa A.1: Mô hình là tuyến tính trong các tham số và được xác định rõ Y = β + β X + + β X + u 1 2 2 k k A.2: Không có mối quan hệ tương quan chính xác giữa các biến độc lập ở trong mẫu A.3 Yếu tố ngẫu nhiên có kỳ vọng bằng 0 A.4 Yếu tố ngẫu nhiên... nhau 2 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 2 2 σu σu 1 1 2 σ b2 = × = × 2 2 2 ( X 2 i − X 2 ) 1 − rX 2 , X 3 nMSD( X 2 ) 1 − rX 2 , X 3 ∑ Yếu tố đầu tiên trong biểu thức phương sai của b2 hoàn toàn giống phương sai của b2 trong hệ số hồi qui của mô hình hồi qui đơn 3 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y =... số hồi qui trong mô hình 2 biến giải thích 1 Tính chính xác của các hệ số hồi qui Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 2 2 σu σu 1 1 2 σ b2 = × = × 2 2 2 ( X 2 i − X 2 ) 1 − rX 2 , X 3 nMSD( X 2 ) 1 − rX 2 , X 3 ∑ Biểu thức phương sai của b2 như được chỉ ra Biểu thức cho phương sai của b3 là hoàn toàn giống với chỉ số 2 và 3 được thay thế cho nhau 2 Tính chính xác của các hệ số hồi. .. thiết A.2 là khác Trước đây, giả thiết phát biểu rằng cần có sự thay đổi trong biến X Chúng ta sẽ giải thích sự khác nhau qua các slide sau 2 Đặc điểm của hệ số hồi qui đa A.1: Mô hình là tuyến tính trong các tham số và được xác định rõ Y = β + β X + + β X + u 1 2 2 k k A.2: Không có mối quan hệ tương quan chính xác giữa các biến độc lập ở trong mẫu A.3 Yếu tố ngẫu nhiên có kỳ vọng bằng 0 A.4 Yếu tố... ( X 3 i − X 3 ) + ui − u b2 = β 2 + ∑ a i*2 ui Giá trị này cũng đồng nhất với kết quả trong mô hình hồi qui đơn Sự khác nhau thể hiện ở biểu thức kết hợp của các yếu tố ngẫu nhiên trong mẫu và điều này phụ thuộc vào giá trị của X2 và X3 trong mẫu Và yếu tố này tương đối phức tạp 7 Đặc điểm của hệ số hồi qui đa Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 ( X 2 i − X 2 )( Yi − Y ) ∑ ( X... của hệ số hồi qui đa Y = β1 + β 2 X 2 + β 3 X 3 + u ˆ Y = b1 + b2 X 2 + b3 X 3 b1 = Y − b2 X 2 − b3 X 3 = ( β 1 + β 2 X 2 + β 3 X 3 + u ) − b2 X 2 − b3 X 3 E (b1 ) = β 1 + β 2 X 2 + β 3 X 3 + E ( u ) − X 2 E (b2 ) − X 3 E (b3 ) = β1 + β 2 X 2 + β 3 X 3 − X 2 β 2 − X 3 β 3 = β1 Vì thế, b1 là ước lượng không chệch của β 1 15 Tính chính xác của các hệ số hồi qui Tính chính xác của các hệ số hồi qui Y =... ˆ EARNINGS = −26.49 + 2.68 S + 0.56 EXP Theo lý thuyết, hệ số chặn chỉ ra rằng cá nhân không đến trường và không có kinh nghiệm làm việc sẽ có thu nhập trên giờ –$26.49 21 Mô hình hồi qui đa với 2 biến giải thích reg EARNINGS S EXP Source | SS df MS -+ -Model | 22513.6473 2 11256.8237 Residual | 89496.5838 537 166.660305 -+ -Total | 112010.231 . hệ số hồi qui đa
uXXY
kk
++++=
βββ
221
1
Từ mô hình hồi qui đơn đến mô hình hồi qui đa, chúng bắt đầu bằng nhắc lại các giả định
của mô hình hồi qui đơn Chương 4
Mô hình hồi qui đa biến
iiii
uXXY +++=
33221
βββ
iii
XbXbbY
33221
ˆ
++=
Mô hình hồi qui đa với 2 biến giải thích
Hệ số hồi qui cũng được
Ngày đăng: 25/01/2014, 18:20
Xem thêm: Tài liệu Chương 4: Mô hình hồi qui đa biến pptx, Tài liệu Chương 4: Mô hình hồi qui đa biến pptx, Đặc điểm của hệ số hồi qui đa, Tính chính xác của các hệ số hồi qui