Bài giảng Kinh tế lượng - Chương 2: Mô hình hồi quy bội

Nội dung text: Bài giảng Kinh tế lượng - Chương 2: Mô hình hồi quy bội

1. 9/5/2013 CHƢƠNG 2 MÔ HÌNH HỒI QUY BỘI 1 NỘI DUNG CHƢƠNG 2 I. Sự cần thiết của mô hình hồi quy bội II. Mô hình hồi quy bội và phương pháp ước lượng OLS III. Một số dạng của mô hình hồi quy IV. Tính vững của các ước lượng OLS 2 1
2. 9/5/2013 I. SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI (*) 1. Mô hình hai biến – vấn đề về kỳ vọng sai số khác 0  Nếu sai số ngẫu nhiên trong mô hình mà có tương quan với biến độc lập (cov(X,u) ≠ 0) thì giả thiết 2 sẽ bị vi phạm.  Biến độc lập nội sinh: là biến độc lập có tương quan với sai số ngẫu nhiên trong mô hình. => Khi mô hình có biến độc lập nội sinh => giả thiết 2 bị vi phạm => các ước lượng OLS sẽ bị chệch.  Trong mô hình hồi quy đơn, giả thiết 2 thường bị vi phạm. 3 I. SỰ CẦN THIẾT CỦA MÔ HÌNH HỒI QUY BỘI (*) 2. Một số ƣu việt khác của mô hình hồi quy bội Mô hình hồi quy bội thường có chất lượng dự báo tốt hơn.  Mô hình hồi quy bội cung cấp các dự báo hữu ích hơn.  Mô hình hồi quy bội cho phép sử dụng dạng hàm phong phú hơn.  Mô hình hồi quy bội cho phép thực hiện các phân tích phong phú hơn. 4 2
3. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS 1. Mô hình và các giả thiết  Mô hình hồi quy tuyến tính k biến: Y 1  2 X 2  kk X u (2.1)  Y là biến phụ thuộc  Các Xj (j = 2,3, , k) là các biến độc lập  u là sai số ngẫu nhiên, đại diện cho các yếu tố ngoài các biến Xj (j = 2 ÷ k), có tác động đến Y nhưng không đưa vào mô hình. 5 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Các giả thiết của mô hình:  Giả thiết 1: Mô hình được ước lượng trên cơ sở mẫu ngẫu nhiên kích thước n: {(Xi,Yi), i = 1,2, ,n}  Giả thiết 2:Kỳ vọng của sai số ngẫu nhiên tại mỗi giá trị (X , , X ) bằng 0: Eu( | ) 0 2i ki XX2i, , ki  Giả thiết 3: Phương sai của sai số ngẫu nhiên tại các giá trị X2i, , Xki đều bằng nhau 6 vuar( | )  2 XX2i, , ki 3
4. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Giả thiết 4: Giữa các biến độc lập Xj (j = 2 ÷ k) không có mối quan hệ đa cộng tuyến hoàn hảo, (nghĩa là không tồn tại các hằng số 2 , , k không đồng thời bằng 0 sao cho λ2X2 + + λkXk = 0) 7 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Ý nghĩa của các hệ số hồi quy:  Với giả thiết 2, => Hàm hồi quy tổng thể của mô hình (2.1) như sau: EYXX( | )    (2.2) X2 , , Xk 1 2 2 k k  Hệ số chặn β1: chính là giá trị trung bình của biến phụ thuộc khi tất cả các biến độc lập trong mô hình đồng thời bằng 0 8 4
5. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Các hệ số góc βj (j = 2 ÷ k): EY( | ) Có XX2 , , k , (j = 2 ÷ k)  j X j => hệ số góc βj (j = 2 ÷ k) thể hiện tác động riêng phần của biến Xj lên giá trị trung bình của biến phụ thuộc, khi các yếu tố Xs (s ≠ j) là không đổi.  Cụ thể: Khi Xj tăng (giảm) 1 đơn vị, các yếu tố khác không đổi, thì giá trị trung bình của biến phụ thuộc tăng (giảm) βj đơn vị.  Dấu của hệ số góc βj thể hiện chiều của mối quan hệ 9  Các hệ số góc còn được gọi là hệ số hồi quy riêng. II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS 2. Phƣơng pháp ƣớc lƣợng bình phƣơng nhỏ nhất (OLS)  Phƣơng pháp OLS cho mô hình hồi quy bội • Xét mô hình k biến: Yi 1 2 X 2i k X ki ui (2.1) • Giả sử có một mẫu quan sát với các giá trị thực tế là (Yi ; X2i ; ; Xki) (i = 1, 2, , n) => Hàm hồi quy mẫu của (2.1): ˆ ˆ ˆ ˆ (2.3) YXXi 1  2 2 i  k ki 10 Và: ˆ ei Yi Yi 5
6. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS ˆ => Phương pháp OLS: xác định các giá trị  j (jk 1, ) sao cho tổng bình phương các phần dư là bé nhất. => Bài toán cực trị: Tìm sao cho: 22ˆ ˆ ˆ ei ( Y i 1  2 X 2  k X k ) 2 Min{ ( Yi 1  2 X 2  k X k ) } 1 , , k  11 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS Kết quả ước lượng khi k = 3: ( y x )( x2 ) ( y x )( x x ) ˆ  i 2i  3i  i 3i  2i 3i 2 2 2 2 ( x2i )( x3i ) ( x2i x3i ) ( y x )( x2 ) ( y x )( x x ) ˆ  i 3i  2i  i 2i  2i 3i 3 2 2 2 ( x2i )( x3i ) ( x2i x3i ) ˆ ˆ ˆ 1 Y 2 X 2 3 X 3 12 yi Yi Y ; x2i X 2i X 2 ; x3i X 3i X 3 6
7. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS Ví dụ: CT là chi tiêu (triệu đồng/năm), TN là thu nhập (triệu đồng/năm) và TS là giá trị tài sản (tỷ đồng) của hộ gia đình. CTˆ 18.86 0.793 TN 0.015 TS (se ) (9.56) (0.016) (0.004) 1) Giải thích kết quả ước lượng? 2) Các hệ số góc ước lượng có phù hợp với lý thuyết kinh tế hay không? 3) Ước lượng điểm mức gia tăng chi tiêu trung bình của hộ nếu thu nhập gia tăng 1 triệu và tài sản gia tăng thêm 500 triệu đồng? 4) Ước lượng mức chi tiêu trung bình của các hộ gia đình có mức thu 13 nhập là 150 triệu/năm, giá trị tài sản là 2 tỷ ? II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS 3. Độ phù hợp của hàm hồi quy  Hệ số xác định của mô hình hồi quy bội: n • Ký hiệu: 2 TSS () Yi Y i 1 n ˆ 2 ESSYY  (i ) i 1 n RSS e2  i i 1 • Khi mô hình có chứa hệ số chặn thì: TSS = ESS + RSS 푆푆 푅푆푆 2 • Hệ số xác định bội: 푅2 = = 1 − ; 01 R 푆푆 푆푆 2 • Ý nghĩa: R cho biết phần trăm sự thay đổi của biến phụ thuộc14 đƣợc giải thích bởi các biến độc lập trong mô hình. 7
8. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Hệ số xác định đã hiệu chỉnh: . Việc đưa thêm một biến số bất kỳ vào mô hình nói chung sẽ làm gia tăng R2 , không kể nó có giúp giải thích thêm cho biến phụ thuộc hay không. . => R2 chưa phải là một thước đo tốt khi muốn so sánh các mô hình với số biến khác nhau. . => Hệ số xác định hiệu chỉnh, ký hiệu R 2 (n 1) và được định nghĩa như sau: RR22 1 (1 ) nk . Giá trị thường được sử dụng thay R2 thông thường khi so 15 sánh các mô hình hồi quy có số lượng biến số khác nhau. II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS 4. Tính tốt nhất của ƣớc lƣợng OLS – Định lý Gauss- Markov  Định lý Gauss – Markov: Khi các giả thiết 1 → 4 thỏa mãn thì các ước lượng thu được từ phương pháp OLS là các ước lượng tuyến tính, không chệch và có phương sai nhỏ nhất trong lớp các ước lượng tuyến tính không chệch (ước lượng BLUE – best linear unbiased estimator) 16 8
9. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS => Theo Gauss – Markov:  Khi các giả thiết 1 → 4 thỏa mãn thì ước lượng thu được từ phương pháp OLS là có phương sai bé nhất: 푣 (훽푗/OLS) ≤ 푣 (훽푗) với 훽푗 là ước lượng tuyến tính không chệch bất kỳ  Tức là ƣớc lƣợng OLS là ƣớc lƣợng tốt nhất trong lớp các ước lượng tuyến tính không chệch.  Khi một trong các giả thiết không được thỏa mãn thì các ước lượng OLS không còn là các ước lượng tốt nhất nữa. 17 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Độ chính xác của các ƣớc lƣợng  Phương sai của các hệ số góc ước lượng: 2 ˆ  (2.4) var( j ) 22 (1 Rxj ) ji Trong đó: R2 • j là hệ số xác định của mô hình hồi quy Xj theo hệ số chặn và các biến độc lập còn lại trong mô hình. • và x X X ji ji j 18 9
10. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Các yếu tố xác định độ chính xác của ƣớc lƣợng: 2  Phương sai của yếu tố ngẫu nhiên, 휎  Nhân tử phóng đại phương sai: 1 VIFj 2 (1 Rj ) n 2  Độ biến động trong mẫu của Xj:  x ji i 1 19 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS  Trong (2.4),  2 chưa biết nên được thay bằng ước ˆ 2 lượng không chệch của nó là  n e2  i ˆ 2 i 1 nk  휎 : sai số chuẩn của hồi quy (S. E. of regression)  Sai số chuẩn của hệ số góc ước lượng: 2 휎 20 푠푒 훽푗 = 2 2 ; j = (2,3, , k) (1−푅푗 ) 푗푖 10
11. 9/5/2013 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS 5. Mô hình hồi quy hai biến và mô hình hồi quy bội (*)  Xét mô hình: Y = β1 + β2X2 + u (2.5) và Y = α1 + α2X2 + α3Z + v (2.6)  Định lý 2.2: Hệ số ước lượng của biến X2 trong mô hình (2.5) và (2.6) là như nhau nếu: 1) Hệ số ước lượng của Z trong (2.6) là bằng 0 Hoặc: 21 2) Hệ số tương quan mẫu giữa X2 và Z bằng 0 II. MÔ HÌNH HỒI QUY BỘI VÀ PHƢƠNG PHÁP ƢỚC LƢỢNG OLS Ý nghĩa ứng dụng định lý 2.2:  Nếu biến Z là không quan sát được nhưng có lý do để cho rằng nó không tương quan với biến X trong mô hình thì việc thiếu biến Z không gây ảnh hưởng đáng kể đến kết quả ước lượng.  Nếu các biến Z1, Z2, , Zm cùng không tương quan với biến X thì việc đưa thêm các biến này vào là không làm thay đổi hệ số ước lượng của biến X. 22 11
12. 9/5/2013 III. MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY 1. Mô hình dạng log – log  Tổng quát: ln(Y ) 1  2 ln( X 2 ) kk ln( X ) u (2.7)  Ý nghĩa của các hệ số: . Hệ số chặn β1 : Khi các biến độc lập cùng bằng 1 đơn vị thì giá trị trung bình của biến phụ thuộc bằng eβ1 đơn vị. 23 III. MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY . Các hệ số góc βj (j = 2 ÷ k): 휕ln (푌) 휕푌/푌 Ta có: 훽푗 = = 휕ln ( 푗) 푗/ 푗 휕푌 푗 hay: = 훽푗 푌 푗 Nếu Xj tăng (giảm) 1% (các yếu tố khác trong mô hình không đổi) thì trung bình Y tăng (giảm) βj % => Các hệ số βj (j = 2 ÷ k) còn được gọi là hệ số co giãn 24 của Y theo Xj 12
13. 9/5/2013 III. MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY 2. Mô hình dạng bán loga  Dạng 1: ln(Y ) 1 2 X 2 u (2.8) . Hệ số β2: Khi X2 tăng (giảm) 1 đơn vị thì Y trung bình tăng (giảm) β2 % . Ví dụ: quan hệ giữa thu nhập (TN - triệu đồng) và số năm kinh nghiệm (KN - năm): ln(TN) = 1.6 + 5.8*KN + e 25 III. MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY  Dạng 2: Y 1 2ln( X 2 ) u (2.9) . Hệ số β2 : Khi X2 tăng (giảm) 1% thì Y trung bình tăng (giảm) β2 đơn vị. . Ví dụ: quan hệ giữa số giờ mà người lao động muốn làm (H) và mức trả cho một giờ lao động (TL) H = 7 + 0.6ln(TL) + e 26 13
14. 9/5/2013 III. MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY  Dạng 3: ln(Y ) 1  2 ln( X 2 )  3 X 3 u (2.10) Ví dụ: Y là chi tiêu về một loại hàng hóa, X2 là thu nhập và X3 là tuổi của người tiêu dùng => Ý nghĩa của các hệ số? 27 III. MỘT SỐ DẠNG CỦA MÔ HÌNH HỒI QUY 3. Mô hình dạng đa thức  Ví dụ: quan hệ giữa năng suất lao động của công nhân (Q) và số giờ lao động liên tục trong 1 ngày (H): 2 Q = β1 + β2H + β3H + u (2.11)  Việc đưa thành phần H2 vào mô hình (2.11) nhằm thể hiện quy luật cận biên giảm dần của năng suất lao động theo số giờ làm việc (ban đầu, khi H tăng thì năng suất lao động tăng, tuy nhiên mức tăng này giảm dần đi khi H càng lớn: β2 > 0; β3 < 0)  Tác động biên của H lên năng suất là thay đổi; năng suất biên là 휕 (푄 ) một hàm theo số giờ lao động: = 훽 + 2훽 28 휕 2 3 14
15. 9/5/2013 IV. TÍNH VỮNG CỦA ƢỚC LƢỢNG OLS  Định lý 2.3: Khi các giả thiết 1 → 4 thỏa mãn thì các ước lượng OLS không chỉ là các ước lượng BLUE, mà còn là ước lượng vững, nghĩa là: Với mọi  0 tùy ý thì: ˆ ()n limP (| jj  |  ) 0 (2.12) n ˆ ()n ˆ Trong đó  j là ước lượng của  j với kích thước mẫu n 29 15