MÔ HÌNH HỒI QUY TUYẾN TÍNH BỘI

4.1. Xây dựng mô hình




4.1.1.
Giới thiệu


Mô hình hồi quy hai biến mà
chúng ta đã nghiên cứu ở chương 3 thường không đủ khả năng giải thích hành vi
của biến phụ thuộc. Ở chương 3 chúng ta nói tiêu dùng phụ thuộc vào thu nhập
khả dụng, tuy nhiên có nhiều yếu tố khác cũng tác động lên tiêu dùng, ví dụ độ
tuổi, mức độ lạc quan vào nền kinh tế, nghề nghiệp… Vì thế chúng ta cần bổ sung
thêm biến giải thích(biến độc lập) vào mô hình hồi quy. Mô hình với một biến
phụ thuộc với hai hoặc nhiều biến độc lập được gọi là hồi quy bội.


Chúng ta chỉ xem xét hồi quy tuyến tính bội với mô hình
tuyến tính với trong tham số, không nhất thiết tuyến tính trong biến số.


Mô hình hồi quy bội cho tổng
thể


(4.1)


Với X_2,i, X_3,i,…,X_k,i
là giá trị các biến độc lập ứng với quan sát i


b₂, b₂, b₃,…, b_k là các tham số của hồi quy


e_i là sai
số của hồi quy


Với một quan sát i, chúng ta xác định giá trị kỳ vọng
của Yi


(4.2)


4.1.2.
Ý nghĩa của tham số


Các hệ số b được gọi là các hệ số hồi
quy riêng


(4.3)


b_k đo lường tác động riêng phần
của biến X_m lên Y với điều kiện các biến số khác trong mô hình không đổi. Cụ thể hơn nếu các biến khác
trong mô hình không đổi, giá trị kỳ vọng của Y sẽ tăng b_m đơn vị nếu X_m
tăng 1 đơn vị.


4.1.3.
Giả định của mô hình


Sử dụng các giả định của mô
hình hồi quy hai biến, chúng ta bổ sung thêm giả định sau:


(1) Các biến độc lập của mô hình
không có sự phụ thuộc tuyến tính hoàn hảo, nghĩa là không thể tìm được bộ số
thực (l₁,l₂,...,l_k) sao cho


với mọi i.


Giả định này còn được được phát biểu là “ không có sự
đa cộng tuyến hoàn hảo trong mô hình”.


(2) Số quan sát n phải lớn hơn số tham số cần ước
lượng k.


(3) Biến độc lập X_i
phải có sự biến thiên từ quan sát này qua quan sát khác hay Var(X_i)>0.


4.2.
Ước lượng tham số của mô
hình hồi quy bội


4.2.1. Hàm
hồi quy mẫu và ước lượng tham số theo phương pháp bình phương tối thiểu


Trong thực tế chúng ta
thường chỉ có dữ liệu từ mẫu. Từ số liệu mẫu chúng ta ước lượng hồi quy tổng
thể.


Hàm hồi quy mẫu


(4.4)





Với các là ước lượng của tham
số b_m. Chúng ta trông đợi là ước lượng không
chệch của b_m,
hơn nữa phải là một ước lượng hiệu quả. Với một số giả định chặt chẽ như ở mục
3.3.1 chương 3 và phần bổ sung ở 4.1, thì phương pháp tối thiểu tổng bình
phương phần dư cho kết quả ước lượng hiệu quả b_m.


Phương pháp bình phương tối
thiểu


Chọn b₁,
b₂, …, b_k sao cho


(4.5)


đạt cực tiểu.























Điều kiện cực trị của (4.5)


(4.6)


Hệ phương trình (4.6) được gọi là hệ phương trình
chuẩn của hồi quy mẫu (4.4).


Cách giải hệ phương trình (4.4) gọn gàng nhất là dùng
ma trận. Do giới hạn của chương trình, bài giảng này không trình bày thuật toán
ma trận mà chỉ trình bày kết quả tính toán cho hồi quy bội đơn giản nhất là hồi
quy ba biến với hai biến độc lập. Một số tính chất của hồi quy ta thấy được ở
hồi quy hai biến độc lập có thể áp dụng cho hồi quy bội tổng quát.


4.2.2. Ước
lượng tham số cho mô hình hồi quy ba biến


Hàm hồi quy tổng thể


(4.7)


Hàm hồi quy mẫu


(4.


Nhắc lại các giả định


(1)
Kỳ vọng của sai số hồi quy bằng 0:


(2)
Không tự tương quan: , i≠j


(3)
Phương sai đồng
nhất:


(4)
Không có tương quan giữa sai số và từng X_m:


(5)
Không có sự đa cộng tuyến hoàn hảo giữa X₂ và X₃.


(6)
Dạng hàm của mô hình được xác định một cách đúng đắn.


Với các giả định này, dùng
phương pháp bình phương tối thiểu ta nhận được ước lượng các hệ số như sau.


(4.10)


(4.11)


(4.12)


4.2.3. Phân phối của ước lượng tham số


Trong phần này chúng ta chỉ
quan tâm đến phân phối của các hệ số ước lựơng và . Hơn nữa vì sự tương tự trong công thức xác định các hệ số
ước lượng nên chúng ta chỉ khảo sát . Ở đây chỉ trình bày kết quả[You must be registered and logged in to see this link.].


là một ước lượng không
chệch : (4.13)


(4.14)


Nhắc lại hệ số tương quan
giữa X₂ và X₃ :


Đặt = r₂₃ biến đổi đại số (4.14) ta được









[You must be registered and logged in to see this link.]
Các thao tác chứng minh khá phức tạp, để tự chứng minh độc giả hãy nhớ lại các
định nghĩa và tính chất của giá trị kỳ vọng, phương sai và hiệp phương sai của
biến ngẫu nhiên.