Đề tài Phát hiện hiện tượng đa cộng tuyến và biện pháp khắc phục

TRƯỜNG ĐẠI HỌC THƯƠNG MẠI KHOA KINH TẾ - LUẬT --------&œ-------- BÀI THẢO LUẬN Môn: KINH TẾ LƯỢNG Đề tài: Phát hiện hiện tượng đa cộng tuyến và biện pháp khắc phục Giảng Viên : Nguyễn Đức Minh Nhóm : 11 Lớp : 1356AMAT0411 Cộng hòa xã hội chủ nghĩa Việt Nam Độc lập - Tự do - Hạnh phúc BIÊN BẢN HỌP NHÓM LẦN 1 Thời gian: 15h30’, ngày 12 tháng 9 năm 2013 Địa điểm : Sân thư viện trường ĐH Thương mại Thành phần: Sinh viên nhóm 11. Trần Thị Kim Thanh. Đỗ Trung Thành. Kiều Thu Thảo. Trần Thị Thảo. Trần Nguyên Thảo. Đỗ Bá Thế. Đàm Quang Thịnh. Có mặt: 7 Vắng: 0 Nội dung: Thống nhất hướng đề tài, dàn ý chung cho bài thảo luận. Nhóm trưởng phân công nội dung cho từng thành viên trong nhóm, và thống nhất thời gian nộp bài. Thư kí Nhóm trưởng Trần Thị Thảo Đỗ Trung Thành Cộng hòa xã hội chủ nghĩa Việt Nam Độc lập - Tự do - Hạnh phúc BIÊN BẢN HỌP NHÓM LẦN 2 Thời gian: 9h30’ ngày 19 tháng 9 năm 2013 Địa điểm : Sân thư viện trường ĐH Thương Mại Thành phần: Sinh viên nhóm 11. Trần Thị Kim Thanh. Đỗ Trung Thành. Kiều Thu Thảo. Trần Thị Thảo. Trần Nguyên Thảo. Đỗ Bá Thế. Đàm Quang Thịnh. Có mặt: 7 Vắng: 0 Nội dung: Nhóm trưởng nhận xét, đánh giá bài làm của các thành viên, nếu không đảm bảo nội dung yêu cầu làm lại. Các thành viên đóng góp ý kiến để hoàn thành bài báo cáo chung. Và thống nhất nội dung buổi họp sau. Thư kí Nhóm trưởng Trần Thị Thảo Đỗ Trung Thành Cộng hòa xã hội chủ nghĩa Việt Nam Độc lập - Tự do - Hạnh phúc BIÊN BẢN HỌP NHÓM LẦN 3 Thời gian: 16h ngày 19 tháng 10 năm 2013 Địa điểm : Sân kí túc xá sinh viên trường ĐH Thương mại. Thành phần: Sinh viên nhóm 11. Trần Thị Kim Thanh. Đỗ Trung Thành. Kiều Thu Thảo. Trần Thị Thảo. Trần Nguyên Thảo. Đỗ Bá Thế. Đàm Quang Thịnh. Có mặt: 7 Vắng: 0 Nội dung: Thống nhất nội dung bài báo cáo lần cuối. Cả nhóm chuẩn bị cho buổi thảo luận trên lớp. Đánh giá, xếp loại các thành viên. Thư kí Nhóm trưởng Trần Thị Thảo Đỗ Trung Thành BẢN ĐÁNH GIÁ ĐIỂM CÁ NHÂN Họ và tên Đánh giá Xếp loại Trần Thị Kim Thanh Khá B Đỗ Trung Thành Tốt A Kiều Thu Thảo Khá B Trần Thị Thảo Tốt A Trần Nguyên Thảo Khá B Đỗ Bá Thế Tốt A Đàm Quang Thịnh Khá B Thư kí Nhóm trưởng Trần Thị Thảo Đỗ Trung Thành BẢN ĐÁNH GIÁ ĐIỂM CỦA THẦY GIÁO Họ và tên Điểm Ghi chú Trần Thị Kim Thanh Đỗ Trung Thành Kiều Thu Thảo Trần Thị Thảo Trần Nguyên Thảo Đỗ Bá Thế Đàm Quang Thịnh LỜI MỞ ĐẦU Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích Xi của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với một biến cụ thể là số đo tác động riêng phần của biến tương ứngkhi tất cả các biến khác trong mô hình được giữ cố định. Tuy nhiên khi giả thiết đó bị vi phạm tức là các biến giải thích có tương quan thì chúng ta không thể tách biệt sự ảnh hưởng riêng biệt của một biến nào đó. Hiện tượng trên được gọi là đa công tuyến.Vậy để đa cộng tuyến là gì, hậu quả của hiện tượng này như thế nào, làm thế nào để phát hiện và biện pháp khắc phục nó. Để trả lời được những câu hỏi trên, sau đây chúng ta cùng đi thảo luận về đề tài “ Hiện tượng đa cộng tuyến” CHƯƠNG 1: LÝ LUẬN CƠ BẢN VỀ ĐA CỘNG TUYẾN1.1. Bản chất của đa cộng tuyến- đa cộng tuyến hoàn hảo và đa cộng tuyến không hoàn hảo. Trong trường hợp lý tưởng các biến Xi trong môi trường hồi quy bội không có tương quan với nhau; mỗi một biến Xi chứa một thông tin riêng về Y, thông tin không chứa trong bất kỳ biến Xi khác. Trong thực hành, khi điều này xảy ra ta không gặp hiện tượng đa cộng tuyến. Ở trường hợp ngược lại, ta gặp hiện tượng đa cộng tuyến. Giả sừ hàm hồi quy Y có k biến giài thích X1, X2,…,Xk: Yi=β1+β2X2i+β3X3i+…+βkXki+Ui Đa cộng tuyến xảy ra khi một biến giải thích được biểu diễn dưới dạng tổ hợp tuyến tính của các biến giải thích còn lại đối với mọi điểm của tập số liệu. Hay có thể nói nếu tồn tại các λi không đồng nhất bằng không làm cho: λ2x2i+λ3x3i+…+λkXki+νi=0; Trong đó νi là nhiễu (sai số ngẫu nhiên) ; E(νi)=0; Trong trường hợp này chúng ta có thể nói là có đa cộng tuyến. Đa cộng tuyến hoàn hảo xảy ra khi một biến giải thích được biểu diễn dưới dạng tổ hợp tuyến tính của các biến giải thích còn lại đối với mọi điểm của tập số liệu. Hoặc có thể nói: Đa cộng tuyến hoàn hảo giữa các biến giải thích X1,X2,X3,…,Xk xảy ra nếu điều kiện sau được thỏa mãn: λ1X1+λ2X2+λ3+…+λkXk=0 Trong đó λ1,λ2,λ3,…,λk là các hằng số không đồng thời bằng không. Thuật ngữ đa cộng tuyến lần đầu tiên được Ragnar Frisch sử dụng vào năm 1934 với nội dung trên. Tuy nhiên ngày nay, thuật ngữ này được sử dụng theo nghĩa rộng hơn. Nó bao gồm cả đa cộng tuyến hoàn hảo và trường hợp trong đó các biến giải thích có tương quan với nhau theo nghĩa sau: λ1X1i+λ2X2i+λ3X3i+…+λkXki+Vi=0 (1.1) Trong đó: Vi là sai số ngẫu nhiên. Ví dụ : X2 10 15 18 24 30 X3 50 75 90 120 150 X4 55 75 92 124 128 v 5 0 2 4 8 Trong trường hợp này thì : X3i= 5X3i, có cộng tuyến hoàn hảo giữa X2và X3; r23 = 1 X2 và X4 có cộng tuyến không hoàn hảo. 1.2. Ước lượng khi có đa cộng tuyến hoàn hảo. Sau đây chúng ta sẽ chỉ ra rằng khi có đa cộng tuyến hoàn hảo thì các hệ số hồi quy là không xác định còn các sai số tiêu chuẩn là vô hạn. Để đơn giản về mặt trình bày chúng ta sẽ xét mô hình hồi quy 3 biến và chúng ta sẽ sử dụng dạng độ lệch trong đó: ; xi=Xi-X; (1.3) ; (1.4) thì mô hình hồi quy 3 biến có thể viết lại dưới dạng: (1.5) Theo tính toán trong chương hồi quy bội ta thu được các ước lượng: (1.6) (1.7) Giả sử: trong đó là hằng số khác không, thay điều kiện này vào (1.6) ta được: (1.8) là biểu thức không xác định. Tương tự như vậy ta cũng có thể chỉ ra không xác định. Vì sao chúng ta lại thu được kết quả như ở (1.8)? Lưu ý đến ý nghĩa của có thể giải thích điều đó. cho ta tốc độ thay đổi trung bình của khi thay đổi 1 đơn vị còn không đổi. Nhưng khi thì điều đó có nghĩa là không thể tách ảnh hưởng của và khỏi mẫu đã cho. Trong kinh tế lượng thì điều này phá hủy toàn bộ ý định tách ảnh hưởng riêng của từng biến lên biến phụ thuộc. Thí dụ: thay điều kiện này vào (1.5) ta được: Trong đó: Áp dụng công thức tính ước lượng của phương pháp bình phương nhỏ nhất thông thường ta được: Như vậy dù được ước lượng một cách duy nhất thì cũng không thể xác định được và từ một phương trình 2 ẩn. Như vậy trong trường hợp đa cộng tuyến hoàn hảo, chúng ta không thể nhận được lời giải duy nhất cho các hệ số hồi quy riêng, nhưng trong khi đó ta lại có thể nhận được lời giải duy nhất cho tổ hợp tuyến tính của các hệ số này. Chú ý rằng trong trường hợp đa cộng tuyến hoàn hảo thì phương sai và các sai số tiêu chuẩn của các ước lượng và là vô hạn. 1.3. Ước lượng trong trường hợp có đa cộng tuyến không hoàn hảo. Đa cộng tuyến hoàn hảo chỉ là 1 trương hợp đặc biệt hiếm xảy ra. Trong các số liệu liên quan đến chuỗi thời gian, thường xảy ra đa cộng tuyến không hoàn hảo. Xét mô hình (1.5). Bây giờ chúng ta giả thiết giữa và có cộng tuyến không hoàn hảo theo nghĩa: Trong đó, là nhiễu ngẫu nhiên sao cho Trong trường hợp này theo phương pháp bình phương nhỏ nhất ta dễ dàng thu được các ước lượng và . Chẳng hạn: (1.9) Trong trường hợp này không có lý do gì để nói rằng (1.9) là không ước lượng được. 1.4. Hậu quả của đa cộng tuyến. Ta xét trường hợp mô hình có hiện tượng đa cộng tuyến không hoàn hảo, tức là biến độc lập Xi có thể xấp xỉ tuyến tính theo các biến X2 , X3 ,..., Xk . Có một số trường hợp xảy ra như sau: Phương sai và hiệp phương sai của các ước lượng bình quân bé nhất lớn Trong chương mô hình hồi quy bội ta đã có biểu thức: Var(β2) = σ2x2i2(1-r232) (1.10) Var(β3=σ2x3i2(1-r232) (1.11) Và: cov(β2, β3) = -r23σ2(1- r232)x2i2x3i2 (1.12) Trong đó r23 là hệ số tương quan giữa X2,X3 Từ 1.10 và 1.11 ta thấy r23 tăng dần tới 1 (nghĩa là cộng tuyến tăng) thì phương sai của hai ước lượng này tăng dần tới vô hạn 1.12 chỉ ra rằng khi r23 tăng dần tới 1 thì cov(β2,β3) tăng về giá trị tuyệt đối. Khoảng tin cậy rộng hơn Giả sử khi thực hành ta có khoảng tin cậy 95% cho β2,β3 khi σ2 đã biết là: β2±1,96seβ2và β3±1,96se(β3) Trong đó: Se(β2)=var(β2)=11-r232σ2i=1nx2i2 Se(β3)=var(β3)=11-r232σ2i=1nx3i2 Cho nên ta có thể viết lại các khoảng tin cậy 95% cho β2 là β2±1,9611-r232σ2i=1nx2i2 (1.13) Và cho β3 là: β3±1,9611-r232σ2i=1nx3i2 (1.14) (1.13) và (1.14) chứng tỏ r23 càng gần tới 1 thì khoảng tin cậy cho các tham số càng rộng. Do đó trong trường hợp có đa cộng tuyến gần hoàn hảo thì số liệu của mẫu có thể thích hợp với tập các giả thiết khác nhau. Vì thế xác suất chấp nhận giả thiết sai tăng lên (tức là tăng sai lầm loại II). Tỷ số t mất ý nghĩa Như đã biết, khi kiểm định giả thiết H0: β2=0 chúng ta đã sử dụng tỷ số t=β2se(β2) và đem so sánh giá trị t đã được ước lượng với giá trị tới hạn t. thong khi có đa cộn tuyến gần hoàn hảo thì sai số tiêu chuẩn ước lượng được sẽ rất cao vì vậy làm cho chỉ số t nhỏ đi. Kết quả là sẽ làm tăng khả năng chấp nhận giả thiết H0. R2cao nhưng tỉ số ít ý nghĩa Để giải thích điều này. Ta hãy xét mô hình hồi quy k biến như sau: Y1=β1+β2x2i+β3x3i+…+βkxki+Ui Trong trường hợp có đa cộng tuyến gần hoàn hảo, như đã chỉ ra ở trên, ta có thể tìm được một hoặc một số hệ số góc riêng là không có ý nghĩa là không có ý nghĩa thống kê trên cơ sở kiểm định t. nhưng trong khi đó R2 lại có thể rất cao, nên bằng kiểm định F chúng ta có thể bác bỏ giả thiết: H0: β2=β3=…=βk=0. Mâu thuẫn này cũng là tín hiệu của đa cộng tuyến. Các ước lượng bình phương bé nhất và các sai số tiêu chuẩn của chúng trở lên rất nhạy đối với những thay đổi nhỏ trong số liệu Dấu của các ước lượng của các hệ số hồi quy có thể sai Khi có đa cộng tuyến gần hoàn hảo thì có thể thu được các ước lượng của các hệ số hồi quy trái với điều chúng ta mong đợi. Chẳng hạn lý thuyết kinh tế cho rằng đối với hàng hoá thong thường thu nhập tăng thì cầu hàng hoá tăng, nghĩa là khi hồi quy thu nhập là một trong các biến giải thích, biến phụ thuộc là lượng cầu hàng hoá, nếu xảy ra hiện tượng đa cộng tuyến gần hoàn hảo thì ước lượng của hệ số của biến thu nhập có thể mang dấu âm – mâu thuẫn với điều ta mong đợi. Thêm vào hay bớt đi các biến cộng tuyến với các biến khác, mô hình sẽ thay đổi về độ lớn trong các ước lượng hoặc dấu của chúng Phát hiện sự tồn tại của đa cộng tuyến R cao nhưng tỉ số t thấp Trong trường hợp Rcao (thường R> 0,8) mà tỉ số t thấp thì đó chính là dấu hiệu của hiện tượng đa cộng tuyến . Tương quan cặp giữa các biến giải thích cao Nếu hệ số tương quan cặp giữa các biến giải thích cao (vượt 0,8) thì có khả năng có tồn tại đa cộng tuyến. Tuy nhiên tiêu chuẩn này thường không chính xác. Có những trường hợp tương quan cặp không cao nhưng vẫn có đa cộng tuyến. Thí dụ, ta có 3 biến giải thích X, X, X như sau: X1= (1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0, 0,0,0,0,0) X2= (0,0,0,0,0, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0) X3= (1,1,1,1,1, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0) Rõ ràng X3 = X2 + X1nghĩa là ta có đa cộng tuyến hoàn hảo, tuy nhiên tương quan cặp là: r = -1/3 ; r = r = 0,59 Như vậy đa cộng tuyến xảy ra mà không có sự bảo trước cuả tương quan cặp những dẫu sao nó cũng cung cấp cho ta những kiểm tra tiên nghiệm có ích. Xem xét tương quan riêng Vì vấn đề được đề cập đến dựa vào tương quan bậc không. Farrar và Glauber đã đề nghị sử dụng hệ số tương quan riêng. Trong hồi quy của Y đối với các biến X, X ,X. Nếu ta nhận thấy răng r cao trong khi đó r; r; r tương đối thấp thì điều đó có thể gợi ý rằng các biến X, X và Xcó tương quan cao và ít nhất một trong các biến này là thừa. Dù tương quan riêng rất có ích nhưng nó cũng không đảm bảo rằng sẽ cung cấp cho ta hướng dẫn chính xác trong việc phát hiện ra hiện tượng đa cộng tuyến. Hồi quy phụ Một cách có thể tin cậy được để đánh giá mức độ của đa cộng tuyến là hồi quy phụ. Hồi quy phụ là hồi quy mỗi một biến giải thích X theo các biến giải thích còn lại. R được tính từ hồi quy này ta ký hiện R Mối liên hệ giữa F và R: F= F tuân theo phân phối F với k – 2 và n - k +1 bậc tự do. Trong đó n là , k là số biến giải thích kể cả hệ số chặn trong mô hình. R là hệ số xác định trong hồi quy của biến X theo các biến X khác. Nếu F tính được vượt điểm tới hạn F(k-2, n-k+1) ở mức ý nghĩa đã cho thì có nghĩa là X có liên hệ tuyến tính với các biến X khác. Nếu F có ý nghĩa về mặt thống kê chúng ta vẫn phải quyến định liệu biến X nào sẽ bị loại khỏi mô hình. Một trở ngại của kỹ thuật hồi quy phụ là gánh nặng tính toán. Nhưng ngày nay nhiều chương trình máy tính đã có thể đảm đương được công việc tính toán này. Nhân tử phóng đại phương sai Một thước đo khác của hiện tượng đa cộng tuyến là nhân tử phóng đại phương sai gắn với biến X, ký hiệu là VIF(X). VIF(X) được thiết lập trên cơ sở của hệ số xác định R trong hồi quy của biến X với các biến khác nhau như sau: VIF(X) = (1.15) Nhìn vào công thức (1.15) có thể giải thích VIF(X) bằng tỷ số chung của phương sai thực của β trong hồi quy gốc của Y đối với các biến X và phương sai của ước lượng β trong hồi quy mà ở đó Xtrực giao với các biến khác. Ta coi tình huống lý tưởng là tình huống mà trong đó các biến độc lập không tương quan với nhau, và VIF so sánh tình huông thực và tình huống lý tưởng. Sự so sánh này không có ích nhiều và nó không cung cấp cho ta biết phải làm gì với tình huống đó. Nó chỉ cho biết rằng các tình huống là không lý tưởng. Độ đo Theil Khía cạnh chủ yếu của VIF chỉ xem xét đến tương quan qua lại giữa các biến giải thích. Một độ đo mà xem xét tương quan của biến giải thích với biến được giải thích là độ đo Theil. Độ đo Theil được định nghĩa như sau: m = R-( R- R) Trong đó Rlà hệ số xác định bội trong hồi quy của Y đối với các biến X , X… X trong mô hình hồi quy: Y = β + βX + β X+ ……. + β X+ U R là hệ số xác định bội trong mô hình hồi quy của biến Y đối với các biên X , X, … ,X, X, … ,X Đại lượng R - R được gọi là “đóng góp tăng thêm vào” vào hệ số xác định bội. Nếu X , X… X không tương quan với nhau thì m = 0 vì những đóng góp tăng thêm đó cộng lại bằng R. Trong các trường hợp khác m có thể nhận giá trị âm hoặc dương lớn. Để thấy được độ đo này có ý nghĩa, chúng ta xét trường hợp mô hình có 2 biến giải thích X và X. Theo ký hiệu đã sử dụng ở chương trước ta có: m = R- ( R- r) – (R– r) Tỷ số t liên hệ với tương quan riêng r, r Trong phần hồi quy bội ta đã biết: R = r + (1- r) r R = r + (1- r) r Thay 2 công thức này vào biểu thức xác định m ta được: m = R- (r + (1- r) r - r) - ( r + (1- r) r- r ) = R- ((1- r) r + (1- r) r) (1.16) Đặt 1- r = w; 1- r = wvà gọi là các trọng số. Công thức (1.16) được viết lại dưới dạng: m = R- (w r + w r) Như vây độ đo Theil bằng hiệu giữa hệ số xác định bội và tổng có trọng số của các hệ số tương quan riêng. Như vậy chúng ta đã biết một số độ đo đa cộng tuyến nhưng tất cả đều có ý nghĩa sử dụng hạn chế. Chúng chỉ cho ta những thông báo rằng sự việc không phải là lý tưởng. Biện pháp khắc phục. Sử dụng thông tin tiên nghiệm Một trong các cách tiếp cận để giải quyết vấn đề đa cộng tuyến là phải tận dụng thông tin tiên nghiệm hoặc thông tin từ nguồn khác để ước lượng các hệ số riêng. Thí dụ : ta muốn ước lượng hàm sản xuất của 1 quá trình sản xuất nào đó có dạng : Qt =ALtαKtβeUt (1.16) Trong đó Qt là lượng sản phẩm được sản xuất thời kỳ t; Lt lao động thời kỳ t; Kt vốn thời kỳ t; Ut là nhiễu ; A,a, β là các tham số mà chúng ta cần ước lượng. Lấy ln cả 2 vế (1.16) ta được : LnQt = LnA + alnL t+ βKtlnUt Đặt LnQt = Qt* ; LnA = A* ; LnLt = Lt* Ta được Qt* = A* + aLt* + βKt* + Ut (1.17) Giả sử K và L có tương quan rất cao dĩ nhiên điều này sẽ dẫn đến phương sai của các ước lượng của các hệ số co giãn của hàm sản xuất lớn. Giả sử từ 1 nguồn thông tin nào đó mà ta biết được rằng ngành công nghiệp này thuộc ngành có lợi tức theo quy mô không đổi, nghĩa là a +β = 1. Với thông tin này, cách xử lý của chúng ta sẽ là thay β = 1 - a vào (1.17) và thu được : Qt* = A* + aLt* + (1-α)Kt*+ Ut (1.18) Từ đó ta được Qt* – Kt* = A* + a(Lt* – Kt*) + Ut Đặt Qt* – Kt* = Yt* và Lt* – Kt* = Zt* ta được: Yt* = A*+ aZt* + Ut Thông tin tiên nghiệm đã giúp chúng ta giảm số biến độc lập trong mô hình xuống còn 1 biến Zt* Sau khi thu được ước lượng αcủa a thì β tính được từ điều kiện β=1-α Thu thập thêm số liệu hoặc lấy thêm mẫu mới Vì đa cộng tuyến là đặc trưng của mẫu nên có thể có mẫu khác liên quan đến cùng các biến trong mẫu ban đầu mà đa cộng tuyến có thể không nghiêm trọng nữa. Điều này có thể làm được khi chi phí cho việc lấy mẫu khác có thể chấp nhận được trong thực tế . Đôi khi chỉ cần thu thập them số liệu , tăng cỡ mẫu có thể làm giảm tính nghiêm trọng của đa cộng tuyến . Bỏ biến. Khi có hiện tượng đa cộng tuyến nghiêm trọng thì cách “đơn giản nhất” là bỏ biến cộng tuyến ra khỏi phương trình. Khi phải sử dụng biện pháp này thì cách thức tiến hành như sau: Giả sử trong mô hình hồi quy của ta có Y là biến được giải thích còn X2,X3,…,Xk là các biến giải thích. Chúng ta thấy rằng X2 tương quan chặt chẽ với X3. Khi đó nhiều thông tin về Y chứa ở X2 thì cũng chứa ở X3. Vậy nếu ta bỏ 1 trong 2 biến X2 hoặc X3khỏi mô hình hồi quy, ta sẽ giải quyết được vấn đề đa cộng tuyến nhưng sẽ mất đi 1 phần thông tin về Y. Bằng phép so sánh R2và R2trong các phép hồi quy khác nhau mà có và không có 1 trong 2 biến chúng ta có thể quyết định nên bỏ biến nào trong biến X2 và X3 khỏi mô hình. Thí dụ R2đối với hồi quy của Y đối với tất cả các biến X1,X2,X3,…,Xklà 0.94;R2 khi loại biến X2 là 0.87 và R2 khi loại biến X3 là 0.92; như vậy trong trường hợp này ta loại X3. Chúng ta lưu ý 1 hạn chế của biện pháp này là trong các mô hình kinh tế có những trường hợp đòi hỏi nhất định phải có biến này hoặc biến khác ở trong mô hình. Trong trường hợp như vậy việc loại bỏ 1 biến phải được cân nhắc cẩn thận giữa sai lệch khi bỏ 1 biến cộng tuyến với việc tăng phương sai của các ước lượng hệ số khi biến đó ở trong mô hình. Sử dụng phân sai cấp một. Mặc dù biện pháp này có thể giảm tương quan qua lại giữa các biến nhưng chúng cũng có thể được sử dụng như 1 giải pháp cho vấn đề đa cộng tuyến. Thí dụ chúng ta có số liệu chuỗi thời gian biểu thị liên hệ giữa các biến Y và các biến phụ thuộc X2 và X3 theo mô hình sau : Yt=β1+β2X2t+β3X3t+Ut (1.19) Trong đó t là thời gian. Phương trình trên đúng với t thì cũng đúng với t-1 nghĩa là : Yt-1=β1+β2X2t-1+β3X3t-1+Ut-1 (1.20) Từ (1.19) và (1.20) ta được : Yt-Yt-1=β1+β2X2t-X2t-1+β3X3t-X3t-1+Ut-Ut-1 (1.21) Đặt yt=Yt-Yt-1 x2t=X2t-X2t-1 x3t=X3t-X3t-1 Vt=Ut-Ut-1 Ta được : yt=β2x2t+β3x3t+Vt (1.22) Mô hình hồi quy dạng (1.22) thường làm giảm tính nghiêm trọng của đa cộng tuyến vì dù X2 và X3 có thể tương quan cao nhưng không có lý do tiên nghiệm nào chắc chắn rằng sai phân của chúng cũng tương quan cao. Tuy nhiên biến đổi sai phân bậc nhất sinh ra 1 số vấn đề chẳng hạn như số hạng sai số Vt trong (1.22) có thể không thỏa mãn giả thiết của mô hình hồi quy tuyến tính cổ điển là các nhiễu không tương quan. Vậy thì biện pháp sửa chữa này có thể lại còn tồi tệ hơn. Giảm tương quan trong hồi quy đa thức. Nét khác nhau của hồi quy đa thức là các biến giải thích xuất hiện với lũy thừa khác nhau trong mô hình hồi quy. Trong thực hành để giảm tương quan trong hồi quy đa thức người ta thường sử dụng dạng độ lệch. Nếu việc sử dụng dạng độ lệch mà vẫn không giảm đa cộng tuyến thì người ta có thể phải xem xét đến kỹ thuật “đa thức trực giao”. Một số biện pháp khác. Ngoài các biện pháp đã kể trên người ta còn sử dụng 1 số biện pháp khác nữa như sau: Bỏ qua đa cộng tuyến nếu t > 2 Bỏ qua đa cộng tuyến nếu R2 của mô hình cao hơn R2 của mô hình hồi quy phụ. Bỏ qua đa cộng tuyến nếu hồi quy mô hình được dùng để dự báo chứ không phải kiểm định. Hồi quy thành phần chính Sử dụng các ước lượng từ bên ngoài Nhưng tất cả các biên pháp đã trình bày ở trên có thể làm giải pháp cho vấn đề đa cộng tuyến như thế nào còn phụ thuộc vào bản chất của tập số liệu và tính nghiêm trọng của vấn đề đa cộng tuyến. CHƯƠNG 2: VÍ DỤ MINH HỌA Dựa trên những cơ sở lý luận ta đã tìm hiểu, sau đây chúng ta cùng đi phân tích một tình huống kinh tế cụ thể để thấy được cách phát hiện và khắc phục hiện tượng đa cộng tuyến như thế nào? Ta có : Bảng số liệu về bảng nhu cầu thịt gà ở Mỹ giai đoạn 1960 – 1982. Quan sát Y X Z T 1 27.8 397.5 42.2 78.3 2 29.9 413.3 38.1 79.2 3 28.8 439.2 40.3 79.2 4 30.8 459.7 39.5 79.2 5 31.2 492.9 37.3 77.4 6 33.3 528.6 38.1 80.2 7 35.6 560.3 39.3 80.4 8 36.4 624.6 37.8 83.9 9 36.7 666.4 38.4 85.5 10 38.4 717.8 40.1 93.7 11 40.4 768.2 38.6 106.1 12 40.3 843.3 39.8 104.8 13 41.8 911.6 39.7 114 14 40.4 931.1 52.1 124.1 15 40.7 1021.5 48.9 127.6 16 40.1 1165.9 58.3 142.9 17 42.7 1349.6 57.9 143.6 18 44.1 1449.4 56.5 139.2 19 46.7 1575.5 63.7 165.5 20 50.6 1759.1 61.6 203.3 21 50.1 1994.2 58.9 219.6 22 51.7 2258.1 66.4 221.6 23 52.9 2478.7 70.4 232.6 Nguồn: Robert J.Fisher (D.N. Gujarati) Trong đó: Y: lượng thịt gà tiêu dùng theo đầu người (pounds) X: thu nhập khả dụng theo đầu người ($) Z: giá bán lẻ thực của thịt gà (cent/pounds) T: giá bán lẻ thực của thịt heo (cent/pounds) Mô hình hồi quy tuyến tính thể hiện sự phụ thuộc của lượng thịt gà tiêu dùng theo đầu người vào thu nhập khả dụng theo đầu người của Mỹ, giá bán lẻ thực của thịt gà và giá bán lẻ thực của thịt heo. Với mức ý nghĩa α=5%. Phát hiện đa cộng tuyến và khắc phục. 2.1. Lập mô hình hồi quy. Ta có mô hình hàm hồi quy tuyến tính thể hiện sự phụ thuộc của lượng thịt gà tiêu dùng theo đầu người vào thu nhập khả dụng theo đầu người của Mỹ, giá bán lẻ thực của thịt gà và giá bán lẻ thực của thịt heo: Yi=β1+β2Xi+β3Xi+β4Ti+Ui Mô hình ước lượng của hàm hồi quy tuyến tính: Yi=β1+β2Xi+β3Zi+β4Ti Từ bảng số liệu, sử dụng phần mềm eviews ta có kết quả sau: Bảng 1 Từ bảng ước lượng ta thu được hàm hồi quy mẫu sau: Yi=33.93088+0.013295Xi-0.228064Zi+0.023145Ti tα2(n-4)=t0.025(19)=2.096 2.2. Phát hiện đa cộng tuyến. 2.2.1. R2 cao nhưng tỉ số t thấp. Từ bảng kết quản eviews ta có: R2=0.907952>0.8 t1=7.688712>2.096 t2=2.564553>2.096 t3=-1.755548<2.096 t4=0.380469<2.096 Ta thấy rằng hệ số xácđịnh bộiR2 của mô hình là rất gần 1, điều này chứng tỏ mô hình là rất phù hợp. Trong khi đó thống kêt4 lại có giá trị rất gần 0, kết quả là làm tăng khả năng chấp nhậnβ4 không cóý nghĩa về mặt thống kê. Vậy có thể nghi ngờ rằng có hiện tượngđa cộng tuyến xảy ra trong mô hình. 2.2.2. Tương quan cặp giữa các biến giải thích cao. Sử dụng phần mềm eviews ta có bảng sau: Bảng 2 Từ bảng trên ta thấy hệ số tương quan cặp giữa các biến giải thíchđều rất cao. Hệ số tương quan giữa biến X và Z là 0.931681 > 0.8 Hệ số tương quan giữa biến X và T là 0.985878 > 0.8 Hệ số tương quan giữa biến Z và T là 0.928469 > 0.8 Có thể nghi ngờ rằng có hiện tượngđa cộng tuyến xảy ra trong mô hình. 2.2.3. Hồi quy phụ. Ta tiến hành hồi quy X theo Z, T. Sử dụng phần mềm eviews ta có bảng sau: Bảng 3 Vớiα=0.05, ta đi kiểmđịnh giả thiết: H0:X không có hiện tượng đa cộng tuyến với Z, TH1:X có hiện tượng đa cộng tuyến với Z, T Hay tương đương: H0: R12=0H0: R12>0 Xây dựng tiêu chuẩn kiểmđịnh: F1=R12(k-2)(1-R12)(n-k+1) NếuH0đúng thìF1~F1(k-2, n-k+1) Ta có miền bác bỏWα={ftn: ftn>fα(k-2, n-k+1) Từ bảng eviews ta cóftn=372.9400 với n=23, k=4, α=0.05 ta cóf0.052, 20=3.49 ftn>3.49=>ftn∈Wα Bác bỏH0, chấp nhậnH1. Vậy với mứcý nghĩa 5% thì X có mối liên hệ tuyến tính với Z, T. Ta tiến hành hồi quy Z theo X T Sử dụng phần mềm eviews ta có bảng sau: Bảng 4 Vớiα=0.05, ta đi kiểmđịnh giả thiết: H0:Z không có hiện tượng đa cộng tuyến với X, TH1:Z có hiện tượng đa cộng tuyến với X, T Hay tương đương: H0: R22=0H1: R22>0 Xây dựng tiêu chuẩn kiểmđịnh: F2=R22(k-2)(1-R22)(n-k+1) NếuH0đúng thìF2~F1(k-2. n-k+1) Ta có miền bác bỏWα={ftn: ftn>fαk-2, n-k+1} Từ bảng eviews ta cóftn=67.85502 với n=23, k=4, α=0.05 ta cóf0.052, 20=3.39 ftn>3.49=>ftn∈Wα Bác bỏH0, chấp nhậnH1. Vậy với mứcý nghĩa 5% thì Z có mối liên hệ tuyến tính với X, T. Tiến hành hồi quy T theo X, Z. Sử dụng phần mềm eviews ta có bảng sau: Bảng 5 Với α=0.05, ta đi kiểmđịnh giả thiết: H0:T không có hiện tượng đa cộng tuyến với X, ZH1:T có hiện tượng đa cộng tuyến với X, Z Hay tương đương: H0: R32=0H1: R32>0 Xây dựng tiêu chuẩn kiểmđịnh: F3=R32(k-2)(1-R32)(n-k+1) NếuH0đúng thìF3~F3(k-2, n-k+1) Ta có miền bác bỏWα={ftn: ftn>fα(k-2, n-k+1) Từ bảng eviews ta cóftn=356.3542 với n=23, k=4, α=0.05 ta cóf0.052, 20=3.49 ftn>3.49=>ftn∈Wα Bác bỏ H0chấp nhậnH1. Vậy với mứcý nghĩa 5% thì T có mối liên hệ tuyến tính với X, Z. Mô hình có xảy ra hiện tượngđa cộng tuyến. Nhân tử phóng đại phương sai. Phân tử phóngđại phương sai gắn với biến X: VIFX=11-R12 ↔VIF(X)=11-0.973886 ↔VIF(X)=38.293635>10 Phân tử phóngđại phương sai gắn với biến Z: VIFZ=11-R22 ↔VIF(X)=11-0.871556 ↔VIFX=7.7855<10 Phân tử phóngđại phương sai gắn với biến T: VIFZ=11-R32 ↔VIF(X)=11-0.972704 ↔VIFX=36.6354>10 Theo lý thuyết nếu VIF≥10 thì có hiện tượngđa cộng tuyến giữa các biến độc lập trong mô hình. Vậy mô hình có xảy ra hiện tượng đa cộng tuyến. Độ đo Theil. Hồi quy bằng eviews ta có các kết quả: Xét mô hình hồi quy Y theo X ta được kết quả: Bảng 6 Xét mô hình hồi quy Y theo Z ta được kết quả: Bảng 7 Xét mô hình hồi quy Y theo T ta được kết quả: Bảng 8 Từ 3 bảng hồi quy trên ta thu được kết quả: r122=0.892978 r132=0.700593 r142=0.86993 Độđo Theil: m=R2-R2-r122-R2-r132-(R2-r142) m=0.907952-0.907952-0.892978-0.907952-0.700593-0.907952-0.86993=0.647597 Vậy độđo của Thiel về mức độđa cộng tuyến là 0.647597. Biện pháp khắc phục. 2.3.1. Bỏ biến. Hồi quy bằng eviews ta có kết quả: Khi bỏ biến X: Bảng 9 Khi bỏ biến Z: Bảng 10 Khi bỏ biến T: Bảng 11 Bằng phép so sánh R2 trong các phép hồi quy trên mà có một trong ba biến X, Z, T mà chúng ta quyết định nên bỏ biến nào ra khỏi mô hình hồi quy: R2 khi loại bỏ biến X là 0,876090 R2 khi loại bỏ biến Z là 0,893021 R2 khi loại bỏ biến T là 0,907251 Như vậy trong trường hợp này chúng ta nên bỏ biến T bởi ngay cả khi chúng ta bỏ biến T ra khỏi mô hình thì hàm hồi quy mẫu vẫn giải thích được 90,7251%, tỷ lệ giải thích của mô hình khi đó cao hơn so với khi loại bỏ biến X, Z. Sử dụng sai phân cấp 1. Chúng ta có số liệu chuỗi thời gian biểu thị liên hệ giữa biến Y và các biến phụ thuộc X, Z, T theo mô hình sau: Yt=β1+β2Xt+β3Zt+β4Tt+Ut (*) Trong đó t là thời gian. Phương trình trên đúng với t thì cũng đúng với t-1 nghĩa là : Yt-1=β1+β2Xt-1+β3Zt-1+β4Tt-1+Ut-1 (**) Trừ (* ) cho (** ) ta được: Yt-Yt-1=β2Xt-Xt-1+β3Zt-Zt-1+β4Tt-Tt-1+Ut-Ut-1 Đặt: yt=Yt-Yt-1 xt=Xt-Xt-1 zt=Zt-Zt-1 tt=Tt-Tt-1 Vt=Ut-Ut-1 Ta được:yt=β2xt+β3zt+β4tt+Vt Ta có bảng kết quả Eviews khi sử dụng sai phân cấp 1: Bảng 12 Kết luận. Có nhiều cách phát hiện và khắc phục hiện tượng đa cộng tuyến khác nhau. Mỗi phương pháp có những hạn chế nhất định. Vì vậy, khi áp dụng một phương pháp nào ta cần cân nhắc kĩ lượng để mang lại kết quả tin cậy nhất.