Một luận văn viết: “Mỗi năm kinh nghiệm làm lương tăng 1,8 triệu đồng.” Mô hình có thêm trình độ, giới, ngành, quy mô doanh nghiệp và vùng. Câu đúng phải là: “Với những người cùng trình độ, giới, ngành, quy mô doanh nghiệp và vùng, mỗi năm kinh nghiệm gắn với mức lương cao hơn trung bình 1,8 triệu đồng.” Hai câu khác nhau ở hai chỗ: điều kiện “giữ các biến khác không đổi”, và chữ “gắn với” thay cho “làm”.
Hồi quy tuyến tính là công cụ phân tích dùng nhiều nhất trong khoa học xã hội, kinh tế và y tế công cộng. Chạy mô hình mất vài giây; đọc và kiểm tra nó cho đúng mới là phần tốn công.
Đọc một dòng trong bảng hệ số
| Cột | Ý nghĩa | Ví dụ |
|---|---|---|
| Hệ số (B) | Thay đổi trung bình của biến phụ thuộc khi biến này tăng một đơn vị, các biến khác trong mô hình giữ nguyên | 1,8 triệu đồng mỗi năm kinh nghiệm |
| Sai số chuẩn (SE) | Độ không chắc chắn của hệ số | 0,4 |
| t hoặc z | Hệ số chia sai số chuẩn | 4,5 |
| Giá trị p | Kiểm định giả thuyết hệ số bằng 0 | < 0,001 |
| Khoảng tin cậy 95% | Dải giá trị hệ số tương thích với dữ liệu | 1,0 đến 2,6 |
| Beta chuẩn hoá | Hệ số khi mọi biến tính theo độ lệch chuẩn | 0,32 |
Báo cáo hệ số chưa chuẩn hoá kèm khoảng tin cậy là mặc định tốt vì nó giữ đơn vị gốc, người đọc hiểu ngay. Beta chuẩn hoá hữu ích khi so sánh các biến có đơn vị khác nhau, nhưng khó diễn giải với biến giả.
Biến phân loại và nhóm tham chiếu
Biến phân loại có k mức được đưa vào mô hình bằng k − 1 biến giả; mức còn lại là nhóm tham chiếu. Hệ số của “Thạc sĩ” bằng 3,2 nghĩa là người có bằng thạc sĩ có lương cao hơn trung bình 3,2 triệu so với nhóm tham chiếu (ví dụ “Cử nhân”), các biến khác giữ nguyên. Đổi nhóm tham chiếu, các hệ số đổi theo nhưng mô hình không đổi. Hãy chọn nhóm tham chiếu có ý nghĩa và đủ đông, và ghi rõ trong bảng.
Hệ số chặn (intercept) là giá trị dự đoán khi mọi biến bằng 0, thường vô nghĩa (kinh nghiệm 0 năm, tuổi 0). Nếu muốn nó có nghĩa, hãy căn giữa biến liên tục: trừ đi trung bình, khi đó hệ số chặn là giá trị dự đoán cho một người “điển hình”.
R bình phương: ít quan trọng hơn bạn nghĩ
R² là tỷ lệ phương sai của biến phụ thuộc được mô hình giải thích. Hai điều cần biết:
- R² thấp không có nghĩa mô hình vô dụng. Trong nghiên cứu hành vi con người, R² 0,10 đến 0,30 là rất thường gặp, và một hệ số vẫn có thể được ước lượng chính xác và quan trọng.
- R² luôn tăng khi thêm biến, kể cả biến rác. Dùng R² hiệu chỉnh khi so sánh các mô hình có số biến khác nhau.
Kiểm tra giả định bằng biểu đồ phần dư
Các giả định chính của hồi quy tuyến tính, và cách kiểm:
- Tuyến tính: vẽ phần dư theo giá trị dự đoán; nếu thấy hình cong, cân nhắc thêm biến bình phương hoặc biến đổi log.
- Độc lập: đến từ thiết kế. Dữ liệu lặp trên cùng người hoặc theo cụm cần mô hình khác.
- Phương sai đồng nhất: phần dư không được loe ra như hình phễu. Nếu loe, dùng sai số chuẩn vững (robust standard errors) hoặc biến đổi biến phụ thuộc.
- Phần dư xấp xỉ chuẩn: xem biểu đồ Q-Q. Với mẫu lớn, lệch nhẹ không ảnh hưởng nhiều đến suy luận về hệ số.
Chú ý: giả định chuẩn là của phần dư, không phải của biến phụ thuộc hay biến độc lập. Biến độc lập hoàn toàn có thể lệch, thậm chí là nhị phân.
Đa cộng tuyến và điểm ảnh hưởng
Đa cộng tuyến xảy ra khi các biến độc lập tương quan mạnh với nhau, ví dụ tuổi và số năm kinh nghiệm. Hệ số trở nên bất ổn, sai số chuẩn phình to, dấu có thể đảo ngược khó hiểu. Kiểm bằng hệ số phóng đại phương sai (VIF); các ngưỡng hay dùng là 5 hoặc 10, nhưng đó chỉ là quy ước. Cách xử lý: bỏ bớt một biến trùng thông tin, gộp thành một chỉ số, hoặc chấp nhận nếu mục tiêu chỉ là dự đoán.
Điểm ảnh hưởng là quan sát mà nếu bỏ đi thì hệ số thay đổi đáng kể. Khoảng cách Cook giúp phát hiện. Đừng xoá chúng chỉ vì bất tiện; hãy kiểm tra xem là lỗi nhập liệu hay giá trị thật, chạy lại mô hình có và không có chúng, và báo cáo cả hai nếu kết luận khác nhau.
Năm lỗi diễn giải phổ biến
- Dùng ngôn ngữ nhân quả với dữ liệu quan sát: “làm tăng”, “tác động của”. Viết “gắn với”, “liên quan tới”, trừ khi thiết kế cho phép suy luận nhân quả.
- Quên điều kiện giữ các biến khác không đổi, như ví dụ mở đầu.
- So sánh độ lớn hệ số chưa chuẩn hoá giữa các biến khác đơn vị: hệ số 0,05 cho thu nhập tính bằng nghìn đồng không nhỏ hơn hệ số 2 cho giới.
- Ngoại suy ngoài vùng dữ liệu: mô hình ước lượng trên người có 0–20 năm kinh nghiệm không nói gì về người 40 năm.
- Chọn biến bằng stepwise dựa vào p, rồi báo cáo p của mô hình cuối như thể mô hình được xác định trước. Chọn biến dựa trên lý thuyết và sơ đồ nhân quả thay vì thuật toán.
Cỡ mẫu cho bao nhiêu biến
Quy tắc kinh nghiệm hay dùng là cần ít nhất khoảng 10 đến 20 quan sát cho mỗi tham số ước lượng. Với 150 người, mô hình 25 biến gần như chắc chắn quá khớp (overfitting): nó mô tả tốt nhiễu của mẫu này và dự đoán kém cho mẫu khác. Biến phân loại nhiều mức tốn nhiều tham số hơn bạn tưởng.
Áp dụng: danh sách kiểm trước khi báo cáo mô hình
- Mỗi biến trong mô hình có lý do lý thuyết, ghi trong phần phương pháp.
- Nhóm tham chiếu của mọi biến phân loại được nêu rõ.
- Đã xem biểu đồ phần dư theo giá trị dự đoán và biểu đồ Q-Q.
- Đã kiểm VIF và khoảng cách Cook.
- Báo cáo hệ số, khoảng tin cậy 95%, p, cỡ mẫu và R² hiệu chỉnh.
- Mọi câu diễn giải có cụm “các yếu tố khác không đổi” và không dùng ngôn ngữ nhân quả khi thiết kế không cho phép.
Việc làm tiếp: lấy mô hình hồi quy gần nhất của bạn, vẽ ngay biểu đồ phần dư theo giá trị dự đoán và viết lại câu diễn giải cho hệ số chính theo đúng khuôn “với những người cùng…, mỗi đơn vị… gắn với…”. Hai việc này mất mười lăm phút và loại bỏ hai lời phê phổ biến nhất của phản biện.
Câu hỏi thường gặp
Hệ số hồi quy tuyến tính hiểu thế nào?
Là thay đổi trung bình của biến phụ thuộc khi biến độc lập tăng một đơn vị, trong điều kiện các biến khác trong mô hình giữ nguyên. Với dữ liệu quan sát, nên diễn giải là liên hệ, không phải tác động nhân quả.
R bình phương thấp có sao không?
Không nhất thiết. Trong nghiên cứu về hành vi con người, R bình phương thấp là phổ biến, và hệ số quan tâm vẫn có thể được ước lượng chính xác và có ý nghĩa.
VIF bao nhiêu là đa cộng tuyến?
Các ngưỡng hay dùng là 5 hoặc 10, nhưng đó chỉ là quy ước. Hãy xem thêm sai số chuẩn có phình to và hệ số có bất ổn khi thêm bớt biến hay không.
Biến phụ thuộc không chuẩn có chạy hồi quy tuyến tính được không?
Giả định chuẩn áp dụng cho phần dư, không phải biến phụ thuộc. Hãy xem biểu đồ phần dư; với mẫu lớn, lệch nhẹ ít ảnh hưởng tới suy luận về hệ số.
Có nên dùng stepwise để chọn biến không?
Không nên cho mục đích giải thích. Stepwise làm giá trị p và hệ số bị thiên lệch. Hãy chọn biến dựa trên lý thuyết và các nghiên cứu trước.
