Bài giảng Tin học ứng dụng - Chương 4: Phân tích phương sai, so sánh và kiểm định - Phan Trọng Tiến

Nội dung text: Bài giảng Tin học ứng dụng - Chương 4: Phân tích phương sai, so sánh và kiểm định - Phan Trọng Tiến

1. 7/16/16 TIN HỌC ỨNG DỤNG (CH4 - PHÂN TÍCH PHƯƠNG SAI, SO SÁNH VÀ KIỂM ĐỊNH) Phan Trọng Tiến BM Công nghệ phần mềm Khoa Công nghệ thông tin, VNUA Email: [email protected] Website: Ch4 - Phân tích phương sai, so sánh và kiểm định 1 Nội dung chính 1. Phân tích phương sai 2. Kiểm định sự bằng nhau của hai mẫu 3. So sánh trung bình Ch4 - Phân tích phương sai, so sánh và kiểm định 2 1
2. 7/16/16 1. Phân tích phương sai q Dùng để phân tích các số liệu khi theo dõi ảnh hưởng của nhân tố và ảnh hưởng tương tác của chúng. q Phân tích một nhân tố: bố trí thí nghiệm theo ô vuông La tinh. q Phân tích hai nhân tố: bố trí thí nghiệm theo khối ngẫu nhiên, kiểu trực giao, kiểu chia ô lớn, ô vừa, ô nhỏ hoặc kết hợp vừa chia băng vừa chia ô. q Từ ba nhân tố trở lên: bố trí thí nghiệm sao cho mỗi nhân tố có hai mức hay mỗi nhân tố có ba mức. Ch4 - Phân tích phương sai, so sánh và kiểm định 3 1.1 Phân tích phương sai một nhân tố q Dùng để phân tích số liệu khi theo dõi ảnh hưởng của các mức nhân tố tới kết quả như của các công thức cho ăn tới năng xuất thịt q Thiết kế thí nghiệm kiểu hoàn toàn ngẫu nhiên, mỗi mức lặp lại một số lần, số lần lặp lại của các mức không cần phải bằng nhau. q Số liệu đưa vào theo hàng hoặc theo cột (theo hàng thì mỗi hàng ứng với một mức nhân tố), ô đầu ghi tên mức, ô tiếp ghi SL. Ch4 - Phân tích phương sai, so sánh và kiểm định 4 2
3. 7/16/16 Kiểm định và bố trí dữ liệu Ch4 - Phân tích phương sai, so sánh và kiểm định 5 Phân tích ảnh hưởng của các loại thuốc đến năng xuất lúa. Ch4 - Phân tích phương sai, so sánh và kiểm định 6 3
4. 7/16/16 Vào Tools>Data Analysis>Anova: Single Factor Miền dữ liệu Nhóm dữ liệu theo cột hay theo hàng Đặt nhãn đầu dòng Mức ý nghĩa Nơi đặt kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 7 Kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 8 4
5. 7/16/16 Phân tích kết quả q Kết quả in ra gồm các thống kê cơ bản cho từng công thức (trung bình, độ lệch chuẩn ) q Nếu giá trị xác xuất P-value F lt) → công thức có tác động khác nhau tới kết quả, ngược lại các công thức không có khác biệt đáng kể. q Nếu các công thức có tác động khác nhau → tiếp tục so sánh các công thức có giống nhau hay khác nhau hay không. Ch4 - Phân tích phương sai, so sánh và kiểm định 9 Phân tích kết quả q Ví dụ: F = 8.541 > F crit = 2.176 → các công thức có tác động khác nhau tới năng xuất lúa. Muốn so sánh xem công thức nào có ảnh hưởng khác nhau tới TB không -> dùng phương pháp so sánh dùng chỉ số LSD. q Nhận xét: Công thức T1 cho năng xuất cao nhất. Tiếp tục so sánh các công thức có giống nhau hay khác nhau hay không ta dùng so sánh trung bình băng chỉ số LSD. Ch4 - Phân tích phương sai, so sánh và kiểm định 10 5
6. 7/16/16 1.2 So sánh trung bình dùng chỉ số LSD (Least Significance Difference) q Excel không cho phép so sánh các trung bình của các nhóm ứng với các mức của nhân tố (công thức) q Nếu cần so sánh trung bình CT Ti (với ri lần lặp) với trung bình CT Tj (với rj lần lặp) có thể tính thêm chỉ số 2 LSD = tα,f * SQRT(s (1/ ri + 1/ rj ) q s2 là phương sai chung ước lượng bởi trung bình sai số bình phương trong nội bộ nhóm (MS within groups) q α = 1- p q tα,f là giá trị t của bảng Student (Hàm TINV) Ch4 - Phân tích phương sai, so sánh và kiểm định 11 So sánh q Tính trị tuyệt đối của các trung bình Ti, Tj: |Ti - Tj| q So sánh nếu |Ti - Tj| > LSD thì hai trung bình là khác nhau, ngược lại hai trung bình được coi là không khác nhau. q Thường người ta lập bảng hiệu các trung bình, sau đó lập bảng so sánh. Ch4 - Phân tích phương sai, so sánh và kiểm định 12 6
7. 7/16/16 Ví dụ so sánh ảnh hưởng của thuốc T1, T2 đến năng xuất lúa Ch4 - Phân tích phương sai, so sánh và kiểm định 13 Ví dụ q |T1- T2|= |3.6440 – 3.0133|= 0.6307 q T(0.05,29) = Tinv(0.05,29)= 2.045 q S2 = 0.17682 q LSD được tính trong TH ri, rj bằng 3 hoặc bằng 4 LSD = 2.045*SQRT(0.17682*(1/3+1/4))= 0.656739049 LSD = 2.045*SQRT(0.17682*(1/4+1/4))= 0.608022212 LSD = 2.045*SQRT(0.17682*(1/3+1/3))= 0.702083575 Trường hợp T1, T2: |T1- T2|= 0.6307 < LSD = 0.656739049 nên CThức T1, T2 không khác nhau rõ rệt. Tương tự các TH khác T1 cho năng suất cao nhất là tốt nhất, công thức T11 cho năng xuất thấp nhất là kém nhất. Ch4 - Phân tích phương sai, so sánh và kiểm định 14 7
8. 7/16/16 1.3 Phân tích phương sai hai nhân tố q Xảy ra hai trường hợp: qNhân tố A và B không tương tác, biến động gây nên bởi tác động đồng thời của A và B gần sát 0. qNhân tố A và B có tương tác. Ch4 - Phân tích phương sai, so sánh và kiểm định 15 a. Phân tích phương sai hai nhân tố không tương tác q Bố trí số liệu: hàng là các mức của nhân tố thứ nhất, cột là các mức của nhân tố thứ hai. Ch4 - Phân tích phương sai, so sánh và kiểm định 16 8
9. 7/16/16 Ví dụ q Ví dụ: nhân tố 1 có 4 mức, nhân tố 2 có 4 khối Ch4 - Phân tích phương sai, so sánh và kiểm định 17 Vào Data>Data Analysis>Anova: Two Factor Without Replication Ch4 - Phân tích phương sai, so sánh và kiểm định 18 9
10. 7/16/16 Kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 19 Phân tích kết quả q Các mức của nhân tố 1 có ảnh hưởng khác nhau đến kết quả (F tn > F lt) q Các mức của nhân tố 2 có ảnh hưởng khác nhau đến kết quả (F tn > F lt) q Có thể tính F lt bằng hàm FINV q= FINV(0.05,3,9) q Có thể tính T bằng hàm TINV q= TINV(0.05,9) Ch4 - Phân tích phương sai, so sánh và kiểm định 20 10
11. 7/16/16 b. Phân tích phương sai hai nhân tố tương tác q Công cụ hữu ích với dữ liệu đã được phân loại theo không gian hai chiều. q Ví dụ: Thí nghiệm đo chiều cao của cây dưa, bằng cách dùng các công thức bón phân khác nhau (A,B,C) và nhiệt độ khác nhau (cao,thấp) -> 6 cặp {phân bón, nhiệt độ} chúng ta có một số quan sát chiều cao của cây. Ch4 - Phân tích phương sai, so sánh và kiểm định 21 Bố trí dữ liệu Ch4 - Phân tích phương sai, so sánh và kiểm định 22 11
12. 7/16/16 Cần kiểm định Ch4 - Phân tích phương sai, so sánh và kiểm định 23 Ví dụ ns lúa của nhân tố phân bón (A) và mật độ trồng (B) Ch4 - Phân tích phương sai, so sánh và kiểm định 24 12
13. 7/16/16 Vào Data\Data Analysis Ch4 - Phân tích phương sai, so sánh và kiểm định 25 Hộp thoại Anova: Two Factor With Replication Miền dữ liệu Số hàng trên một mẫu Chọn nơi để kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 26 13
14. 7/16/16 Kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 27 Kết quả (tiếp) Ch4 - Phân tích phương sai, so sánh và kiểm định 28 14
15. 7/16/16 Phân tích kết quả q FA = 14.9898>F0.5A =2.86627 → nhân tố phân bón ảnh hưởng rõ rệt tới năng xuất bông. q FB 2 phía đối thuyết H1 là: δ1 δ2 Ch4 - Phân tích phương sai, so sánh và kiểm định 30 15
16. 7/16/16 Vào Data/Data Analysis Ch4 - Phân tích phương sai, so sánh và kiểm định 31 Hộp thoại F-Test Two Sample for Variance Miền vào của mẫu 1, kể cả tên dòng đầu Miền vào của mẫu 2, kể cả tên dòng đầu Nhãn đầu dòng Mức ý nghĩa 0.05 hoặc 0.01 Miền để kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 32 16
17. 7/16/16 Kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 33 Phân tích kết quả q Bảng kết quả gồm: qTrung bình của hai mẫu qPh ương sai của hai mẫu qS ố quan sát n1 và n2: 10 và 12 qB ậc tư do: 9 và 11 qGiá trị F (thực nghiệm): 1.047619 qGiá trị P one-tial(P một phía): 0.46299 qGiá trị F Critical one-tial (F lý thuyết một phía): 2.8962 Ch4 - Phân tích phương sai, so sánh và kiểm định 34 17
18. 7/16/16 Phân tích kết quả q Với F F Critical one-tail thì chấp nhận 2 = 2 H0 (δ1 δ2 ) ngược lại bác bỏ H0, chấp nhận H1 2 > 2 δ1 δ2 q Với F >= 1 nếu F 2 nhận H1 δ1 δ2 q F = 1.047619 > 1 và F m2 q Có bốn dạng 2 2 qSo sánh hai mẫu độc lập khi biết phương sai δ1 ,δ2 . qSo sánh hai mẫu kiểu cặp đôi. qSo sánh hai mẫu độc lập với giả thuyết hai phương sai bằng nhau. qSo sánh hai mẫu độc lập với giả thuyết hai phương sai khác nhau. Ch4 - Phân tích phương sai, so sánh và kiểm định 36 18
19. 7/16/16 So sánh cặp đôi và độc lập Hai mẫu độc lập Hai mẫu cặp đôi o Bố trí dữ liệu ngẫu o Số quan sát phải nhiên (số lần quan sát bằng nhau có thể khác nhau) o Một đối tượng, với 2 o Hai đối tượng khác điều kiện môi trường nhau, với 1 điều kiện khác nhau. môi trường Ch4 - Phân tích phương sai, so sánh và kiểm định 37 3.1 So sánh hai mẫu độc lập khi biết 2 2 phương sai δ1 ,δ2 qRút mẫu độc lập từ hai tổng thể phân phối chuẩn, trong một số tình huống nào đó chúng ta có thể ước lượng được phương sai ví dụ như khi điều tra lại một tổng thể sau một thời gian chưa lâu, nên phương sai chưa thay đổi, do đó lấy phương sai của lần làm trước, từ đó ước lượng về phương sai. Ch4 - Phân tích phương sai, so sánh và kiểm định 38 19
20. 7/16/16 Vào Data/Data Analysis Ch4 - Phân tích phương sai, so sánh và kiểm định 39 Hiện của sổ Miền biến 1 Miền biến 2 Giả thiết về sự khác nhau của hai trung bình Phương sai của biến 1 Phương sai của biến 2 Nếu có nhãn thì chọn Nơi để kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 40 20
21. 7/16/16 Kết quả Trung bình Phương sai Số quan sát Giả thiết sự khác nhau của hai trung bình Z thực nghiệm P một phía và hai phía Z lý thuyết (tới hạn) một phía và hai phía Ch4 - Phân tích phương sai, so sánh và kiểm định 41 Phân tích kết quả q Z thực nghiệm có thể tính theo công thức: 2 2 qZ = (m1-m2)/sqrt(δ1 / n1 + δ2 /n2) q P một phía: q= 1 – Normsdist(z) q P hai phía q= (1- Normsdist(z))*2 q Z lý thuyết một phía q= Normsinv(0.95) q Z lý thuyết hai phía q= Normsinv(0.975) Ch4 - Phân tích phương sai, so sánh và kiểm định 42 21
22. 7/16/16 Phân tích kết quả q Các bước phân tích kết quả qTr ước tiên so sánh Ztn với Zlt hai phía qN ếu |Ztn| Zlt hai phía (ở mức ý nghĩa α) thì kết luận kỳ vọng của hai biến là khác nhau (chấp nhận giả thuyết H1). Muốn xem trung bình biến nào lớn hơn có thì dùng các cách sau: q C1: Ztn > 0 thì kết luận trung bình biến 1 lớn hơn và ngược lại q C2: |Ztn| > Zlt một phía kết luận m1>m2 và ngược lại Ch4 - Phân tích phương sai, so sánh và kiểm định 43 Phân tích kết quả q Ví dụ Z thực nghiệm = 1.43355 < Z lt hai phía = 1.95996 nên kỳ vọng của hau biến không khác nhau (chấp nhận giả thuyết H0). Ch4 - Phân tích phương sai, so sánh và kiểm định 44 22
23. 7/16/16 3.2 So sánh hai mẫu cặp đôi q Xét một số ví dụ qSo sánh trọng lượng giữa các con đực và con cái các đàn lợn giống, lấy ngẫu nhiên lợn đực và lợn cái từng cặp trong các đàn vậy là độc lâp hay cặp đôi? qPhân tích mẫu đất? qSo sánh các giống lúa? q Yêu cầu: Hai mẫu phải cùng số quan sát n, các cặp số liệu xếp thành cặp đứng ở hai cột cạnh nhau. Ch4 - Phân tích phương sai, so sánh và kiểm định 45 Vào Data/Data Analysis Ch4 - Phân tích phương sai, so sánh và kiểm định 46 23
24. 7/16/16 Hiện ra của sổ Miền của biến 1, kể cả hàng đầu của mẫu quan sát. Miền của biến 2 Giả thiết về hiệu hai trung bình của hai tổng thể. H0: m1 = m2 thì ghi 0. Nếu H0: m1 = m2 + d thì ghi d Nếu có nhãn thì chọn Chọn miền đặt kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 47 Kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 48 24
25. 7/16/16 Phân tích kết quả q Ví dụ: Ttn = 3.3 > Tlt hai phía -> kỳ vọng của hai biến là khác nhau (chấp nhận giả thuyết H1) qCách 1: Ttn >0 vậy trung bình mx > my qCách 2: Ttn > Tlt một phía nên mx > my Ch4 - Phân tích phương sai, so sánh và kiểm định 49 Phân tích kết quả q Các bước phân tích kết quả qTr ước tiên so sánh Ttn với Tlt hai phía qN ếu |Ttn| Tlt hai phía (ở mức ý nghĩa α) thì kết luận kỳ vọng của hai biến là khác nhau (chấp nhận giả thuyết H1). Muốn xem trung bình biến nào lớn hơn có thì dùng các cách sau: q C1: Ttn > 0 thì kết luận trung bình biến 1 lớn hơn và ngược lại q C2: |Ttn| > Tlt một phía kết luận m1>m2 và ngược lại Ch4 - Phân tích phương sai, so sánh và kiểm định 50 25
26. 7/16/16 3.3 So sánh hai mẫu độc lập với giả thuyết hai phương sai bằng nhau q Hai mẫu độc lập: qN ếu dung lượng mẫu lớn (>=30) thì ta có thể tiến hành Z- 2 2 test nhưng thay hai phương sai tổng thể δ1 ,δ2 bằng 2 2 phương sai mẫu s1 ,s2 qN ếu dung lượng mẫu bé (<30) thì ta gặp bài toán khó (Berens-Fisher) qN ếu coi hai phương sai bằng nhau thì dùng t-Test: Two- Sample Assuming Equal qN ếu coi hai phương sai không bằng nhau thì dùng t-Test: Two- Sample Assuming UnEqual Ch4 - Phân tích phương sai, so sánh và kiểm định 51 3.3 So sánh hai mẫu độc lập với giả thuyết hai phương sai bằng nhau Ch4 - Phân tích phương sai, so sánh và kiểm định 52 26
27. 7/16/16 Hộp thoại xuất hiện Miền biến 1 Miền biến 2 Giả thuyết sự khác nhau hai trung bình Nếu có nhãn thì chọn Nơi đặt kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 53 Kết quả Trung bình Phương sai Số quan sát Phương sai chung Giả thiết sự khác nhau của hai trung bình Bậc tự do = n1 + n2 -2 t thực nghiệm P một phía và hai phía t lý thuyết (tới hạn) một phía và hai phía Ch4 - Phân tích phương sai, so sánh và kiểm định 54 27
28. 7/16/16 Phân tích kết quả q Phương sai chung tính theo CT: 2 2 q=((n 1-1)s1 +(n2-1)s2 )/(n1+n2-2) q t thực nghiệm 2 q= (m1-m2)/sqrt(s /(1/n1+1/n2)) q Có thể tìm được: qP một phía = Tdist(z,f,1) qP hai phía = Tdist(z,f,2) qT lý thuyết một phía = TINV(0.1,f) qT lý thuyết hai phía = TINV(0.05,f) Ch4 - Phân tích phương sai, so sánh và kiểm định 55 Phân tích kết quả q Các bước phân tích kết quả qTr ước tiên so sánh Ttn với Tlt hai phía qN ếu |Ttn| Tlt hai phía (ở mức ý nghĩa α) thì kết luận kỳ vọng của hai biến là khác nhau (chấp nhận giả thuyết H1). Muốn xem trung bình biến nào lớn hơn có thì dùng các cách sau: q C1: Ttn > 0 thì kết luận trung bình biến 1 lớn hơn và ngược lại q C2: |Ttn| > Tlt một phía kết luận m1>m2 và ngược lại Ch4 - Phân tích phương sai, so sánh và kiểm định 56 28
29. 7/16/16 Phân tích kết quả q Ví dụ: t tn = 1.5187 δ2 có thể tính toán bằng phân phối Fisher: qB1: Tính F thực nghiêm bằng tỷ số giữa hai phương sai mẫu(lấy lớn chia cho bé) qB2: So F thực nghiệm với F lý thuyết ở mức ý nghĩa α : =FINV(α,f1,f2). Nếu F tn < F lt thì chấp nhận H0 ngược lại chấp nhận H1 q Ví dụ trên: F tn = 0.26571/ 0.093 = 2.8571 và F lt = FINV(0.05,7,4) = 6.09421 nên chấp nhận H0 Ch4 - Phân tích phương sai, so sánh và kiểm định 58 29
30. 7/16/16 3.4 So sánh hai mẫu độc lập với giả thuyết hai phương sai không bằng nhau q Trong trường hợp mẫu bé và phương sai khác nhau Ch4 - Phân tích phương sai, so sánh và kiểm định 59 Hộp thoại xuất hiện Ch4 - Phân tích phương sai, so sánh và kiểm định 60 30
31. 7/16/16 Kết quả Ch4 - Phân tích phương sai, so sánh và kiểm định 61 Phân tích kết quả q Các bước phân tích kết quả qTr ước tiên so sánh Ttn với Tlt hai phía qN ếu |Ttn| Tlt hai phía (ở mức ý nghĩa α) thì kết luận kỳ vọng của hai biến là khác nhau (chấp nhận giả thuyết H1). Muốn xem trung bình biến nào lớn hơn có thì dùng các cách sau: q C1: Ttn > 0 thì kết luận trung bình biến 1 lớn hơn và ngược lại q C2: |Ttn| > Tlt một phía kết luận m1>m2 và ngược lại Ch4 - Phân tích phương sai, so sánh và kiểm định 62 31
32. 7/16/16 Phân tích kết quả q t thực nghiệm = 1.71 < t lý thuyết hai phía = 2.2 (P một phía và hai phía đều lớn hơn mức ý nghĩa α = 0.05) nên chấp nhận giả thuyết H0 Ch4 - Phân tích phương sai, so sánh và kiểm định 63 32