Критические значения отношения для исключения выскакивающих значений

(по книге: Ашмарин И. В. Статистические методы в микробиологическом исследовании./ И. В. Ашмарин, А. А. Воробьев – Л.: Медгиз, 1962. – 160 с.)

Если полученная (расчетная) величина отношения ³ величине табличного отношения, то проверяемое значение переменной является выскакивающей вариантой; и её следует исключить из всех последующих операций по статистической обработке результатов исследования.

При этом a =0,01 — высокий уровень достоверности; a =0,05 — может быть грубая ошибка при исключении выскакивающего значения; a> 0,05 — отбрасывать проверяемое значение нельзя.

N	a=0,05	a=0,01
Отношения	Отношения
I а	I б	I в	I а	I б	I в
II а	II б	II в	II а	II б	II в
	0,941	1,000	1,000	0,988	1,000	1,000
	0,765	0,955	0,967	0,889	0,991	0,992
	0,642	0,807	0,845	0,780	0,916	0,929
	0,560	0,689	0,736	0,698	0,805	0,836
	0,507	0,610	0,661	0,637	0,740	0,778
	0,468	0,554	0,607	0,590	0,683	0,710
	0,437	0,512	0,565	0,555	0,635	0,667
	0,412	0,477	0,531	0,527	0,597	0,632
	0,392	0,450	0,504	0,502	0,566	0,603
	0,376	0,428	0,481	0,482	0,541	0,579
	0,338	0,381	0,430	0,438	0,486	0,522
	0,300	0,334	0,372	0,391	0,430	0,464
	0,281	0,309	0,347	0,367	0,400	0,434
	0,260	0,283	0,322	0,341	0,369	0,402

Примечания к таблице критических значений:

1. Отношения I предназначены для оценки выскакивающих наибольших значений; отношения II — для оценки выскакивающих наименьших вариант.

2. a — вероятность ошибки при принятии решении. Эта величина характеризует уровень достоверности или значимости вывода. Сопряженная с ней величина р — доверительная вероятность или вероятность того, что мы не ошиблись и приняли правильное решение. Вместе эти две величины являются полным набором событий: р + a = 1,00. В психологии принято принимать решения на двух уровнях достоверности (значимости): a = 0,005 или р = 0,95 — меньший уровень достоверности и a = 0,01 или р = 0,99 — высокий уровень значимости выводов.

Критические значения коэффициента ранговой корреляции Спирмена

(по книге: Суходольский Г.В. Основы математической статистики для психологов [Текст]: учебник / Г. В. Суходольский. - СПб.: Изд-во СПбГУ, 1998. - 464 с. - С. 419.)

N	a
0,05	0,01
	0,94	—
	0,85	—
	0,78	0,94
	0,72	0,88
	0,68	0,83
	0,64	0,79
	0,61	0,76
	0,58	0,73
	0,56	0,70
	0,54	0,68
	0,52	0,66
	0,50	0,64
	0,48	0,62
	0,47	0,60
	0,46	0,58
	0,45	0,57
	0,44	0,56
	0,43	0,54
	0,42	0,53
	0,41	0,52
	0,40	0,51
	0,39	0,50
	0,38	0,49
	0,38	0,48
	0,37	0,48
	0,36	0,47
	0,36	0,46
	0,36	0,45
	0,34	0,45
	0,34	0,44
	0,33	0,43
	0,33	0,43
	0,33	0,43
	0,32	0,41
	0,32	0,41
	0,31	0,40

Критические значения коэффициента линейной корреляции Пирсона

(по книге: Суходольский Г.В. Основы математической статистики для психологов [Текст]: учебник / Г. В. Суходольский. - СПб.: Изд-во СПбГУ, 1998. - 464 с. - С. 418.)

N	a=0,05	a=0,01	N	a=0,05	a=0,01
	0,950	0,990		0,404	0,515
	0,878	0,959		0,396	0,505
	0,811	0,917		0,388	0,496
	0,754	0,874		0,381	0,487
	0,707	0,834		0,374	0,478
	0,666	0,798		0,367	0,470
	0,632	0,765		0,361	0,463
	0,602	0,735		0,332	0,435
	0,576	0,708		0,310	0,407
	0,553	0,684		0,292	0,384
	0,532	0,661		0,277	0,364
	0,514	0,641		0,253	0,333
	0,497	0,623		0,234	0,308
	0,482	0,606		0,219	0,288
	0,468	0,590		0,206	0,272
	0,456	0,575		0,196	0,258
	0,444	0,561		0,175	0,230
	0,433	0,549		0,160	0,210
	0,423	0,537		0,138	0,182
	0,413	0,526

Критические значения критерия хи-квадрат Пирсона

(по книге: Суходольский Г.В. Основы математической статистики для психологов [Текст]: учебник / Г. В. Суходольский. - СПб.: Изд-во СПбГУ, 1998. - 464 с. - С. 419-420).

При c² _{эмп. ³} c²_{теор., a,n} различия статистически достоверны.

n	a=0,05	a=0,01	n	a=0,05	a=0,01	n	a=0,05	a=0,01
	3,84	6,64		49,8	57,3		89,4	99,2
	5,99	9,21		51,0	58,6		90,5
	7,82	11,3		52,2	59,9		91,7
	9,49	13,3		53,4	61,2		92,8
	11,1	15,1		54,6	62,4		93,9
	12,6	16,8		55,8	63,7		95,1
	14,1	18,5		56,9	65,0		96,2
	15,5	20,1		58,1	66,2		97,4
	16,9	21,7		59,3	67,5		98,5
	18,3	23,2		60,5	68,7		99,6
	19,7	24,7		61,7	70,0
	21,0	26,2		62,8	71,2
	22,4	27,7		64,0	72,4
	23,7	29,1		65,2	73,7
	25,0	30,6		66,3	74,9
	26,3	32,0		67,5	76,2
	27,6	33,4		68,7	77,4
	28,9	34,8		69,8	78,6
	30,1	36,2		71,0	79,8
	31,4	37,6		72,2	81,1
	32,7	38,9		73,3	82,3
	33,9	40,3		74,5	83,5
	35,2	41,6		75,6	84,7
	36,4	43,0		76,8	86,0
	37,6	44,4		77,9	87,2
	38,9	45,6		79,1	88,4
	40,1	47,0		80,2	89,6
	41,3	48,3		81,4	90,8
	42,6	49,6		82,5	92,0
	43,8	50,9		83,7	93,2
	45,0	52,2		84,8	94,4
	46,2	53,5		86,0	95,6
	47,4	54,8		87,1	96,8
	48,6	56,1		88,2	98,0

Критические значения критерия Стьюдента

(по книге: Суходольский Г.В. Основы математической статистики для психологов [Текст]: учебник / Г. В. Суходольский. - СПб.: Изд-во СПбГУ, 1998. - 464 с. - С.420.)

При t_расч. ³ t_{табл.,a,n} различия статистически значимы.

ν	α=0,05	α=0,01		ν	α=0,05	α=0,01
	12,706	63,657			2,064	2,797
	4,303	9,925			2,060	2,787
	3,182	5,841			2,056	2,779
	2,776	4,604			2,052	2,771
	2,571	4,032			2,048	2,763
	2,447	3,707			2,045	2,756
	2,365	3,450			2,042	2,750
	2,306	3,355			2,030	2,724
	2,262	3,250			2,021	2,704
	2,228	3,169			2,014	2,690
	2,201	3,106			2,009	2,678
	2,179	3,054			2,004	2,668
	2,160	3,012			2,000	2,660
	2,145	2,977			1,997	2,654
	2,131	2,947			1,994	2,648
	2,120	2,921			1,992	2,643
	2,110	2,898			1,990	2,639
	2,101	2,878			1,988	2,635
	2,093	2,861			1,987	2,632
	2,086	2,845			1,985	2,629
	2,080	2,831			1,984	2,626
	2,074	2,819			1,983	2,623
	2,069	2,807

Критические значения критерия Фишера

(по книге: Суходольский Г.В. Основы математической статистики для психологов [Текст]: учебник / Г. В. Суходольский. - СПб.: Изд-во СПбГУ, 1998. - 464 с. - С. 421-422.)

При F_расч. ³F_{табл.,α,ν1,ν2} дисперсии статистически различаются;

ν1 — число степеней свободы числителя, ν2 — число степеней свободы знаменателя.

α=0,05
ν2	ν1
	161,4	199,5	215,7	224,6	230,2	234,0	238,9	243,9	246,5	249,0	251,8
	18,51	19,00	19,16	19,25	19,30	19,33	19,37	19,41	19,43	19,45	19,74
	10,13	9,55	9,28	9,12	9,01	8,94	8,84	8,74	8,69	8,64	8,58
	7,71	6,94	6,59	6,39	6,26	6,16	6,04	5,91	5,84	5,77	5,70
	6,61	5,79	5,41	5,19	5,05	4,95	4,82	4,68	4,60	4,53	4,44
	5,99	5,14	4,76	4,53	4,39	4,28	4,15	4,00	3,92	3,84	3,75
	5,59	4,74	4,35	4,12	3,97	3,87	3,73	3,57	3,49	3,41	3,32
	5,32	4,46	4,07	3,84	3,69	3,58	3,44	3,28	3,20	3,12	3,03
	5,12	4,26	3,86	3,63	3,48	3,37	3,23	3,07	2,98	2,90	2,80
	4,96	4,10	3,71	3,48	3,33	3,22	3,07	2,91	2,82	2,74	2,64
	4,84	3,98	3,59	3,36	3,20	3,09	2,95	2,79	2,70	2,61	2,50
	4,75	3,88	3,49	3,26	3,11	3,00	2,85	2,69	2,60	2,50	2,40
	4,67	3,80	3,41	3,18	3,02	2,92	2,77	2,60	2,51	2,42	2,32
	4,60	3,74	3,34	3,11	2,96	2,85	2,70	2,53	2,44	2,35	2,24
	4,54	3,68	3,29	3,06	2,90	2,79	2,64	2,48	2,39	2,29	2,18
	4,49	3,63	3,24	3,01	2,85	2,74	2,59	2,42	2,33	2,24	2,13
	4,45	3,59	3,20	2,96	2,81	2,70	2,55	2,38	2,29	2,19	2,08
	4,41	3,55	3,16	2,93	2,77	2,66	2,51	2,34	2,25	2,15	2,04
	4,38	3,52	3,13	2,90	2,74	2,63	2,48	2,31	2,21	2,11	2,00
	4,35	3,49	3,10	2,87	2,71	2,60	2,45	2,28	2,18	2,08	1,96
	4,32	3,47	3,07	2,84	2,68	2,57	2,42	2,25	2,15	2,05	1,93
	4,30	3,44	3,05	2,82	2,66	2,55	2,40	2,23	2,13	2,03	1,91
	4,28	3,42	3,03	2,80	2,64	2,53	2,38	2,20	2,11	2,00	1,88
	4,26	3,40	3,01	2,78	2,62	2,51	2,36	2,18	2,09	1,98	1,86
	4,24	3,38	2,99	2,76	2,60	2,49	2,34	2,16	2,07	1,96	1,84
	4,22	3,37	2,98	2,74	2,59	2,47	2,32	2,15	2,05	1,95	1,82
	4,21	3,35	2,96	2,73	2,57	2,46	2,30	2,13	2,03	1,93	1,80
	4,20	3,34	2,95	2,71	2,56	2,44	2,29	2,12	2,02	1,91	1,78
	4,18	3,33	2,93	2,70	2,54	2,43	2,28	2,10	2,00	1,90	1,77
	4,17	3,32	2,92	2,69	2,53	2,42	2,27	2,09	1,99	1,89	1,76
	4,12	3,26	2,87	2,64	2,48	2,37	2,22	2,04	1,94	1,83	1,70
	4,08	3,23	2,84	2,61	2,45	2,34	2,18	2,00	1,90	1,79	1,66
	4,06	3,21	2,81	2,58	2,42	2,31	2,15	1,97	1,87	1,76	1,63
	4,03	3,18	2,79	2,56	2,40	2,29	2,13	1,95	1,85	1,74	1,60
	4,00	3,15	2,76	2,52	2,37	2,25	2,10	1,92	1,81	1,70	1,56
	3,98	3,13	2,74	2,50	2,35	2,23	2,07	1,89	1,79	1,67	1,53
	3,96	3,11	2,72	2,49	2,33	2,21	2,06	1,88	1,77	1,65	1,51
	3,95	3,10	2,71	2,47	2,32	2,20	2,04	1,86	1,76	1,64	1,49
	3,94	3,09	2,70	2,46	2,30	2,19	2,03	1,85	1,75	1,63	1,48

α=0,01
ν2	ν1
	98,49	99,00	99,17	99,25	99,30	99,33	99,36	99,42	99,44	99,46	99,48
	34,12	30,81	29,46	28,71	28,24	27,91	27,49	27,05	26,83	26,60	26,35
	21,20	18,00	16,69	15,98	15,52	15,21	14,80	14,37	14,15	13,93	13,69
	16,26	13,27	12,06	11,39	10,97	10,67	10,29	9,89	9,68	9,47	9,24
	13,74	10,92	9,78	9,15	8,75	8,47	8,10	7,72	7,52	7,31	7,09
	12,25	9,55	8,45	7,85	7,46	7,19	6,84	6,47	6,27	6,07	5,85
	11,26	8,65	7,59	7,01	6,63	6,37	6,03	5,67	5,48	5,28	5,06
	10,56	8,02	6,99	6,42	6,06	5,80	5,47	5,11	4,92	4,73	4,51
	10,04	7,56	6,55	5,99	5,64	5,39	5,06	4,71	4,52	4,33	4,12
	9,65	7,20	6,22	5,67	5,32	5,07	4,74	4,40	4,21	4,02	3,80
	9,33	6,93	5,95	5,41	5,06	4,82	4,50	4,16	3,98	3,78	3,56
	9,07	6,70	5,74	5,20	4,86	4,62	4,30	3,96	3,78	3,59	3,37
	8,86	6,51	5,56	5,03	4,69	4,46	4,14	3,80	3,62	3,43	3,21
	8,68	6,36	5,42	4,89	4,56	4,32	4,00	3,67	3,48	3,29	3,07
	8,53	6,23	5,29	4,77	4,44	4,20	3,89	3,55	3,37	3,18	2,96
	8,40	6,11	5,18	4,67	4,34	4,10	3,79	3,45	3,27	3,08	2,86
	8,28	6,01	5,09	4,58	4,25	4,01	3,71	3,37	3,20	3,00	2,79
	8,18	5,93	5,01	4,50	4,17	3,94	3,63	3,30	3,12	2,92	2,70
	8,10	5,85	4,94	4,43	4,10	3,87	3,56	3,23	3,05	2,86	2,63
	8,02	5,78	4,87	4,37	4,04	3,84	3,51	3,17	2,99	2,80	2,58
	7,94	5,72	4,82	4,31	3,99	3,76	3,45	3,12	2,94	2,75	2,53
	7,88	5,66	4,75	4,26	3,94	3,71	3,41	3,07	2,89	2,70	2,48
	7,82	5,61	4,72	4,22	3,90	3,67	3,36	3,03	2,85	2,66	2,44
	7,77	5,57	4,68	4,18	3,86	3,63	3,32	2,99	2,81	2,62	2,40
	7,72	5,53	4,64	4,14	3,82	3,59	3,29	2,96	2,78	2,58	2,36
	7,68	5,49	4,60	4,11	3,78	3,56	3,26	2,93	2,74	2,55	2,33
	7,64	5,45	4,57	4,07	3,75	3,53	3,23	2,90	2,71	2,52	2,30
	7,60	5,42	4,54	4,04	3,73	3,50	3,20	2,87	2,68	2,49	2,27
	7,56	5,39	4,51	4,02	3,70	3,47	3,17	2,84	2,66	2,47	2,24
	7,42	5,27	4,40	3,91	3,59	3,37	3,07	2,74	2,56	2,37	2,13
	7,31	5,18	4,31	3,83	3,51	3,29	2,99	2,66	2,48	2,29	2,05
	7,23	5,11	4,25	3,77	3,45	3,23	2,94	2,61	2,43	2,23	1,99
	7,17	5,06	4,20	3,72	3,41	3,19	2,89	2,56	2,38	2,18	1,94
	7,08	4,98	4,13	3,65	3,34	3,12	2,82	2,50	2,32	2,12	1,87
	7,01	4,92	4,07	3,60	3,29	3,07	2,78	2,45	2,28	2,07	1,82
	6,96	4,88	4,04	3,56	3,26	3,04	2,74	2,42	2,24	2,03	1,78
	6,92	4,85	4,01	3,53	3,23	3,01	2,72	2,39	2,21	2,00	1,75
	6,90	4,82	3,98	3,51	3,21	2,99	2,69	2,37	2,19	1,98	1,73