Способы оценки качества эксперта по воспроизводимости результата аналогичны способам оценки по отклонению от среднего мнения.
В том случае, когда эксперты ранжируют оцениваемые величины (свойства), для количественного выражения их качества или согласованности, чаще всего на практике используется коэффициент конкордации, предложенный Кендаллом:
,
где - количество анализируемых объектов,
- количество экспертов,
- средняя сумма рангов для всех единичных показателей;
- сумма ранговых оценок экспертов по каждому единичному показателю (объекту);
- показатель одинаковости.
Величины и определяются отношениями:
;
,
где - балл (ранг) -го показателя, проставленный -ым экспертом.
Показатель одинаковости:
,
где - количество оценок одинакового ранга -того эксперта;
- количество групп рангов с одинаковыми оценками -того эксперта.
Коэффициент конкордации изменяется в пределах от нуля до единицы и его значение, равное единице, соответствует полной согласованности мнений экспертов. Обычно согласованность мнений экспертов считается достаточной при W >0,5.
|
|
Согласованность мнений экспертов может быть случайной или неслучайной. В качестве количественной оценки степени этой случайности используется уровень значимости коэффициента конкордации.
Этот уровень можно определить по функции хи квадратного распределения
.
Коэффициент конкордации W- статистически значащий, если
где - число степеней свободы, ;
- уровень значимости.
Обычно принимают уровень значимости . Тогда доверительная вероятность .
Таблица 8.1 - Значения критерия
3,84 | 5,99 | 7,82 | 9,49 | 11,07 | 12,59 | 14,07 | 15,51 | 16,92 | 18,31 | 19,68 |