Классический метод наименьших квадратов для модели парной регрессии
Предположим, что между результативной переменной и факторной переменной существует линейная связь, которая записывается равенством:
(2)
Суть метода наименьших квадратов состоит в том, что нужно рассчитать такие значения коэффициентов которые минимизировали бы сумму квадратов отклонений наблюдаемых значений результативной переменной от теоретических значений , т.е. доставляли минимум функции (2):
(3)
Для определения минимума функции двух переменных рассчитываются частные производные этой функции по каждому из оцениваемых параметров и приравниваются нулю. Полученная система уравнений называется стационарной системой уравнений для функции (2). В результате преобразования стационарной системы уравнений получим систему двух нормальных линейных уравнений:
Решением системы нормальных уравнений являются оценки неизвестных коэффициентов модели парной регрессии:
Разделим числитель и знаменатель на :
|
|
где – среднее значение результативной переменной; – среднее значение факторной переменной; – среднее арифметическое значение произведения результативной и факторной переменных; – дисперсия факторной переменной; – ковариация между результативной и факторной переменными.
Для проверки правильности оценки коэффициентов модели регрессии может быть проведено сравнение сумм (при этом допустимо расхождение из-за округления расчетов).
Модель парной регрессии может быть записана в следующем виде:
Действительно:
где - значение результативной переменной; - значение факторной переменной; - среднее значение результативной переменной; - объем выборочной совокупности; - среднее значение факторной переменной; - выборочный коэффициент регрессии по - выборочный парный коэффициент корреляции:
где - среднее арифметическое значение произведения факторной и результативной переменной; - выборочное среднеквадратическое отклонение результативной переменной ; - выборочное среднеквадратическое отклонение факторной переменной
Выборочный коэффициент регрессии показывает насколько в среднем, изменится результативная переменная при изменении факторной переменной на единицу своего измерения.
Выборочный парный коэффициент корреляции характеризует тесноту связи между изучаемыми переменными.
Можно выделить несколько особенностей парного корреляционного коэффициента: коэффициент изменяется в пределах
Если то связь между переменными обратная.
Если то связь между переменными прямая.
Если то связь между переменными отсутствует.
|
|
Если или то связь между изучаемыми переменными функциональная. При таком значении парного коэффициента корреляции, регрессионный анализ между изучаемыми переменными не проводится.
Пример 1. Используя условие примера 1 (лекция 3, вычислить выборочный парный коэффициент корреляции
Решение: Воспользуемся формулой:
Запишем модель парной регрессии: где - выборочный коэффициент регрессии по : Тогда модель регрессии будет иметь вид: или
Экономическая интерпретация данной модели регрессии: если инвестиции к примеру предприятия в основной капитал изменится на одну денежную единицу, то объем производства в среднем изменится на 0,21 денежных единиц.