Линейная, параболическая и кубическая модели метода наименьших квадратов, соответствующие системы нормальных уравнений Гаусса

Метод Гаусса прекрасно подходит для решения систем линейных алгебраических уравнений (СЛАУ). Он обладает рядом преимуществ по сравнению с другими методами:

• во-первых, нет необходимости предварительно исследовать систему уравнений на совместность;
• во-вторых, методом Гаусса можно решать не только СЛАУ, в которых число уравнений совпадает с количеством неизвестных переменных и основная матрица системы невырожденная, но и системы уравнений, в которых число уравнений не совпадает с количеством неизвестных переменных или определитель основной матрицы равен нулю;
• в-третьих, метод Гаусса приводит к результату при сравнительно небольшом количестве вычислительных операций.

Определение коэффициентов модели регрессии осуществляется на третьем этапе схемы построения эконометрической модели. В результате этой процедуры рассчитываются оценки (приближенные значения) неизвестных коэффициентов спецификации модели.

Спецификация линейной эконометрической модели из изолированного уравнения с гомоскедастичными возмущениями имеет вид:

Рассмотрим метод наименьших квадратов на примере оценивания эконометрических моделей в виде моделей парной регрессии (изолированных уравнений с двумя переменными).

Если уравнение модели содержит две экономические переменные – эндогенную yiи предопределенную xi, то модель имеет вид:

Данная модель называется моделью линейной парной регрессии и содержит три неизвестных параметра:

β0 , β1 , σ. (3)

Предположим, что имеется выборка: (х1, y1), (х2, y2),… (хn , yn) (4)

Тогда в рамках исследуемой  модели данные величины связаны следующим образом:

y1 = a0 + a1 * x1 + u1,

y2 = a0 + a1 * x2 + u2, (5)

…

yn= a0 + a1 * x n + u n.

Данная система называется системой уравнений наблюдения объекта в рамках исследуемой линейной модели или схемой Гаусса-Маркова.

Компактная запись схемы Гаусса-Маркова:

где

– вектор-столбец известных значений эндогенной переменной yiмодели регрессии;

– вектор-столбец неизвестных значений случайных возмущений εi;

– матрица известных значений предопределенной переменной xi модели;

β = (β0  β1 )Т (10) – вектор неизвестных коэффициентов модели регрессии.

Обозначим оценку вектора неизвестных коэффициентов модели регрессии как

Данная оценка вычисляется на основании выборочных данных (7) и (9) с помощью некоторой процедуры:

где P (X, ỹ) – символ процедуры.

Процедура (12) называется линейной относительно вектора (7) значений эндогенной переменной yi, если выполняется условие:

где

(14) – матрица коэффициентов, зависящих только от выборочных значений (9) предопределенной переменной хi.