Обобщенная модель наименьших квадратов.

Обобщенная линейная модель множественной регрессии.

Y = Xb + e,                                                          (2.1)

 в которой переменные и параметры определены так же, как в разделе 1.1, описывается следующей  системой соотношений и условий:

1) e  – случайный вектор; X — неслучайная (детерминированная) матрица;

2)        M(e)=0;

3)        , где  W   –  положительно определенная матрица;

4)        r(X) = p+1 < n,

где  р  – число объясняющих переменных; п  – число наблюдений.

Сравнивая обобщенную модель с классической (раздел 1,1), видим,  что  она отличается от классической только видом ковариационной матрицы:  вместо   Qe = s2I  для классической модели имеем  для обобщенной. Это означает, что в отличие от классической, в обобщенной модели ковариации и дисперсии объясняющих переменных могут быть произвольными. В этом состоит суть обобщения регрессионной модели.

 Обобщённый метод наименьших квадратов (ОМНК, GLS — англ. Generalized Least Squares) — метод оценки параметров регрессионных моделей, являющийся обобщением классического метода наименьших квадратов. Обобщённый метод наименьших квадратов сводится к минимизации «обобщённой суммы квадратов» остатков регрессии — , где  — вектор остатков,  — симметрическая положительно определенная весовая матрица. Обычный МНК является частным случаем обобщённого, когда весовая матрица пропорциональна единичной.

Необходимо отметить, что обычно обобщённым методом наименьших квадратов называют частный случай, когда в качестве весовой матрицы используется матрица, обратная ковариационной матрице случайных ошибок модели.

Вопрос  об эффективности линейной несмещенной оценки вектора b для обобщенной регрессионной модели решается с помощью следующей теоремы.

Теорема Айткена. В классе линейных несмещенных оценок вектора b для обобщенной регрессионной модели оценка

                                              (2.4)

имеет наименьшую ковариационную матрицу.

Формула (2.4) и является реализацией так называемого обобщенного метода наименьших квадратов (ОМНК). Оценки, полученные с помощью ОМНК, при выполнении предпосылок для обобщенной линейной модели множественной регрессии (см. выше), являются несмещенными, состоятельными и эффективными.

Следует отметить, что для применения обобщенного метода наименьших квадратов необходимо знание ковариационной матрицы вектора возмущений W, что встречается крайне редко в практике эконометрического моделирования. Если жесчитать все n(n+1)/2 элементов симметричной ковариационной матрицы W неизвестными параметрами обобщенной модели (вдополнении к (/p + 1) параметрам bj), то общее число параметров значительно превысит число наблюдений п, что сделает оценкуэтих параметров неразрешимой задачей. Поэтому для практической реализации обобщенного метода наименьших квадратовнеобходимо вводить дополнительные условия на структуру матрицы W.. Так, известен практически реализуемый  (илидоступный)  обобщенный методу наименьших квадратов.