11 Упражнения на гетероскедастичость

11.1 Упражнение 0

Даны две случайные величины: u,x - случайные величины

(матрица)

E(u|x)=?

Посчитаем условные математические ожидания для каждой случайной величины:

E(u|x=2)=10.5+10.5=0

E(u|x=3)=10.20.8+10.60.8=0.5

Совместим их:

E(u|x)={0если x=20.5если x=3

Также можем представить это условное математическое ожидание в виде функции

E(u|x)=0.5(x2)

Значение условной дисперсии Var(u|x):

Способ №1

Считаем отдельные дисперсии: Var(u|x=2) и Var(u|x=3). Совмещаем их, по аналогии с математическим ожиданием.

Способ №2

Var(u|x)=E(u2|x)[E(u|x)]2

E(u2|x)=1

Var(u|x)=10.25(x2)2

Так как x принимает всего два значения (x=2,x=3) условную дисперсию можно представить в виде системы:

Var(u|x)={1если x=20.75если x=3

или в качестве функции:

Var(u|x)=0.25x+1.5

Свойства условного математического ожидания:

  1. E(f(x)|x)=f(x)

  2. Var(f(x)|x)=0

  3. E(f(x)y|x)=f(x)E(y|x)

  4. E[E(y|x)]=E(y)

  5. Var(y)=Var(E(y|x))+E(Var(y|x)) по теореме Пифагора

11.2 Упражнение 1

  • Даны случайные величины X=(x1,x2,...,xn) и u=(u1,u2,...,un), где xi~N(10;9), при этом векторы (x1,u1);(x2,u2)...,(xn,un) независимы, то есть может существовать зависимость между xi,ui, однако нет зависимости между парами. *E(ui|xi)=0
  1. plim(1nXX)1=?

  2. plim(1nXu)=?

  3. plim(XX)1Xu=?

Решение:

  1. XX=x21+x22+...+x2n=ni=1x2i

plim(1nni=1x2i)1=[E(x2i)]1=(109)1 (по закону больших чисел)

Напоминание:

  • lim(f(an))=f(lim(an))

  • ЗБЧ: Y1,Y2,...,Yn i.i.d., следовательно, ˉ(Yn)>E(Y1)

  • E(x2i)=Var(xi)+(E(xi))2

  1. 1nXu=1nni=1xiu2i

По ЗБЧ plim(frac1nni=1xiu2i)=E(xiui).

Исходя из свойств условного математического ожидания E[E(y|x)]=E(y) представим E(xiui) как E(E(xiui|xi)).

Так как xi известно, то по свойству E(f(x)y|x)=f(x)E(y|x) можем вынести известную случайную величину за знак математического ожидания: E(xiE(ui|xi))=0

Следовательно, plim(1nXu)=0

  1. XX и Xu случайные величины домножим XX и Xu на 1n

plim(1nXX)11nXu = plim(1nXX)1plim(1nXu)=(109)10=0

Следовательно, plim(XX)1Xu=0

Напоминание:

  • lim(anbn)=lim(an)lim(bn)

11.3 Стохастические регрессоры

Если:

  1. y=Xβ+u

  2. β - константы

  3. В матрице Х: xi. - i-ая строка; векторы (xi.,yi) независимы и одинаково распределены. Наблюдения - это случайная выборка

  4. E(ui|xi)=0

  5. Гомоскедастичность E(u2i|xi)=Var(ui|xi)=σ2

  6. P(столбцыXлинейнонезависимы)=1

  7. ˆβ=(XX)1Xy

11.4 Теорема Гаусса Маркова для стохастических регрессоров

  1. Несмещенность: E(ˆβ|X)=β

  2. Var(ˆβ|X)=σ2(XX)1

  3. ˆβ линейна по y

  4. ˆβ эффективная и несмещенная оценка среди линейных по y

  5. plim(ˆβ)=β

11.5 Упражнение 2

Нарушена предпосылка теоремы Гаусса Маркова об отсутствие гетероскедастичности: Var(ui|xi)=f(xi.)

Найти:

  1. Какой вид имеет матрица Ω=Var(u|X)

  2. E(ˆβ|X)=?

  3. Var(ˆβ|X)=?

  4. plim(ˆβ)=?

Решение:

  1. Ω=(f(x1.)cov(u1,u2|X)cov(u1,un|X)  cov(u1,un|X)f(xn.))

Так как выборка случайна, то cov(ui,uj|X)=0, при ij

Ω=(f(x1.)00  0f(xn.))

  1. E(ˆβ|X)=β

  2. Var(ˆβ|X)=Var((XX)1Xy|X)=(XX)1X×Var(y|X)×((XX)1X)=(XX)1X×Var(y|X)×X(XX)1=(XX)1X×Var(Xβ+u|X)×X(XX)1=(XX)1X×Var(u|x)×X(XX)1=(XX)1X×Ω×X(XX)1

В действительности возникает проблема при оценке матрицы Ω, так как она имеет размер n×n, то есть нам нужно оценить n чисел на диагонали по n наблюдениям, что является достаточно нетривиальной задачей. Оказывается, что нельзя получить состоятельную оценку матрицы Ω, но можно получить такую оценку этой матрицы, чтобы левая часть, то есть Var(ˆβ|X), была состоятельна.

Например, состоятельной оценкой бцдет следующая: ^VarHC(ˆβ|X)=(XX)1X׈Ω×X(XX)1 где ˆΩ можно представить в виде:(White)

ˆΩHC0=(^u2100  0^u2n)

  • абревиатура НС - heteroscedasticity-consistent

При гетероскедастичности оценки несмещенные и состоятельные, но проблема будет заключаться в t-статистике, так как мы не знаем ее распределение, следовательно, нам необходимо использовать стандартные отклонения из устойчивой к гетерокедастичности матрицы, чтобы получить надежные оценки:

tHC=^βjβjseHC(^βj) ~ N(0;1) где seHC(^βj) находятся из матрицы ^VarHC(ˆβ|X)

и теперь tHC~N(0;1) (асимтотически нормальное)

  1. plim(ˆβ)=plim(XX)1Xy=β+plim(XX)1Xu=β