Тест Вальда

Тест Ва́льда — статистический тест, используемый для проверки ограничений на параметры статистических моделей, оценённых на основе выборочных данных. Является одним из трёх базовых тестов проверки ограничений наряду с тестом отношения правдоподобия и тестом множителей Лагранжа. Тест является асимптотическим, то есть для достоверности выводов требуется достаточно большой объём выборки.

Сущность и процедура тестаПравить

Пусть имеется эконометрическая модель с вектором параметров $b$$b$ . Необходимо проверить по выборочным данным гипотезу $H_0:g(b)=0$$H_{0}:~g(b)=0$ , где $g$$g$  — совокупность (вектор) некоторых функций параметров. Идея теста заключается в том, что если нулевая гипотеза верна, то и выборочный вектор $g(\stackrel{^<!--\; ^\; -->}{b})$$g({\hat {b}})$  должен быть в некотором смысле близок к нулю. Предполагается, что оценки параметров хотя бы состоятельны и асимптотически нормальны (таковы, например, оценки метода максимального правдоподобия), то есть

$\sqrt{n}(\stackrel{^<!--\; ^\; -->}{b}-<!--\; -\; -->b)\stackrel{n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{\to }N(0,V)$${\sqrt {n}}({\hat {b}}-b){\xrightarrow {n\rightarrow \infty }}N(0,V)$ 

Отсюда, исходя из предельных теорем имеем:

$\sqrt{n}(g(\stackrel{^<!--\; ^\; -->}{b})-<!--\; -\; -->g(b))\stackrel{n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{\to }N(0,G(b)VG(b{)}^T)$${\sqrt {n}}(g({\hat {b}})-g(b)){\xrightarrow {n\rightarrow \infty }}N(0,G(b)VG(b)^{T})$ 

где $G(b)=\frac{\mathrm{\partial <!--\; \partial \; -->}g(b)}{\mathrm{\partial <!--\; \partial \; -->}b}$$G(b)={\frac {\partial g(b)}{\partial b}}$  — якобиан (матрица первых производных) вектора $g(b)$$g(b)$  в точке $b$$b$ .

Тогда

$(g(\stackrel{^<!--\; ^\; -->}{b})-<!--\; -\; -->g(b){)}^T(G(b)V_{\stackrel{^<!--\; ^\; -->}{b}}{G}^T(b){)}^{-<!--\; -\; -->1}(g(\stackrel{^<!--\; ^\; -->}{b})-<!--\; -\; -->g(b))\stackrel{n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{\to }{\mathrm{\chi <!--\; \chi \; -->}}^2(q),V_{\stackrel{^<!--\; ^\; -->}{b}}=V/n$$(g({\hat {b}})-g(b))^{T}(G(b)V_{{{\hat b}}}G^{T}(b))^{{-1}}(g({\hat {b}})-g(b)){\xrightarrow {n\rightarrow \infty }}\chi ^{2}(q)~,~~V_{{{\hat b}}}=V/n$ 

Если выполнена нулевая гипотеза ($g(b)=0$$g(b)=0$ ), то имеем

$W=g(\stackrel{^<!--\; ^\; -->}{b}{)}^T(G(b)V_{\stackrel{^<!--\; ^\; -->}{b}}{G}^T(b){)}^{-<!--\; -\; -->1}g(\stackrel{^<!--\; ^\; -->}{b})\underset{H_0}{\overset{n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{\to }}{\mathrm{\chi <!--\; \chi \; -->}}^2(q),V_{\stackrel{^<!--\; ^\; -->}{b}}=V/n$$W=g({\hat {b}})^{T}(G(b)V_{{{\hat b}}}G^{T}(b))^{{-1}}g({\hat {b}}){\xrightarrow[ {H_{0}}]{n\rightarrow \infty }}\chi ^{2}(q)~,~~V_{{{\hat b}}}=V/n$ 

Это и есть статистика Вальда. Поскольку ковариационная матрица $V$$V$ , вообще говоря, на практике неизвестна, то вместо неё используется некоторая её оценка. Также вместо неизвестных истинных значений коэффициентов $b$$b$  используют их оценки $\stackrel{^<!--\; ^\; -->}{b}$${\hat b}$ . Следовательно на практике мы получаем приблизительное значение $W$$W$ , поэтому тест Вальда асимптотический, то есть для правильных выводов нужна большая выборка.

Если эта статистика больше критического значения ${\mathrm{\chi <!--\; \chi \; -->}}_{\mathrm{\alpha <!--\; \alpha \; -->}}^2(q)$$\chi _{{\alpha }}^{2}(q)$  при данном уровне значимости $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$ , то гипотеза об ограничениях отвергается в пользу модели без ограничений («длинная модель»). В противном случае ограничения могут иметь место, и лучше построить модель с ограничениями, называемую «короткой моделью».

Необходимо отметить, что тест Вальда чувствителен к способу формулировки нелинейных ограничений. Например, простое ограничение равенства двух коэффициентов можно сформулировать как равенство их отношения единице. Тогда результаты теста теоретически могут быть разными, несмотря на то, что гипотеза одна и та же.

Частные случаиПравить

Если функции $g$$g$  линейны, то есть проверяется гипотеза следующего вида $H_0:Ab=a$$H_{0}:~Ab=a$ , где $A$$A$  — некоторая матрица ограничений, $a$$a$  — некоторый вектор, то матрица $G(b)$$G(b)$  в данном случае - это фиксированная матрица $A$$A$ . Если речь идёт о классической линейной модели регрессии, то ковариационная матрица оценок коэффициентов равна $V_{\stackrel{^<!--\; ^\; -->}{b}}={\mathrm{\sigma <!--\; \sigma \; -->}}^2(X^{T}X{)}^{-<!--\; -\; -->1}$$V_{{{\hat {b}}}}=\sigma ^{2}(X^{T}X)^{{-1}}$ . Поскольку дисперсия ошибок ${\mathrm{\sigma <!--\; \sigma \; -->}}^2$$\sigma ^{2}$  неизвестна, то используют либо её состоятельную оценку ${\stackrel{^<!--\; ^\; -->}{\mathrm{\sigma <!--\; \sigma \; -->}}}^2=ESS/n$${\hat {\sigma }}^{2}=ESS/n$ , либо несмещённую оценку $s^2=ESS/(n-<!--\; -\; -->k)$$s^{2}=ESS/(n-k)$ . Следовательно, статистика Вальда тогда имеет вид:

$W=(A\stackrel{^<!--\; ^\; -->}{b}-<!--\; -\; -->a{)}^T(A(X^{T}X{)}^{-<!--\; -\; -->1}{A}^T{)}^{-<!--\; -\; -->1}(A\stackrel{^<!--\; ^\; -->}{b}-<!--\; -\; -->a)/s^2$$W=(A{\hat {b}}-a)^{T}(A(X^{T}X)^{{-1}}A^{T})^{{-1}}(A{\hat {b}}-a)/s^{2}$ 

В частном случае, когда матрица ограничений единичная (то есть проверяются равенства коэффициентов некоторым значениям), то формула упрощается:

$W=(\stackrel{^<!--\; ^\; -->}{b}-<!--\; -\; -->a{)}^T(X^{T}X)(\stackrel{^<!--\; ^\; -->}{b}-<!--\; -\; -->a)/s^2$$W=({\hat {b}}-a)^{T}(X^{T}X)({\hat {b}}-a)/s^{2}$ 

Если рассматривается только одно линейное ограничение $c^{T}b=a$$c^{T}b=a$ , то статистика Вальда будет равна

$W=(c^{T}b-<!--\; -\; -->a{)}^2/(s^2{c}^T(X^{T}X{)}^{-<!--\; -\; -->1}c)$$W=(c^{T}b-a)^{2}/(s^{2}c^{T}(X^{T}X)^{{-1}}c)$ 

В данном случае статистика Вальда оказывается равной квадрату $t$$t$ -статистики.

Можно показать, что статистика Вальда для классической линейной модели выражается через суммы квадратов остатков длинной и короткой моделей следующим образом

$W=\frac{ES{S}_S-<!--\; -\; -->ES{S}_L}{ES{S}_L/n}$$W={\frac {ESS_{S}-ESS_{L}}{ESS_{L}/n}}$ ,

где индекс $L$$L$  относится к длинной модели (long), а $S$$S$  — к короткой (short). Если используется несмещённая оценка дисперсии ошибок, то в формуле вместо $n$$n$  необходимо использовать $(n-<!--\; -\; -->k)$$(n-k)$ .

В частности, для проверки значимости регрессии в целом $ES{S}_S=TSS$$ESS_{S}=TSS$ , поэтому получаем следующую формулу для статистики Вальда

$W=\frac{TSS-<!--\; -\; -->ESS}{ESS/n}=n\frac{1-<!--\; -\; -->ESS/TSS}{ESS/TSS}=\frac{n{R}^2}{1-<!--\; -\; -->R^2}$$W={\frac {TSS-ESS}{ESS/n}}=n{\frac {1-ESS/TSS}{ESS/TSS}}={\frac {nR^{2}}{1-R^{2}}}$ 

где $R^2$$R^2$  — коэффициент детерминации.

Взаимосвязь с другими тестамиПравить

Доказано, что тест Вальда (W), тест отношения правдоподобия (LR) и тест множителей Лагранжа (LM) — асимптотически эквивалентные тесты ($LM=LR=W$$LM=LR=W$ ). Тем не менее для конечных выборок значения статистик не совпадают. Для линейных ограничений доказано неравенство $LM⩽<!--\; ⩽\; -->LR⩽<!--\; ⩽\; -->W$$LM\leqslant LR\leqslant W$ . Тем самым тест Вальда будет чаще других тестов отвергать нулевую гипотезу об ограничениях. В случае нелинейных ограничений первая часть неравенства выполняется, а вторая — вообще говоря, нет.

Вместо теста Вальда можно использовать F-тест, статистика которого рассчитывается по формуле:

$F=\frac{n-<!--\; -\; -->k}{q}W/n$$F={\frac {n-k}{q}}W/n$ 

или ещё проще $F=W/q$$F=W/q$ , если при расчёте статистики Вальда использовалась несмещённая оценка дисперсии. Эта статистика имеет в общем случае асимптотическое распределение Фишера $F(q,n-<!--\; -\; -->k)$$F(q,n-k)$ . В случае нормального распределения данных — то и на конечных выборках.

ЛитератураПравить

• Магнус Я. Р., Катышев П. К., Пересецкий А. А. Эконометрика. — М.: Дело, 2004. — 576 с.
• William H. Greene. Econometric analysis. — New York: Pearson Education, Inc., 2003. — 1026 с.