Критерий согласия Колмогорова

Критерий согласия Колмогорова предназначен для проверки гипотезы о принадлежности выборки некоторому закону распределения, то есть проверки того, что эмпирическое распределение соответствует предполагаемой модели.

Критерий однородности Смирнова используется для проверки гипотезы о принадлежности двух независимых выборок одному закону распределения, то есть о том, что два эмпирических распределения соответствуют одному и тому же закону.

Эти критерии носят имена математиков Андрея Николаевича Колмогорова и Николая Васильевича Смирнова.

Критерий Смирнова о проверке гипотезы об однородности двух эмпирических законов распределения является одним из наиболее часто используемых непараметрических критериев.

ОписаниеПравить

Если в критерии ${\mathrm{\chi <!--\; \chi \; -->}}^2$$\chi ^{2}$  сопоставляются частоты двух распределений отдельно по каждому разряду, то здесь сопоставляются сначала частоты по первому разряду, потом по сумме первого и второго разрядов, потом по сумме первого, второго и третьего разрядов и т. д. Таким образом, каждый раз сопоставляются накопленные к данному разряду частоты.

Если различия между двумя распределениями существенны, то в какой-то момент разность накопленных частот достигнет критического значения, и различия можно будет признать статистически достоверными. В формулу критерия $\mathrm{\lambda <!--\; \lambda \; -->}$$\lambda$   включается эта разность. Чем больше эмпирическое значение $\mathrm{\lambda <!--\; \lambda \; -->}$$\lambda$ , тем более существенными являются различия.

Статистика критерия КолмогороваПравить

Пусть эмпирическая функция распределения (ЭФР) $F_n$$F_{n}$ , построенная по выборке $X=\left(X_1,\dots <!--\; \dots \; -->,X_n\right)$$X=\left(X_{1},\;\ldots ,\;X_{n}\right)$ , имеет вид:

$F_n(x)=\frac{1}{n}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{I}_{X_i⩽<!--\; ⩽\; -->x},$$F_{n}(x)={\frac {1}{n}}\sum _{i=1}^{n}I_{X_{i}\leqslant x},$ 

где $I_{X_i⩽<!--\; ⩽\; -->x}$$I_{X_{i}\leqslant x}$  указывает, попало ли наблюдение $X_i$$X_{i}$  в область $(-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->},x]$$(-\infty ,\;x]$ :

$I_{X_{i}\leqslant x}={\begin{cases}1,&X_{i}\leqslant x;\\0,&X_{i}>x.\end{cases}}$ 

Выполняется проверка того, является ли выборка порождённой случайной величиной $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  с функцией распределения $F(x)$$F(x)$ . Статистика критерия для эмпирической функции распределения $F_n(x)$$F_{n}(x)$  определяется следующим образом:

$D_n=\underset{x\in <!--\; \in \; -->\mathbb{R}}{sup}|F_n(x)-<!--\; -\; -->F(x)|,$$D_{n}=\sup _{x\in \mathbb {R} }|F_{n}(x)-F(x)|,$ 

где под $sup$$\sup$  понимается супремум функции $|F_n(x)-<!--\; -\; -->F(x)|$${|F_{n}(x)-F(x)|}$ .

Распределение статистики КолмогороваПравить

Обозначим нулевую гипотезу $H_0$$H_{0}$ , как гипотезу о том, что выборка подчиняется распределению $F(X)\in <!--\; \in \; -->C^1(\mathbb{X})$$F(X)\in C^{1}(\mathbb {X} )$ . Тогда по теореме Колмогорова для введённой статистики справедливо:

$\mathrm{\forall <!--\; \forall \; -->}t>0:<!--\; :\; -->\underset{n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{lim}P(\sqrt{n}{D}_n⩽<!--\; ⩽\; -->t)=K(t)=\underset{j=-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{+\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}(-<!--\; -\; -->1{)}^j{e}^{-<!--\; -\; -->2j^2{t}^2}.$$\forall t>0\colon \lim _{n\to \infty }P({\sqrt {n}}D_{n}\leqslant t)=K(t)=\sum _{j=-\infty }^{+\infty }(-1)^{j}e^{-2j^{2}t^{2}}.$ 

Учтём, что критерий имеет правостороннюю критическую область.

Принятие решения по критерию Колмогорова. Если статистика $\sqrt{n}{D}_n$${\sqrt {n}}D_{n}$  превышает процентную точку распределения Колмогорова $K_{\mathrm{\alpha <!--\; \alpha \; -->}}$$K_{\alpha }$  заданного уровня значимости $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$ , то нулевая гипотеза $H_0$$H_{0}$  (о соответствии закону $F(x)$$F(x)$ ) отвергается. Иначе гипотеза принимается на уровне $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$ .

Если $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$  достаточно близко к 1, то $K_{\mathrm{\alpha <!--\; \alpha \; -->}}$$K_{\alpha }$  можно приблизительно рассчитать по формуле:

$K_{\mathrm{\alpha <!--\; \alpha \; -->}}\approx <!--\; \approx \; -->\sqrt{-<!--\; -\; -->\frac{1}{2}\ln <!--\; \; -->\frac{1-<!--\; -\; -->\mathrm{\alpha <!--\; \alpha \; -->}}{2}}.$$K_{\alpha }\approx {\sqrt {-{\frac {1}{2}}\ln {\frac {1-\alpha }{2}}}}.$ 

Асимптотическая мощность критерия равна 1.

---

Обозначим теперь за нулевую гипотезу $H_0$$H_{0}$  гипотезу о том, что две исследуемые выборки подчиняются одному распределению случайной величины $\mathrm{\xi <!--\; \xi \; -->}:<!--\; :\; -->F(X)\in <!--\; \in \; -->C^1(\mathbb{X})$$\xi \colon F(X)\in C^{1}(\mathbb {X} )$ .

Теорема Смирнова. Пусть $F_{1,n}(x),F_{2,m}(x)$$F_{1,\;n}(x),\;F_{2,\;m}(x)$  — эмпирические функции распределения, построенные по независимым выборкам объёмом $n$$n$  и $m$$m$  случайной величины $\mathrm{\xi <!--\; \xi \; -->}$$\xi$ . Тогда, если $F(x)\in <!--\; \in \; -->C^1(\mathbb{X})$$F(x)\in C^{1}(\mathbb {X} )$ , то $\mathrm{\forall <!--\; \forall \; -->}t>0:<!--\; :\; -->\underset{n,m\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{lim}P\left(\sqrt{\frac{nm}{n+m}}{D}_{n,m}⩽<!--\; ⩽\; -->t\right)=K(t)=\underset{j=-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{+\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}(-<!--\; -\; -->1{)}^j{e}^{-<!--\; -\; -->2j^2{t}^2}$$\forall t>0\colon \lim _{n,\;m\to \infty }P\left({\sqrt {\frac {nm}{n+m}}}D_{n,\;m}\leqslant t\right)=K(t)=\sum _{j=-\infty }^{+\infty }(-1)^{j}e^{-2j^{2}t^{2}}$ , где $D_{n,m}=\underset{x}{sup}|F_{1,n}-<!--\; -\; -->F_{2,m}|$$D_{n,\;m}=\sup _{x}|F_{1,\;n}-F_{2,\;m}|$ .

Теорема Смирнова позволяет построить критерий для проверки двух выборок на однородность.

Принятие решения по критерию Смирнова. Если статистика $\sqrt{\frac{nm}{n+m}}{D}_{n,m}$${\sqrt {\frac {nm}{n+m}}}D_{n,\;m}$  превышает квантиль распределения Колмогорова $K_{\mathrm{\alpha <!--\; \alpha \; -->}}$$K_{\alpha }$  для заданного уровня значимости $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$ , то нулевая гипотеза $H_0$$H_{0}$  (об однородности выборок) отвергается. Иначе гипотеза принимается на уровне $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$ .

См. такжеПравить

• Проверка статистических гипотез
• Статистический критерий
  • Q-критерий Розенбаума
  • U-критерий Манна — Уитни
  • t-критерий Стьюдента
  • Критерий отношения правдоподобия
  • Критерий Пирсона
  • Критерий согласия Купера
• Критерий Крамера — Мизеса — Смирнова
• Критерий Андерсона-Дарлинга
• Критерий согласия Пирсона
• Критерий согласия Ватсона

Примечание 1Править

В критерии Колмогорова предпочтительней использование статистики с поправкой Большева в следующем виде $\sqrt{n}{D}_n+1/(6\sqrt{n})$${\sqrt {n}}D_{n}+1/(6{\sqrt {n}})$ . Распределение данной статистики уже не так сильно зависит от объема выборки. Зависимостью её распределения от объема выборки $n$$n$  можно пренебречь при $n>25$$n>25$ .

Примечание 2Править

Классический критерий Колмогорова предназначен для проверки простых гипотез. Если проверяется гипотеза о согласии наблюдаемой выборки с законом, все параметры которого известны, то критерий Колмогорова является свободным от распределения: неважно, с каким законом проверяется согласие. Если проверяемая гипотеза справедлива, предельным распределением статистики Колмогорова является распределение Колмогорова $K(t)$$K(t)$ .

Всё меняется при проверке сложных гипотез, когда по анализируемой выборке оцениваются параметры теоретического закона, согласие с которым проверяется. При проверке сложных гипотез свобода от распределения теряется. При проверке сложных гипотез и справедливости проверяемой гипотезы распределения статистик непараметрических критериев согласия (и критерия Колмогорова) зависят от ряда факторов: от вида наблюдаемого закона, соответствующего проверяемой гипотезе; от типа оцениваемого параметра и числа оцениваемых параметров; в некоторых случаях от конкретного значения параметра (например, в случае семейств гамма- и бета-распределений); от метода оценивания параметров. Различия в предельных распределениях той же самой статистики при проверке простых и сложных гипотез настолько существенны, что пренебрегать этим ни в коем случае нельзя.

О применении критерия Колмогорова при проверке сложных гипотезПравить

• Об ошибках, совершаемых при использовании непараметрических критериев согласия
• Непараметрические критерии согласия (Рекомендации Р 50.1.037-2002 на сайте Новосибирского государственного технического университета)
• Уточнение рекомендаций Р 50.1.037-2002 (Часть 1) на сайте НГТУ
• Уточнение рекомендаций Р 50.1.037-2002 (Часть 2) на сайте НГТУ

СсылкиПравить

• Критерий Колмогорова на сайте Новосибирского государственного университета
• Критерий однородности Смирнова на сайте Новосибирского государственного технического университета