Неравенство Гаека — Реньи

Неравенство Гаека — Реньи в теории вероятностей названо по имени Ярослава Гаека^[en] и Альфреда Реньи.

ФормулировкаПравить

Если случайные величины ${\mathrm{\xi <!--\; \xi \; -->}}_1,{\mathrm{\xi <!--\; \xi \; -->}}_2,...,{\mathrm{\xi <!--\; \xi \; -->}}_n,...$$\xi _{1},\xi _{2},...,\xi _{n},...$  являются независимыми, $M{\mathrm{\xi <!--\; \xi \; -->}}_k=a_k,D{\mathrm{\xi <!--\; \xi \; -->}}_k={\mathrm{\sigma <!--\; \sigma \; -->}}_k^2,k=1,2,...$$M\xi _{k}=a_{k},D\xi _{k}=\sigma _{k}^{2},k=1,2,...$ , а $C_1,C_2,...$$C_{1},C_{2},...$  — невозрастающая последовательность неотрицательных чисел, то для любого $\mathrm{\epsilon <!--\; \epsilon \; -->}>0$$\varepsilon >0$  и для всех $m,n \in \mathbb{N}, m<n,$  выполнено

$P\left(\underset{m⩽<!--\; ⩽\; -->k⩽<!--\; ⩽\; -->n}{max}{C}_k\left|\underset{i=1}{\overset{k}{\sum <!--\; \sum \; -->}}\left({\mathrm{\xi <!--\; \xi \; -->}}_i-<!--\; -\; -->a_i\right)\right|>\mathrm{\epsilon <!--\; \epsilon \; -->}\right)⩽<!--\; ⩽\; -->\frac{1}{{\mathrm{\epsilon <!--\; \epsilon \; -->}}^2}\left(C_m^2\underset{k=1}{\overset{m}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_k^2+\underset{k=m+1}{\overset{n}{\sum <!--\; \sum \; -->}}{C}_k^2{\mathrm{\sigma <!--\; \sigma \; -->}}_k^2\right)$$P\left (\max_{m\leqslant k\leqslant n}C_k \left |\sum_{i=1}^{k} \left(\xi_i - a_{i} \right )\right | > \varepsilon \right )\leqslant \frac{1}{\varepsilon^2}\left ( C^2_{m}\sum_{k=1}^{m}\sigma^2_{k} + \sum_{k=m+1}^{n}C_{k}^{2}\sigma_{k}^{2} \right )$ 

ДоказательствоПравить

Введём следующие обозначения:

$S_k=\underset{i=1}{\overset{k}{\sum <!--\; \sum \; -->}}\left({\mathrm{\xi <!--\; \xi \; -->}}_i-<!--\; -\; -->a_i\right)$$S_{k}=\sum_{i=1}^{k}\left(\xi_{i}-a_{i} \right )$  ,

$\mathrm{\eta <!--\; \eta \; -->}=\underset{k=m}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}{S}_k^2\left(C_k^2-<!--\; -\; -->C_{k+1}^2\right)+S_n^2{C}_n^2$$\eta=\sum_{k=m}^{n-1}S_{k}^{2}\left(C_{k}^2 - C_{k+1}^{2} \right)+S_{n}^{2}C_{n}^{2}$ 

Найдем математическое ожидание $\mathrm{\eta <!--\; \eta \; -->}$$\eta$  и преобразуем его к удобному виду:

$\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}=\underset{k=m}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}\left(C_k^2-<!--\; -\; -->C_{k+1}^2\right)\mathsf{M}{S}_k^2+C_n^2\mathsf{M}{S}_n^2=\underset{k=m}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}\underset{i=1}{\overset{k}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2\left(C_k^2-<!--\; -\; -->C_{k+1}^2\right)+C_n^2\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2=$${\mathsf {M}}\eta =\sum _{k=m}^{n-1}\left(C_{k}^{2}-C_{k+1}^{2}\right){\mathsf {M}}S_{k}^{2}+C_{n}^{2}{\mathsf {M}}S_{n}^{2}=\sum _{k=m}^{n-1}\sum _{i=1}^{k}\sigma _{i}^{2}\left(C_{k}^{2}-C_{k+1}^{2}\right)+C_{n}^{2}\sum _{i=1}^{n}\sigma _{i}^{2}=$ 

$=\underset{i=1}{\overset{m}{\sum <!--\; \sum \; -->}}\underset{k=m}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2\left(C_k^2-<!--\; -\; -->C_{k+1}^2\right)+C_n^2\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2=\underset{i=1}{\overset{m}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2\left(C_m^2-<!--\; -\; -->C_n^2\right)+\underset{i=m+1}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2\left(C_i^2-<!--\; -\; -->C_n^2\right)+C_n^2\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2=C_m^2\underset{i=1}{\overset{m}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2+\underset{i=m+1}{\overset{n}{\sum <!--\; \sum \; -->}}{\mathrm{\sigma <!--\; \sigma \; -->}}_i^2{C}_i^2$$=\sum_{i=1}^{m}\sum_{k=m}^{n-1}\sigma^2_{i}\left(C_{k}^{2}-C_{k+1}^{2} \right ) + C^{2}_{n}\sum_{i=1}^{n}\sigma_{i}^{2}=\sum_{i=1}^{m}\sigma^{2}_{i}\left(C^{2}_{m}-C^{2}_{n} \right ) + \sum_{i=m+1}^{n-1}\sigma_{i}^{2}\left(C_{i}^{2}-C_{n}^{2} \right )+C^{2}_{n}\sum_{i=1}^{n}\sigma_{i}^{2}=C^{2}_{m}\sum_{i=1}^{m}\sigma_{i}^{2}+\sum_{i=m+1}^{n}\sigma_{i}^{2}C_{i}^{2}$ 

Рассмотрим следующие случайные события для некоторого $\mathrm{\epsilon <!--\; \epsilon \; -->}>0$$\varepsilon >0$ 

$A_i=\left\{\mathrm{\omega <!--\; \omega \; -->}\in <!--\; \in \; -->\mathrm{\Omega <!--\; \Omega \; -->}:C_k\left|S_k\left(\mathrm{\omega <!--\; \omega \; -->}\right)\right|\le <!--\; \le \; -->\mathrm{\epsilon <!--\; \epsilon \; -->},m\le <!--\; \le \; -->k\le <!--\; \le \; -->i-<!--\; -\; -->1,C_i\left|S_i\left(\mathrm{\omega <!--\; \omega \; -->}\right)\right|>\mathrm{\epsilon <!--\; \epsilon \; -->}\right\},i=\stackrel{¯<!--\; ¯\; -->}{m,n}$$A_{i}= \left \{ \omega \in\Omega:C_{k} \left | S_{k}\left(\omega \right ) \right |\leq\varepsilon, m\leq k\leq i-1, C_{i}\left |S_{i}\left(\omega \right ) \right |> \varepsilon \right \}, i=\overline{m,n}$ 

События $A_i,i=\stackrel{¯<!--\; ¯\; -->}{m,n},$$A_{i}, i=\overline{m,n},$  являются несовместными. Значит,

$P\left(\underset{m\le <!--\; \le \; -->k\le <!--\; \le \; -->}{max}{C}_k\left|\underset{i=1}{\overset{k}{\sum <!--\; \sum \; -->}}\left({\mathrm{\xi <!--\; \xi \; -->}}_i-<!--\; -\; -->a_i\right)\right|>\mathrm{\epsilon <!--\; \epsilon \; -->}\right)=P\left(\underset{i=1}{\overset{n}{\bigcup <!--\; \bigcup \; -->}}{A}_i\right)=\underset{i=m}{\overset{n}{\sum <!--\; \sum \; -->}}P\left(A_i\right)$$P\left ( \max_{m\leq k\leq}C_{k}\left | \sum_{i=1}^{k}\left(\xi_{i}-a_{i} \right ) \right |>\varepsilon \right ) = P\left(\bigcup_{i=1}^{n}A_{i} \right )=\sum_{i=m}^{n}P\left(A_{i} \right)$ 

Теорема будет доказана, если будет установлено неравенство:

$\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}\ge <!--\; \ge \; -->{\mathrm{\epsilon <!--\; \epsilon \; -->}}^2\underset{i=m}{\overset{n}{\sum <!--\; \sum \; -->}}P\left(A_i\right)$$\mathsf{M}\eta\geq \varepsilon^{2}\sum_{i=m}^nP\left(A_{i}\right)$ 

Докажем его:

$\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}\ge <!--\; \ge \; -->\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}\underset{i=m}{\overset{n}{\sum <!--\; \sum \; -->}}{I}_{A_i}=\underset{i=m}{\overset{n}{\sum <!--\; \sum \; -->}}\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}{I}_{A_i},$$\mathsf{M}\eta\geq \mathsf{M}\eta\sum_{i=m}^{n}I_{A_{i}}=\sum_{i=m}^{n}\mathsf{M}\eta I_{A_{i}},$ 

$\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}{I}_{A_i}=\underset{k=m}{\overset{n-<!--\; -\; -->1}{\sum <!--\; \sum \; -->}}\left(C_k^2-<!--\; -\; -->C_{k+1}^2\right)\mathsf{M}{S}_k^2{I}_{A_i}+C_n^2\mathsf{M}{S}_n^2{I}_{A_i}$$\mathsf{M}\eta I_{A_{i}}=\sum_{k=m}^{n-1}\left(C_{k}^2-C_{k+1}^{2} \right )\mathsf{M}S_{k}^{2}I_{A_{i}}+C_{n}^{2}\mathsf{M}S_{n}^{2}I_{A_{i}}$ 

$\mathsf{M}\mathrm{\eta <!--\; \eta \; -->}{I}_{A_i}=\mathsf{M}{\left(S_k-<!--\; -\; -->S_i+S_i\right)}^2{I}_{A_i}\ge <!--\; \ge \; -->\mathsf{M}{S}_i^2{I}_{A_i}+2\mathsf{M}\left(S_k-<!--\; -\; -->S_i\right)S_i{I}_{A_i}=\mathsf{M}{S}_i^2{I}_{A_i}+2\mathsf{M}\left(S_k-<!--\; -\; -->S_i\right)\mathsf{M}{S}_i{I}_{A_i}\ge <!--\; \ge \; -->\mathsf{M}\frac{{\mathrm{\epsilon <!--\; \epsilon \; -->}}^2}{C_i^2}{I}_{A_i}=\frac{{\mathrm{\epsilon <!--\; \epsilon \; -->}}^2}{C_i^2}P\left(A_i\right)$$\mathsf{M}\eta I_{A_{i}}=\mathsf{M}\left(S_{k}-S_{i}+S_{i} \right )^2I_{A_{i}}\geq\mathsf{M}S_{i}^{2}I_{A_{i}} + 2\mathsf{M}\left(S_{k} - S_{i} \right )S_{i}I_{A_{i}}=\mathsf{M}S_{i}^{2}I_{A_{i}} + 2\mathsf{M}\left(S_{k} - S_{i} \right )\mathsf{M}S_{i}I_{A_{i}}\geq\mathsf{M}\frac{\varepsilon^{2}}{C_{i}^2}I_{A_{i}}=\frac{\varepsilon^{2}}{C_{i}^2}P\left(A_{i} \right )$ 

Следствие (неравенство Колмогорова)Править

Если случайные величины ${\mathrm{\xi <!--\; \xi \; -->}}_1,{\mathrm{\xi <!--\; \xi \; -->}}_2,...,{\mathrm{\xi <!--\; \xi \; -->}}_n,...,$$\xi_{1},\xi_{2},...,\xi_{n},...,$  независимы и имеют конечные математические ожидания и дисперсии, то

$P\left(\underset{1\le <!--\; \le \; -->k\le <!--\; \le \; -->n}{max}\frac{1}{k}\left|\underset{i=1}{\overset{k}{\sum <!--\; \sum \; -->}}\left({\mathrm{\xi <!--\; \xi \; -->}}_i-<!--\; -\; -->\mathsf{M}{\mathrm{\xi <!--\; \xi \; -->}}_i\right)\right|>\mathrm{\epsilon <!--\; \epsilon \; -->}\right)\le <!--\; \le \; -->\frac{1}{{\mathrm{\epsilon <!--\; \epsilon \; -->}}^2}\underset{k=1}{\overset{n}{\sum <!--\; \sum \; -->}}\frac{D{\mathrm{\xi <!--\; \xi \; -->}}_k}{k^2}$$P\left(\max_{1\leq k\leq n}\frac{1}{k}\left|\sum_{i=1}^{k}\left(\xi_{i}-\mathsf{M}\xi_{i} \right ) \right|>\varepsilon \right )\leq\frac{1}{\varepsilon^{2}}\sum_{k=1}^{n}\frac{D\xi_{k}}{k^2}$ 

ДоказательствоПравить

Доказательство вытекает из неравенства Гаека — Реньи, если

$C_k=\frac{1}{k},$$C_{k}=\frac{1}{k},$ 

$m=1$$m=1$ 

Это неравенство можно записать в виде:

$P\left(\underset{1\le <!--\; \le \; -->k\le <!--\; \le \; -->n}{max}\frac{1}{k}\left|\underset{i=1}{\overset{k}{\sum <!--\; \sum \; -->}}\left({\mathrm{\xi <!--\; \xi \; -->}}_i-<!--\; -\; -->\mathsf{M}{\mathrm{\xi <!--\; \xi \; -->}}_i\right)\right|>\mathrm{\epsilon <!--\; \epsilon \; -->}\right)\le <!--\; \le \; -->\frac{1}{{\mathrm{\epsilon <!--\; \epsilon \; -->}}^2}\underset{k=1}{\overset{n}{\sum <!--\; \sum \; -->}}D{\mathrm{\xi <!--\; \xi \; -->}}_k$$P\left(\max_{1\leq k\leq n}\frac{1}{k}\left|\sum_{i=1}^{k}\left(\xi_{i}-\mathsf{M}\xi_{i} \right ) \right|>\varepsilon \right )\leq\frac{1}{\varepsilon^{2}}\sum_{k=1}^{n}D\xi_{k}$ 

ЛитератураПравить

• Лазакович Н.В., Сташуленок С.П., Яблонский О.Л. Курс Теории Вероятностей. — 2003. — 322 с. (Глава 6 § 3 раздел 2)

См. такжеПравить

• Закон больших чисел
• Центральная предельная теорема