Математическое ожидание

Математи́ческое ожида́ние — понятие в теории вероятностей, означающее среднее (взвешенное по вероятностям возможных значений) значение случайной величины. В случае непрерывной случайной величины подразумевается взвешивание по плотности распределения (более строгие определения см. ниже). Математическое ожидание случайного вектора равно вектору, компоненты которого равны математическим ожиданиям компонентов случайного вектора.

Обозначается через $\mathbb{E}[X]$${\mathbb {E}}[X]$ (например, от англ. Expected value или нем. Erwartungswert); в русскоязычной литературе также встречается обозначение $M[X]$$M[X]$ (возможно, от англ. Mean value или нем. Mittelwert, а возможно от «Математическое ожидание»). В статистике часто используют обозначение $\mathrm{\mu <!--\; \mu \; -->}$$\mu$.

Для случайной величины, принимающей значения только 0 или 1 математическое ожидание равно p — вероятности «единицы». Математическое ожидание суммы таких случайных величин равно np, где n — количество таких случайных величин. При этом вероятности появления определенного кол-ва единиц рассчитываются по биномиальному распределению. Поэтому в литературе, скорее всего, легче найти запись, что мат. ожидание биномиального распределения равно np.

Некоторые случайные величины не имеют математического ожидания, например, случайные величины, имеющие распределение Коши.

На практике математическое ожидание обычно оценивается как среднее арифметическое наблюдаемых значений случайной величины (выборочное среднее, среднее по выборке). Доказано, что при соблюдении определенных слабых условий (в частности, если выборка является случайной, то есть наблюдения являются независимыми) выборочное среднее стремится к истинному значению математического ожидания случайной величины при стремлении объема выборки (количества наблюдений, испытаний, измерений) к бесконечности.

ОпределениеПравить

Общее определение через интеграл ЛебегаПравить

Пусть задано вероятностное пространство $(\mathrm{\Omega <!--\; \Omega \; -->},\mathfrak{A},\mathbb{P})$$(\Omega,\mathfrak{A},\mathbb{P})$  и определённая на нём случайная величина $X$$X$ . То есть, по определению, $X:<!--\; :\; -->\mathrm{\Omega <!--\; \Omega \; -->}\to <!--\; \to \; -->\mathbb{R}$$X\colon \Omega \to \mathbb {R}$  — измеримая функция. Если существует интеграл Лебега от $X$$X$  по пространству $\mathrm{\Omega <!--\; \Omega \; -->}$$\Omega$ , то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается $M[X]$$M[X]$  или $\mathbb{E}[X]$${\mathbb {E}}[X]$ .

$\mathbb{E}[X]=\underset{\mathrm{\Omega <!--\; \Omega \; -->}}{\int <!--\; \int \; -->}X(\mathrm{\omega <!--\; \omega \; -->})\mathbb{P}(d\mathrm{\omega <!--\; \omega \; -->}).$$\mathbb {E} [X]=\int \limits _{\Omega }\!X(\omega )\,\mathbb {P} (d\omega ).$ 

Определение через функцию распределения случайной величиныПравить

Если $F_X(x)$$F_{X}(x)$  — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

$\mathbb{E}[X]=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}xd{F}_X(x)$$\mathbb {E} [X]=\int \limits _{-\infty }^{\infty }\!x\,dF_{X}(x)$ , $x\in <!--\; \in \; -->\mathbb{R}$$x\in \mathbb {R}$ .

Определение для абсолютно непрерывной случайной величины (через плотность распределения)Править

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью $f_X(x)$$f_{X}(x)$ , равно

$\mathbb{E}[X]=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}x{f}_X(x)dx$$\mathbb {E} [X]=\int \limits _{-\infty }^{\infty }\!xf_{X}(x)\,dx$ .

Определение для дискретной случайной величиныПравить

Если $X$$X$  — дискретная случайная величина, имеющая распределение

$\mathbb{P}(X=x_i)=p_i$$\mathbb {P} (X=x_{i})=p_{i}$  , $\underset{i=1}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{p}_i=1$$\sum \limits _{i=1}^{\infty }p_{i}=1$ ,

то прямо из определения интеграла Лебега следует, что

$\mathbb{E}[X]=\underset{i=1}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{x}_i{p}_i$$\mathbb {E} [X]=\sum \limits _{i=1}^{\infty }x_{i}\,p_{i}$ .

Математическое ожидание целочисленной величиныПравить

• Если $X$$X$  — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

$\mathbb{P}(X=j)=p_j$$\mathbb {P} (X=j)=p_{j}$  , $j=0,1,\dots <!--\; \dots \; -->$$j=0,1,\dotsc$ , $\underset{j=0}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{p}_j=1$$\sum \limits _{j=0}^{\infty }p_{j}=1$ ,

то её математическое ожидание может быть выражено через производящую функцию последовательности $\{p_i\}$$\{p_{i}\}$ 

$P(s)=\underset{k=0}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{p}_k{s}^k$$P(s)=\sum _{{k=0}}^{\infty }\;p_{k}s^{k}$ 

как значение первой производной в единице: $\mathbb{E}[X]=P^{\prime }(1)$$\mathbb {E} [X]=P'(1)$ . Если математическое ожидание $X$$X$  бесконечно, то $\underset{s\to <!--\; \to \; -->1}{lim}{P}^{\prime }(s)=\mathrm{\infty <!--\; \infty \; -->}$$\lim _{{s\to 1}}P'(s)=\infty$  и мы будем писать $P^{\prime }(1)=\mathbb{E}[X]=\mathrm{\infty <!--\; \infty \; -->}$$P'(1)=\mathbb {E} [X]=\infty$ 

Теперь возьмём производящую функцию $Q(s)$$Q(s)$  последовательности «хвостов» распределения $\{q_k\}$$\{q_{k}\}$ 

$q_k=\mathbb{P}(X>k)=\underset{j=k+1}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{p}_j$$q_{k}=\mathbb {P} (X>k)=\sum _{j=k+1}^{\infty }{p_{j}}$  , $Q(s)=\underset{k=0}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{q}_k{s}^k.$$Q(s)=\sum _{k=0}^{\infty }q_{k}s^{k}.$ 

Эта производящая функция связана с определённой ранее функцией $P(s)$$P(s)$  свойством: $Q(s)=\frac{1-<!--\; -\; -->P(s)}{1-<!--\; -\; -->s}$$Q(s)={\frac {1-P(s)}{1-s}}$  при $|s|<1$ . Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

$\mathbb{E}[X]=P^{\prime }(1)=Q(1)$$\mathbb {E} [X]=P'(1)=Q(1)$ 

Математическое ожидание случайного вектораПравить

Пусть $X=(X_1,\dots <!--\; \dots \; -->,X_n{)}^{\mathrm{\top <!--\; \top \; -->}}:<!--\; :\; -->\mathrm{\Omega <!--\; \Omega \; -->}\to <!--\; \to \; -->{\mathbb{R}}^n$$X=(X_{1},\dots ,X_{n})^{{\top }}\colon \Omega \to {\mathbb {R}}^{n}$  — случайный вектор. Тогда по определению

$\mathbb{E}[X]=(\mathbb{E}[X_1],\dots <!--\; \dots \; -->,\mathbb{E}[X_n]{)}^{\mathrm{\top <!--\; \top \; -->}}$$\mathbb {E} [X]=(\mathbb {E} [X_{1}],\dots ,\mathbb {E} [X_{n}])^{\top }$ ,

то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величиныПравить

Пусть $g:<!--\; :\; -->\mathbb{R}\to <!--\; \to \; -->\mathbb{R}$$g\colon {\mathbb {R}}\to {\mathbb {R}}$  — борелевская функция, такая что случайная величина $Y=g(X)$$Y = g(X)$  имеет конечное математическое ожидание. Тогда для него справедлива формула

$\mathbb{E}\left[g(X)\right]=\underset{i=1}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}g(x_i)p_i,$$\mathbb {E} \left[g(X)\right]=\sum \limits _{i=1}^{\infty }g(x_{i})p_{i},$ 

если $X$$X$  имеет дискретное распределение;

$\mathbb{E}\left[g(X)\right]=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}g(x)f_X(x)dx,$$\mathbb {E} \left[g(X)\right]=\int \limits _{-\infty }^{\infty }\!g(x)f_{X}(x)\,dx,$ 

если $X$$X$  имеет абсолютно непрерывное распределение.

Если распределение ${\mathbb{P}}^X$$\mathbb {P} ^{X}$  случайной величины $X$$X$  общего вида, то

$\mathbb{E}\left[g(X)\right]=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}g(x){\mathbb{P}}^X(dx).$$\mathbb {E} \left[g(X)\right]=\int \limits _{-\infty }^{\infty }\!g(x)\,\mathbb {P} ^{X}(dx).$ 

В специальном случае, когда $g(X)=X^k$$g(X)=X^{k}$ , математическое ожидание $\mathbb{E}[g(X)]=\mathbb{E}[X^k]$$\mathbb {E} [g(X)]=\mathbb {E} [X^{k}]$  называется $k$$k$ -м моментом случайной величины.

Свойства математического ожиданияПравить

• Математическое ожидание числа (не случайной, фиксированной величины, константы) есть само число.

$\mathbb{E}[a]=a$$\mathbb {E} [a]=a$ 

$a\in <!--\; \in \; -->\mathbb{R}$$a\in {\mathbb {R}}$  — константа;

• Математическое ожидание линейно, то есть

$\mathbb{E}[aX+bY]=a\mathbb{E}[X]+b\mathbb{E}[Y]$$\mathbb {E} [aX+bY]=a\mathbb {E} [X]+b\mathbb {E} [Y]$ ,

где $X,Y$$X,Y$  — случайные величины с конечным математическим ожиданием, а $a,b\in <!--\; \in \; -->\mathbb{R}$$a,b\in \mathbb{R}$  — произвольные константы;

В частности, математическое ожидание суммы (разности) случайных величин равно сумме (соответственно — разности) их математических ожиданий.

• Математическое ожидание сохраняет неравенства, то есть если $0⩽<!--\; ⩽\; -->X⩽<!--\; ⩽\; -->Y$$0\leqslant X\leqslant Y$  почти наверняка, и $Y$$Y$  — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины $X$$X$  также конечно, и более того

$0⩽<!--\; ⩽\; -->\mathbb{E}[X]⩽<!--\; ⩽\; -->\mathbb{E}[Y]$$0\leqslant \mathbb {E} [X]\leqslant \mathbb {E} [Y]$ .

• Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если $X=Y$$X=Y$  почти наверняка, то

$\mathbb{E}[X]=\mathbb{E}[Y]$$\mathbb {E} [X]=\mathbb {E} [Y]$ .

• Математическое ожидание произведения двух независимых или некоррелированных случайных величин $X,Y$$X,Y$  равно произведению их математических ожиданий

$\mathbb{E}[XY]=\mathbb{E}[X]\cdot <!--\; \cdot \; -->\mathbb{E}[Y]$$\mathbb {E} [XY]=\mathbb {E} [X]\cdot \mathbb {E} [Y]$ .

Неравенства, связанные с математическим ожиданиемПравить

Неравенство Маркова — для неотрицательной случайной величины $X:<!--\; :\; -->\mathrm{\Omega <!--\; \Omega \; -->}\to <!--\; \to \; -->{\mathbb{R}}^{+}$$X\colon \Omega \to \mathbb {R} ^{+}$  определённой на вероятностном пространстве $(\mathrm{\Omega <!--\; \Omega \; -->},\mathcal{F},\mathbb{P})$$(\Omega ,{\mathcal {F}},{\mathbb {P}})$  с конечным математическим ожиданием $\mathbb{E}(X)$$\mathbb {E} (X)$  выполняется неравенство:

$\mathbb{P}\left(X⩾<!--\; ⩾\; -->a\right)⩽<!--\; ⩽\; -->\frac{\mathbb{E}(X)}{a}$$\mathbb {P} \left(X\geqslant a\right)\leqslant {\frac {\mathbb {E} (X)}{a}}$ , где $a>0$$a>0$ .

Неравенство Йенсена для математического ожидания выпуклой функции от случайной величины. Пусть $(\mathrm{\Omega <!--\; \Omega \; -->},\mathcal{F},\mathbb{P})$$(\Omega ,{\mathcal {F}},\mathbb {P} )$  — вероятностное пространство, $X:<!--\; :\; -->\mathrm{\Omega <!--\; \Omega \; -->}\to <!--\; \to \; -->\mathbb{R}$$X\colon \Omega \to \mathbb {R}$  — определённая на нём случайная величина, $\mathrm{\phi <!--\; \phi \; -->}:<!--\; :\; -->\mathbb{R}\to <!--\; \to \; -->\mathbb{R}$$\varphi \colon {\mathbb {R}}\to {\mathbb {R}}$  — выпуклая борелевская функция, такие, что $X,\mathrm{\phi <!--\; \phi \; -->}(X)\in <!--\; \in \; -->L^1(\mathrm{\Omega <!--\; \Omega \; -->},\mathcal{F},\mathbb{P})$$X,\varphi (X)\in L^{1}(\Omega ,{\mathcal {F}},{\mathbb {P}})$ , то

$\mathrm{\phi <!--\; \phi \; -->}(\mathbb{E}(X))⩽<!--\; ⩽\; -->\mathbb{E}(\mathrm{\phi <!--\; \phi \; -->}(X))$$\varphi (\mathbb {E} (X))\leqslant \mathbb {E} (\varphi (X))$ .

Теоремы, связанные с математическим ожиданиемПравить

• Теорема Леви о монотонной сходимости.
• Теорема Лебега о мажорируемой сходимости: пусть есть сходящаяся почти всюду последовательность случайных величин: $X_n\to <!--\; \to \; -->X$$X_{n}\to X$ . Пусть в дополнение существует интегрируемая случайная величина $Y$$Y$ , такая что $\mathrm{\forall <!--\; \forall \; -->}n\in <!--\; \in \; -->\mathbb{N}|X_n|⩽<!--\; ⩽\; -->Y$$\forall n\in \mathbb{N} \quad |X_{n}|\leqslant Y$  почти наверное. Тогда случайные величины $X_n,X$$X_{n},\;X$  интегрируемы и

$\underset{n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}}{lim}\mathbb{E}(X_n)=\mathbb{E}(X)$$\lim \limits _{n\to \infty }\mathbb {E} (X_{n})=\mathbb {E} (X)$  .

• Тождество Вальда: для независимых одинаково распределённых случайных величин $X_1,...,X_N$$X_{1},...,X_{N}$ , где $N$$N$  является положительной целочисленной случайной величиной, независимой от $X_i$$X_{i}$ , при условии, что $X_i$$X_{i}$  и $N$$N$  имеют конечное математическое ожидание, будет выполняться следующее равенство:

$\mathbb{E}\left(\underset{i=1}{\overset{N}{\sum <!--\; \sum \; -->}}{X}_i\right)=\mathbb{E}(N)\mathbb{E}(X)$$\mathbb {E} \left(\sum _{i=1}^{N}X_{i}\right)=\mathbb {E} (N)\mathbb {E} (X)$ 

• Математическое ожидание случайной величины $X$$X$  равно значению первой производной её производящей функции моментов $G(u)$$G(u)$  в точке 0:

$\mathbb{E}(X)=G^{\prime }(0)$$\mathbb {E} (X)=G'(0)$ .

ПримерыПравить

• Пусть случайная величина имеет дискретное равномерное распределение, то есть $\mathbb{P}(X=x_i)=\frac{1}{n},i=1,\dots <!--\; \dots \; -->,n.$$\mathbb {P} (X=x_{i})={\frac {1}{n}},\;i=1,\ldots ,n.$  Тогда её математическое ожидание

$\mathbb{E}[X]=\frac{1}{n}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{x}_i$$\mathbb {E} [X]={\frac {1}{n}}\sum \limits _{i=1}^{n}x_{i}$ 

равно среднему арифметическому всех принимаемых значений.

• Пусть случайная величина имеет непрерывное равномерное распределение на интервале $[a,b]$$[a,b]$ , где $a<b$ . Тогда её плотность имеет вид $f_X(x)=\frac{1}{b-<!--\; -\; -->a}{\mathbf{1}}_{[a,b]}(x)$$f_{X}(x)={\frac {1}{b-a}}\mathbf {1} _{[a,b]}(x)$  и математическое ожидание равно

$\mathbb{E}[X]=\underset{a}{\overset{b}{\int <!--\; \int \; -->}}\frac{x}{b-<!--\; -\; -->a}dx=\frac{a+b}{2}$$\mathbb {E} [X]=\int \limits _{a}^{b}\!{\frac {x}{b-a}}\,dx={\frac {a+b}{2}}$ .

• Пусть случайная величина $X$$X$  имеет стандартное распределение Коши. Тогда

$\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}x{f}_X(x)dx=\mathrm{\infty <!--\; \infty \; -->}$$\int \limits _{-\infty }^{\infty }\!xf_{X}(x)\,dx=\infty$ ,

то есть математическое ожидание $X$$X$  не определено.

См. такжеПравить

• Дисперсия случайной величины
• Моменты случайной величины
• Условное математическое ожидание

ЛитератураПравить

• Феллер В. Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Перевод с англ. Р. Л. Добрушина, А. А. Юшкевича, С. А. Молчанова Под ред. Е. Б. Дынкина с предисловием А. Н. Колмогорова. — 2-е изд. — М.: Мир, 1964. — С. 270—272.

СсылкиПравить

• Математическое ожидание и его свойства на http://www.toehelp.ru