Плотность вероятности

Пло́тность вероя́тности — один из способов задания распределения случайной величины. Во многих практических приложениях понятия «плотность вероятности» и «плотность (распределения) случайной величины» или «функция распределения вероятностей» фактически синонимизируются и под ними подразумевается вещественная функция, характеризующая сравнительную вероятность реализации тех или иных значений случайной переменной (переменных).

Прикладное описание понятияПравить

Плотность распределения одномерной непрерывной случайной величины $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  — это числовая функция $f(x)$$f(x)$ , отношение $f(x_1)/f(x_2)$$f(x_{1})/f(x_{2})$  значений которой в точках $x_1$$x_{1}$  и $x_2$$x_{2}$  задаёт отношение вероятностей попаданий величины $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  в узкие интервалы равной ширины $[x_1,x_1+\mathrm{\Delta <!--\; \Delta \; -->}x]$$[x_{1},x_{1}+\Delta x]$  и $[x_2,x_2+\mathrm{\Delta <!--\; \Delta \; -->}x]$$[x_{2},x_{2}+\Delta x]$  вблизи данных точек.

Плотность распределения неотрицательна при любом $x$$x$  и нормирована, то есть

${\int <!--\; \int \; -->}_{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}^{+\mathrm{\infty <!--\; \infty \; -->}}f(x)\text{d}x=1$$\int _{-\infty }^{+\infty }f(x)\,{\mbox{d}}x=1$ 

При стремлении $x$$x$  к $\pm <!--\; \pm \; -->\mathrm{\infty <!--\; \infty \; -->}$$\,\pm \infty$  функция $f(x)$$f(x)$  стремится к нулю. Размерность плотности распределения всегда обратная к размерности случайной величины — если $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  исчисляется в метрах, то размерностью $f$$f$  будет м^-1.

 

Вероятность $P$$P$  попадания случайной величины в интервал между $a$$a$  и $b$$b$  равна площади $S$$S$  под графиком функции плотности вероятности $f(x)$$f(x)$ .

Если в конкретной ситуации известно выражение для $f(x)$$f(x)$ , с его помощью можно вычислить вероятность попадания величины $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  в интервал $[a,b]$$[a,b]$  как

$P(\mathrm{\xi <!--\; \xi \; -->}\in <!--\; \in \; -->[a,b])={\int <!--\; \int \; -->}_a^{b}f(x)\text{d}x$$P(\xi \in [a,b])=\int _{a}^{b}f(x)\,{\mbox{d}}x$ .

Зная плотность вероятности, можно также определить наиболее вероятное значение (моду) случайной величины как максимум $f(x)$$f(x)$ . Также с помощью плотности вероятности находится среднее значение случайной величины:

$E\mathrm{\xi <!--\; \xi \; -->}={\int <!--\; \int \; -->}_{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}^{+\mathrm{\infty <!--\; \infty \; -->}}xf(x)\text{d}x$$E\xi =\int _{-\infty }^{+\infty }xf(x)\,{\mbox{d}}x$ 

и среднее значение измеримой функции $g(\mathrm{\xi <!--\; \xi \; -->})$$g(\xi )$  случайной величины:

$⟨<!--\; ⟨\; -->g(\mathrm{\xi <!--\; \xi \; -->})⟩<!--\; ⟩\; -->={\int <!--\; \int \; -->}_{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}^{+\mathrm{\infty <!--\; \infty \; -->}}g(x)f(x)\text{d}x$$\langle g(\xi )\rangle =\int _{-\infty }^{+\infty }g(x)f(x)\,{\mbox{d}}x$ .

Чтобы перейти к плотности распределения $f_{\mathrm{\chi <!--\; \chi \; -->}}(y)$${f}_{\chi }(y)$  другой случайной величины $\mathrm{\chi <!--\; \chi \; -->}=z(\mathrm{\xi <!--\; \xi \; -->})$$\chi =z(\xi )$ , нужно взять

$f_{\mathrm{\chi <!--\; \chi \; -->}}(y)=f(z^{-<!--\; -\; -->1}(y))\cdot <!--\; \cdot \; -->\left|\frac{\text{d}{z}^{-<!--\; -\; -->1}(y)}{\text{d}y}\right|$${f}_{\chi }(y)=f(z^{-1}(y))\cdot \left|{\frac {{\mbox{d}}z^{-1}(y)}{{\mbox{d}}y}}\right|$ ,

где $z^{-<!--\; -\; -->1}(y)$$z^{-1}(y)$  — обратная функция по отношению к $y=z(x)$$y=z(x)$  (предполагается, что z — взаимно однозначное отображение).

Значение плотности распределения $f(x_1)$$f(x_{1})$  не является вероятностью принять случайной величиной значение $x_1$$x_{1}$ . Так, вероятность принятия непрерывной случайной величиной $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  значения $x_1$$x_{1}$  равна нулю. При непрерывном распределении случайной величины $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  вопрос может ставиться о вероятности её попадания в некий диапазон, а не о вероятности реализации её конкретного значения.

Интеграл

${\int <!--\; \int \; -->}_{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}^{x}f(t)\text{d}t=F(x)$$\int _{-\infty }^{x}f(t)\,{\mbox{d}}t=F(x)$ 

называют функцией распределения (соответственно, плотность распределения вероятности — это производная функции распределения). Функция $F$$F$  является неубывающей и изменяется от 0 при $x\to <!--\; \to \; -->-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}$$x\to -\infty$  до 1 при $x\to <!--\; \to \; -->+\mathrm{\infty <!--\; \infty \; -->}$$x\to +\infty$ .

 

Функции плотности вероятности для равномерного распределения

Самым простым распределением является равномерное распределение на отрезке $[a,b]$$[a,b]$ . Для него плотность вероятности равна:

$f(x)=\left\{{\begin{matrix}{1 \over b-a},&x\in [a,b]\\0,&x\not \in [a,b]\end{matrix}}\right..$ 

 

Функции плотности вероятности для нормального распределения

Широко известным распределением является «нормальное», оно же гауссово, плотность которого записывается как

$f(x)=\frac{1}{\sqrt{2\mathrm{\pi <!--\; \pi \; -->}}\mathrm{\sigma <!--\; \sigma \; -->}}\exp <!--\; \; -->\left[-<!--\; -\; -->\frac{(x-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->}{)}^2}{2{\mathrm{\sigma <!--\; \sigma \; -->}}^2}\right]$$f(x)={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left[-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right]$ ,

где $\mathrm{\mu <!--\; \mu \; -->}$$\mu$  и $\mathrm{\sigma <!--\; \sigma \; -->}$$\sigma$  — параметры: математическое ожидание и среднеквадратичное отклонение. Другие примеры плотностей распределения — одностороннее лапласовское ($\mathrm{\lambda <!--\; \lambda \; -->}>0$$\lambda >0$ ):

$f(x)=A\exp <!--\; \; -->\left[-<!--\; -\; -->\mathrm{\lambda <!--\; \lambda \; -->}x\right](x\ge <!--\; \ge \; -->0)$$f(x)=A\exp \left[-\lambda \,x\right]\,\,(x\geq 0)$  и $f(x)=0\,\,(x<0)$ ,

и максвелловское ($\mathrm{\alpha <!--\; \alpha \; -->}>0$$\alpha >0$ ):

$f(x)=A{x}^2\exp <!--\; \; -->\left[-<!--\; -\; -->\mathrm{\alpha <!--\; \alpha \; -->}{x}^2\right](x\ge <!--\; \ge \; -->0)$$f(x)=Ax^{2}\exp \left[-\alpha x^{2}\right]\,\,(x\geq 0)$  и $f(x)=0\,\,(x<0)$ .

В двух последних примерах множитель $A$$A$  подбирается в зависимости от параметра $\mathrm{\lambda <!--\; \lambda \; -->}$$\lambda$  или $\mathrm{\alpha <!--\; \alpha \; -->}$$\alpha$  так, чтобы обеспечить нормировку интеграла от плотности вероятности. В случае распределения Лапласа оказывается, что $A=\mathrm{\lambda <!--\; \lambda \; -->}$$A=\lambda$ .

Как названные, так и другие распределения широко применяются в физике. Например, в случае распределения Максвелла роль случайной величины обычно играет абсолютная величина скорости молекулы в идеальном газе. При этом для аргумента функции $f$$f$  нередко используют тот же символ, что и для рассматриваемой в физической задаче случайной величины (как если бы выше на месте $\mathrm{\xi <!--\; \xi \; -->}$$\xi$  всюду стояло $x$$x$ ). Так, в выражении максвелловской плотности распределения пишут не формальную переменную $x$$x$ , а символ скорости $v$$v$ . В простейших ситуациях такая вольность с обозначениями не приводит к недоразумениям.

Спадающий при стремлении аргумента к $+\mathrm{\infty <!--\; \infty \; -->}$$+\infty$  или $-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}$$-\infty$  участок графика плотности вероятности $f(x)$$f(x)$  в областях, где $f\ll <!--\; \ll \; -->f_{max}$$f\ll f_{max}$ , называется хвостом. Из упомянутых распределений, нормальное и лапласовское имеют по два хвоста (слева и справа), а максвелловское в выписанном виде — один (справа).

Выше была изложена суть понятия «плотность вероятности». Однако, такое изложение не является строгим — плотность $f$$f$  нередко является функцией нескольких величин, в рассуждениях неявно предполагались не всегда гарантируемые непрерывность и дифференцируемость функций и так далее.

Определение плотности вероятности в теории мерыПравить

Плотность вероятности можно рассматривать как один из способов задания вероятностной меры на евклидовом пространстве ${\mathbb{R}}^n$$\mathbb {R} ^{n}$ . Пусть $\mathbb{P}$$\mathbb {P}$  является вероятностной мерой на ${\mathbb{R}}^n$$\mathbb {R} ^{n}$ , то есть определено вероятностное пространство $\left({\mathbb{R}}^n,\mathcal{B}({\mathbb{R}}^n),\mathbb{P}\right)$$\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n),\mathbb{P}\right)$ , где $\mathcal{B}({\mathbb{R}}^n)$$\mathcal{B}(\mathbb{R}^n)$  обозначает борелевскую σ-алгебру на ${\mathbb{R}}^n$$\mathbb {R} ^{n}$ . Пусть $m$$m$  обозначает меру Лебега на ${\mathbb{R}}^n$$\mathbb {R} ^{n}$ . Вероятность $\mathbb{P}$$\mathbb {P}$  называется абсолютно непрерывной (относительно меры Лебега) ($\mathbb{P}\ll <!--\; \ll \; -->m$$\mathbb{P} \ll m$ ), если любое борелевское множество нулевой меры Лебега также имеет вероятность ноль:

$\mathrm{\forall <!--\; \forall \; -->}B\in <!--\; \in \; -->\mathcal{B}({\mathbb{R}}^n),(m(B)=0)\Rightarrow <!--\; \Rightarrow \; -->(\mathbb{P}(B)=0).$$\forall B \in \mathcal{B}(\mathbb{R}^n),\; ( m(B) = 0 ) \Rightarrow ( \mathbb{P}(B) = 0 ) .$ 

Если вероятность $\mathbb{P}$$\mathbb {P}$  абсолютно непрерывна, то согласно теореме Радона-Никодима существует неотрицательная борелевская функция $f:<!--\; :\; -->{\mathbb{R}}^n\to <!--\; \to \; -->[0,\mathrm{\infty <!--\; \infty \; -->})$$f\colon\mathbb{R}^n \to [0,\infty)$  такая, что

$\mathbb{P}(B)=\underset{B}{\int <!--\; \int \; -->}f(x)dx$$\mathbb{P}(B) = \int\limits_{B} f(x)\, dx$ ,

где использовано общепринятое сокращение $m(dx)\equiv <!--\; \equiv \; -->dx$$m(dx) \equiv dx$ , и интеграл понимается в смысле Лебега.

В более общем виде, пусть $(X,\mathcal{F})$$(X, \mathcal F)$  — произвольное измеримое пространство, а $\mathrm{\mu <!--\; \mu \; -->}$$\mu$  и $\mathrm{\nu <!--\; \nu \; -->}$$\nu$  — две меры на этом пространстве. Если найдется неотрицательная $f$$f$ , позволяющая выразить меру $\mathrm{\nu <!--\; \nu \; -->}$$\nu$  через меру $\mathrm{\mu <!--\; \mu \; -->}$$\mu$  в виде

$\mathrm{\nu <!--\; \nu \; -->}(A)={\int <!--\; \int \; -->}_{A}fd\mathrm{\mu <!--\; \mu \; -->},$$\nu(A) = \int_A f d\mu,$ 

то такую функцию называют плотностью меры $\mathrm{\nu <!--\; \nu \; -->}$$\nu$  по мере $\mathrm{\mu <!--\; \mu \; -->}$$\mu$ , или производной Радона-Никодима меры $\mathrm{\nu <!--\; \nu \; -->}$$\nu$  относительно меры $\mathrm{\mu <!--\; \mu \; -->}$$\mu$ , и обозначают

$f=\frac{d\mathrm{\nu <!--\; \nu \; -->}}{d\mathrm{\mu <!--\; \mu \; -->}}$$f=\frac{d\nu}{d\mu}$ .

Плотность случайной величиныПравить

Пусть определено произвольное вероятностное пространство $(\mathrm{\Omega <!--\; \Omega \; -->},\mathcal{F},\mathbb{P})$$(\Omega ,{\mathcal {F}},\mathbb {P} )$ , и $X:<!--\; :\; -->\mathrm{\Omega <!--\; \Omega \; -->}\to <!--\; \to \; -->{\mathbb{R}}^n$$X\colon \Omega \to \mathbb {R} ^{n}$  случайная величина (или случайный вектор). $X$$X$  индуцирует вероятностную меру ${\mathbb{P}}^X$$\mathbb {P} ^{X}$  на $\left({\mathbb{R}}^n,\mathcal{B}({\mathbb{R}}^n)\right)$$\left(\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n)\right)$ , называемую распределением случайной величины $X$$X$ .

Если распределение ${\mathbb{P}}^X$$\mathbb {P} ^{X}$  абсолютно непрерывно относительно меры Лебега, то его плотность $f_X=\frac{d{\mathbb{P}}^X}{dx}$$f_X = \frac{d\mathbb{P}^X}{dx}$  называется плотностью случайной величины $X$$X$ . Сама случайная величина $X$$X$  называется абсолютно непрерывной.

Таким образом для абсолютно непрерывной случайной величины имеем:

$\mathbb{P}(X\in <!--\; \in \; -->B)=\underset{B}{\int <!--\; \int \; -->}{f}_X(x)dx$$\mathbb{P}(X \in B) = \int\limits_{B} f_X(x)\, dx$ .

ЗамечанияПравить

• Не всякая случайная величина абсолютно непрерывна. Любое дискретное распределение, например, не является абсолютно непрерывным относительно меры Лебега, а потому дискретные случайные величины не имеют плотности.

• Функция распределения абсолютно непрерывной случайной величины $X$$X$  непрерывна и может быть выражена через плотность следующим образом:

$F_X(x_1,\dots <!--\; \dots \; -->,x_n)=\mathbb{P}\left(X\in <!--\; \in \; -->\underset{i=1}{\overset{n}{\prod <!--\; \prod \; -->}}(-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->},x_i]\right)=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{x_n}{\int <!--\; \int \; -->}}\dots <!--\; \dots \; -->\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{x_1}{\int <!--\; \int \; -->}}{f}_X(x_1^{\prime },\dots <!--\; \dots \; -->,x_n^{\prime })d{x}_1^{\prime }\dots <!--\; \dots \; -->d{x}_n^{\prime }$$F_X(x_1,\ldots, x_n) = \mathbb{P}\left(X \in \prod\limits_{i=1}^n (-\infty,x_i]\right) = \int\limits_{-\infty}^{x_n} \!\! \ldots \!\! \int\limits_{-\infty}^{x_1} f_X(x'_1,\ldots, x'_n)\, dx'_1\ldots dx'_n$ .

В одномерном случае:

$F_X(x)=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{x}{\int <!--\; \int \; -->}}{f}_X(x^{\prime })d{x}^{\prime }$$F_X(x) = \int\limits_{-\infty}^x f_X(x')\, dx'$ .

Если $f_X\in <!--\; \in \; -->C({\mathbb{R}}^n)$$f_X \in C(\mathbb{R}^n)$ , то $F_X\in <!--\; \in \; -->\mathcal{D}({\mathbb{R}}^n)$$F_X \in \mathcal{D}(\mathbb{R}^n)$ , и

$\frac{{\mathrm{\partial <!--\; \partial \; -->}}^n}{\mathrm{\partial <!--\; \partial \; -->}{x}_1\dots <!--\; \dots \; -->\mathrm{\partial <!--\; \partial \; -->}{x}_n}{F}_X(x_1,\dots <!--\; \dots \; -->,x_n)=f_X(x_1,\dots <!--\; \dots \; -->,x_n)$$\frac{\partial^n}{\partial x_1 \ldots \partial x_n} F_X(x_1,\ldots, x_n) = f_X(x_1,\ldots, x_n)$ .

В одномерном случае:

$\frac{d}{dx}{F}_X(x)=f_X(x)$$\frac{d}{dx} F_X(x) = f_X(x)$ .

• Математическое ожидание функции от абсолютно непрерывной случайной величины может быть записано в виде:

$\mathbb{E}[g(X)]=\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}g(x){\mathbb{P}}^X(dx)=\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}g(x)f_X(x)dx$$\mathbb{E}[g(X)] = \int\limits_{\mathbb{R}^n} g(x) \, \mathbb{P}^X(dx) = \int\limits_{\mathbb{R}^n} g(x)\, f_X(x)\, dx$ ,

где $g:<!--\; :\; -->{\mathbb{R}}^n\to <!--\; \to \; -->\mathbb{R}$$g\colon \mathbb{R}^n \to \mathbb{R}$  — борелевская функция, так что $\mathbb{E}[g(X)]$$\mathbb{E}[g(X)]$  определено и конечно.

Плотность преобразования случайной величиныПравить

Пусть $X:<!--\; :\; -->\mathrm{\Omega <!--\; \Omega \; -->}\to <!--\; \to \; -->{\mathbb{R}}^n$$X\colon \Omega \to \mathbb {R} ^{n}$  — абсолютно непрерывная случайная величина, и $g:<!--\; :\; -->{\mathbb{R}}^n\to <!--\; \to \; -->{\mathbb{R}}^n$$g\colon\mathbb{R}^n \to \mathbb{R}^n$  — инъективная непрерывно дифференцируемая функция такая, что $J_g(x)\ne 0,\mathrm{\forall <!--\; \forall \; -->}x\in <!--\; \in \; -->{\mathbb{R}}^n$$J_g(x) \not=0,\; \forall x\in \mathbb{R}^n$ , где $J_g(x)$$J_g(x)$  — якобиан функции $g$$g$  в точке $x$$x$ . Тогда случайная величина $Y=g(X)$$Y = g(X)$  также абсолютно непрерывна, и её плотность имеет вид:

$f_Y(y)=f_X\left(g^{-<!--\; -\; -->1}(y)\right)|J_{g^{-<!--\; -\; -->1}}(y)|$$f_Y(y) = f_X\left(g^{-1}(y)\right) \vert J_{g^{-1}}(y) \vert$ .

В одномерном случае:

$f_Y(y)=f_X\left(g^{-<!--\; -\; -->1}(y)\right)\left|\frac{d{g}^{-<!--\; -\; -->1}}{dy}(y)\right|$$f_Y(y) = f_X\left(g^{-1}(y)\right) \left\vert \frac{dg^{-1}}{dy}(y)\right\vert$ .

Свойства плотности вероятностиПравить

• Плотность вероятности определена почти всюду. Если $f$$f$  является плотностью вероятности $\mathbb{P}$$\mathbb {P}$  и $f(x)=g(x)$$f(x)=g(x)$  почти всюду относительно меры Лебега, то и функция $g$$g$  также является плотностью вероятности $\mathbb{P}$$\mathbb {P}$ ./

• Интеграл от плотности по всему пространству равен единице:

$\mathbb{P}\left({\mathbb{R}}^n\right)=\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}f(x)dx=1$$\mathbb{P}\left(\mathbb{R}^n\right) = \int\limits_{\mathbb{R}^n} f(x)\, dx = 1$ .

Обратно, если $f(x)$$f(x)$  — неотрицательная почти всюду функция, такая что $\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}f(x)dx=1$$\int\limits_{\mathbb{R}^n}f(x)\, dx = 1$ , то существует абсолютно непрерывная вероятностная мера $\mathbb{P}$$\mathbb {P}$  на ${\mathbb{R}}^n$$\mathbb {R} ^{n}$  такая, что $f(x)$$f(x)$  является её плотностью.

• Замена меры в интеграле Лебега:

$\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}\mathrm{\phi <!--\; \phi \; -->}(x)\mathbb{P}(dx)=\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}\mathrm{\phi <!--\; \phi \; -->}(x)f(x)dx$$\int\limits_{\mathbb{R}^n} \varphi(x)\, \mathbb{P}(dx) = \int\limits_{\mathbb{R}^n}\varphi(x)\, f(x)\, dx$ ,

где $\mathrm{\phi <!--\; \phi \; -->}::{\mathbb{R}}^n\to <!--\; \to \; -->\mathbb{R}$$\varphi ::\mathbb {R} ^{n}\to \mathbb {R}$  любая борелевская функция, интегрируемая относительно вероятностной меры $\mathbb{P}$${}\mathbb {P}$ .

Примеры абсолютно непрерывных распределенийПравить

• Бета-распределение
• Гамма-распределение
• Гиперэкспоненциальное распределение
• Двумерное нормальное распределение
• Логнормальное распределение
• Многомерное нормальное распределение
• Непрерывное равномерное распределение
• Нормальное распределение
• Обобщённое гиперболическое распределение
• Полукруговой закон Вигнера
• Распределение variance-gamma
• Распределение Вейбулла
• Распределение Гомпертца
• Распределение Колмогорова
• Распределение копулы
• Распределение Коши
• Распределение Лапласа
• Распределение Накагами
• Распределение Парето
• Распределение Пирсона
• Распределение Райса
• Распределение Рэлея
• Распределение Стьюдента
• Распределение Трейси — Видома
• Распределение Фишера
• Распределение хи-квадрат
• Частотное распределение
• Экспоненциальное распределение

См. такжеПравить

• Распределение вероятностей
• Сингулярное распределение
• Функция вероятности

ЛитератураПравить

• Плотность вероятности // Большая российская энциклопедия : [в 35 т.] / гл. ред. Ю. С. Осипов. — М. : Большая российская энциклопедия, 2004—2017.