Это не официальный сайт wikipedia.org 01.01.2023

Многомерное нормальное распределение — Википедия

Многомерное нормальное распределение

(перенаправлено с «Гауссовский вектор»)

Многоме́рное норма́льное распределе́ние (или многоме́рное га́уссовское распределе́ние) в теории вероятностей — это обобщение одномерного нормального распределения. Случайный вектор, имеющий многомерное нормальное распределение, называется гауссовским вектором[1].

Пример выборки из многомерного нормального распределения в пределах 3 сигм двух частных распределений

Определения править

Случайный вектор X = ( X 1 , , X n ) : Ω R n   имеет многомерное нормальное распределение, если выполняется одно из следующих эквивалентных условий:

  • Произвольная линейная комбинация компонентов вектора i = 1 n a i X i   имеет нормальное распределение или является константой (это утверждение работает только если математическое ожидание равно 0).
  • Существуют вектор независимых стандартных нормальных случайных величин Z = ( Z 1 , , Z m )  , вещественный вектор μ = ( μ 1 , , μ n )   и матрица A   размерности n × m  , такие что:
X = A Z + μ  .
ϕ X ( u ) = e i μ u 1 2 u Σ u , u R n  .

Плотность невырожденного нормального распределения править

  • Если рассматривать только распределения с невырожденной ковариационной матрицей, то эквивалентным будет также следующее определение:
Существует вектор μ R n   и положительно определённая симметричная матрица Σ   размерности n × n  , такие что плотность вероятности вектора X   имеет вид[2]::
f X ( x ) = 1 ( 2 π ) n / 2 | Σ | 1 / 2 e 1 2 ( x μ ) Σ 1 ( x μ ) , x R n  ,
где | Σ |   — определитель матрицы Σ  , а Σ 1   — матрица обратная к Σ  


  • Вектор μ   является вектором средних значений X  , а Σ   — его ковариационная матрица.
  • В случае n = 1  , многомерное нормальное распределение сводится к обычному нормальному распределению.
  • Если случайный вектор X   имеет многомерное нормальное распределение, то пишут X N ( μ , Σ )  .

Двумерное нормальное распределение править

Частным случаем многомерного нормального распределения является двумерное нормальное распределение. В этом случае имеем две случайные величины X 1 , X 2   с математическими ожиданиями μ 1 , μ 2  , дисперсиями σ 1 2 , σ 2 2   и ковариацией σ 12  . В этом случае ковариационная матрица имеет размер 2, её определитель равен

d e t Σ = σ 1 2 σ 2 2 σ 12 2 = σ 1 2 σ 2 2 ( 1 ρ 2 ) ,  

где ρ = σ 12 σ 1 σ 2   — коэффициент корреляции случайных величин.

Тогда плотность двумерного невырожденного (коэффициент корреляции по модулю не равен единице) нормального распределения можно записать в виде:

f ( x 1 , x 2 ) = 1 2 π σ 1 σ 2 1 ρ 2 exp { 1 2 ( 1 ρ 2 ) [ ( x 1 μ 1 ) 2 σ 1 2 ρ 2 ( x 1 μ 1 ) ( x 2 μ 2 ) σ 1 σ 2 + ( x 2 μ 2 ) 2 σ 2 2 ] }  .
В том случае, если X N ( μ 1 , σ 1 2 ) , Y N ( μ 2 , σ 2 2 ) , c o v ( X , Y ) = σ 12   (то есть X , Y   являются зависимыми), их сумма все еще распределена нормально, но в дисперсии появляется дополнительное слагаемое 2 σ 12  : X + Y N ( μ 1 + μ 2 , σ 1 2 + σ 2 2 + 2 σ 12 )  .

Свойства многомерного нормального распределения править

  • Если вектор X = ( X 1 , , X n )   имеет многомерное нормальное распределение, то его компоненты X i , i = 1 , , n ,   имеют одномерное нормальное распределение. Обратное верно при независимости компонент[3].
  • Если случайные величины X 1 , , X n   имеют одномерное нормальное распределение и совместно независимы, то случайный вектор X = ( X 1 , , X n )   имеет многомерное нормальное распределение. Матрица ковариаций Σ   такого вектора диагональна.
  • Если X = ( X 1 , , X n )   имеет многомерное нормальное распределение, и его компоненты попарно некоррелированы, то они независимы. Однако, если некоторые случайные величины X i , i = 1 , , n   имеют одномерные нормальные распределения и попарно не коррелируют, то отсюда не следует, что они независимы и имеют многомерное нормальное распределение.
Пример. Пусть X N ( 0 , 1 )  , а α = ± 1   с равными вероятностями и независима от указанной нормальной величины. Тогда если Y = α X N ( 0 , 1 )  , то корреляция X   и Y   равна нулю. Однако, эти случайные величины зависимы и в силу первого утверждения абзаца не имеют многомерного нормального распредедения.
  • Многомерное нормальное распределение устойчиво относительно линейных преобразований. Если X N ( μ , Σ )  , а A   — произвольная матрица размерности m × n  , то
A X N ( A μ , A Σ A ) .  
Таким преобразованием и сдвигом любое невырожденное нормальное распределение можно привести к вектору независимых стандартных нормальных величин.

Моменты многомерного нормального распределения править

Пусть X   — центрированные (с нулевым математическим ожиданием) случайные величины имеющие многомерное нормальное распределение, тогда моменты μ i 1 i 2 i 3 . . . i k = E ( X i 1 X i 2 X i 3 . . . X i k )   для нечетных k   равно нулю, а для четных k = 2 m   вычисляется по формуле

σ i t 1 i t 2 σ i t 3 i t 4 σ i t 4 i t 5 . . . σ i t k 1 i t k  

где суммирование осуществляется по всевозможным разбиениям индексов на пары. Количество множителей в каждом слагаемом равно m  , количество слагаемых равно ( 2 m ) ! 2 m m ! = ( 2 m 1 ) ! 2 m 1 ( m 1 ) !  

Например, для моментов четвертого порядка в каждом слагаемом по два множителя и общее количество слагаемых будет равно 4 ! / ( 2 2 2 ! ) = ( 1 2 3 4 ) / ( 4 2 1 ) = 3  . Соответствующая общая формула для моментов четвертого порядка имеет вид:

μ i j k m = E ( X i X j X k X m ) = σ i j σ k m + σ i k σ j m + σ i m σ k j  

В частности если i = j = k = m  

μ i i i i = E ( X i 4 ) = 3 σ i i 2 = 3 σ i 4  

При i = j k = m  

μ i i j j = E ( X i 2 X j 2 ) = σ i i σ j j + 2 σ i j = σ i 2 σ j 2 + 2 σ i j  

При i = j = k m  

μ i i i j = E ( X i 3 X j ) = σ i i σ i j + σ i i σ i j + σ i j σ i i = 3 σ i j σ i i = 3 σ i 2 σ i j  

Условное распределение править

Пусть случайные векторы X   и Y   имеют совместное нормальное распределение с математическими ожиданиями μ X , μ Y  , ковариационными матрицами V X , V Y   и матрицей ковариаций C X Y  . Это означает, что объединенный случайный вектор Z = [ X Y ]   подчиняется многомерному нормальному распределению с вектором математического ожидания μ Z = [ μ X μ Y ]   и ковариационной матрицей, которую можно представить в виде следующей блочной матрицы

V Z = [ V X C X Y C Y X V Y ]  ,

где C Y X = C X Y T  .

Тогда случайный вектор Y   при заданном значении случайного вектора X   имеет (многомерное) нормальное условное распределение со следующим условным математическим ожиданием и условной ковариационной матрицей

E ( Y | X = x ) = μ Y + C Y X V X 1 ( x μ X ) , V ( Y | X = x ) = V Y C Y X V X 1 C X Y  .

Первое равенство определяет функцию линейной регрессии (зависимости условного математического ожидания вектора Y   от заданного значения x случайного вектора X  ), причем матрица C X Y V 1   — матрица коэффициентов регрессии.

Условная ковариационная матрица представляет собой матрицу ковариаций случайных ошибок линейных регрессий компонентов вектора Y   на вектор X  . В случае если Y   — обычная случайная величина (однокомпонентный вектор), условная ковариационная матрица — это условная дисперсия (по существу дисперсия случайной ошибки регрессии Y   на вектор X  )

Примечания править

  1. А. Н. Ширяев. Вероятность. Том 1. МЦНМО, 2007.
  2. Гроот, 1974, с. 58—63.
  3. А.А.Новоселов. Избранное: нормальность совместного распределения  (неопр.). Современные риск-системы (28 марта 2014). Дата обращения: 8 мая 2017. Архивировано 17 мая 2017 года.

Литература править

  • М. де Гроотruen. Оптимальные статистические решения = Optimal Statistical Decisions. — М.: Мир, 1974. — 492 с.