Свёртка (математический анализ)

Свёртка, конволюция — операция в функциональном анализе, которая при применении к двум функциям $f$$f$ и $g$$g$ возвращает третью функцию, соответствующую взаимнокорреляционной функции $f(x)$$f(x)$ и $g(-<!--\; -\; -->x)$$g(-x)$. Операцию свёртки можно интерпретировать как «схожесть» одной функции с отражённой и сдвинутой копией другой. Понятие свёртки обобщается для функций, определённых на произвольных измеримых пространствах, и может рассматриваться как особый вид интегрального преобразования. В дискретном случае свёртка соответствует сумме значений $f$$f$ с коэффициентами, соответствующими смещённым значениям $g$$g$, то есть $(f\ast <!--\; \ast \; -->g)(x)=f(1)g(x-<!--\; -\; -->1)+f(2)g(x-<!--\; -\; -->2)+f(3)g(x-<!--\; -\; -->3)+\dots <!--\; \dots \; -->$$(f*g)(x)=f(1)g(x-1)+f(2)g(x-2)+f(3)g(x-3)+\dots$

Свёртка двух прямоугольных импульсов: в результате даёт треугольный импульс.

Свёртка прямоугольного импульса (входного сигнала) с импульсным откликом RC цепи

ОпределениеПравить

Пусть $f,g:{\mathbb{R}}^n\to <!--\; \to \; -->\mathbb{R}$$f,g:\mathbb {R} ^{n}\to \mathbb {R}$  — две функции, интегрируемые относительно меры Лебега на пространстве ${\mathbb{R}}^n$$\mathbb {R} ^{n}$ . Тогда их свёрткой называется функция $f\ast <!--\; \ast \; -->g:{\mathbb{R}}^n\to <!--\; \to \; -->\mathbb{R}$$f*g:\mathbb {R} ^{n}\to \mathbb {R}$ , определённая формулой

$(f\ast <!--\; \ast \; -->g)(x)$$(f*g)(x)\$

$\stackrel{\mathrm{d}\mathrm{e}\mathrm{f}}{=}\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}f(y)g(x-<!--\; -\; -->y)dy=\underset{{\mathbb{R}}^n}{\int <!--\; \int \; -->}f(x-<!--\; -\; -->y)g(y)dy.$${\stackrel {\mathrm {def} }{=}}\ \int \limits _{\mathbb {R} ^{n}}f(y)\,g(x-y)\,dy=\int \limits _{\mathbb {R} ^{n}}f(x-y)\,g(y)\,dy.$

В частности, при $n=1$$n=1$  формула принимает вид

$(f\ast <!--\; \ast \; -->g)(x)$$(f*g)(x)\$

$\stackrel{\mathrm{d}\mathrm{e}\mathrm{f}}{=}\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}f(y)g(x-<!--\; -\; -->y)dy=\underset{-<!--\; -\; -->\mathrm{\infty <!--\; \infty \; -->}}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\int <!--\; \int \; -->}}f(x-<!--\; -\; -->y)g(y)dy.$$\stackrel{\mathrm{def}}{=}\ \int \limits_{-\infty}^{\infty} f(y)\, g(x-y)\, dy = \int \limits_{-\infty}^{\infty} f(x-y)\, g(y)\, dy.$

Свёртка $(f\ast <!--\; \ast \; -->g)(x)$$(f*g)(x)$  определена при почти всех $x\in <!--\; \in \; -->{\mathbb{R}}^n$$x\in {\mathbb {R} ^{n}}$  и интегрируема.

В случае, когда $x\in <!--\; \in \; -->\mathbb{R}$$x\in \mathbb {R}$ , а функции $f(x),g(x)$$f(x),~g(x)$  определены на промежутке $[0,+\mathrm{\infty <!--\; \infty \; -->})$$[0,+\infty )$ , свёртку можно записать в виде

$(f\ast <!--\; \ast \; -->g)(x)$$(f*g)(x)\$

$\stackrel{\mathrm{d}\mathrm{e}\mathrm{f}}{=}\underset{0}{\overset{x}{\int <!--\; \int \; -->}}f(y)g(x-<!--\; -\; -->y)dy=\underset{0}{\overset{x}{\int <!--\; \int \; -->}}f(x-<!--\; -\; -->y)g(y)dy.$${\stackrel {\mathrm {def} }{=}}\ \int \limits _{0}^{x}f(y)\,g(x-y)\,dy=\int \limits _{0}^{x}f(x-y)\,g(y)\,dy.$

Впервые интегралы, являющиеся свёрткой двух функций, встречаются в трудах Леонарда Эйлера (1760-е годы); позднее свёртка появляется у Лапласа, Лакруа, Фурье, Коши, Пуассона и других математиков. Обозначение свёртки функций при помощи звёздочки впервые предложил Вито Вольтерра в 1912 году на своих лекциях в Сорбонне (опубликованы годом позже).

СвойстваПравить

Коммутативность:

$f\ast <!--\; \ast \; -->g=g\ast <!--\; \ast \; -->f$$f*g=g*f$ .

Ассоциативность:

$f\ast <!--\; \ast \; -->(g\ast <!--\; \ast \; -->h)=(f\ast <!--\; \ast \; -->g)\ast <!--\; \ast \; -->h$$f*(g*h)=(f*g)*h$ .

Линейность (дистрибутивность по сложению и ассоциативность с умножением на скаляр):

$(f_1+f_2)\ast <!--\; \ast \; -->g=f_1\ast <!--\; \ast \; -->g+f_2\ast <!--\; \ast \; -->g$$(f_{1}+f_{2})*g=f_{1}*g+f_{2}*g$ ,

$f\ast <!--\; \ast \; -->(g_1+g_2)=f\ast <!--\; \ast \; -->g_1+f\ast <!--\; \ast \; -->g_2$$f*(g_{1}+g_{2})=f*g_{1}+f*g_{2}$ ,

$(af)\ast <!--\; \ast \; -->g=a(f\ast <!--\; \ast \; -->g)=f\ast <!--\; \ast \; -->(ag),\mathrm{\forall <!--\; \forall \; -->}a\in <!--\; \in \; -->\mathbb{R}$$(af)*g=a(f*g)=f*(ag),\quad \forall a\in \mathbb {R}$ .

Правило дифференцирования:

$\mathrm{D}(f\ast <!--\; \ast \; -->g)=\mathrm{D}f\ast <!--\; \ast \; -->g=f\ast <!--\; \ast \; -->\mathrm{D}g$$\mathrm {D} (f*g)=\mathrm {D} f*g=f*\mathrm {D} g$ ,

где $\mathrm{D}f$$\mathrm{D}f$  обозначает производную функции $f$$f$  по любой переменной.

Преобразование Лапласа:

$\mathcal{L}\{f(x)\ast <!--\; \ast \; -->g(x)\}=\mathcal{L}\{f(x)\}\cdot <!--\; \cdot \; -->\mathcal{L}\{g(x)\}$${\mathcal {L}}\{f(x)*g(x)\}={\mathcal {L}}\{f(x)\}\cdot {\mathcal {L}}\{g(x)\}$ .

Свойство фурье-образа:

$\mathfrak{F}[f\ast <!--\; \ast \; -->g]=\mathfrak{F}[f]\cdot <!--\; \cdot \; -->\mathfrak{F}[g]$${\mathfrak {F}}[f*g]={\mathfrak {F}}[f]\cdot {\mathfrak {F}}[g]$ ,

где $\mathfrak{F}[]$${\mathfrak {F}}[]$  обозначает преобразование Фурье функции.

Если $\mathcal{W}$${\mathcal {W}}$  является матрицей дискретного преобразования Фурье, то:

$\mathcal{W}(C^{(1)}x\ast <!--\; \ast \; -->C^{(2)}y)=(\mathcal{W}{C}^{(1)}\bullet <!--\; \bullet \; -->\mathcal{W}{C}^{(2)})(x\otimes <!--\; \otimes \; -->y)=\mathcal{W}{C}^{(1)}x\circ <!--\; \circ \; -->\mathcal{W}{C}^{(2)}y$${\mathcal {W}}(C^{(1)}x\ast C^{(2)}y)=({\mathcal {W}}C^{(1)}\bullet {\mathcal {W}}C^{(2)})(x\otimes y)={\mathcal {W}}C^{(1)}x\circ {\mathcal {W}}C^{(2)}y$ ,

где $\bullet <!--\; \bullet \; -->$$\bullet$  — символ торцевого произведения матриц, $\otimes <!--\; \otimes \; -->$$\otimes$  обозначает произведение Кронекера, $\circ <!--\; \circ \; -->$$\circ$  — символ произведения Адамара (тождество является следствием свойств отсчётного скетча).

ПримерПравить

 

График функции $g(x)$${\color {Red}g(x)}$ — количество выпавшего снега в килограммах на начало часа.

Пусть стоит задача вычислить, как будет изменяться количество снега на каком-либо участке земли в зависимости от времени. Решение этой задачи можно разделить на два этапа:

1. построить модель выпадения снега и модель таяния снега.
2. каким-то образом соединить эти две модели в одну.
    

   График $f(x)$${\color {Blue}f(x)}$  зависимости количества нерастаявшего снега от времени прошедшего с момента его выпадения.

Задачи первого этапа решаются путём наблюдений и опытов, а задачи второго этапа — свёрткой получившихся на первом этапе моделей.

Пусть в результате решения задачи на первом этапе было построено две зависимости (математические модели):

• зависимость количества выпавшего снега от текущего времени $g(t)$${\color {Red}g(t)}$ ,
• зависимость доли нерастаявшего снега от времени, прошедшего с момента его выпадения $f(\mathrm{\tau <!--\; \tau \; -->})$${\color {Blue}f(\tau )}$ .

Если бы снег не начинал таять, количество всех выпавших осадков $G$$G$  можно было бы посчитать путём сложения в дискретном случае:

$G=\underset{t=0}{\overset{T}{\sum <!--\; \sum \; -->}}g(t)$$G=\sum _{t=0}^{T}g(t)$ ,

или путём интегрирования в случае непрерывном:

$G=\underset{0}{\overset{T}{\int <!--\; \int \; -->}}g(t)dt$$G=\int \limits _{0}^{T}g(t)\,dt$ .

Но в данном случае таяние снега имеет место и, более того, оно зависит не только от текущего общего количества снега, но и от того, в какой момент времени выпал этот конкретный объём снега. Так снег, выпавший две недели назад, может уже испариться, в то время как снег, выпавший полчаса назад, ещё будет лежать и даже не начнёт подтаивать.

Получается, что для снега, выпавшего в разное время, нужно построить свою модель таяния и как-то сложить все эти модели вместе.

Для этих целей и можно использовать понятие математической свёртки. Пусть в момент времени $t$$t$  рассматривается снег, который выпал в момент времени $\mathrm{\tau <!--\; \tau \; -->}$$\tau$ , тогда

• $\mathrm{\tau <!--\; \tau \; -->}$$\tau$  — время выпадения снега. Например, 13:00;
• $g(\mathrm{\tau <!--\; \tau \; -->})$${\color {Red}g(\tau )}$  — количество выпавшего в момент $\mathrm{\tau <!--\; \tau \; -->}$${\tau }$  снега. Например, 7 кг;
• $t$$t$  — момент времени, для которого нам нужно узнать состояние выпавшего в $\mathrm{\tau <!--\; \tau \; -->}$$\tau$  снега. Например, 15:00;
• $t-<!--\; -\; -->\mathrm{\tau <!--\; \tau \; -->}$$t-\tau$  — количество времени, прошедшее с момента выпадения до момента расчёта оставшейся доли снега. То есть 15:00 − 13:00;
• $f(t-<!--\; -\; -->\mathrm{\tau <!--\; \tau \; -->})$${\color {Blue}f(t-\tau )}$  — доля снега, которая не растаяла после того, как пролежала $t-<!--\; -\; -->\mathrm{\tau <!--\; \tau \; -->}$$t-\tau$  часов.

Нужно для каждого количества $g(\mathrm{\tau <!--\; \tau \; -->})$${\color {Red}g(\tau )}$  снега, выпавшего в момент времени $\mathrm{\tau <!--\; \tau \; -->}$$\tau$ , сложить множество моделей $f(t-<!--\; -\; -->\mathrm{\tau <!--\; \tau \; -->})$$f(t-\tau )$  в одну функцию. Если это сделать, получится сумма в дискретном случае:

$w(t)=\underset{\mathrm{\tau <!--\; \tau \; -->}=0}{\overset{t}{\sum <!--\; \sum \; -->}}g(\mathrm{\tau <!--\; \tau \; -->})f(t-<!--\; -\; -->\mathrm{\tau <!--\; \tau \; -->}),$$w(t)=\sum \limits _{\tau =0}^{t}g(\tau )f(t-\tau ),$ 

или интеграл в непрерывном:

$w(t)=\underset{\mathrm{\tau <!--\; \tau \; -->}=0}{\overset{t}{\int <!--\; \int \; -->}}g(\mathrm{\tau <!--\; \tau \; -->})f(t-<!--\; -\; -->\mathrm{\tau <!--\; \tau \; -->})d\mathrm{\tau <!--\; \tau \; -->}.$$w(t)=\int \limits _{\tau =0}^{t}g(\tau )f(t-\tau )d\tau .$ 

Графически функция $w(t)$$w(t)$  изображена ниже, где разными цветами представлены вклады каждой кучи снега из графика $g(x)$${\color {Red}g(x)}$ .

 

График функции $w(t)$$w(t)$ , где разным цветом представлен вклад каждой кучи снега (цвета вкладов соответствуют цветам куч выпавшего снега на графике $g(x)$${\color {Red}g(x)}$  выше)

Функция $w(t)$$w(t)$  полностью моделирует поведение снега, выпавшего согласно модели $g(x)$${\color {Red}g(x)}$ . Так, на графике выше видно, что общее количество снега увеличивается тремя скачками, но снег начинает таять сразу, не дожидаясь выпадения других осадков.

Свёртка на группахПравить

Пусть $G$$G$  — группа, оснащённая мерой $m$$m$ , и $f,g:G\to <!--\; \to \; -->\mathbb{R}$$f,g:G \to \mathbb{R}$  — две функции, определённые на $G$$G$ . Тогда их свёрткой называется функция

$(f\ast <!--\; \ast \; -->g)(x)=\underset{G}{\int <!--\; \int \; -->}f(y)g\left(x{y}^{-<!--\; -\; -->1}\right)m(dy),\mathrm{\forall <!--\; \forall \; -->}x\in <!--\; \in \; -->G.$$(f*g)(x)=\int \limits _{G}f(y)\,g\left(xy^{-1}\right)\,m(dy),\quad \forall x\in G.$ 

Свёртка мерПравить

Пусть есть борелевское пространство $(\mathbb{R},\mathcal{B}(\mathbb{R}))$$(\mathbb {R} ,{\mathcal {B}}(\mathbb {R} ))$  и две меры $\mathrm{\mu <!--\; \mu \; -->},\mathrm{\nu <!--\; \nu \; -->}:\mathcal{B}(\mathbb{R})\to <!--\; \to \; -->\mathbb{R}$$\mu,\nu: \mathcal{B}(\mathbb{R}) \to \mathbb{R}$ . Тогда их свёрткой называется мера

$\mathrm{\mu <!--\; \mu \; -->}\ast <!--\; \ast \; -->\mathrm{\nu <!--\; \nu \; -->}(A)=\mathrm{\mu <!--\; \mu \; -->}\otimes <!--\; \otimes \; -->\mathrm{\nu <!--\; \nu \; -->}\left(\{(x,y)\in <!--\; \in \; -->{\mathbb{R}}^2\mid <!--\; \mid \; -->x+y\in <!--\; \in \; -->A\}\right),\mathrm{\forall <!--\; \forall \; -->}A\in <!--\; \in \; -->\mathcal{B}(\mathbb{R}),$$\mu *\nu (A)=\mu \otimes \nu \left(\{(x,y)\in \mathbb {R} ^{2}\mid x+y\in A\}\right),\quad \forall A\in {\mathcal {B}}(\mathbb {R} ),$ 

где $\mathrm{\mu <!--\; \mu \; -->}\otimes <!--\; \otimes \; -->\mathrm{\nu <!--\; \nu \; -->}$$\mu \otimes \nu$  обозначает произведение мер $\mathrm{\mu <!--\; \mu \; -->}$$\mu$  и $\mathrm{\nu <!--\; \nu \; -->}$$\nu$ .

СвойстваПравить

• Пусть $\mathrm{\mu <!--\; \mu \; -->},\mathrm{\nu <!--\; \nu \; -->}$$\mu,\nu$  абсолютно непрерывны относительно меры Лебега $m$$m$ . Обозначим их производные Радона — Никодима:

$f_{\mathrm{\mu <!--\; \mu \; -->}}=\frac{d\mathrm{\mu <!--\; \mu \; -->}}{dm},f_{\mathrm{\nu <!--\; \nu \; -->}}=\frac{d\mathrm{\nu <!--\; \nu \; -->}}{dm}.$$f_{\mu }={\frac {d\mu }{dm}},\quad f_{\nu }={\frac {d\nu }{dm}}.$ 

Тогда $\mathrm{\mu <!--\; \mu \; -->}\ast <!--\; \ast \; -->\mathrm{\nu <!--\; \nu \; -->}$$\mu * \nu$  также абсолютно непрерывна относительно $m$$m$ , и её производная Радона — Никодима $f_{\mathrm{\mu <!--\; \mu \; -->}\ast <!--\; \ast \; -->\mathrm{\nu <!--\; \nu \; -->}}=\frac{d\mathrm{\mu <!--\; \mu \; -->}\ast <!--\; \ast \; -->\mathrm{\nu <!--\; \nu \; -->}}{dm}$$f_{\mu * \nu} = \frac{d \mu * \nu}{dm}$  имеет вид

$f_{\mathrm{\mu <!--\; \mu \; -->}\ast <!--\; \ast \; -->\mathrm{\nu <!--\; \nu \; -->}}=f_{\mathrm{\mu <!--\; \mu \; -->}}\ast <!--\; \ast \; -->f_{\mathrm{\nu <!--\; \nu \; -->}}.$$f_{\mu *\nu }=f_{\mu }*f_{\nu }.$ 

• Если $\mathrm{\mu <!--\; \mu \; -->},\mathrm{\nu <!--\; \nu \; -->}$$\mu,\nu$  — вероятностные меры, то $\mathrm{\mu <!--\; \mu \; -->}\ast <!--\; \ast \; -->\mathrm{\nu <!--\; \nu \; -->}$$\mu * \nu$  также является вероятностной мерой.

Свёртка распределенийПравить

Если ${\mathbb{P}}^X,{\mathbb{P}}^Y$$\mathbb{P}^X,\mathbb{P}^Y$  — распределения двух независимых случайных величин $X$$X$  и $Y$$Y$ , то

${\mathbb{P}}^{X+Y}={\mathbb{P}}^X\ast <!--\; \ast \; -->{\mathbb{P}}^Y,$$\mathbb {P} ^{X+Y}=\mathbb {P} ^{X}*\mathbb {P} ^{Y},$ 

где ${\mathbb{P}}^{X+Y}$$\mathbb{P}^{X+Y}$  — распределение суммы $X+Y$$X+Y$ . В частности, если $X,Y$$X,Y$  абсолютно непрерывны и имеют плотности $f_X,f_Y$$f_X,f_Y$ , то случайная величина $X+Y$$X+Y$  также абсолютно непрерывна и её плотность имеет вид:

$f_{X+Y}=f_X\ast <!--\; \ast \; -->f_Y.$$f_{X+Y}=f_{X}*f_{Y}.$ 

См. такжеПравить

• Обратная свертка (деконволюция)
• Взаимнокорреляционная функция
• Автокорреляционная функция
• Свёртка последовательностей

ЛитератураПравить

• Колмогоров А. Н., Фомин С. В. Элементы теории функций и функционального анализа, — М.: Наука, 2004 (7-е изд.).
• Ширяев А. Н. Вероятность, — М.: Наука. 1989.
• Напалков В. В. Уравнения свертки в многомерных пространствах. — М., Наука, 1982. — Тираж 3500 экз. — 240 с.

СсылкиПравить

• Java-Applet
• Java-Applet
• Линейная и циклическая свертка  (рус.). Дата обращения: 15 ноября 2010.