Функциональная производная

В математике и теоретической физике функциональная производная является обобщением производной по направлению. Разница заключается в том, что для последней дифференцирование производится в направлении какого-нибудь вектора, а для первой речь идёт о функции. Оба эти понятия можно рассматривать как обобщение обычного дифференциального исчисления.

Существуют два основных вида функциональных производных, соответствующих общему определению производной Фреше и производной Гато функции на банаховом пространстве. На практике они зачастую не различаются.

ОпределениеПравить

Пусть $F$$F$  — некоторый функционал, то есть функция, определённая на некотором множестве функций. Значение функционала $F$$F$  на функции $\mathrm{\varphi <!--\; \varphi \; -->}$$\phi$  обозначают $F[\mathrm{\varphi <!--\; \varphi \; -->}]$$F[\phi ]$ . Его производная Гато (производная по направлению) есть предел (если он существует) выражения $\underset{\mathrm{\epsilon <!--\; \epsilon \; -->}\to <!--\; \to \; -->0}{lim}\frac{F[\mathrm{\varphi <!--\; \varphi \; -->}+\mathrm{\epsilon <!--\; \epsilon \; -->}\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}]-<!--\; -\; -->F[\mathrm{\varphi <!--\; \varphi \; -->}]}{\mathrm{\epsilon <!--\; \epsilon \; -->}}$$\lim _{{\varepsilon \to 0}}{\frac {F[\phi +\varepsilon \delta \phi ]-F[\phi ]}{\varepsilon }}$ . Здесь $\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}$$\delta \phi$  — некоторая функция из области определения $F$$F$ . Отметим, что такая производная, вообще говоря, зависит от выбора функции $\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}$$\delta \phi$ . В этом смысле ситуация вполне аналогичная конечномерной. Например, функция $y=|x|$$y=|x|$  дифференцируема в точке $x=0$$x=0$  справа и слева, но эти односторонние производные различны, а в обычном смысле эта функция в 0 не дифференцируема.

Гораздо чаще в приложениях возникает производная функционала, аналогичная классической конечномерной производной и являющаяся частным случаем производной Гато. Не давая общего определения, рассмотрим типичный пример: поиск экстремума функционала на множестве траекторий, проходящих через две заданные точки. Такая задача возникает при исследовании задач классической механики с помощью принципа наименьшего действия, подобного же типа задача о нахождении фигуры максимальной площади с заданным периметром и т. п.

Пусть функционал $F$$F$  имеет интегральный вид

$F[\mathrm{\varphi <!--\; \varphi \; -->}]={\int <!--\; \int \; -->}_a^{b}L(\mathrm{\varphi <!--\; \varphi \; -->},\stackrel{\dot{}<!--\; \dot{}\; -->}{\mathrm{\varphi <!--\; \varphi \; -->}},t)dt$$F[\phi ]=\int _{a}^{b}L(\phi ,{\dot \phi },t)dt$ 

Его первой вариацией называется выражение

$\mathrm{\delta <!--\; \delta \; -->}F=F[\mathrm{\varphi <!--\; \varphi \; -->}+\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}]-<!--\; -\; -->F[\mathrm{\varphi <!--\; \varphi \; -->}]$$\delta F=F[\phi +\delta \phi ]-F[\phi ]$ 

Если она представима в виде

$\mathrm{\delta <!--\; \delta \; -->}F={\int <!--\; \int \; -->}_a^{b}S(\mathrm{\varphi <!--\; \varphi \; -->},\stackrel{\dot{}<!--\; \dot{}\; -->}{\mathrm{\varphi <!--\; \varphi \; -->}},t)\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}(t)dt$$\delta F=\int _{a}^{b}S(\phi ,{\dot \phi },t)\delta \phi (t)dt$ 

с точностью до величин второго порядка по $\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}$$\delta \phi$ , то функция $S$$S$  называется функциональной производной $F$$F$  по $\mathrm{\varphi <!--\; \varphi \; -->}$$\phi$  и обозначается $\frac{\mathrm{\delta <!--\; \delta \; -->}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}$${\frac {\delta F}{\delta \phi }}$ . Функционал при этом называют дифференцируемым.

Конкретно в данной задаче $\frac{\mathrm{\delta <!--\; \delta \; -->}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}=\frac{\mathrm{\partial <!--\; \partial \; -->}L}{\mathrm{\partial <!--\; \partial \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}-<!--\; -\; -->\frac{d}{dt}\frac{\mathrm{\partial <!--\; \partial \; -->}L}{\mathrm{\partial <!--\; \partial \; -->}\stackrel{\dot{}<!--\; \dot{}\; -->}{\mathrm{\varphi <!--\; \varphi \; -->}}}$${\frac {\delta F}{\delta \phi }}={\frac {\partial L}{\partial \phi }}-{\frac {d}{dt}}{\frac {\partial L}{\partial {\dot \phi }}}$ , но в общем случае ответ существенно зависит от постановки задачи и граничных условий.

Вторая вариацияПравить

Если функционал дифференцируем, то можно определить аналог второй производной (в данном случае он скорее аналогичен матрице вторых частных производных). Раскладывая полную вариацию $\mathrm{\delta <!--\; \delta \; -->}F$$\delta F$  до второго порядка по $\mathrm{\delta <!--\; \delta \; -->}\mathrm{\phi <!--\; \phi \; -->}$$\delta \varphi$  и отбрасывая величины первого порядка, получим выражение, называемое второй вариацией функционала:

${\mathrm{\delta <!--\; \delta \; -->}}^{2}F=\iint <!--\; \iint \; -->\frac{{\mathrm{\delta <!--\; \delta \; -->}}^{2}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\phi <!--\; \phi \; -->}\mathrm{\delta <!--\; \delta \; -->}{\mathrm{\phi <!--\; \phi \; -->}}^{\mathrm{\prime <!--\; \prime \; -->}}}\mathrm{\delta <!--\; \delta \; -->}\mathrm{\phi <!--\; \phi \; -->}(x)\mathrm{\delta <!--\; \delta \; -->}{\mathrm{\phi <!--\; \phi \; -->}}^{\mathrm{\prime <!--\; \prime \; -->}}(x^{\mathrm{\prime <!--\; \prime \; -->}})dxd{x}^{\mathrm{\prime <!--\; \prime \; -->}}$$\delta ^{2}F=\iint {\frac {\delta ^{2}F}{\delta \varphi \delta \varphi ^{\prime }}}\delta \varphi (x)\delta \varphi ^{\prime }(x^{\prime })dxdx^{\prime }$ 

СвойстваПравить

Функциональная производная по свойствам аналогично обычной. Например:

• Линейность. $\frac{\mathrm{\delta <!--\; \delta \; -->}}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}(\mathrm{\lambda <!--\; \lambda \; -->}F+\mathrm{\mu <!--\; \mu \; -->}G)=\mathrm{\lambda <!--\; \lambda \; -->}\frac{\mathrm{\delta <!--\; \delta \; -->}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}+\mathrm{\mu <!--\; \mu \; -->}\frac{\mathrm{\delta <!--\; \delta \; -->}G}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}},\mathrm{\lambda <!--\; \lambda \; -->},\mathrm{\mu <!--\; \mu \; -->}\in <!--\; \in \; -->\mathbb{C}$${\frac {\delta }{\delta \phi }}(\lambda F+\mu G)=\lambda {\frac {\delta F}{\delta \phi }}+\mu {\frac {\delta G}{\delta \phi }},\ \lambda ,\mu \in \mathbb {C}$ 
• Тождество Лейбница. $\frac{\mathrm{\delta <!--\; \delta \; -->}FG}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}=\frac{\mathrm{\delta <!--\; \delta \; -->}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}G+F\frac{\mathrm{\delta <!--\; \delta \; -->}G}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}$${\frac {\delta FG}{\delta \phi }}={\frac {\delta F}{\delta \phi }}G+F{\frac {\delta G}{\delta \phi }}$ 
• Разложение полной вариации по частным производным: $\mathrm{\delta <!--\; \delta \; -->}F[\mathrm{\varphi <!--\; \varphi \; -->},\mathrm{\psi <!--\; \psi \; -->}]=\frac{\mathrm{\delta <!--\; \delta \; -->}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}}\mathrm{\delta <!--\; \delta \; -->}\mathrm{\varphi <!--\; \varphi \; -->}+\frac{\mathrm{\delta <!--\; \delta \; -->}F}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\psi <!--\; \psi \; -->}}\mathrm{\delta <!--\; \delta \; -->}\mathrm{\psi <!--\; \psi \; -->}$$\delta F[\phi ,\psi ]={\frac {\delta F}{\delta \phi }}\delta \phi +{\frac {\delta F}{\delta \psi }}\delta \psi$ 
• В точке экстремума функционала его производная равна 0. Точка экстремума является точкой минимума (максимума), если вторая вариация — положительно (отрицательно) определённая квадратичная форма.

и так далее.

ПримерыПравить

ЭнтропияПравить

Информационная энтропия дискретной случайной величины — это функционал функции вероятности.

$\begin{array}{r}H[p(x)]=-<!--\; -\; -->\underset{x}{\sum <!--\; \sum \; -->}p(x)\log <!--\; \; -->p(x)\end{array}$${\begin{aligned}H[p(x)]=-\sum _{x}p(x)\log p(x)\end{aligned}}$ 

Поэтому

${\begin{aligned}\left\langle {\frac {\delta H}{\delta p}},\phi \right\rangle &{}=\sum _{x}{\frac {\delta H[p(x)]}{\delta p(x')}}\,\phi (x')\\&{}=\left.{\frac {d}{d\epsilon }}H[p(x)+\epsilon \phi (x)]\right|_{{\epsilon =0}}\\&{}=-{\frac {d}{d\varepsilon }}\left.\sum _{x}[p(x)+\varepsilon \phi (x)]\log[p(x)+\varepsilon \phi (x)]\right|_{{\varepsilon =0}}\\&{}=\displaystyle -\sum _{x}[1+\log p(x)]\phi (x)\\&{}=\left\langle -[1+\log p(x)],\phi \right\rangle .\end{aligned}}$ 

Поэтому

$\frac{\mathrm{\delta <!--\; \delta \; -->}H}{\mathrm{\delta <!--\; \delta \; -->}p}=-<!--\; -\; -->[1+\log <!--\; \; -->p(x)].$${\frac {\delta H}{\delta p}}=-[1+\log p(x)].$ 

ЭкспонентаПравить

Пусть

$F[\mathrm{\phi <!--\; \phi \; -->}(x)]=e^{\int <!--\; \int \; -->\mathrm{\phi <!--\; \phi \; -->}(x)g(x)dx}.$$F[\varphi (x)]=e^{{\int \varphi (x)g(x)dx}}.$ 

Используем в качестве пробной функции дельта-функцию:

${\begin{aligned}{\frac {\delta F[\varphi (x)]}{\delta \varphi (y)}}&{}=\lim _{{\varepsilon \to 0}}{\frac {F[\varphi (x)+\varepsilon \delta (x-y)]-F[\varphi (x)]}{\varepsilon }}\\&{}=\lim _{{\varepsilon \to 0}}{\frac {e^{{\int (\varphi (x)+\varepsilon \delta (x-y))g(x)dx}}-e^{{\int \varphi (x)g(x)dx}}}{\varepsilon }}\\&{}=e^{{\int \varphi (x)g(x)dx}}\lim _{{\varepsilon \to 0}}{\frac {e^{{\varepsilon \int \delta (x-y)g(x)dx}}-1}{\varepsilon }}\\&{}=e^{{\int \varphi (x)g(x)dx}}\lim _{{\varepsilon \to 0}}{\frac {e^{{\varepsilon g(y)}}-1}{\varepsilon }}\\&{}=e^{{\int \varphi (x)g(x)dx}}g(y).\end{aligned}}$ 

Поэтому

$\frac{\mathrm{\delta <!--\; \delta \; -->}F[\mathrm{\phi <!--\; \phi \; -->}(x)]}{\mathrm{\delta <!--\; \delta \; -->}\mathrm{\phi <!--\; \phi \; -->}(y)}=g(y)F[\mathrm{\phi <!--\; \phi \; -->}(x)].$${\frac {\delta F[\varphi (x)]}{\delta \varphi (y)}}=g(y)F[\varphi (x)].$ 

ЛитератураПравить

• Леви П. Конкретные проблемы функционального анализа. — М.: Наука, 1967. — 509 с.