Стохастическая аппроксимация

Стохастическая аппроксимация — рекуррентный метод построения состоятельной последовательности оценок решений уравнений регрессии и экстремумов функций регрессии в задачах непараметрического оценивания. В биологии, химии, медицине используется для анализа результатов опытов. В теории автоматического управления применяется как средство решения задач распознавания, идентификации, обучения и адаптации. Основоположниками метода стохастической аппроксимации являются Кифер, Вольфовиц, Робинс, Монро .

Поиск решения уравнения регрессииПравить

Пусть каждому значению параметра $x$$x$  соответствует измеряемая опытным путём случайная величина $y$$y$  с функцией распределения $F(y|x)$$F(y|x)$ , причем математическое ожидание величины $y$$y$  при фиксированном параметре $x$$x$  $m(y|x)=m(x)$$m(y|x)=m(x)$ . Требуется найти решение уравнения регрессии $m(x)=\mathrm{\alpha <!--\; \alpha \; -->}$$m(x)=\alpha$ . Предполагается, что решение уравнения регрессии единственно, а функции $F(y|x)$$F(y|x)$  и $m(x)$$m(x)$  неизвестны.

Процедура стохастической аппроксимации для получения оценок корня $\stackrel{^<!--\; ^\; -->}{x}$${\hat {x}}$  уравнения регрессии $m(\stackrel{^<!--\; ^\; -->}{x})=\mathrm{\alpha <!--\; \alpha \; -->}$$m({\hat {x}})=\alpha$  заключается в использовании полученной на основании опыта обучающей выборки измеряемых случайных величин $y_1,...,y_n$$y_{1},...,y_{n}$ .

Оценка $\stackrel{^<!--\; ^\; -->}{x_{n+1}}$${\hat {x_{n+1}}}$  искомого корня находится на основе предыдущей оценки $\stackrel{^<!--\; ^\; -->}{x_n}$${\hat {x_{n}}}$  с помощью обучающего значения измеренной случайной величины $y_n$$y_{n}$  с помощью соотношения $\stackrel{^<!--\; ^\; -->}{x_{n+1}}=\stackrel{^<!--\; ^\; -->}{x_n}+a_n(\mathrm{\alpha <!--\; \alpha \; -->}-<!--\; -\; -->y_n)$${\hat {x_{n+1}}}={\hat {x_{n}}}+a_{n}(\alpha -y_{n})$ , где $n⩾<!--\; ⩾\; -->1$$n\geqslant 1$ , $\stackrel{^<!--\; ^\; -->}{x_1}$${\hat {x_{1}}}$  - произвольное число.

Если последовательность коэффициентов $a_n$$a_{n}$  удовлетворяет условиям $a_n>0$$a_{n}>0$ , $\underset{n=1}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{a}_n=\mathrm{\infty <!--\; \infty \; -->}$$\sum _{n=1}^{\infty }a_{n}=\infty$ , $\sum _{n=1}^{\infty }a_{n}^{2}<\infty$ , то при $n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}$$n\to \infty$  оценка $\stackrel{^<!--\; ^\; -->}{x_{n+1}}$${\hat {x_{n+1}}}$  стремится по вероятности к корню уравнения $m(\stackrel{^<!--\; ^\; -->}{x})=\mathrm{\alpha <!--\; \alpha \; -->}$$m({\hat {x}})=\alpha$ .

При некоторых дополнительных требованиях к функции регрессии $m(x)$$m(x)$  оценки $\stackrel{^<!--\; ^\; -->}{x_{n+1}}$${\hat {x_{n+1}}}$  могут сходится в среднеквадратическом к решению уравнения регрессии .

ПримерыПравить

• Твёрдость сплава меди с железом $y$$y$  зависит от времени $x$$x$ , в течение которого сплав подвергается воздействию высокой температуры. В этом случае измеряемой случайной величиной является твёрдость сплава $y$$y$ , а задача состоит в определении времени $\stackrel{^<!--\; ^\; -->}{x}$${\hat {x}}$ , при котором сплав имеет заданную твёрдость $y=\mathrm{\alpha <!--\; \alpha \; -->}$$y=\alpha$ .

Поиск экстремума функции регрессииПравить

Оценка $\stackrel{^<!--\; ^\; -->}{x_{n+1}}$${\hat {x_{n+1}}}$  экстремального значения функции регрессии находится на основе предыдущей оценки $\stackrel{^<!--\; ^\; -->}{x_n}$${\hat {x_{n}}}$  и обучающих значений измеренной случайной величины $y_{2n}$$y_{2n}$  и $y_{2n-<!--\; -\; -->1}$$y_{2n-1}$  с помощью соотношения $\stackrel{^<!--\; ^\; -->}{x_{n+1}}=\stackrel{^<!--\; ^\; -->}{x_n}+\frac{a_n}{c_n}(y_{2n}-<!--\; -\; -->y_{2n-<!--\; -\; -->1})$${\hat {x_{n+1}}}={\hat {x_{n}}}+{\frac {a_{n}}{c_{n}}}(y_{2n}-y_{2n-1})$ , где $n⩾<!--\; ⩾\; -->1$$n\geqslant 1$ , $\stackrel{^<!--\; ^\; -->}{x_1}$${\hat {x_{1}}}$  - произвольное число, $a_n$$a_{n}$  - последовательность положительных чисел, а последовательности $y_{2n}$$y_{2n}$  и $y_{2n-<!--\; -\; -->1}$$y_{2n-1}$  независимы и соответствуют значениям параметра $\stackrel{^<!--\; ^\; -->}{x_n}+c_n$${\hat {x_{n}}}+c_{n}$  и $\stackrel{^<!--\; ^\; -->}{x_n}-<!--\; -\; -->c_n$${\hat {x_{n}}}-c_{n}$ .

Если последовательности коэффициентов $a_n$$a_{n}$  и $c_n$$c_{{n}}$  удовлетворяют условиям $a_n>0$$a_{n}>0$ , $c_n>0$$c_{n}>0$ , $c_n\to <!--\; \to \; -->0$$c_{n}\to 0$  при $n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}$$n\to \infty$ , $\underset{n=1}{\overset{\mathrm{\infty <!--\; \infty \; -->}}{\sum <!--\; \sum \; -->}}{a}_n=\mathrm{\infty <!--\; \infty \; -->}$$\sum _{n=1}^{\infty }a_{n}=\infty$ , $\sum _{n=1}^{\infty }a_{n}c_{n}<\infty$ , $\sum _{n=1}^{\infty }({\frac {a_{n}}{c_{n}}})^{2}<\infty$ , то при $n\to <!--\; \to \; -->\mathrm{\infty <!--\; \infty \; -->}$$n\to \infty$  оценка $\stackrel{^<!--\; ^\; -->}{x_{n+1}}$${\hat {x_{n+1}}}$  стремится по вероятности к экстремальному значению функции регрессии.

При некоторых дополнительных требованиях к функции регрессии $m(x)$$m(x)$  оценки $\stackrel{^<!--\; ^\; -->}{x_{n+1}}$${\hat {x_{n+1}}}$  могут сходится в среднеквадратическом к экстремуму функции регрессии.

ПримерыПравить

• Урожайность участка земли $y$$y$  зависит от количества удобрений $x$$x$ . В этом случае измеряемой случайной величиной является урожайность $y$$y$ , а задача состоит в определении количества удобрений $\stackrel{^<!--\; ^\; -->}{x}$${\hat {x}}$ , при котором участок земли имеет макcимальную урожайность.

ЛитератураПравить

• Вазан М. Стохастическая аппроксимация. — М.: Мир, 1972. — 295 с.
• Цыпкин Я.З. Основы теории обучающихся систем. — М.: Наука, 1970. — 251 с.
• Цыпкин Я.З. Адаптация и обучение в автоматических системах. — М.: Наука, 1968. — 399 с.