Ограниченная машина Больцмана

Ограниченная машина Больцмана (англ. restricted Boltzmann machine), сокращённо RBM — вид генеративной стохастической нейронной сети, которая определяет распределение вероятности на входных образцах данных.

Ограниченная машина Больцмана

Первая ограниченная машина Больцмана была построена в 1986 году Полом Смоленски под названием Harmonium, но приобрела популярность только после изобретения Хинтоном быстрых алгоритмов обучения в середине 2000-х годов.

Такое название машина приобрела как модификация обычной машины Больцмана, в которой нейроны разделили на видимые и скрытые, а связи допустимы только между нейронами разного типа, таким способом ограничив связи. Значительно позже, в 2000-х годах, ограниченные машины Больцмана приобрели большую популярность и стали рассматриваться уже не как вариации машины Больцмана, а как особые компоненты в архитектуре сетей глубинного обучения. Объединение нескольких каскадов ограниченных машин Больцмана формирует глубокую сеть доверия, особый вид многослойных нейронных сетей, которые могут самообучаться без учителя при помощи алгоритма обратного распространения ошибки.

Особенностью ограниченных машин Больцмана является возможность проходить обучение без учителя, но в определённых приложениях ограниченные машины Больцмана обучаются с учителем. Скрытый слой машины представляет собой глубокие признаки в данных, которые выявляются в процессе обучения (см. также Data mining).

Ограниченные машины Больцмана имеют широкий спектр применений — это задачи снижения размерности данных, задачи классификации, коллаборативная фильтрация, выделение признаков (англ. feature learning) и тематическое моделирование.

В ограниченной машине Больцмана нейроны образуют двудольный граф, с одной стороны графа находятся видимые нейроны (вход), а с другой стороны — скрытые, причём перекрёстные связи устанавливаются между каждым видимым и каждым скрытым нейроном. Такая система связей позволяет применить при обучении сети метод градиентного спуска с контрастивной дивергенцией.

Структура сетиПравить

Ограниченная машина Больцмана базируется на бинарных элементах с распределением Бернулли, составляющие видимый $v_i$$v_{i}$  и скрытый $h_j$$h_{j}$  слои сети. Связи между слоями задаются с помощью матрицы весов $W=(w_{i,j})$$W=(w_{i,j})$  (размера m × n), а также смещений $a_i$$a_{i}$  для видимого слоя и $b_j$$b_{j}$  для скрытого слоя.

Вводится понятие энергии сети (v, h) как

$E(v,h)=-<!--\; -\; -->\underset{i}{\sum <!--\; \sum \; -->}{a}_i{v}_i-<!--\; -\; -->\underset{j}{\sum <!--\; \sum \; -->}{b}_j{h}_j-<!--\; -\; -->\underset{i}{\sum <!--\; \sum \; -->}\underset{j}{\sum <!--\; \sum \; -->}{v}_i{w}_{i,j}{h}_j,$$E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j},$ 

или в матричной форме

$E(v,h)=-<!--\; -\; -->a^{\mathrm{T}}v-<!--\; -\; -->b^{\mathrm{T}}h-<!--\; -\; -->v^{\mathrm{T}}Wh.$$E(v,h)=-a^{\mathrm {T} }v-b^{\mathrm {T} }h-v^{\mathrm {T} }Wh.$ 

Подобной функцией энергии обладает также Сеть Хопфилда. Как и для обычной машины Больцмана, через энергию определяется вероятность распределения на векторах видимого и скрытого слоя:

$P(v,h)=\frac{1}{Z}{e}^{-<!--\; -\; -->E(v,h)},$$P(v,h)={\frac {1}{Z}}e^{-E(v,h)},$ 

где $Z$$Z$  — статсумма, определяемая как $\sum <!--\; \sum \; -->e^{-<!--\; -\; -->E(v,h)}$$\sum e^{-E(v,h)}$  для всех возможных сетей (иными словами, $Z$$Z$  — константа нормализации, которая гарантирует, что сумма всех вероятностей равна единице). Определение вероятности для отдельного входного вектора (маргинальное распределение) проводится аналогично через сумму конфигураций всевозможных скрытых слоёв:

$P(v)=\frac{1}{Z}\underset{h}{\sum <!--\; \sum \; -->}{e}^{-<!--\; -\; -->E(v,h)}.$$P(v)={\frac {1}{Z}}\sum _{h}e^{-E(v,h)}.$ 

По причине структуры сети как двудольного графа, отдельные элементы скрытого слоя независимы друг от друга и активируют видимый слой, и наоборот отдельные элементы видимого слоя независимы друг от друга и активируют скрытый слой. Для $m$$m$  видимых элементов и для $n$$n$  скрытых элементов условные вероятности v определяются через произведения вероятностей h:

$P(v|h)=\underset{i=1}{\overset{m}{\prod <!--\; \prod \; -->}}P(v_i|h),$$P(v|h)=\prod _{i=1}^{m}P(v_{i}|h),$ 

и наоборот условные вероятности h определяются через произведение вероятностей v:

$P(h|v)=\underset{j=1}{\overset{n}{\prod <!--\; \prod \; -->}}P(h_j|v).$$P(h|v)=\prod _{j=1}^{n}P(h_{j}|v).$ 

Конкретные вероятности активации для одного элемента определяются как

$P(h_j=1|v)=\mathrm{\sigma <!--\; \sigma \; -->}\left(b_j+\underset{i=1}{\overset{m}{\sum <!--\; \sum \; -->}}{w}_{i,j}{v}_i\right)$$P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)$  и $P(v_i=1|h)=\mathrm{\sigma <!--\; \sigma \; -->}\left(a_i+\underset{j=1}{\overset{n}{\sum <!--\; \sum \; -->}}{w}_{i,j}{h}_j\right),$$P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right),$ 

где $\mathrm{\sigma <!--\; \sigma \; -->}$$\sigma$  — логистическая функция для активации слоя.

Видимые слои могут иметь также мультиномиальное распределение, в то время как скрытые слои распределены по Бернулли. В случае мультиномиальности вместо логистической функции используется softmax:

$P(v_i^k=1|h)=\frac{\exp <!--\; \; -->(a_i^k+{\mathrm{\Sigma <!--\; \Sigma \; -->}}_j{W}_{ij}^k{h}_j)}{{\mathrm{\Sigma <!--\; \Sigma \; -->}}_{k^{\prime }=1}^K\exp <!--\; \; -->(a_i^{k^{\prime }}+{\mathrm{\Sigma <!--\; \Sigma \; -->}}_j{W}_{ij}^{k^{\prime }}{h}_j)},$$P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}},$ 

где K — количество дискретных значений видимых элементов. Такое представление используется в задачах тематического моделирования и в рекомендательных системах.

Связь с другими моделямиПравить

Ограниченная машина Больцмана представляет собой частный случай обычной машины Больцмана и марковской сети. Их графовая модель соответствует графовой модели факторного анализа.

Алгоритм обученияПравить

Целью обучения является максимизация вероятности системы с заданным набором образцов $V$$V$  (матрицы, в которой каждая строка соответствует одному образцу видимого вектора $v$$v$ ), определяемой как произведение вероятностей

$\arg <!--\; \; -->\underset{W}{max}\underset{v\in <!--\; \in \; -->V}{\prod <!--\; \prod \; -->}P(v),$$\arg \max _{W}\prod _{v\in V}P(v),$ 

или же, что одно и то же, максимизации логарифма произведения:

$\arg <!--\; \; -->\underset{W}{max}\mathbb{E}[\log <!--\; \; -->P(v)].$$\arg \max _{W}\mathbb {E} [\log P(v)].$ 

Для тренировки нейронной сети используется алгоритм контрастивной дивергенции (CD) с целью нахождения оптимальных весов матрицы $W$$W$ , его предложил Джеффри Хинтон, первоначально для обучения моделей PoE («произведение экспертных оценок»). Алгоритм использует семплирование по Гиббсу для организации процедуры градиентного спуска, аналогично методу обратного распространения ошибок для нейронных сетей.

В целом один шаг контрастивной дивергенции (CD-1) выглядит следующим образом:

1. Для одного образца данных v вычисляются вероятности скрытых элементов и применяется активация для скрытого слоя h для данного распределения вероятностей.
2. Вычисляется внешнее произведение (семплирование) для v и h, которое называют позитивным градиентом.
3. Через образец h проводится реконструкция образца видимого слоя v', а потом выполняется снова семплирование с активацией скрытого слоя h'. (Этот шаг называется Семплирование по Гиббсу.)
4. Далее вычисляется внешнее произведение, но уже векторов v' и h', которое называют негативным градиентом.
5. Матрица весов $W$$W$  поправляется на разность позитивного и негативного градиента, помноженного на множитель, задающий скорость обучения: $\mathrm{\Delta <!--\; \Delta \; -->}W=\mathrm{\epsilon <!--\; \epsilon \; -->}(v{h}^{\mathsf{T}}-<!--\; -\; -->v^{\prime }{h}^{\prime \mathsf{T}})$$\Delta W=\varepsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})$ .
6. Вносятся поправки в биасы a и b похожим способом: $\mathrm{\Delta <!--\; \Delta \; -->}a=\mathrm{\epsilon <!--\; \epsilon \; -->}(v-<!--\; -\; -->v^{\prime })$$\Delta a=\varepsilon (v-v')$ , $\mathrm{\Delta <!--\; \Delta \; -->}b=\mathrm{\epsilon <!--\; \epsilon \; -->}(h-<!--\; -\; -->h^{\prime })$$\Delta b=\varepsilon (h-h')$ .

Практические указания по реализации процесса обучения можно найти на личной странице Джеффри Хинтона.

См. такжеПравить

• Автокодировщик
• Глубокое обучение
• Машина Гельмгольца
• Сеть Хопфилда

ЛитератураПравить

• Introduction to Restricted Boltzmann Machines Архивная копия от 29 октября 2012 на Wayback Machine. Edwin Chen’s blog, July 18, 2011.
• A Beginner’s Guide to Restricted Boltzmann Machines. Deeplearning4j Documentation
• Understanding RBMs. Deeplearning4j Documentation, August 4, 2015.
• Python implementation Архивная копия от 5 марта 2017 на Wayback Machine of Bernoulli RBM and tutorial Архивная копия от 5 марта 2017 на Wayback Machine
• SimpleRBM Архивная копия от 10 июня 2018 на Wayback Machine is a very small RBM code (24kB) useful for you to learn about how RBMs learn.