Марковский источник информации

Марковский источник информации, или марковский источник, — это источник информации, поведение которого определяется стационарной цепью Маркова с конечным числом исходов.

Формальное определениеПравить

Источник информации — это последовательность случайных величин, пробегающих конечный алфавит, распределение которых не меняется со временем.

Тогда марковский источник информации — это стационарная марковская цепь, вместе с функцией

$f:S\to <!--\; \to \; -->\mathrm{\Gamma <!--\; \Gamma \; -->}$$f:S\to \Gamma$ 

отображающей состояния S в буквы алфавита Г.

Унифилярный марковский источник — это марковский источник, для которого значения $f(s_k)$$f(s_{k})$  различны всегда, когда состояния $s_k$$s_{k}$  достижимы за один шаг из общего исходного состояния. Унифилярные источники хороши тем, что многие их свойства могут быть изучены более легко, чем в общем случае.

ПрименениеПравить

Марковские источники часто используются в теории передачи информации как модель передатчика. Также марковские источники используются в обработке естественного языка для распознавания скрытого значения текста. Задача распознавания марковской цепи по имеющемуся выводу марковского источника информации успешно решена методами скрытых марковских моделей, такими как алгоритм Витерби.

ПримечанияПравить

• Robert B. Ash, Information Theory, (1965) Dover Publications. ISBN 0-486-66521-6