Пропускная способность симметричного канала со стиранием

Рассмотренный выше способ принятия решения относительно поданного в канал сигнала можно усовершенствовать, введя «защитный интервал» или «зону стирания» величиной 2Д. Алгоритм модифицируется следующим образом. При р > р + Д решение принимается в пользу сигнала «1», а при /х < р — Д принимается решение в пользу «О». При попадании в зону стирания, т. е. при р-Д</х<�р + Д, будем считать, что сигнал становится «нераспознаваемым». Получаем модель бинарного симметричного канала со стиранием символа (Б.С.К.С.). Это небольшое изменение заметно повышает эффективность системы, поскольку задача исправления стираний проще задачи исправления ошибок. Один и тот же корректирующий код позволяет исправить примерно в два раза больше стираний, чем инверсий.

Перейдем к моделированию Б.С.К. С. Рассмотрим двоичный канал (на входе сигналы и, и и₂ с вероятностями появления р{и{) и p (tz₂) соответственно). На приемном конце канала связи любой из них с вероятностью р может быть интерпретирован как противоположный (смотри предыдущий раздел), но, помимо этого, с вероятностью q искажения в канале оказываются такими, что принятый знак не идентифицируется ни с одним из поступающих на вход. В таком случае можно считать, что принят новый сигнал v₃, появление которого можно интерпретировать как пропажу (стирание) входного сигнала — по этой причине канал назван двоичным симметричным со стиранием (рис. 3.14). Символ v₃ не входит в состав алфавита источника. Тогда.

Эту же систему можно представить в виде марковской цепи со следующей матрицей переходных вероятностей:

Рис. 3.14. Граф передачи сигнала в бинарном симметричном канале со стиранием

Расчет условной энтропии шума в соответствии с формулой (3.10) дает.

Подставляя вероятности из матрицы переходных вероятностей, получим:

Таким образом, в силу (3.8).

Поскольку H (v | и) не зависит от значений априорных вероятностей, взаимная информация 1{и, v) достигает максимума при таких вероятностях, когда наибольшее значение приобретает энтропия H (v). Для нахождения Н (у) необходимо знать вероятности всех сигналов, появляющихся на выходе из канала (обозначим эти вероятности q^ (j = 1, 2, 3)).

Вероятность появления v₃ (т.е. стирания символа) уже установлена: q₃ = q. Для Vj вероятность q_a = р (и_г) ? (1 — р — q) +.

+ p (u₂) • P‘, аналогично для v₂ находим q₂ = p (u₂) • p + p (u₂) x x (1 -p — q). Тогда по формуле (3.9).

Поскольку q определяется конструктивными особенностями канала и не зависит от априорных вероятностей сигналов на входе, наибольшая энтропия выхода H (v) будет при максимальном значении выражения -q₁ • log₂q_a — q₂ • log₂q₂, причем при любых pCuj) и р (и₂) справедливо q_l + q₂ — 1 — q (так как? q, = 1). Можно показать (аналогично доказательству третьего свойства энтропии), что указанное выражение достигает максимума при условии q_x = q₂ = 0,5(1 — q). Тогда.

приведя подобные, получим:

Окончательно для пропускной способности двоичного симметричного канала со стиранием имеем:

Проанализируем полученный результат. С = С (р, q), причем С будет уменьшаться при увеличении как р, так и q. Если вероятности р и q отличны от 0, то, как видно из полученного выражения, С < С₀. В реальных двоичных каналах со стиранием р < q, т. е. вероятность такого искажения входного сигнала, при котором его невозможно распознать, выше вероятности такого искажения, при котором сигнал становится похожим на второй из используемых сигналов. В тех ситуациях, когда р пренебрежимо мала и единственным искажением оказывается стирание сигнала, пропускная способность оказывается равной С = С₀ • (1 — q). График этой функции представлен на рис. 3.15.

Рис. 3.15. Зависимость пропускной способности от вероятности стирания.

Полученный результат представляется вполне закономерным: при р — 0 из^{двоичных} сигналов, передаваемых по каналу за единицу времени, в среднем V? q будет «стираться», но при этом остальные V • (1 — q) сигналов будут на приемном конце расшифровываться без потерь, и с каждым из них связан ровно 1 бит информации.

Заканчивая рассмотрение характеристик реального дискретного канала передачи информации, мы можем сделать следующие заключения.

Помехи, существующие в реальном канале связи, приводят к снижению его пропускной способности (по сравнению с аналогичным каналом без помех).

Пропускная способность реального канала может быть рассчитана по известным априорным вероятностям. Для их определения требуются статистические исследования передачи информации в канале.