Понятие «избыточности информации»

Избыточность информации величина, которой измеряется относительная доля излишне используемых сообщений в некотором алфавите. Для уменьшения Избыточность информации применяются методы, разрабатываемые в теории кодирования. Избыточность информации может быть естественной (напр., в естественных языках) и искусственной. Последняя специально вводится для улучшения помехоустойчивости и надежности передачи и хранения информации. В общем случае избыточность информации оказывает двоякое влияние на характеристики информационных систем (в т. ч. и на процессы переработки информации человеком). С одной стороны, избыточность информации существенно повышает ее помехоустойчивость, дает возможность восстановить искаженную информацию. Например: искажение или потеря отдельных букв, слов, а иногда и фраз позволяет правильно распознать смысл письменного или устного сообщения; искажение состояния одного, двух сегментов знакосинтезирующих цифровых индикаторов в ряде случаев позволяет восстановить истинные значения отображаемой цифры и т. д. Примером избыточности в информационных структурах мозга является парность некоторых анализаторов (зрительного, слухового), что повышает надежность их работы. Избыточную информацию не следует путать с иррелевантной, которая мешает нормальной работе оператора. Существуют три основных способа введения избыточности: 1) многократное повторение информации; 2) введение в дискретные сигналы дополнительных элементов; 3) метод избыточных переменных. С другой стороны, избыточность информации усложняет систему, увеличивает время обработки информации, снижает реальную пропускную способность каналов связи. Для ее уменьшения в этом случае исцользуют оптимальное кодирование. Поэтому определение необходимой Избыточность информации решается в каждом конкретном случае, исходя из особенностей решаемой задачи и возможных ограничений.