Эффективное кодирование

Эффективное кодирование решает задачу более компактной записи сообщений, вырабатываемых источником за счет их перекодировки. И применяется практически во всех архиваторах типа Rar, Zip и др. Особенностью этих архиваторов является то, что они позволяют сжать информацию в относительно небольшое число раз (в 2-3, max в 4 раза), но при этом происходит полное восстановление сжатой информации «бит в бит». Если же не требуется восстановление информации «бит в бит», то применяются другие методы перекодировки, позволяющие достичь сжатия в десятки раз. Они основываются на изучении закономерностей создания сообщений источником, изучении свойств самого источника и понимания того, насколько необходимо сохранять начальную информацию для потребителя. Например, при передаче речи можно не передавать ее «бит в бит», а допускать искажения, которые получатель голосового сообщения просто не заметит из-за нечувствительности слухового аппарата человека к этим изменениям. При этом сохранится и разборчивость речи, и узнаваемость голоса, и ее эмоциональная окраска. Частичная потеря этих качеств увеличивает ее сжатие. Еще раз подчеркнем, что эффективное кодирование это сжатие и восстановление информации «бит в бит».

Общее определение кодирования и кода. Задачи кодирования

Кодирование – в широком смысле слова – это представление сообщений в форме, удобной для передачи по данному каналу.

Операция, обратная кодированию, называется декодирование.

Снова вернемся к рассмотрению общей схемы системы передачи информации.

Общее определение кодирования и кода. Задачи кодирования
Рис. 3.1. Общая схема системы передачи информации

Сообщению X на выходе источника информации (ИИ) необходимо поставить в соответствие определенный сигнал. Поскольку количество сообщений при неограниченном увеличении времени стремится к бесконечности, то ясно, что создать свой сигнал для каждого сообщения практически невозможно.

Поскольку дискретные сообщения складываются из букв, а непрерывные сообщения можно представить последовательностью цифр в каждый момент отсчета, то имеется принципиальная возможность обойтись конечным числом образцовых сигналов, соответствующих отдельным буквам алфавита источника.

При большом объеме алфавита прибегают к представлению букв в другом алфавите с меньшим числом букв, которые будем называть символами.

Для обозначения этой операции используется тот же термин – кодирование, понимаемый теперь в узком смысле.

Поскольку алфавит символов меньше алфавита букв, то каждой букве соответствует некоторая последовательность символов, называемая кодовой комбинацией. Число символов в кодовой комбинации называется ее значностью.

В процессе преобразования букв в символы может преследоваться несколько целей:

1. Первая из них заключается в том, чтобы преобразовать информацию в такую систему символов (код), чтобы он обеспечивал простоту и надежность аппаратурной реализации информационных устройств, т.е.:

  • простоту аппаратуры различения отдельных символов;
  • минимальное время передачи;
  • минимальный объем запоминающего устройства при хранении;
  • простоту выполнения в принятой системе арифметических и логических действий.

Статистические свойства источника сообщений и помех в канале связи при этом не принимаются во внимание.

Техническая реализация процесса кодирования в таком простейшем виде при непрерывном входном сигнале осуществляется аналого-кодовыми (цифровыми) преобразователями.

2. Второй целью кодирования является на основании теорем Шеннона – согласование свойств источника сообщений со свойствами канала связи.

Так называемый кодер источника (КИ) имеет целью обеспечить такое кодирование, при котором путем устранения избыточности существенно уменьшается среднее число символов, требующееся на 1 букву сообщения.

При отсутствии помех это непосредственно дает выигрыш во времени передачи или в объеме запоминающего устройства, т.е. повышает эффективность системы. http://peredacha-informacii.ru/ Такое кодирование получило название эффективное кодирование.

При наличии помех в канале эффективное кодирование позволяет преобразовать входную информацию в последовательность символов, наилучшим образом подготовленную для дальнейшего преобразования (максимально сжатую).

Так называемый кодер канала (КК) имеет целью обеспечить заданную достоверность при передаче или хранении информации путем дополнительного внесения избыточности, но уже по простым алгоритмам и с учетом статистических закономерностей помехи в канале связи. Такое кодирование получило название помехоустойчивого.

Целесообразность устранения избыточности сообщения методами эффективного кодирования с последующим перекодированием помехоустойчивым кодом обусловлено тем, что избыточность источника сообщения в большинстве случаев не согласована со статистическими закономерностями помехи в канале связи и потому не может быть полностью использована для повышения достоверности принимаемого сообщения, тогда как можно подобрать подходящий для данной помехи помехоустойчивый код.

Кроме того, избыточность сообщения часто является следствием весьма сложных вероятностных зависимостей и позволяет обнаружить и исправить ошибки только после декодирования всего сообщения, пользуясь сложнейшими алгоритмами и интуицией.

Итак, выбор кодирующих и декодирующих устройств зависит от статистических свойств источника сообщений, а так же уровня и характера помех в канале связи.

Если избыточность источника сообщений и помехи в канале связи практически отсутствуют, то введение как кодера источника, так и кодера канала нецелесообразно.

Когда избыточность источника сообщений высока, а помехи малы, целесообразно введение только кодера источника.

Когда избыточность источника мала, а помехи велики, целесообразно введение кодера канала.

При большой избыточности и высоком уровне помех целесообразно введение обоих дополнительных кодирующих и декодирующих устройств.

После кодера канала КК кодированный сигнал поступает в устройство кодирования символов сигналами – модулятор М. Получаемый на выходе модулятора сигнал Y подготовлен к передаче по конкретной линии связи ЛС.

В устройство декодирования сигналов в символы (демодулятор ДМ) из линии связи приходит сигнал, искаженный шумом, который обозначен на схеме – Z.

Устройство декодирования помехоустойчивого кода (декодер канала ДК) и устройство декодирования сообщений (декодер источника ДИ) выдает декодированное сообщение W получателю П (человеку или машине).