Содержимое раздела
Этот раздел посвящен изложению фундаментальных принципов, лежащих в основе различных методов кодирования. Будут рассмотрены такие понятия, как энтропия источника, избыточность информации, а также основные подходы к статистическому кодированию. Для формирования полного представления о предмете будут описаны базовые математические модели, необходимые для дальнейшего анализа алгоритмов Хаффмана и Шеннона-Фано. Цель — обеспечить читателя необходимой теоретической базой перед переходом к конкретным алгоритмам.