Кодирование энтропии —
кодирование словами (кодами) переменной длины, при которой длина кода символа имеет обратную зависимость от
вероятности появления символа в передаваемом сообщении. Обычно
энтропийные кодировщики используют для сжатия данных коды, длины которых пропорциональны отрицательному
логарифму вероятности символа. Таким образом, наиболее вероятные символы используют наиболее короткие коды.