Азбука Морзе - это сжатие данных, придуманное за сто лет до теории. Частым буквам достались короткие коды. Посмотрите на азбуку Морзе внимательно: буква «E», самая частая в английском, кодируется одной точкой, а редкие «Q» или «Y» - длинными комбинациями из четырёх знаков. Это не случайность и не удобство руки телеграфиста. Это интуитивное сжатие: частым символам - короткие коды, редким - длинные. Ровно тот же принцип лежит в основе энтропийного кодирования - финального этапа любого видеокодека (H.264, HEVC, AV1). Кодек считает, какие значения встречаются часто, и выдаёт им короткие битовые коды, а редким - длинные. В среднем поток становится короче, и при этом не теряется ни один символ. Морзе сделал это вручную и на глаз ещё в 1830-х; Клод Шеннон в 1948 году доказал, насколько коротким…
Читать целиком