Задать вопрос
28 октября, 08:57

Источник генерирует знак x1 и x2 с вероятностями р (x1) = 0,33 и р (x2) = 0,67. Построить коды Шеннона - Фано и Хаффмана для для последовательности из трех знаков. Каково среднее число символов на знак? Сравнить с энтропией.

+2
Ответы (1)
  1. 28 октября, 11:46
    0
    Строить коды для алфавита из двух символов немного странно - и так понятно, что получатся 0 и 1, и все эти кодирования бессмысленны.

    Код Шеннона - Фано: делим знаки на две части, чтобы суммарные вероятности появления символов частей были максимально близки (тут в каждой части всего один символ - иначе никак). Одной приписываем 0, другой 1. На этом всё кончилось.

    Код Хаффмана: выбираем два символа с наименьшими вероятностями, у одного постфикс 0, у другого 1. Объединяем в одну вершину, и она осталась одна. Конец.

    В среднем 1 символ - 1 бит.

    Энтропия - ∑ p ㏒₂ p = - 0.33 log 0.33 - 0.67 log 0.67 = 0.915 бит на символ.

    Учитывая, что энтропия всегда не превосходит среднюю длину кода, тут сошлось.
Знаете ответ?
Сомневаетесь в ответе?
Найдите правильный ответ на вопрос ✅ «Источник генерирует знак x1 и x2 с вероятностями р (x1) = 0,33 и р (x2) = 0,67. Построить коды Шеннона - Фано и Хаффмана для для ...» по предмету 📘 Информатика, а если вы сомневаетесь в правильности ответов или ответ отсутствует, то попробуйте воспользоваться умным поиском на сайте и найти ответы на похожие вопросы.
Смотреть другие ответы
Похожие вопросы по информатике
Из предложенных кодов выбирите тот, который мог быть получен алгоритмом Хаффмана, генерирующим однозначно докодируемые коды. 1) а-0, b-100, c-10, d-110, e-111 2) a-0, b-100, c-101, d-110, e111 3) a-1, b-100, c-101.
Ответы (1)
Для кодирования некоторой последовательности, состоящей из букв И, К, Л, М, Н, решили использовать неравномерный двоичный код, удовлетво - ряющий условию Фано. Для буквы Л использовали кодовое слово 1, для буквы М - кодовое слово 01.
Ответы (1)
5 Для кодирования некоторой последовательности, состоящей из букв А, Б, В, Г, Д, Е, решили использовать неравномерный двоичный код, удовлетворяющий условию Фано. Для букв А, Б, В, Г использовали соответственно кодовые слова 000, 001, 10, 11.
Ответы (1)
Под алфавитом понимают: 1) - любую конечную последовательность символов; 2) - упорядоченный определенным образом конечный набор знаков, расположенных в строго определенной последовательности; 3) - совокупность знаков и символов;
Ответы (1)
Двоичный источник формирует сообщение, состоящее из 11 независимых символов. Каждый символ может быть представлен четырьмя символами х1, х2, х3, х4, формируемыми с вероятностями: P (x1) = 0.2; p (x2) = 0.3; p (x3) = 0.4; p (x4) = 0.1.
Ответы (1)