Задача префиксного двоичного кодирования символов данного алфавита с известными частотами. Нижняя оценка средней длины кода с помощью этропии Шеннона.

Дивергенция между двумя распределениями. Статистическое расстояние и неравенство Пинскера.