Определение энтропии Шеннона; относительная энтропия и взаимная информация. Классические неравенства для энтропии дискретных случайных величин. Энтропийный профиль $n$-ки случайных величин; конус почти энтропийных векторов. Комбинаторные приложения: нижние оценки и эвристики в алгоритмах поиска.