Количественные закономерности передачи, хранения и обработки информации. Описание ансамбля сообщений совокупностью возможных сообщений и их вероятностей. Определение количества информации, содержащееся в одном сообщении. Кодирование префиксным кодом.