Суть энтропии Шеннона. Процедура вычисления энтропии для текстового файла на английском языке. Проверка запрограммированной процедуры на нескольких файлах. Вычисление значения энтропии для тех же файлов, но с использованием частот вхождений пар символов.