n1ro°
RU

Калькуляторы / Текст и данные

Энтропия Шеннона

Рассчитайте энтропию Шеннона H по вероятностям или частотам категорий с основанием 2/e/10 и опциональной нормировкой к Hmax.

Как получается результат

H=−Σ p log_b p; 0·log 0 = 0; Hmax=log_b(k).

Пример

0.5, 0.25, 0.25 base 2 → H=1,5 бит.

Ограничения

Не метрика «качества» данных; нужна полная дискретная категория.

Источники

Проверено: · Актуальность: 14.09.2026 · Редакция N1RO

Нашли ошибку? Сообщить