Взаимная информация дискретных переменных

Как получается результат

I=Σ p(x,y) log(p(x,y)/(p(x)p(y))); 0·log0=0.

Пример

2×2 contingency → I в bits.

Ограничения

Не причинность; только дискретные counts.

Источники

• Mutual information

Проверено: 14.09.2026 · Актуальность: 14.09.2026 · Редакция N1RO