Як виміряти інформацію на основі ймовірнісного підходу?
Їм було виведено в (1948) році формула для обчислення кількості інформації рівноймовірних подій: I = − ∑ i = 1 N p i ⋅ log 2 p i , де \(i\) – кількість інформації; \(N\) – кількість можливих подій; p i – ймовірність \(i\)-го події. Збережена копія
Як можна виміряти обсяг інформації, використовуючи об'ємний підхід?
Об'ємний спосіб виміру інформації називають ще алфавітним підходом. Для подвійного представлення текстів у комп'ютері найчастіше використовується рівномірний восьмирозрядний код. З його допомогою можна, можливо закодувати 256 символів. У двійковому коді один двійковий розряд несе одну одиницю інформаціїяка називається 1 біт.