Вероятностный подход к определению количества информации

Для вычисления количества информации в сообщении о неравновероятном событии используют следующую формулу: I=log2(1/p) где I – это количество информации, р – вероятность события.

Вероятность события выражается в долях единицы и вычисляется по формуле:

р=K/N,

где К – величина, показывающая сколько раз произошло интересующее нас событие, N – общее число возможных исходов какого-то процесса. Существует формула, которая связывает между собой количество возможных событий и количество информации.

N=2I; где N - количество возможных вариантов,

I - количество информации. Как пользоваться этими формулами для вычесления:

  • Если количество возможных вариантов N является целой степенью числа 2, то производить вычисления по формуле N=2I достаточно легко. вперед вперед

    середина