Вероятностный подход к определению количества информации
Для вычисления количества информации в сообщении о неравновероятном событии используют следующую формулу: I=log2(1/p)
где I – это количество информации, р – вероятность события.
Вероятность события выражается в долях единицы и вычисляется по формуле: р=K/N,
где К – величина, показывающая сколько раз произошло интересующее нас событие, N – общее число возможных исходов какого-то процесса.
Существует формула, которая связывает между собой количество возможных событий и количество информации.
N=2I; где N - количество возможных вариантов,
I - количество информации.
Как пользоваться этими формулами для вычесления:
Если количество возможных вариантов N является целой степенью числа 2, то производить вычисления по формуле N=2I достаточно легко.
|