GDY OTRZYMAMY KOMUNIKAT

Gdy otrzymamy komunikat (wiadomość) zawierający informację, że z danego zbioru zdarzeń wystąpi na pew­no któreś zdarzenie, wtedy jego prawdopodobieństwo stanie się równe 1, czyli zniknie całkowicie niepewność wobec tego zbioru, a jego entropia przyjmie wartość 0. Zjawiła się bowiem informacja, wskutek czego zniknęła niepewność, a tym samym entropia zmalała do zera. Każdemu ubytkowi entropii towarzyszy przyrost in­formacji. Możemy więc mierzyć informację w jedno­stkach ubytku entropii, czyli np. w bitach. Tak też czy­nimy.

Witaj na moim serwisie o społeczeństwie! Jestem z zawodu socjologiem i badanie relacji społecznych między ludźmi to moja praca ale i ogromne zainteresowanie. Jeśli podobają Ci się treści zawarte na moim serwisie to zapraszam do likowania na fb i komentowania!