Informácia – definícia a výpočet

Informácia Informácia je výsledok vyhodnocovania zmyslových vnemov, spracovania alebo organizácie dát Aj napriek tomu, že mnohí ľudia hovoria o „informačnom veku“, „informačnej spoločnosti“ a „informačných technológiách“, neexistuje jednotná definícia tohto termínu Jeho význam sa totiž mení podľa kontextu a úzko súvisí s ďalšími témami ako je znalosť, komunikácia alebo poznanie

Informácia ako správa Informácia je správa, posielaná od vysielača k prijímaču po určitom komunikačnom médiu (vzduch, vodič, ...) nejakým komunikačným kanálom (svetlo, zvuk, ...) Šum ruší komunikáciu a znižuje jej zrozumiteľnosť V tomto význame informácia predpokladá existenciu vysielača a prijímača a je teda nejakou správou, ktorá má svojho odosielateľa a prijímateľa

Pojmy Údaje sú akékoľvek vyjadrenie skutočnosti v podobe určitých symbolov vhodných pre komunikáciu, uloženie a spracovanie Správa je postupnosť akýchkoľvek rozlíšiteľných prvkov - symbolov Znak je grafická podoba symbolu reprezentujúci údaj Abeceda je množina všetkých prvkov ktoré slúžia k zobrazeniu správy Kódovanie je transformácia správy z jednej abecedy do inej

Rozdelenie informácií Syntaktické – určujú, akým spôsobom sa reprezentuje správa (jazyk, pravidlá jazyka, potvrdzovanie správ, ...) Sémantické – význam priradený jednotlivým symbolom (samotný význam slov) Pragmatické – obsah celej správy (čo mi správa dala, čo som si z nej odniesol)

Informácia ako zmenšenie neurčitosti Informácia je správa, ktorá spôsobí zmenšenie neurčitosti Neurčitosť odstránime ak sa dozvieme jednu možnosť z ostatných alternatív Neurčitosť je možné zjednodušene chápať ako pravdepodobnosť nejakého javu Čím bude pravdepodobnosť menšia, tak informácia ktorú sa dozviem bude väčšia

Výpočet veľkosti informácie Majme nejaký jav ktorý nastáva s pravdepodobnosťou p - dá sa ľahko uveriť že ak p=1 tak I=0 Ak viem že jav nastáva s pravdepodobnosťou 1 tak sa nedozviem žiadnu informáciu (neurčitosť je nulová) Nasledovná vlastnosť je tiež ľahko pochopiteľná - majme dva javy každý nastáva s pravdepodobnosťou p1, p2 - ak p1<p2 potom I1>I2

Výpočet veľkosti informácie No a ešte jedna vlastnosť sa dá v celku ľahko overiť - ak sledujeme, či oba javy nastanú súčasne tak pravdepodobnosť bude p=p1*p2 a pre množstvo informácie by malo platiť I= I1+I2 Pre výpočet informácie hľadáme teda takú funkciu I=f(p), ktorá spĺňa nasledovné podmienky: f(1)=0 ak p1<p2 potom f(p1)>f(p2) f(p1*p2)= f(p1)+f(p2)

Výpočet veľkosti informácie Keď dáte takúto otázku dobrému matematikovi okamžite odpovie že takú funkciu pozná, je to funkcia logaritmus. Pre ďalšie vlastnosti hľadanej funkcie nakoniec došli kybernetici ku vzťahu: I = -logx(p) Podľa základu logaritmu (v našom prípade to malé x) určujeme jednotku informácie Ak x=2, potom jednotkou je bit. Ak x=10 jednotkou je dit.

Jednotka informácie Ako jednotka informácie sa začala v oblasti výpočtovej techniky používať jednotka s názvom bit (binary digit) a jej násobky B (bajt) = 8 bitov (23 b) kB (kilobajt) = 1024 B (210 B) MB (megabajt) = 1024 kB (220 B) GB (gigabajt) = 1024 MB (230 B) TB (terrabajt) = 1024 GB (240 B) 1 bit je teda jednotka, ktorá vyjadruje stav, že určitý jav nastal s 50% pravdepodobnosťou pretože I= -log2(0,5) = - (-1) = 1

Logaritmus Na väčšine kalkulačiek sa dá vypočítať len logaritmus so základom 10 alebo e Ak potrebujeme vypočítať logaritmus so základom x, môžeme použiť pravidlo

Príklad Vypočítajte informačnú hodnotu hodu kockou Pravdepodobnosť, že padne ľubovoľné číslo pri hode hracou kockou (šesťstrannou) je 1/6

Úlohy Vypočítajte informačnú hodnotu správy, ktorá obsahuje mesiac a deň narodenia určitej osoby Vypočítajte informačnú hodnotu prijatia znaku Morseovej abecedy, ak pravdepodobnosť prijatia bodky je 0,72 Vypočítajte akú informačnú hodnotu má ak sa dozviem koľko je hodín s presnosťou na minúty Vypočítajte aká je informačná hodnota javu že na dvoch hracích kockách padne súčet 7 v bitoch