Prezentace se nahrává, počkejte prosím

Prezentace se nahrává, počkejte prosím

1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace.

Podobné prezentace


Prezentace na téma: "1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace."— Transkript prezentace:

1

2

3 1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace Základní pojmy – jednotka a zobrazení informace, informační hodnota Entropie – vlastnosti entropie Zdroje zpráv – spojité zdroje zpráv, diskrétní zdroje zpráv Přenos informace – vlastnosti přenosu kanálů, poruchy a šumy přenosu, způsoby boje proti šumu 4.Kódování Elementární teorie kódování Rovnoměrné kódy – telegrafní kód Nerovnoměrné kódy – Morseova abeceda, konstrukce nerovnoměrných kódů Efektivní kódy – Shannonova – Fanova metoda, Hoffmanova metoda 5.Bezpečností kódy Zabezpečující schopnosti kódů, Systematické kódy, Nesystematické kódy ZÁKLADY INFORMATIKY – Bezpečnostní kódy ZÁKLADY INFORMATIKY – Bezpečnostní kódy

4 V každé oblasti přenosu a zpracovaní diskrétních informací se proto postupně stabilizuje používání určitých kódů, které se ukazují jako nejvýhodnější z hlediska kompromisu mezi: a) stupněm zabezpečení proti chybám b) jednoduchostí (efektivností) c) cenou realizace příslušných zařízení V reálném životě často dochází při přenosu zakódovaných informací k chybám způsobeným šumem prostředí (přenosového kanálu). Snažíme se tedy najít kód, který má co nejkratší délku a přitom opravuje co největší počet chyb.

5 Každé kódové slovo představuje bod v signálním prostoru. V důsledku rušivých vlivů se tento bod vysune do jiné polohy. Při náhodném charakteru rušivých vlivů se poloha tohoto bodu neustále mění – tvoří soustavu bodů kolem původního místa. Rozložení náhodných poruch - GAUSSOVO rozdělení. Z předchozího vyplývá –> pravděpodobnost chybného přenosu zprávy se zmenší vzdálením jednotlivých symbolů množiny signálů. To lze zajistit tak, že vyjádříme signálové symboly nějakým kódem a pak je vzdálíme od sebe vložením dalších míst do každého kódového slova.

6 Opatření, která provádíme pro zvýšení odolnosti kódových slov proti vlivům poruch bezpečnostní kódování (kódové zabezpečení) bezpečnostní kódování (kódové zabezpečení) Snížení výskytu chyb při přenosu dat je možné zabezpečit několika způsoby:  Bez zabezpečovacích zařízení  Bez zabezpečovacích zařízení - tj. úpravou zprávy, velice účinný způsob ochrany, nevyžaduje žádná přídavná zařízení  S pomocí zabezpečovacích zařízení tj.bezpečnostní kódy  S pomocí zabezpečovacích zařízení tj.bezpečnostní kódy – systematické, nesystematické kódy  Kontrolou kvality signálu  Kontrolou kvality signálu - tj. při vybočení sledovaného parametru signálu z tolerance se žádá o opakované zaslání posledního bloku dat

7 Ad 1) Bez zabezpečovacích zařízení zvýšení redundance Nejjednodušším způsobem snížení chybnosti je zvýšení redundance (nadbytečnosti) zprávy = opakování každého kódového slova. Příklad: Příklad: Pro přenesení binárního kódového slova 10 použijeme opakování třikrát za sebou. Vysíláme tedy kódové slovo (při takovém přenosu je možné opravit jednu chybu) L=2 6 =64 L Z =2 2 =4 Maximální délka kódu při šestimístném kódovém slově je dána L=2 6 =64. Informaci však nesou pouze 2 místa a další čtyři jsou zabezpečující, tzn. L Z =2 2 =4. v y u ž i t í k ó d u Poměr zkrácené a maximální délky kódu = v y u ž i t í k ó d u

8 úprava kontrolním součtem. U číselných položek se používá úprava kontrolním součtem. Příklad: Chceme-li přenést číslo sečteme =15, poslední číslici přidáme k původnímu číslu a pak přenášíme číslo L=10 6 L Z =10 5 Maximální délka kódu při šestimístném kódovém slově je dána L=10 6. Informaci nese prvních 5 míst a poslední místo je zabezpečující, tzn. L Z =10 5.

9 Příklad: Přeneste dvoumístné kódové slovo vyjádřené desítkovou číselnou soustavou. Použijte přenesení se zabezpečením pomocí dvojnásobného opakování. Jaké je využití tohoto kódu. Řešení: L=10 4 Maximální délka kódu pro čtyřmístné dekadické kódové slovo je dána L=10 4. L Z =10 2 Informaci však nesou pouze 2 místa a další 2 jsou zabezpečující, tzn. L Z =10 2. v y u ž i t í k ó d u Poměr zkrácené a maximální délky kódu = v y u ž i t í k ó d u

10 Geometrický model kódu Geometrický model kódu  je výhodný pro odvození zabezpečujících vlastností kódu  umožňuje názorné odvození vzdálenosti kódových slov, která je rozhodující pro určení počtu chyb, které je možno objevit popř. opravit HAMMING  m-místný binární kód (2 m kódových slov) lze znázornit pomocí m-rozměrné krychle - HAMMING  nejvýhodnější je představa pro 3-místný binární kód (délka kódu je 2 3 =8)  KRYCHLE  HAMMINGOVA KOSTKA

11

12 ◙můžeme názorně odvodit z geometrického modelu kódu ◙je dána počtem hran, které spojují jednotlivá kódová slova ◙je rovna počtu znaků, ve kterých se dvě kódová slova liší ◙Je označována jako tzv. Hammingova vzdálenost - d Geometrická interpretace viz následující obrázky Vzdálenost kódových slov Vzdálenost kódových slov

13 Hammingova vzdálenost d = 1 a = 1 délka hrany krychle a = 1 r = 1 poloměr opsané koule r = 1 kombinační číslo počet vrcholů ležících na opsané kouli

14 Hammingova vzdálenost d = 2 a = 1 délka hrany krychle a = 1 r = poloměr opsané koule r = kombinační číslo počet vrcholů ležících na opsané kouli

15 Hammingova vzdálenost d = 3 a = 1 délka hrany krychle a = 1 r = poloměr opsané koule r = kombinační číslo počet vrcholů ležících na opsané kouli

16 Příklad: Mějme dvojkový 3-místný kód. Sledujte jaký vliv na zabezpečující vlastnosti kódu má velikost Hammingovy vzdálenosti. Detekční a korekční schopnosti kódu Detekční a korekční schopnosti kódu d=1kód využijeme celý (každé kódové slovo nese informaci d=1) – takový kód neumožňuje registrovat chybu d=2využijeme jen kódová slova o d=2 (např. 000, 101, 110, 011) – takový kód umožňuje detekovat chybu využijeme jen kódová slova o d=3 (např. 000, 111) – takový kód umožňuje detekovat i opravit chybu Demonstrace viz předchozí obrázky L = 2 3 = 8 Maximální délka dvojkového 3-místného kódu – L = 2 3 = 8 (viz Hammingova kostka)

17  -násobné chyby Z předchozího příkladu vyplývá, že kód objevuje (detekuje)  -násobné chyby, když platí: detekčními schopnostmi kódu objevovat - detekovat Pod detekčními schopnostmi kódu rozumíme schopnost kódu objevovat - detekovat chyby vzniklé při přenosu informací. korekční schopnosti kódu opravit korigovat. Pod pojmem korekční schopnosti kódu rozumíme schopnost kódu chyby objevené při přenosu i opravit - korigovat.  -násobnou chybu Z předchozího příkladu vyplývá, abychom mohli opravit (korigovat)  -násobnou chybu, musí platit:

18 Příklad: Jaké jsou detekční a korekční schopnosti kódu s minimální Hammingovou vzdáleností d = 3.

19 Opakovací kód Opakovací kód - přenášený znak se vyšle vícekrát (lichý počet krát - např. 5). většinové zastoupení Pro dekódování se pak uplatňuje většinové zastoupení (větší počet stejných znaků je uznán jako přijatý znak) Zdrojové slovo kódovánípřenosdekódování Kódové slovo šum Přijaté slovoznak Příklad: Uvažujte opakovací kód. Sledujte detekční a korekční schopnosti tohoto kódu. d=5 →  = 4  = 2 (můžeme objevit 4 chyby a dvě chyby můžeme opravit)

20 Hammingova váha kódového slova Hammingova váha kódového slova Je definována jako součet nenulových míst dvojkové posloupnosti tvořící kódové slovo. Lze jí tedy zapsat ve tvaru: C k = Příklad: Uvažujte kódové slovo ve tvaru C k = Jaká je Hammingova váha takového kódového slova.

21 Distribuce chybových míst v kódovém slově Distribuce chybových míst v kódovém slově Máme-li m-místné kódové slovo a z toho je k míst zasaženo rušením (je chybných) pak existuje právě N možností výskytu chybových míst v kódovém slově. Celkový počet možností nulové až m-násobné chyby můžeme vyjádřit vztahem:

22 p (1-p) k (m - k) Nechť pro výskyt chyby platí pravděpodobnost p a pravděpodobnost (1-p) pro ostatní místa složky. Pak pravděpodobnost, že na k místech kódové složky se vyskytne chyba, a na (m - k) místech nikoli, bude: mk Protože však počet možností výskytu k-násobné chyby je dáno kombinačním číslem m nad k, platí pro pravděpodobnost výskytu k- násobné chyby: p ch1 > p ch2 >...> p chn Označíme-li pravděpodobnost vzniku chyby na jednom místě kódového slova p ch1, pravděpodobnost vzniku chyby na dvou místech p ch2 a analogicky pravděpodobnost vzniku chyby na n místech p chn pak platí nerovnost p ch1 > p ch2 >...> p chn

23 Příklad: (m=5) (k=2). p (1 - p) Mějme pětimístné kódové slovo (m=5) a sledujme pravděpodobnost vzniku dvoumístné chyby (k=2). Výskyt chyby je dán pravděpodobností p a pravděpodobností (1 - p) je dán správný přenos ostatních míst. Řešení: Počet všech kombinací pro dvě chyby je dán kombinačním číslem: Pravděpodobnost výskytu dvojnásobné chyby je pak dána:

24 p=0.2(l - p) = 0.8 Příklad: Stanovte pravděpodobnost bezchybného přenosu a dále pravděpodobnost výskytu 1, 2, 3, 4-násobné chyby v čtyřmístém kódovém slově. Pravděpodobnost chyby je dána p=0.2 a tedy (l - p) = 0.8 Pozn: Pravděpodobnost přechodu z nuly na jedničku a naopak (tedy pravděpodobnost chyby) může mít různou hodnotu (v příkladu jsme volili p = 0.2), musí však platit 0 < p < 0.5. (Pro hodnotu p = 0.5 klesá kapacita kanálu C na nulu)


Stáhnout ppt "1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace."

Podobné prezentace


Reklamy Google