Prezentace se nahrává, počkejte prosím

Prezentace se nahrává, počkejte prosím

1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace.

Podobné prezentace


Prezentace na téma: "1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace."— Transkript prezentace:

1

2

3 1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace Základní pojmy – jednotka a zobrazení informace, informační hodnota Entropie – vlastnosti entropie Zdroje zpráv – spojité zdroje zpráv, diskrétní zdroje zpráv Přenos informace – vlastnosti přenosu kanálů, poruchy a šumy přenosu, způsoby boje proti šumu 4.Kódování Elementární teorie kódování Rovnoměrné kódy – telegrafní kód Nerovnoměrné kódy – Morseova abeceda, konstrukce nerovnoměrných kódů Efektivní kódy – Shannonova – Fanova metoda, Huffmanova metoda 5.Bezpečností kódy Zabezpečující schopnosti kódů, Systematické kódy, Nesystematické kódy ZÁKLADY INFORMATIKY – Elementární teorie kódování ZÁKLADY INFORMATIKY – Elementární teorie kódování

4 ELEMENTÁRNÍ TEORIE KÓDOVÁNÍ

5 Dvojková soustava, s kterou počítače běžně pracují, je nevýhodná pro lidské uvažování - neumíme v ní běžně počítat. Proto k převodu mezi „lidskými“ informacemi a počítači existují převodní pravidla kódy. Kód je množina symbolů, kterými vyjadřujeme různé stavy systému. Kód lze libovolně převádět jeden na druhý, aniž by se změnila velikost a množství informace.

6 Kódování pak můžeme charakterizovat jako převod jednoho kódu na druhý a to buď pomocí tabulky anebo algoritmu. Pro ukázku si zvolme jako zkušební systém hrací kostku. Po hodu se může kostka nacházet v jednom ze šesti stavů (poloh). Stav (poloha) kostky se nejčastěji vyjadřuje pomocí množiny tečkových symbolů: Když si chceme poznamenat jak nám kostka při hře padla neuděláme to zápisem tečkových symbolů, ale číslicemi (1,2,3,4,5,6) odpovídajícími počtu teček převedeme z jedné množiny symbolů do druhé.

7 Vztah mezi symbolem, kódem a kódováním nám znázorňuje obrázek: A B C D E F kostka Síť kostky (symboly) Kód 1Kód 2Kód 3 Na obrázku je ukázka kódování do třech různých kódů. kódování

8 Vyjádřeno matematicky: Při přenosu informací používáme dvě základní abecedy. Přenosová abeceda (abeceda přenosového kanálu) Y={ y 1,..., y R } je konečná množina znaků y j, kterou můžeme přenášet přes nějaké přenosové zařízení. Např. zařízení se dvěma úrovněmi řízení (0,1) bude mít abecedu Y={ y 1, y 2 }={ 0,1 }. Zdrojová abeceda (abeceda zdroje) A={ a 1,..., a N } je konečná množina znaků (symbolů) a i, kterou chceme přenést přes nějaké přenosové zařízení (přenosový kanál).

9 Pod kódováním pak rozumíme zobrazení, které každému znaku a i  A přiřadí nějakou skupinu znaků y j  Y kódové slovo. Množina všech kódových slov se pak nazývá kód. Délka kódu – počet kódových slov daného kódu m R – počet prvků přenosové abecedy) Pokud délka kódového slova je m pak délka kódu je dána vztahem: (R – počet prvků přenosové abecedy) L = R m dvojkovými (binárními) kódy Dále se budeme zabývat pouze dvojkovými (binárními) kódy => => přenosová abeceda má jen dva prvky {0, 1} L Délka kódu L se bude tedy pohybovat v rozmezí daném nerovností: 1 ≤ L ≥ 2 m

10 Výskyt jednotlivých znaků zdrojové abecedy = různá pravděpodobnost  pravděpodobnost výskytu kódových slov se liší  rozdílná hodnota kódovacích klíčů Výhodnější jsou takové kódovací klíče, které přiřazují odolnější kódové slova (kratší) nejčastěji se vyskytujícím znakům zdrojové abecedy. L L Z Je výhodnější nevyužívat maximální délky kódu L, nýbrž počítat (s ohledem na zvýšení bezpečnosti přenosu) pouze s délkou zkrácenou L Z. 2 m ! Kombinační možnost vzájemného přiřazení množiny kódových slov a množiny znaků zdrojové abecedy je dána permutací, tj. 2 m ! 2 m !kódovacích klíčů. Říkáme, že kód má 2 m ! kódovacích klíčů.

11 Kódování však nemá pouze mechanicky nahrazovat jednu konkrétní abecedu jinou. Mění-li se při kódování množina použitých symbolů i rozložení pravděpodobností, mění se také entropie na symbol zprávy. Hlavním cílem je zajistit nejmenší počet symbolů na dané množství informace. Důležité je, aby bylo možné ze zakódované zprávy získat zprávu zdrojovou  kódování musí být jednoznačně dekódovatelné. Kódování je jednoznačně dekódovatelné tehdy, jestliže zobrazení, které každému znaku a i  A přiřadí nějakou skupinu znaků y j  Y je prostým zobrazením.

12 slovo Pojem slovo (kódové slovo) nad danou abecedou se liší od pojmu slova používaného v běžném hovorovém jazyce (slovem rozumíme nejmenší samostatnou jazykovou jednotku mající věcný a mluvnický význam). Umělým jazykem Umělým jazykem (stručně jazykem) nazýváme nějakou abecedu spolu s pravděpodobnostními zákony, podle nichž vzniká z dané abecedy zpráva. redundanci (nadbytečnost) Je-li H entropie daného jazyka a H max je maximální entropie při použití téže abecedy pak můžeme definovat redundanci (nadbytečnost) daného jazyka jako: Redundance evropských jazyků je větší než 0.5 a podle některých propočtů se pohybuje od 0.68 do 0.75.

13 Rozdělení kódů Podle použití se dělí dvojkové kódyPodle použití se dělí dvojkové kódy –kódy určené k matematickým operacím, –kódy určené k přenosu zpráv Podle struktury naPodle struktury na –kódy nesystematické –kódy systematické Podle délky naPodle délky na –kódy rovnoměrné –kódy nerovnoměrné

14


Stáhnout ppt "1.Vznik a vývoj teorie informace 2.Matematický aparát v teorii informace Základy teorie pravděpodobnosti – Náhodné veličiny Číselné soustavy 3.Informace."

Podobné prezentace


Reklamy Google