Prezentace se nahrává, počkejte prosím

Prezentace se nahrává, počkejte prosím

Churchova (Turingova) teze Každý Turingův stroj reprezentuje nějaký algoritmus a každý algoritmus lze realizovat nějakým Turingovým strojem. Přijetí této.

Podobné prezentace


Prezentace na téma: "Churchova (Turingova) teze Každý Turingův stroj reprezentuje nějaký algoritmus a každý algoritmus lze realizovat nějakým Turingovým strojem. Přijetí této."— Transkript prezentace:

1 Churchova (Turingova) teze Každý Turingův stroj reprezentuje nějaký algoritmus a každý algoritmus lze realizovat nějakým Turingovým strojem. Přijetí této teze umožňuje rozlišit dva případy: – Řešení problému algoritmem, kdy Turingův stroj rozhoduje daný jazyk (odpoví ANO i NE v konečném čase). – Řešení problému procedurou, kdy Turingův stroj daný jazyk pouze rozpoznává (v konečném čase dá pouze kladnou odpověď).

2 Univerzální Turingův stroj Každý Turingův stroj lze popsat konečným počtem symbolů nějaké abecedy. Stačí zakódovat vhodně jeho stavy, páskovou abecedu a přechodovou funkci. Množina všech Turingových strojů je tedy nekonečná, spočetná. Uvažujme pro jednoduchost pouze stroje pracující s abecedou {0, 1}. Kódy všech Turingových strojů lze uspořádat do posloupnosti T 1, T 2, …. Lze sestrojit univerzální Turingův stroj, který na základě čísla daného Turingova stroje a jeho vstupních dat bude simulovat práci libovolného Turingova stroje.

3 Algorotmicky nerozhodnutelné problémy Všechna slova nad konečnou neprázdnou abecedou tvoří také nekonečnou spočetnou množinu. Její prvky lze též seřadit do nekonečné posloupnosti. Postupujme nyní diagonální metodou. Sestrojme jazyk L tak, že do něj zařadíme ta a jen ta slova, pro které se Turingův stroj umístěný na témže místě posloupnosti se při své práci nezastaví. Tento jazyk není žádným Turingovým strojem rozpoznatelný. Kdyby byl, musel by být umístěn na nějakém místě posloupnosti a musel by dané slovo přijmout. Existují tedy jazyky, které nelze žádným Turingovým strojem rozpoznat. Ty představují nepřečíslitelné problémy.

4 Problém zastavení Turingova stroje Je dán Turingův stroj v nějaké své konfiguraci. Existuje algoritmus, který rozhoduje zda se tento stroj zastaví či nikoliv? Odpověď na tuto otázku je negativní. Lze to dokázat opět postupem v které se užije diagonální metoda. Tento poznatek je důležitý pro prokázání nemožnosti algoritmicky prověřit v obecném případě úplnou korektnost programů při pokusech rigorózně dokázat jejich správnost.

5 Příklady algoritmicky nerozhodnutelných problémů Je jazyk generovaný kontextovou gramatikou prázdný? Konečný? Nekonečný? Je jazyk generovaný gramatikou typu 0 prázdný? Konečný? Nekonečný? Platí množinová inkluse a tedy i rovnost mezi jazyky, které jsou generovány oba bezkontextovou gramatikou? Kontextovou gramatikou? Gramatikou typu 0? Důsledkem algoritmické neřešitelnosti je nemožnost rozhodnout zda dva různé programy mají vždy tutéž funkci. Je jazyk generovaný kontextovou gramatikou, bezkontextovou gramatikou, gramatikou typu 0 regulární?

6 Postův korespondenční problém Mějme dvě stejně dlouhé posloupnosti neprázdných slov nad danou abecedou  : Řekneme, že tento problém má řešení, pokud „lze z obou těchto posloupností slov sestavit stejné slovo“

7 Postův korespondenční problém

8

9 Výpočetní složitost Odhlédneme-li od realizace algoritmu na konkrétním hardwaru a v konkrétním prostředí informačního systému, lze časovou složitost hodnotit počtem kroků, které algoritmus musí provést, než problém rozhodne. Toto hodnocení lze provést na různých úrovních. Krajní přístupy jsou: – Rigorózní přístup: Algoritmus uvažujeme zcela nezávisle na konkrétním počítači jako proces probíhající na Turingově stroji. Hodnotíme počet kroků Turingova stroje, od počátku jeho práce do okamžiku jeho zastavení a rozhodnutí problému. Praktický přístup: Odhadujeme počet operací reálného stroje s tím, že (v rozporu se skutečností) považujeme všechny operace za „stejně časově náročné

10 Průměrná a pesimistická složitost Je zřejmé, že u téhož algoritmu i při stejném rozsahu zpracovávaných dat může výpočet trvat různou dobu v závislosti na konkrétních hodnotách vstupních dat. Bude totiž pro různá data potřeba provést různý počet kroků. Je tedy třeba rozlišovat – Pesimistickou výpočetní složitost – definovanou jako složitost, které je dosaženo v „nejhorším možném případě“ pro daný rozsah zpracovávaných dat. – Průměrnou výpočetní složitost – definovanou jako aritmetický průměr složitostí pro různé vstupy daného rozsahu s přihlédnutím k pravděpodobnostnímu rozložení těchto možných vstupů. Odhad pesimistické výpočetní složitosti bývá jednodušší než odhad složitosti průměrné.

11 Funkce časové složitosti Je zřejmé, že sledovaná doba výpočtu nezávisí pouze na algoritmu, ale velmi výrazně i na rozsahu dat, s kterými algoritmus pracuje. Jde buď o vstupní data úlohy, nebo o rozsah datové základny s kterou program pracuje, případně o oboje. Tomuto údaji budeme říkat rozměr vstupu charakterizován přirozeným číslem. Časovou složitost nelze tedy korektně měřit základní měřením, kde hodnotou míry je číslo. Časovou složitost lze měřit pouze zobecněným měřením, kde mírou složitosti je funkce, která rozměru vstupu přiřazuje čas, respektive počet operací potřebných pro provední výpočtu.

12 Asymptotická složitost U těchto funkcí se zajímáme především o jejich růst v závislosti na růstu rozměru vstupu. Tedy o tak zvané asymptotické chování této funkce při neomezeném růstu rozměru vstupu. Toto chování posuzujeme porovnáním s chováním běžně známých funkcí, o jejichž růstu máme určitou představu.

13 Symboly pro asymptotickou složitost

14 Typické třídy výpočetní složitosti Θ (1) – růst nezáleží na rozměru vstupu Θ (log n) – logaritmický růst (základ logaritmu není podstatný – proč?) Θ (n) – lineární růst (složitost je přímo úměrná rozměru dat) Θ (n × log n) – tento růst dosahují „chytré“ algoritmy řazení („třídění“) Θ (n 2 ) – kvadratický růst, dosahují jednoduché algoritmy řazení Θ (n 3 ) – kubický růst typický pro některé operace s maticemi a algoritmy řešení soustav lineárních rovnic Θ (n k ) pro nějaké přirozené číslo k z N – polynomiální růst Θ (k n ), k > 1 – exponenciální růst k > 1 ( nejčastěji k = 2, tedy O(2 n )) Θ (n!) – faktoriální růst.

15 Srovnání doby výpočtu log 2 nN N  log 2 n n2n2 n3n3 n4n4 2n2n n!n! 2 10  s20  s 40  s80  s160  s40  s20  s 5 23,1  s50  s116  s250  s 1,25ms6,25ms 320  s 1,2ms 10 33,2  s100  s332  s 1ms10ms100ms10,2 ms1,17s 15 39,1  s150  s587  s 2,25ms33,8ms507ms328ms 15,1 days 20 43,2  s200  s864  s 4ms80ms1,6s10,5s years 25 46,4  s250  s 1,16ms6,25ms156ms3,91s5,59min  30 19,1  s300  s 5,73ms9ms270ms37,5s2,98h  50 56,4  s500  s 28,2ms25ms1,25s1,04min357years  ,4  s 1ms6,64ms100ms10s16,7min  ,4  s 2ms15,3ms400ms1,34min4,47h  50089,4  s5ms44,4ms2,5s4,17min13,9h 

16 Srovnání doby výpočtu Původ ní 2-krát5-krát10-krát 100- krát krát (n)(n) (n2)(n2) (n3)(n3)  (2 n )  (n!)

17 Třída deterministické složitosti Časová složitost problému je pak definována takto: Řekneme, že problém patří do třídy složitosti T(f(n)), kde f je funkce N → N pokud může být vyřešen nějakým počítačem v čase O(f(n)) pro všechny přípustné vstupy o rozměru n.

18 Třídy nedeterministické složitosti Jestliže existuje nějaký nedeterministický Turingův stroj, který řeší rozhodovací problém pro všechny přípustné vstupy o rozměru n za O(f(n)) kroků (při vhodné volbě posloupnosti svých po sobě bezprostředně následujících konfigurací), potom říkáme, že tento rozhodovací problém patří do třídy nedeterministické časové složitosti NT(f(n)).

19 Vztah deterministické a nedeterministické složitosti Třídy deterministické časové složitosti T(f(n)) představují horní odhady složitosti nalezení řešení problémů „bez nápovědi“. Tedy čas a prostor pro nalezení dosud neznámého řešení problémů. Třídy nedeterministické časové složitosti NT(f(n)) představují horní odhady složitosti ověření, zda nalezené řešení skutečně řešením je. Tedy třídy složitosti „zkoušky“ správnosti řešení, které již známe.

20 Klasifikace problémů Je zřejmé, že problémy, které mají neakceptovatelnou NT nejsou pro praxi příliš zajímavé. Nemůžeme-li je v prakticky realizovatelné době zkontrolovat, nebudeme je asi ani v životě k ničemu potřebovat. Z nich nás tedy „hlava bolet nemusí“. U problémů, které mají přijatelnou NT složitost můžeme řešení zkontrolovat. Můžeme je tedy využít. U řady důležitých problémů tohoto typu však neznáme algoritmus řešení, který by patřil do přijatelné třídy časové deterministické složitosti. Řešení tedy neumíme při netriviálním rozměru vstupu nalézt v rozumném čase.

21 P-těžké problémy Polynomiálně časově těžké nebo je časově P-těžké problémy jsou problémy třídy Jedná se tedy o problémy, jejichž řešení jsme schopni v „rozumném čase nalézt“. Problémy, které do této třídy nepatří je třeba považovat za “prakticky neřešitelné” pro netriviální rozměry vstupních dat.

22 NP těžké problémy Podobně lze problémy klasifikovat z hlediska nedeterministické časové složitosti. Třída zahrnuje všechny problémy, které lze nedeterministicky řešit (známé řešení zkontrolovat) pomocí nějakého nedeterministického stroje v konečném čase. Těmto problémům se říká časově NP-těžké problémy.

23 Problém NP vers P Přes velké úsilí lidstva nebyla dosud zodpovězena zásadní otázka, zda

24 NP úplné problémy NP-těžkých problémů Není pro ně znám polynomiální deterministický algoritmus řešení. Mají navíc tu vlastnost, že kdybychom aspoň pro jediný z těchto problémů polynomiální algoritmus objevili, dovedli bychom v polynomiálním čase řešit všechny NP-těžké problémy a dokázali tak rovnost P TIME = NP TIME. Proto jsou problémy této třídy tak zajímavé.

25 Příklady NP úplných problémů Problém splnitelnosti Boolovské formule (SAT problém) Pro formuli zapsanou v konjunktivně disjunktivní normální formě zjistit, zda existuje nějaké pravdivostní ohodnocení TRUE / FALSE všech proměnných ve formuli, tak, aby výsledná pravdivostní hodnota formule byla TRUE, či nikoliv

26 Příklady NP úplných problémů Problém úplného podgrafu: – Je dán neorientovaný graf bez smyček G = (V, E) a přirozené číslo k. – Rozhodovací ANO / NE problém je: Existuje v grafu G úplný podgraf G’ = (V’, E’) o k uzlech či nikoliv? Problém nezávislé množiny vrcholů v grafu: – Je dán neorientovaný graf bez smyček G = (V, E) a přirozené číslo k. – Rozhodovací ANO / NE problém je: Existuje podmnožina množiny uzlů grafu o k uzlech taková, že žádný uzel z této množiny není spojen hranou grafu s žádným jiným?

27 Příklady NP úplných problémů Problém hamiltonovského cyklu v grafu: – Je dán orientovaný graf. Existuje v grafu uzavřená orientovaná cesta, která prochází každým uzlem právě jednou nebo neexistuje? Problém okružní hamiltonovské cesty: – Je dán neorientovaný graf. Existuje v tomto grafu neuzavřená cesta, na které leží každý vrchol právě jednou nebo neexistuje? Problém obchodního cestujícího: – Je dána množina míst. Vzdálenosti mezi libovolnými dvěma místy jsou dány jako celá kladná čísla. Existuje hamiltonovská cesta taková, že součet všech vzdáleností mezi sousedními místy je nejvýše roven zadanému kladnému číslu nebo neexistuje? Problém dvou loupežníků: Je dána množina n přirozených čísel. Je možné tuto množinu rozdělit na dvě disjunktní podmnožiny tak, aby součet čísel v obou těchto podmnožinách byl stejný nebo to možné není?

28 Příklady NP úplných problémů Problém řešení kvadratické diofantické rovnice: – Jsou dána přirozená čísla a, b a c. Existují přirozená čísla x a y tak, že a ⋅ x 2 + b ⋅ y = c nebo neexistují? Problém celočíselného programování: – Je dána matice celých čísel A typu (m, n) a celočíselný sloupcový vektor pravých stran o m složkách b. Existuje celočíselný m-rozměrný vektor x takový že A ⋅ x ≤ b nebo neexistuje? Problém prvočísel: – Pro dané přirozené číslo rozhodnout, zda je prvočíslem, či nikoliv.

29 Příklady NP úplných problémů Problém ruksaku: – Nechť je dána množina dvojic čísel S = {(s 1, v 1 ), …, (s N, v N )}. Proměnné s označují rozměr jednotlivých předmětů, proměnné v jejich cenu. Nechť b je celkový objem, který je k dispozici a k nechť je požadovaná celková cena. Lze vybrat podmnožinu S, tak, aby součet a Σ nebo nelze? Tedy tak, aby se nám do ruksaku vešly předměty aspoň zadané úhrnné hodnoty? bsNjj≤Σ=1 Problém optimalizace programu: – Je možné daný algoritmus realizovat pouze užitím k paměťových registrů nebo nelze, je-li k zadané číslo (rozsah paměti, která je k dispozici)?

30 Příklady NP úplných problémů Problém plánování multiprocesorového zpracování: – Je dána konečná množina T kladných čísel označujících doby které jsou zapotřebí pro realizaci daných úloh, dále je dáno m procesorů a pevný čas d, v kterém mají být všechny úlohy dokončeny. Existuje rozdělení úloh mezi m procesorů tak, aby byl dodržen požadovaný čas nebo takové rozdělení neexistuje? Problém alokace paměti: – Je dán počet datových souborů, každý daného rozsahu a určitý počet paměťových medií, každé dané kapacity. Lze všechny soubory uložit na daná media tak, aby kapacita každého z nich nebyla překročena nebo nelze?

31 Taxonomie problémů, případ NP není P Všechny rozhodovací problémy Nepřečíslitelné problémy Přečíslitelné, ale nerozhodnutelné problémy Doplňkově Nepřečíslitelné problémy Doplňkově přečíslitelné problémy Rozhodnutelné problémy Nikoli NP problémy NP problémy NP, ale ne P problémy NP, ale ne NP úplné NP úplné problémy

32 Taxonomie problémů, případ NP je P Všechny rozhodovací problémy Nepřečíslitelné problémy Přečíslitelné, ale nerozhodnutelné problémy Doplňkově Nepřečíslitelné problémy Doplňkově přečíslitelné problémy Rozhodnutelné problémy Nikoli NP problémy NP problémy NP, ale ne P problémy NP, ale ne NP úplné NP úplné problémy Toto vše je to samé, jako NP

33 Jak obejít nepřijatelnou časovou složitost 1. Nahradit daný problém jiným problémem, který v polynomiálním čase řešit umíme a jehož řešení „není příliš odlišné“ od řešení původního problému, které nás zajímá, nebo se od něj příliš neliší „v převážné většině případů“. 2. Užít algoritmus pro řešení původního problému, jehož pesimistická časová složitost sice není polynomiální, nalézt však takovou jeho modifikaci, při které k časově neúnosně dlouhému výpočtu dochází spíše výjimečně a ve „většině“ případů je potřebná doba přijatelná. 3. Zpochybnit Churchovu tezi, tedy pokusit se o nalezení takového technického prostředku pro výpočet, který bude „umět více“, než Turingův stroj. To ovšem určitě nemůže být současný počítač založený na von Neumannově architektuře.

34 Algoritmy prořezávání stromu Princip spočívá v tom, že v každé situaci, kdy musíme vyšetřit více možností se věnujeme pouze těm, které jsou z nějakého důvodu perspektivní. Ty, které se jeví jako málo nadějné pro nalezení řešení vynecháme (prořežeme některé větve stromu možných postupů). Typická aplikace metody větví a hranic prvého typu (kdy si nemůžeme být jisti zda výsledek získaný v přijatelném čase je blízko hledanému, je tomu však tak „obvykle“) bývá užit v programech pro hru šachy. Zde program nezkoumá všechny možnosti vývoje pozic na šachovnici mnoho tahů dopředu, ale každou pozici hodnotí. Pokud se zdá neperspektivní (například proto, že došlo k velkým ztrátám materiálu), dále ji nerozvíjí a zvažuje jen pozice „nadějné“. Tato strategie je úspěšná většinou. Ne však vždy. Šachisté vědí, že některé „oběti materiálu“ mohou být výhodné a vést třeba k matu soupeře o několik tahů později. Tak se může stát že optimální cesta bude odříznuta předčasně.

35 Gradientní algoritmy V řadě optimalizačních algoritmů je vhodné volit metodu postupného přibližování k optimu tak, že přiblížení volíme „tím směrem“, kde se sledovaná hodnota zlepšuje nejrychleji. Je to jako když horolezec chce dosáhnout vrcholu hory tak, že leze tím směrem, kterým je svah nejpříkřejší. V řadě případů to k cíli vede. Ne však vždy. Může se snadno stát, že horolezec, který si dal za cíl zdolat nejvyšší vrchol pohoří vyleze do sedla mezi dvěma vrcholy a na základě zvoleného principu vyleze na ten nižší z obou.

36 Genetické algoritmy

37 Neuronové sítě

38 Paraelní systémy Tradiční paralelizmus (výpočetní systémy na principu SIMD, MIMD, multicube, … ) pro řešení úloh, kde není znám polynomiálně složitý algoritmus příliš nepomohou. Je-li K procesorů, zvýší se propustnost systému nejvýše K- krát. Třídu složitosti  to neovlivní.

39 Kvantové počítače Foton se může nacházet „současně na více místech“ (s různou pravděpodobností). Nemá deterministicky určenou polohu. To dává šanci elementární částice užít přímo pro modelování nedeterministického Turingova stroje či jiného modelu nedeterministického výpočtu. Ve stádiu předběžných úvah a neurčitých záměrů

40 Chemické počítače Data jsou reprezentována různými koncentracemi chemikálií na vstupu. Výpočet je modelován průběhem chemické reakce. Ve stádiu předběžných úvah a neurčitých záměrů

41 DNA počítače Myšlenka založena se schopnosti řetězců aminokyselin DNA vytvářet masivně vlastní kopie paralelně. Výpočet by byl realizován jako biologický experiment. Pokud se aminokyseliny spojí do vhodného řetězce, lze jej považovat za řešení úlohy. Lepší perspektivu skýtají možná peptidy (12 bází místo 4 bází u DNA). Ve stádiu předběžných experimretnů

42 Analogové počítače Jsou starší než číslicové. Ke škodě věci se na ně poněkud pozapomenulo. Vytvoří se fyzikální, obvykle spojitě pracující model děje (mechanický, hydraulický, elektromagnetický, …), který se řídí stejnými nebo podobnými zákony jako řešený problém. Nechá se proběhnout vývoj na tomto modelu. Výsledek poskytne informaci o řešení původního problému. Dávno známé, dnes možná neprávem poněkud opomíjené


Stáhnout ppt "Churchova (Turingova) teze Každý Turingův stroj reprezentuje nějaký algoritmus a každý algoritmus lze realizovat nějakým Turingovým strojem. Přijetí této."

Podobné prezentace


Reklamy Google