Výpočetní složitost Odhlédneme-li od realizace algoritmu na konkrétním hardwaru a v konkrétním prostředí informačního systému, lze časovou složitost hodnotit počtem kroků, které algoritmus musí provést, než problém rozhodne. Toto hodnocení lze provést na různých úrovních. Krajní přístupy jsou: Rigorózní přístup: Algoritmus uvažujeme zcela nezávisle na konkrétním počítači jako proces probíhající na Turingově stroji. Hodnotíme počet kroků Turingova stroje, od počátku jeho práce do okamžiku jeho zastavení a rozhodnutí problému. Praktický přístup: Odhadujeme počet operací reálného stroje s tím, že (v rozporu se skutečností) považujeme všechny operace za „stejně časově náročné

Průměrná a pesimistická složitost Je zřejmé, že u téhož algoritmu i při stejném rozsahu zpracovávaných dat může výpočet trvat různou dobu v závislosti na konkrétních hodnotách vstupních dat. Bude totiž pro různá data potřeba provést různý počet kroků. Je tedy třeba rozlišovat Pesimistickou výpočetní složitost – definovanou jako složitost , které je dosaženo v „nejhorším možném případě“ pro daný rozsah zpracovávaných dat. Průměrnou výpočetní složitost – definovanou jako aritmetický průměr složitostí pro různé vstupy daného rozsahu s přihlédnutím k pravděpodobnostnímu rozložení těchto možných vstupů. Odhad pesimistické výpočetní složitosti bývá jednodušší než odhad složitosti průměrné.

Funkce časové složitosti Je zřejmé, že sledovaná doba výpočtu nezávisí pouze na algoritmu, ale velmi výrazně i na rozsahu dat, s kterými algoritmus pracuje. Jde buď o vstupní data úlohy, nebo o rozsah datové základny s kterou program pracuje, případně o oboje. Tomuto údaji budeme říkat rozměr vstupu charakterizován přirozeným číslem. Časovou složitost nelze tedy korektně měřit základní měřením, kde hodnotou míry je číslo. Časovou složitost lze měřit pouze zobecněným měřením, kde mírou složitosti je funkce, která rozměru vstupu přiřazuje čas, respektive počet operací potřebných pro provední výpočtu.

Asymptotická složitost U těchto funkcí se zajímáme především o jejich růst v závislosti na růstu rozměru vstupu. Tedy o tak zvané asymptotické chování této funkce při neomezeném růstu rozměru vstupu. Toto chování posuzujeme porovnáním s chováním běžně známých funkcí, o jejichž růstu máme určitou představu.

Symboly pro asymptotickou složitost

Typické třídy výpočetní složitosti Θ (1) – růst nezáleží na rozměru vstupu Θ (log n) – logaritmický růst (základ logaritmu není podstatný – proč?) Θ (n) – lineární růst (složitost je přímo úměrná rozměru dat) Θ (n × log n) – tento růst dosahují „chytré“ algoritmy řazení („třídění“) Θ (n2) – kvadratický růst, dosahují jednoduché algoritmy řazení Θ (n3) – kubický růst typický pro některé operace s maticemi a algoritmy řešení soustav lineárních rovnic Θ (nk) pro nějaké přirozené číslo k z N – polynomiální růst Θ (kn), k > 1 – exponenciální růst k > 1 ( nejčastěji k = 2, tedy O(2n)) Θ (n!) – faktoriální růst.

Srovnání doby výpočtu log2 n N N × log2 n n2 n3 n4 2n n! 2 10ms 20ms 5 23,1ms 50ms 116ms 250ms 1,25ms 6,25ms 320ms 1,2ms 10 33,2ms 100ms 332ms 1ms 10,2 ms 1,17s 15 39,1ms 150ms 587ms 2,25ms 33,8ms 507ms 328ms 15,1 days 20 43,2ms 200ms 864ms 4ms 1,6s 10,5s 771000 years 25 46,4ms 1,16ms 156ms 3,91s 5,59min ¥ 30 19,1ms 300ms 5,73ms 9ms 270ms 37,5s 2,98h 50 56,4ms 500ms 28,2ms 25ms 1,25s 1,04min 357years 100 66,4ms 6,64ms 10s 16,7min 200 76,4ms 2ms 15,3ms 400ms 1,34min 4,47h 500 89,4ms 5ms 44,4ms 2,5s 4,17min 13,9h

Srovnání doby výpočtu Původ ní 2-krát 5-krát 10-krát 100- krát Q(n) 100 200 500 1 000 10 000 100 000 Q(n2) 141 223 316 3 162 Q(n3) 125 170 215 464 Q(2n) 101 102 103 107 110 Q(n!)

Třída deterministické složitosti Časová složitost problému je pak definována takto: Řekneme, že problém patří do třídy složitosti T(f(n)), kde f je funkce N → N pokud může být vyřešen nějakým počítačem v čase O(f(n)) pro všechny přípustné vstupy o rozměru n.

Třídy nedeterministické složitosti Jestliže existuje nějaký nedeterministický Turingův stroj, který řeší rozhodovací problém pro všechny přípustné vstupy o rozměru n za O(f(n)) kroků (při vhodné volbě posloupnosti svých po sobě bezprostředně následujících konfigurací), potom říkáme, že tento rozhodovací problém patří do třídy nedeterministické časové složitosti NT(f(n)) .

Vztah deterministické a nedeterministické složitosti Třídy deterministické časové složitosti T(f(n)) představují horní odhady složitosti nalezení řešení problémů „bez nápovědi“. Tedy čas a prostor pro nalezení dosud neznámého řešení problémů. Třídy nedeterministické časové složitosti NT(f(n)) představují horní odhady složitosti ověření, zda nalezené řešení skutečně řešením je. Tedy třídy složitosti „zkoušky“ správnosti řešení, které již známe.

Klasifikace problémů Je zřejmé, že problémy, které mají neakceptovatelnou NT nejsou pro praxi příliš zajímavé. Nemůžeme-li je v prakticky realizovatelné době zkontrolovat , nebudeme je asi ani v životě k ničemu potřebovat. Z nich nás tedy „hlava bolet nemusí“. U problémů, které mají přijatelnou NT složitost můžeme řešení zkontrolovat. Můžeme je tedy využít. U řady důležitých problémů tohoto typu však neznáme algoritmus řešení, který by patřil do přijatelné třídy časové deterministické složitosti. Řešení tedy neumíme při netriviálním rozměru vstupu nalézt v rozumném čase.

P-těžké problémy Polynomiálně časově těžké nebo je časově P-těžké problémy jsou problémy třídy Jedná se tedy o problémy, jejichž řešení jsme schopni v „rozumném čase nalézt“. Problémy, které do této třídy nepatří je třeba považovat za “prakticky neřešitelné” pro netriviální rozměry vstupních dat.

NP těžké problémy Podobně lze problémy klasifikovat z hlediska nedeterministické časové složitosti. Třída zahrnuje všechny problémy, které lze nedeterministicky řešit (známé řešení zkontrolovat) pomocí nějakého nedeterministického stroje v konečném čase. Těmto problémům se říká časově NP-těžké problémy.

Problém NP vers P Přes velké úsilí lidstva nebyla dosud zodpovězena zásadní otázka, zda

NP úplné problémy NP-těžkých problémů Není pro ně znám polynomiální deterministický algoritmus řešení . Mají navíc tu vlastnost, že kdybychom aspoň pro jediný z těchto problémů polynomiální algoritmus objevili, dovedli bychom v polynomiálním čase řešit všechny NP-těžké problémy a dokázali tak rovnost PTIME = NPTIME . Proto jsou problémy této třídy tak zajímavé.

Příklady NP úplných problémů Problém splnitelnosti Boolovské formule (SAT problém) Pro formuli zapsanou v konjunktivně disjunktivní normální formě zjistit, zda existuje nějaké pravdivostní ohodnocení TRUE / FALSE všech proměnných ve formuli, tak, aby výsledná pravdivostní hodnota formule byla TRUE, či nikoliv

Příklady NP úplných problémů Problém hamiltonovského cyklu v grafu: Je dán orientovaný graf. Existuje v grafu uzavřená orientovaná cesta, která prochází každým uzlem právě jednou nebo neexistuje? Problém okružní hamiltonovské cesty: Je dán neorientovaný graf. Existuje v tomto grafu neuzavřená cesta, na které leží každý vrchol právě jednou nebo neexistuje? Problém obchodního cestujícího: Je dána množina míst. Vzdálenosti mezi libovolnými dvěma místy jsou dány jako celá kladná čísla. Existuje hamiltonovská cesta taková, že součet všech vzdáleností mezi sousedními místy je nejvýše roven zadanému kladnému číslu nebo neexistuje? Problém dvou loupežníků: Je dána množina n přirozených čísel. Je možné tuto množinu rozdělit na dvě disjunktní podmnožiny tak, aby součet čísel v obou těchto podmnožinách byl stejný nebo to možné není?

Příklady NP úplných problémů Problém řešení kvadratické diofantické rovnice: Jsou dána přirozená čísla a, b a c. Existují přirozená čísla x a y tak, že a ⋅ x2 + b ⋅ y = c nebo neexistují? Problém celočíselného programování: Je dána matice celých čísel A typu (m, n) a celočíselný sloupcový vektor pravých stran o m složkách b. Existuje celočíselný m-rozměrný vektor x takový že A ⋅ x ≤ b nebo neexistuje? Problém prvočísel: Pro dané přirozené číslo rozhodnout, zda je prvočíslem, či nikoliv.

Příklady NP úplných problémů Problém ruksaku: Nechť je dána množina dvojic čísel S = {(s1, v1), … , (sN, vN)}. Proměnné s označují rozměr jednotlivých předmětů, proměnné v jejich cenu. Nechť b je celkový objem, který je k dispozici a k nechť je požadovaná celková cena. Lze vybrat podmnožinu S, tak, aby součet a Σ nebo nelze? Tedy tak, aby se nám do ruksaku vešly předměty aspoň zadané úhrnné hodnoty? bsNjj≤Σ=1 Problém optimalizace programu: Je možné daný algoritmus realizovat pouze užitím k paměťových registrů nebo nelze, je-li k zadané číslo (rozsah paměti, která je k dispozici)?

Taxonomie problémů, případ NP není P Všechny rozhodovací problémy Rozhodnutelné problémy Přečíslitelné, ale nerozhodnutelné problémy Nepřečíslitelné problémy NP problémy Nikoli NP problémy Doplňkově přečíslitelné problémy Doplňkově Nepřečíslitelné problémy P problémy NP, ale ne P problémy NP, ale ne NP úplné NP úplné problémy

Taxonomie problémů, případ NP je P Všechny rozhodovací problémy Rozhodnutelné problémy Přečíslitelné, ale nerozhodnutelné problémy Nepřečíslitelné problémy NP problémy Nikoli NP problémy Doplňkově přečíslitelné problémy Doplňkově Nepřečíslitelné problémy P problémy NP, ale ne P problémy Toto vše je to samé, jako NP NP, ale ne NP úplné NP úplné problémy