EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 1 MetaCentrum – gridy pod mrakem Jiří Sitera, Miroslav Ruda, Luděk Matyska

Prezentace na téma: "EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 1 MetaCentrum – gridy pod mrakem Jiří Sitera, Miroslav Ruda, Luděk Matyska"— Transkript prezentace:

1 EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 1 MetaCentrum – gridy pod mrakem Jiří Sitera, Miroslav Ruda, Luděk Matyska http://www.metacentrum.cz/

2 MetaCentrum ►Česká akademická infrastruktura pro náročné výpočty ►Od roku 1996, původně MU, UK, ZČU ►Dnes součást e-Infrastruktury CESNET ►Národní gridová infrastruktura (NGI)  Propojení kapacit různých projektů/univerzit/organizací napříč ČR  Propojení ČR do mezinárodních aktivit (EGI – European Grid Infrastructure) www.egi.euwww.egi.eu  Cíl: zvýšení konkurenceschopnosti VaV týmů EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 2

3 MetaCentrum – dostupné zdroje ►8500 CPU jader, HD uzly (2x4-8 jader) i SMP stroje (32-80 jader) ►550 TB datové prostory (plus řádově PB datová úložiště CESNET) ►Infiniband ►GPGPU Tesla ►Až 1,5 TB v uzlu ►Rychlý scratch disk EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 3

4 Grid – co to vlastně je? EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 4

5 Grid - první pohled ►Dávkové zpracování úloh  Zadání úlohy (odkaz na data, řídící skript, případný paralelismus)  Čekání ve frontě, hledání odpovídajících zdrojů (plánovač)  Přidělení zdrojů, spuštění v definovaném prostředí (OS, knihovny, aplikace, autentizace, přístup k datům, atd.)  Ukončení výpočtu, uvolnění zdrojů, oznámení uživateli EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 5 Plánovač Job Soubor zdrojů Fronta

6 Grid jako koncepce MetaCentra ►Propojování zdrojů (analogie power grid)  Výpočetní uzly, diskové systémy, experimentální přístroje  Zdroje různých vlastníků, pořízené za různých podmínek  Přelévání/slévání kapacit dle daných pravidel, organizace výpočetních prostředí do vyššího celku ►HPC (high performance computing) prostředí  Orientace na výkon, náročné a nadstandardní úlohy  Software (180 instalovaných SW balíků) EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 6

7 Grid a jeho flexibilita ►MetaCentrum propojuje  Propojený systém zdrojů různých vlastníků  Zdroje dostupné různými způsoby, vlastně různé gridy ►Virtuální organizace (VO)  Nástroj pro zvládnutí různorodosti, princip „rozděl a panuj“  Delegace pravomocí, uvnitř VO mají správci vysokou autonomii  Podpora různých potřeb komunit a týmů, např. možnost instalovat vlastní aplikační SW, dedikovat HW, atd. ►Integrovaná infastruktura  Společná národní AAI (uživatelé, jejich identity)  Úzká integrace s datovými úložišti EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 7

8 A kde je ten cloud? EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 8

9 Cloudové rozhraní MetaCentra ►Technická podstata – uživatelská virtualizace  Namísto jobů (programů) uživatel zadá celý virtuální stroj (včetně operačního systému)  Koncepčně stejný přístup jako k jobům EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 9 Plánovač Job VM Job VM Soubor zdrojů Fronta

10 HPC cloud ►Zobecnění a větší flexibilita proti gridu  Výpočet lze zadat včetně kompletního prostředí pro běh  Uživatel dostane práva superuživatele (systémový SW, knihovny, OS, vše v jeho kompetenci)  Snížení vstupního prahu pro týmy (existující vlastní prostředí, vlastní správce, speciální požadavky) ►HPC cloud  Stejný přístup jako u výpočetních úloh – plánování, přidělení, výpočet, ukončení  Pro náročné výpočty, nikoli pro provoz permanentních služeb EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 10

11 Virtuální cluster ►Uživatel požádá o celý cluster  Obdoba paralelního výpočtu  Vlastní plně dedikovaný cluster ve své správě ►Síť jako nový zdroj (resource)  Virtuální síť (L2 segment, VLAN) jako nový zdroj dostupný uživatelům (přiděluje plánovač podobně jako třeba CPU)  Díky schopnostem sítě CESNET může být rozprostřena přes ČR  Důsledky: stroje mohou být uživatelské včetně uživatelské IP adresy, privátní VLAN, celá síť uzlů různých rolí, atd. EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 11 VM Dedikovaná VLAN

12 Use case: nové možnosti ►Potřebuji pro aplikaci jiný OS (typicky MS Windows)  Vlastní vývoj, komerční aplikace, složitá nebo nemožná portace  Žádné podmínky ze strany MetaCentra (autentizace, autorizace, dávkový systém, bezpečné protokoly a SW, atd.) ►Vlastní nástroj pro řízení zpracování (workload manager)  Vlastní vývoj, BOINC, jednoduché skripty na míru  Příklady: průběžné testování vyvíjeného SW, genetické programování ►Buduji celé prostředí  Příklady: testovací polygon pro bezpečnostní výzkum sítě, simulace distribuovaného systému (SmartGrids – sběr dat a řízení v energetice) EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 12

13 Use case: rozšíření lokálního clusteru ►Postavíme virtuální cluster, který  Má VLAN napojenu na místní síť uživatele (L2 segment, kde je fyzický cluster)  Jeho uzly jsou kopie uzlů fyzického clusteru (obrazy) ►Uživatel vidí známé prostředí rozšířené o nové uzly  S MetaCentrem interaguje jen správce lokálního clusteru  Prostředí je stejné do všech detailů, nové uzly jsou nerozlišitelné od fyzických (dávkový systém, autentizace, SW, konfigurace) EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 13 1234 5 6 78 Fyzická část Virtuální část Domácí síť uživatele

14 Use case: nafukovací služby ►Příklad: nafukovací databáze  Poskytuje interface: ulož data, vyhledej  Distribuovaná na několik uzlů (data, indexy, paralelizace dotazů)  Umí automaticky měnit velikost (počet uzlů)  Interní servisní proces řídí replikaci dat, tvorbu indexů, optimalizaci dotazů  Přidáváním/ubíráním uzlů se mění „jen“ kapacita, výkon ►Možný scénář: databáze běžící „v malém“ u uživatele se v případě potřeby experimentu „nafoukne“ do MetaCentra ►Příklady: ElasticSearch, MongoDB – viz následující přednáška EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 14

15 Naše mezinárodní spolupráce v cloudech ►Federated clouds  V rámci EGI (Evropské gridové infrastruktury)  Mezinárodní kooperující skupina cloudů  Propojení autentizace, bezpečnosti, accountingu, monitoringu, informačních služeb  Společná knihovna připravených obrazů virtuálních strojů  Standardy pro cloudové rozhraní  OCCI Open Cloud Computing Interface  CDMI Cloud Data Management Interface  Účast MetaCentra na vývoji a evropském testbedu EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 15

16 Reklamní vložka EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 16

17 MetaCentrum je tu pro vás ►Pro výzkumné a výukové účely akademických institucí ČR, od jednotlivých studentů až po velké týmy ►„Platí“ se kvalitou a úspěšností vlastní práce  Koncept: cílem infrastruktury je, aby její uživatelé měli kvalitní výsledky  Publikace s poděkováním, případně jiné reference na VaV výsledky vzniklé díky MetaCentru  Lepší výsledky = lepší priorita při přidělování zdrojů (motivační systém, průběžný systém zadávání výsledků a nastavování priorit)  Počítat můžete začít ihned, na výsledky se ptáme až za rok EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 17

18 MetaCentrum je partner ►Naším cílem je e-Infrastrukturou řešit potřeby VaV týmů  Překonání dosavadních limitů – aplikací špičkové ICT infrastruktury  Nové možnosti – tam, kde dosud nebylo ICT třeba, nové přístroje, nové objemy dat, nové zpracování existujících dat  „Ambicí je nejen poskytovat služby, ale i posunout schopnost vědeckých týmů využívat nové technologie a možnosti infrastruktury.“ ►Konkrétní možnosti  Semináře, cílené akce pro konkrétní skupiny  Návrh a optimalizace algoritmů, modelů, nástrojů a prostředí  Společné projekty – spolupráce informatiků a různých vědeckých oborů EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 18

19 Národní akademická licence Matlab ►Možnost získat skutečně národní plovoucí licenci  Záměr je v souladu s EUNIS, Klubem ředitelů, CESNETem  Máme podle našeho názoru přijatelnou nabídku Mathworks  Jsou k dispozici finanční zdroje (VaVpI projekt eIGeR CESNET)  Podle zkušeností z minulosti se jedná o výjimečnou příležitost ►Záměr rozvoje MetaCentra  Poskytovat nákladný SW jako nový zdroj/službu dostupnou samostatně  Matlab je dobrý kandidát, nejužívanější placený SW v MetaCentru (350 licencí, 150 simulink, 700 toolboxy)  Provoz nové služby nejméně do roku 2020, k úspoře dojde na úrovni institucí/projektů, nebudou potřebovat vlastní licence EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 19

20 Matlab – co je třeba k úspěchu ►Podpora institucí/týmů/projektů  Deklarace zájmu, indikace dostatečného objemu uživatelů  Do 15.6.2013 reakce institucí (deklarace zájmu, kontaktní osoba) na dopis ředitele CESNETu rektorům ►Sestavení vhodné struktury licence  Podklady do 30.6. https://www.surveymonkey.com/s/96THXBMhttps://www.surveymonkey.com/s/96THXBM  Licence je strukturována (počet plovoucích licencí mezi toolboxy)  Omezení ze strany Mathworks – min. 500 licencí na toolbox  Během provozu nelze národní licenci jednoduše měnit (minimální nákup opět 500 licencí); současné licence ale zůstanou platné a půjde dokupovat individuálně EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 20

21 Shrnutí ►Cloudové rozhraní MetaCentra  Flexibilita, kontrola prostředí uživatelem, speciální potřeby  HPC Cloud – místo výpočtu celý obraz stroje, jinak jako grid ►Virtuální výpočetní cluster  Komplexní abstrakce nad zdroji „v cloudu“  Nový zdroj dostupný uživatelům - síť ►Cíl: zlepšení pro uživatele  Nové možnosti  Odbourání některých bariér plného využití MetaCentra EUNIS 4.6.2013 MetaCentrum - gridy pod mrakem 21 Děkuji za pozornost