EGEE-II INFSO-RI-031688 Enabling Grids for E-sciencE www.eu-egee.org EGEE and gLite are registered trademarks Distribuce dat experimentu ATLAS Jiří Chudoba.

Slides:



Advertisements
Podobné prezentace
© 2000 VEMA počítače a projektování spol. s r. o..
Advertisements

EGEE is a project funded by the European Union under contract IST Využití EGEE infrastruktury pro zpracování dat ve fyzice vysokých energií.
Česko-vlámská spolupráce v subnukleární fyzice od r.2004
Senior IT operations manager
Regionální výpočetní centrum pro fyziku částic Farma Goliáš
Status farmy Goliáš Jan Švec, Farma goliáš nyní ● LP1000r 2xPIII-1.13 GHz 512k 1GB RAM 18GB SCSI HDD (34 ks) ● 10TB (1 + 9) diskové kapacity.
Zpracování dat – superpočítačové výkony na běžných procesorech Fyzikální ústav AV ČR.
Úvod do počítačových sítí Úvod. Úvod do počítačových sítí •Úvod, síťové protokoly, architektury,standardy •Fyzická úroveň •Linková úroveň •Lokální počítačové.
EGEE is a project funded by the European Union under contract IST Využití EGEE infrastruktury pro zpracování dat ve fyzice vysokých energií.
PC SÍTĚ I.
INFSO-RI Enabling Grids for E-sciencE VOCE Status Jan Kmuníček CESNET, Česká republika.
INFSO-RI Enabling Grids for E-sciencE Aktuální způsob využití EGEE zdrojů Jan Kmuníček Pokročilý seminář EGEE, 16. prosince 2004.
INFSO-RI Enabling Grids for E-sciencE Project EGEE-II / VOCE Jan Kmuníček CESNET.
INFSO-RI Enabling Grids for E-sciencE Použití farmy SKURUT v roce 2004 Jiří Chudoba, Lukáš Fiala, Miloš Lokajíček, Jiří Kosina,
INTERNET.
Lukáš Fiala FZÚ AV ČR. Dnešní stav seminář CESNETu - Sezimovo Ústí2 střed hvězdy je Cisco C6503 na CESNETu vyhrazená GN2 lambda pro spoj do.
Status farmy Goliáš Jan Švec, Farma goliáš nyní ● LP1000r 2xPIII-1.13 GHz 512k 1GB RAM 18GB SCSI HDD (34 ks) ● 10TB (1 + 9) diskové kapacity.
Softwarové zabezpečení serveru
Seminář CESNET 1 Zpracování dat v částicové fyzice Jiří Chudoba FZÚ AV ČR.
INFSO-RI Enabling Grids for E-sciencE Úvod do použití Gridů Jan Kmuníček CESNET, Česká republika.
INTERNET - TERMINOLOGIE
EGEE is a project funded by the European Union under contract IST Gridy a související aktivity v CR Jiří Kosina Seminář projektu EGEE,
, 14 hod.,FZÚ m Diskuze o stavu a rozvoji výpočetních služeb sekce 1 –Změny v roce 1997 M.Lokajíček 5’ –Status služby HP J. Krásová 20’
Slide 1 A Free sample background from © 2003 By Default! Jiří Kůsa Testování propustnosti síťového firewallu.
DBI007: Fyzické nosiče souborů RNDr. Michal Žemlička.
Load Balancer RNDr. Václav Petříček Lukáš Hlůže Václav Nidrle Přemysl Volf Stanislav Živný
INFSO-RI Enabling Grids for E-sciencE Charon Extension Layer (CEL) Jan Kmuníček CESNET.
ATLAS Computing Jiří Chudoba Fyzikální ústav AV ČR, v.v.i.
INFSO-RI Enabling Grids for E-sciencE Práce s daty ve VO Auger Jiří Chudoba Auger tutoriál, , Praha.
Filip Křížek, ÚJF AV ČR. Stručně o HADESu Di-elektronový spektrometr HADES je umístěn v GSI Darmstadt. Název experimentu HADES je složen z počátečních.
seminář CESNET2 Masarykova kolej 1 Výpočty ve fyzice částic - projekt ATLAS M. Lokajíček Fyzikální ústav AV ČR.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Bezpečnost v Gridech Daniel Kouřil EGEE kurz.
EGEE is a project funded by the European Union under contract IST Gridové projekty LCG a D0 v ČR Jiří Kosina Fyzikální ústav AV ČR Seminář.
Vývoj výpočetního modelu
Počítačové sítě Autor: Marek Jiruš.
Challenges pro METACentrum. Hlavní úkoly Plná integrace různých přístupů k řízení Gridů –Mezinárodní projekty (EGEE) Rozvoj bezpečnostně orientovaného.
PCI Express Pavel Stianko. 2 Požadavky doby Vysoká přenosová rychlost Quality of service – data musí být v určitý čas přístupná pro zpracování Zvyšování.
Tier2 centrum v Praze Jiří Chudoba Fyzikální ústav AV ČR, v.v.i.
Vytvořil: Petr Hruška G461
INFSO-RI Enabling Grids for E-sciencE GENIUS/GILDA Tutorial, Zasílání a správa úloh pomocí příkazové řádky Lukáš Fiala.
 Římské hrnce  Test kosmickým zářením  Test na svazku  MC simulace  Shrnutí Příprava instrumentace dopředné části ATLAS UP Olomouc & MFF UK Praha.
Filip Fiala, 4.C.  Základní deska  Procesor  Paměťové karty  Grafické karty  Pevný disk.
Úroveň přístupu ke komunikačnímu médiu
Návrh nákupu nákladných přistrojů v roce 2004 Zvýšení výkonu linuxové farmy GOLIÁŠ pro zpracování dat.
Vila Lanna ATLAS ve FZÚ: příprava fyzikálního programu 1 Příprava fyzikálního programu ATLAS Jiří Chýla Produkce intermediálního vektorového.
LCG2 LCG2 software Jiří Kosina. LCG2 – přehled ●... některé slajdy budou podobné loňským... ● ● GRID, který bude sloužit ke zpracování.
Fyzika elementárních částic
INFSO-RI Enabling Grids for E-sciencE Data Management Jiří Kosina CESNET.
Hardware osobních počítačů
Detektory nabitých částic a jader
Quiz Jak se jmenuje částice zprostředkující silnou interakci? Neutralino A Snail B Gluon C Pigsino D 1.
Zabezpečení a správa pracovních stanic, virtualizace Jan Písařík – chief of technical support.
Kombinovaná analýza srážek z meteorologických radarů a srážkoměrů a jejich užití v hydrologických modelech Milan Šálek
Web services. Co jsou webservices Součinná spolupráce počítačů v síti Technologie pro vzdálené volání procedur (RPC) Nezávislá na platformě Data v XML.
Částicové urychlovače a jejich aplikace…. Co srážíme? Jednotlivé částice Dopad na terč.
Umístění komunikačního klienta v síti S síť KK DB M.
Internet protocol Počítačové sítě Ing. Jiří Ledvina, CSc.
Studium produkce e + e - párů ve srážkách Ar+KCl AGeV Filip Křížek, ÚJF AV ČR.
E- MAIL Ing. Jiří Šilhán. E LEKTRONICKÁ POŠTA NEBOLI vývoj od počátku sítí – původní návrh pouze pro přenos krátkých textových zpráv (ASCII) základní.
Řízení přenosů TCP Počítačové sítě Ing. Jiří Ledvina, CSc.
NÁZEV ŠKOLY: S0Š Net Office, spol. s r. o., Orlová Lutyně AUTOR: Bc. Petr Poledník NÁZEV: Podpora výuky v technických oborech TEMA: Počítačové systémy.
Odborný výcvik ve 3. tisíciletí Tato prezentace byla vytvořena v rámci projektu.
Co se skrývá uvnitř skříně?. 1. Počítačová skříň (Case) je obvykle plechový obal, který zakrývá vnitřek počítače. Existují 4 základní druhy skříní (dělené.
Detektor ALFA-ATLAS v CERNu
MĚŘENÍ VIBRACÍ NA TRUBKOVÉM SVAZKU, ZPRACOVÁNÍ A UCHOVÁVÁNÍ DAT
Distribuovaná Analýza ATLAS dat
Správa disků
Přednášky z Distribuovaných systémů
& Managed File Transfer.
Transkript prezentace:

EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Distribuce dat experimentu ATLAS Jiří Chudoba Širokopásmové sítě a jejich aplikace, Olomouc

Enabling Grids for E-sciencE Jiří Chudoba 2 Urychlovač LHC Největší urychlovač na světě Srážky proton - proton s energií 14 TeV 27 km obvod, 100 m pod zemí Srážky každých 25 ns

Enabling Grids for E-sciencE Jiří Chudoba 3 Urychlovač LHC

Enabling Grids for E-sciencE Jiří Chudoba 4 Urychlovač LHC

Enabling Grids for E-sciencE Jiří Chudoba 5 Detektor ATLAS

Enabling Grids for E-sciencE Jiří Chudoba 6 Typy dat RAW –naměřená data, odezva detektoru ESD (Event Summary Data) - –data po rekonstrukci částic s veškerou informací –cílem je.5 MB na případ AOD (Analysis Object Data) - –rekonstruované trajektorie a jejich parametry –přímý přístup uživatelů –.1 MB/případ DPD (Derived Physics Data) –„tabulky“ dat, nejzákladnější informace o částicích v případu

Enabling Grids for E-sciencE Jiří Chudoba 7 Výpočetní model Event Filter –výpočetní farma umístěná blízko experimentu –sestavuje případy a posílá je do Tier0 Tier0 v CERN –uchovává RAW data, jednu kopii posílá do jednoho z Tier1 –první rekonstrukce (ESD a AOD) pro rychlou kontrolu Tier1 –10 geograficky vzdálených center –produkce ESD a AOD s přesnější kalibrací –uchovává všechna aktuální ESD a AOD Tier2 –simulace případů metodou Monte Carlo, výstup do Tier1 –uživatelská analýza na částí AOD Tier3 –menší výpočetní farmy pro analýzu CAF - CERN Analysis Facility –farma v CERN s možným přístupem k ESD a RAW datům

Enabling Grids for E-sciencE Jiří Chudoba 8 Datové toky pro průměrné Tier1 Tier-0 CPU farm T1 Další Tier-1s disk buffer RAW1 1.6 GB/file 0.02 Hz 1.7k F/day 32 MB/s 2.7 TB/day ESD2 0.5 GB/file 0.02 Hz 1.7k F/day 10 MB/s 0.8 TB/day AOD2 10 MB/file 0.2 Hz 17k F/day 2 MB/s 0.16 TB/day AODm2 500 MB/file Hz 0.34k F/day 2 MB/s 0.16 TB/day RAW1 ESD2 AODm Hz 3.74k F/day 44 MB/s 3.66 TB/day T1 Další Tier-1s T1 Každé Tier-2 Tape RAW2 1.6 GB/file 0.02 Hz 1.7k F/day 32 MB/s 2.7 TB/day disk storage AODm2 500 MB/file Hz 0.34k F/day 2 MB/s 0.16 TB/day ESD2 0.5 GB/file 0.02 Hz 1.7k F/day 10 MB/s 0.8 TB/day AOD2 10 MB/file 0.2 Hz 17k F/day 2 MB/s 0.16 TB/day ESD2 0.5 GB/file 0.02 Hz 1.7k F/day 10 MB/s 0.8 TB/day AODm2 500 MB/file Hz 3.1k F/day 18 MB/s 1.44 TB/day ESD2 0.5 GB/file 0.02 Hz 1.7k F/day 10 MB/s 0.8 TB/day AODm2 500 MB/file Hz 3.1k F/day 18 MB/s 1.44 TB/day ESD1 0.5 GB/file 0.02 Hz 1.7k F/day 20 MB/s 0.8 TB/day AODm1 500 MB/file 0.04 Hz 3.4k F/day 20 MB/s 1.6 TB/day AODm1 500 MB/file 0.04 Hz 3.4k F/day 20 MB/s 1.6 TB/day AODm2 500 MB/file 0.04 Hz 3.4k F/day 20 MB/s 1.6 TB/day Data access for analysis: ESD, AODm Plus simulace a uživatelská analýza

Enabling Grids for E-sciencE Jiří Chudoba 9 Datové toky do Tier2 Nominální datový tok mezi Tier1 centrem a přiřazenými Tier2 centry. Modrá část grafu zachycuje datový tok v důsledku zpracování srážek těžkých iontů, plánovaných na závěr roku 2008.

Enabling Grids for E-sciencE Jiří Chudoba 10 File Transfer Service Storage Element (SE) –datové jednotky v rámci Gridu –v T0 až T2 vyžadovány SE s protokolem SRM (Storage Resource Manager) FTS –součástí gLite (EGEE middleware) –definuje kanály mezi SE –možno nastavovat parametry pro kanály  počet paralelně přenášených souborů  počet streamů  správce kanálu –priority mezi skupinami uživatelů

Enabling Grids for E-sciencE Jiří Chudoba 11 Datový model - T1 oblaky T1 T0 T2 LFC FTS Server T1 FTS Server T0 T1 …. VO box LFC: lokální pro T1 oblak FTS

Enabling Grids for E-sciencE Jiří Chudoba 12 Tier2 centrum v Praze 1 Gbps linky PASNET + CzechLight FNAL, p2p, CzechLight/GLIF Taipei, p2p, CzechLight/GLIF FZK Karlsruhe, p2p přes GN2 BNL (USA) přes GN2 v přípravě L3 switch CISCO C6506 zapojován FARMA GOLIÁŠ ve FZÚ AV ČR, v.v.i. 140 výpočetních uzlů, 320 core ~400k SpecInt TB diskové kapacity Síťové připojení

Enabling Grids for E-sciencE Jiří Chudoba 13 Přenosy CERN - FZÚ Přenosy mezi CERN a Tier1 centry spolu s testem přenosů do FZÚ. Po kratších testech byl spuštěn test přenosu 1 TB dat po 20:23 GMT, byl ukončen v 0:10 GMT. Přeneslo se 708 GB.

Enabling Grids for E-sciencE Jiří Chudoba 14 Přenosy FZK - FZÚ Přenosy z FZK do FZÚ v některých časových úsecích dosahovaly až 50 MB/s. Obvykle přenosy z FZK do FZÚ vykazovaly velmi proměnlivé hodnoty přenosových rychlostí

Enabling Grids for E-sciencE Jiří Chudoba 15 Závěr Testy přenosů probíhají mezi všemi centry podle datového modelu Přenosy do a z Tier2 centra v Praze nejsou v současné době limitovány propustností sítě Stabilita serverů (FTS, SE, LFC, FTP) je klíčová pro úspěšnou distribuci dat