Systém PBS na farmě goliáš Jan Švec 27.11.2003. Systém PBS (1) ● Portable batch system – e.pdf ●

Slides:



Advertisements
Podobné prezentace
UŽIVATEL, SKUPINA, PROCES Systém bez uživatele je jedině Matrix? Uživatelé se seskupují a řídí práci. SPŠ Teplice - 3.V.
Advertisements

Advanced Technologies 05 Využití MOM 2005 pro správu Exchange 2003 Petr Šetka, MCSE, MCT, MVP konzultant & lektor.
Regionální výpočetní centrum pro fyziku částic Farma Goliáš
Status farmy Goliáš Jan Švec, Farma goliáš nyní ● LP1000r 2xPIII-1.13 GHz 512k 1GB RAM 18GB SCSI HDD (34 ks) ● 10TB (1 + 9) diskové kapacity.
Exchange 2013 – Autodiscover - přehled
Vytváření, použití dávkových souborů
M. Štulc, J. Šváb, J. Kolena SIMULACE OPERAČNÍHO SYSTÉMU
SAS Jan Blaťák Laboratoř vyhledávání znalostí Fakulta informatiky Masarykova Univerzita, Brno
Softwarový systém DYNAST
INFSO-RI Enabling Grids for E-sciencE VOCE Status Jan Kmuníček CESNET, Česká republika.
INFSO-RI Enabling Grids for E-sciencE Použití farmy SKURUT v roce 2004 Jiří Chudoba, Lukáš Fiala, Miloš Lokajíček, Jiří Kosina,
● SWIG - Simplified Wrapper and Interface Generator ● + google a diskusní fóra ● nástroj zjednodušující (a sjednocující)
Status farmy Goliáš Jan Švec, Farma goliáš nyní ● LP1000r 2xPIII-1.13 GHz 512k 1GB RAM 18GB SCSI HDD (34 ks) ● 10TB (1 + 9) diskové kapacity.
Podpora výuky a tvorby ER diagramu ve výukovém systému Barborka Petr Kopka VŠB – TU Ostrava, 2005.
Procedury a funkce Základní charakteristika a použití v programu.
INFSO-RI Enabling Grids for E-sciencE Proxy certifikáty, jazyk JDL, správa úloh a portál GENIUS Jan Švec, Fyzikální Ústav AV ČR.
Základy práce na PC Ing. Jan Roubíček.
Superpočítání a gridové počítání, Seminář projektu EGEE II, SKM Brno, 12. prosince, 2006 Superpočítání a gridové počítání Martin Petřek, 1,2 Petr Kulhánek,
INFSO-RI Enabling Grids for E-sciencE Charon Extension Layer (CEL) Jan Kmuníček CESNET.
ATLAS Computing Jiří Chudoba Fyzikální ústav AV ČR, v.v.i.
Tomáš Urych, ESO9 Intranet a.s.
Správa procesů.
Tento výukový materiál vznikl v rámci Operačního programu Vzdělávání pro konkurenceschopnost Číslo projektu: CZ.1.07/1.5.00/ Číslo materiálu: VY_32_INOVACE_PSK-4-09.
EGEE-II INFSO-RI Enabling Grids for E-sciencE EGEE and gLite are registered trademarks Distribuce dat experimentu ATLAS Jiří Chudoba.
Obchodní akademie, Ostrava-Poruba, příspěvková organizace Vzdělávací materiál/DUM VY_32_INOVACE_01B16 Autor Ing. Jiří Kalousek Období vytvoření březen.
EGEE is a project funded by the European Union under contract IST Gridové projekty LCG a D0 v ČR Jiří Kosina Fyzikální ústav AV ČR Seminář.
Tier2 centrum v Praze Jiří Chudoba Fyzikální ústav AV ČR, v.v.i.
1/29 PB153 OPERAČNÍ SYSTÉMY A JEJICH ROZHRANÍ Procesy 05.
INFSO-RI Enabling Grids for E-sciencE GENIUS/GILDA Tutorial, Zasílání a správa úloh pomocí příkazové řádky Lukáš Fiala.
2 Petr Žitný znalosti.vema.cz 3 Báze znalostí Nová služba zákazníkům ▸Báze naplněná informacemi, ke které mají uživatelé přímý přístup Základní cíl ▸Poskytovat.
Dynamic SQL P. Částek. Dynamic SQL Embedded SQL je překládaný preprocesorem => za běhu nelze nechat uživatele rozhodovat o vzhledu samotných SQL příkazů.
SAMBA umožňuje linuxovému systému sdílení prostředků a služeb prostřednictvím sítě používá SMB (server message block) protocol - identický protokolu.
Správa procesů.
Návrh nákupu nákladných přistrojů v roce 2004 Zvýšení výkonu linuxové farmy GOLIÁŠ pro zpracování dat.
Problémy s češtinou České znaky se standardně nepovažují za alfanumerické znaky (\w) Vadí to při třídění vyhodnocování regulárních výrazů Je třeba použít.
LCG2 LCG2 software Jiří Kosina. LCG2 – přehled ●... některé slajdy budou podobné loňským... ● ● GRID, který bude sloužit ke zpracování.
INFSO-RI Enabling Grids for E-sciencE Data Management Jiří Kosina CESNET.
Systém souborů. Množina souborů různých typů – Data – Spustitelné programy – Konfigurační a pomocné informace – I/O zařízení Způsob organizace množiny.
Příklady v jazyku C – část 8. Napište program, který inicializuje 2-rozměrné pole uživatele (5 řádků, 2 sloupce) a naplní ho hodnotami (první sloupec.
Úvod do UNIXu (5th round)
Systém souborů. Množina souborů různých typů – Data – Spustitelné programy – Konfigurační a pomocné informace – I/O zařízení Způsob organizace množiny.
14. června 2004Michal Ševčenko Architektura softwarového systému DYNAST Michal Ševčenko VIC ČVUT.
MetaCentrum1 Puppet Pavel Vondruška. MetaCentrum2 Puppet Nástroj na správu operačních systémů Napsáno v Ruby Linux, BSD, Unix (Mac, Solaris, AIX, HP-UX),
Balíky Hlavní balík - main - zatím jsme s jiným nepracovali Rozdělují tzv. namespaces = množiny jmen pro proměnné $lemma = "cukr"; znamená $main::lemma.
VSphere with Operations Management (vSOM) – efektivní využívání infrastruktury Zuzana Jáklová VMware Licensing Expert
Superpočítání a gridové počítání, Struktura a funkce biomolekul – Letní škola, NCBR, Brno, 3-8 září, 2006 Superpočítání a gridové počítání Martin Petřek,
Algoritmizace a programování Algoritmy 4 – Vývojové diagramy (cykly)
Algoritmizace a programování Cykly - For. FOR Předem známe počet opakování Předem známe počet opakování Syntaxe: Syntaxe: for proměnná in range(rozpětí):
FTP-SSL FTP-SSL Martin Dušek Martin Fúsek Josef Vlček.
Azure Service Bus Service Bus jako integrační platforma. Praktické ukázky využití.
Architektura operačních systémů
Služby Windows Autorem materiálu a všech jeho částí, není-li uvedeno jinak, je Ing. Libor Otáhalík. Dostupné z Metodického portálu ISSN: 
Moduly.
Algoritmizace a programování
CHOICE příkaz slouží k ovládání dávkového souboru, pomocí toho příkazu, můžete povolit provedeni jen určité části kódu dávkového souboru, ten to kód musí.
VRECKO Systém pro tvorbu virtuálních světů
Přehled změn na portálu
Distribuovaná Analýza ATLAS dat
Úvod do UNIXu (5th round)
Plánování procesů Autorem materiálu a všech jeho částí, není-li uvedeno jinak, je Ing. Libor Otáhalík. Dostupné z Metodického portálu ISSN: 
PB 169 Počítačové sítě a operační systémy
Přehled změn na portálu
Základní příkazy OS UNIX (1)
Práce s procesy Centrum pro virtuální a moderní metody a formy vzdělávání na Obchodní akademii T.G. Masaryka, Kostelec nad Orlicí Autor:
Představení PBS Professional Dalibor Klusáček
TELNET, FTP.
Správa procesů.
chkdsk , systeminfo, subst, shutdown
MS SQL Server stojící, bdící
Transkript prezentace:

Systém PBS na farmě goliáš Jan Švec

Systém PBS (1) ● Portable batch system – e.pdf ● tři základní komponenty: – PBS server – PBS mom – PBS scheduler ● dočasné (scratch) adresáře na worker nodech – > přenos pomocí scp na storage (input, output, error)

Systém PBS (2) ● OpenPBS > LCG – PBS server – ce.farm.particle.cz – PBS moms – golias28 – golias30 ● PBSPro > zbytek farmy – PBS server – golias.farm.particle.cz – PBS moms – golias01 – golias24

Struktura PBS na goliáši ● řazení podle priorit – funguje na nově spouštěné joby – zatím nefunguje checkpointing ● 6 front – obecné ● shortq ● normalq ● longq – pro daný experiment ● d0 ● atlas ● alice

Management jobů ● qsub - zadání jobu ● qdel - smazání jobu ● qstat - přehled běžících jobů ● qalter - modifikace parametrů jobu ● qorder - přehození jobů ve frontě ● qmove - přesunutí jobu do jiné fronty ● qhold/qrls -h - pozastavení/uvolnění jobu

xpbsmon

xpbs

Příklad zadání jobu 1) qsub -o $HOME/pbs_output -e $HOME/pbs_error -m abe \ -q shortq /home/svecj/jobs/pokus1.sh 2) qsub -o $HOME/pbs_output -e $HOME/pbs_error -m abe \ -q shortq -l nodes=4:giga:ppn=5:cpp=2 ~/jobs/pokus1.sh – ppn != processors per node ale processes per node – cpp=1 => 1 proces použije 1 CPU (1 proces může běžet 1 thread) – všechny vlastnosti jsou globálně nadefinovány ve frontách

Zjišťování informací o jobech (1) – příkaz qstat – stavy jobu: E-exiting, H-held, Q-queued, R-running, W- waiting for time, S-suspended – qstat -Q (příp. -Qf) - vypíše fronty, jejich vlastnosti a status – qstat -f - vypíše podrobnosti o jobu – qstat -u - vypíše joby daného uživatele – qstat -n - vypíše informace o přiřazení nodů jobům – volby je možno kombinovat: ● qstat -u aliprod -n - vypíše obsazení nodů joby uživatele aliprod

Zjišťování informací o jobech (2) pbs]$ qstat Job id Name User Time Use S Queue golias spustpok1 srbekj 00:00:20 R long golias cond_0.0_0.0_10 strizenec 113:09:5 S longq golias cond_0.0_0.0_10 strizenec 112:44:1 S longq golias cond_0.0_0.0_10 strizenec 111:59:5 S longq golias cond_0.0_0.0_10 strizenec 111:25:0 S longq golias cond_0.0_0.0_10 strizenec 86:39:58 S longq golias spust.rsd_test smolik 23:09:17 S longq golias spust.rsd_test smolik 21:53:32 S longq golias d0job15-2 d0mc 11:51:54 R d golias d0job16-2 d0mc 07:12:14 R d golias d0job17-2 d0mc 06:47:42 R d golias d0job18-2 d0mc 03:58:40 R d golias d0job19-2 d0mc 03:57:36 R d golias d0job20-2 d0mc 03:30:50 R d golias spust.rsd_test smolik 03:15:36 R longq golias spust.rsd_test smolik 02:14:29 R longq golias spust.rsd_test smolik 01:48:04 R longq golias spust.rsd_test smolik 01:44:27 R longq golias spust.rsd_test smolik 01:36:42 R longq golias spust.rsd_test smolik 00:55:39 R longq golias spust.rsd_test smolik 00:55:39 R longq golias spust.rsd_test smolik 00:55:38 R longq golias spust.rsd_test smolik 00:53:37 R longq

Děkuji za pozornost