Senior IT operations manager

Prezentace na téma: "Senior IT operations manager"— Transkript prezentace:

1 Senior IT operations manager
Ukládání dat Michal Feix Senior IT operations manager … najdu tam,co neznám!

2 Jak to řešíme? Jak nám to jde? Co řešíme? Obsah přednášky
Nároky na datové úložiště Co řešíme? Námi používané technologie Jak to řešíme? Provozní zkušenosti Jak nám to jde? … najdu tam,co neznám!

3 ? Co řešíme? Od desítek gigabytů do stovek terabytů
Kapacita Od desítek gigabytů do stovek terabytů Rychlost Od jednotek do tisíců IO za sekundu Spolehlivost Redundance Rychlost obnovy Náklady Práce lidí Servis Rozšiřování ? … najdu tam,co neznám!

4 Co řešíme? www.seznam.cz … najdu tam,co neznám! Kapacita Rychlost
Spolehlivost Náklady … najdu tam,co neznám!

5 Přes 1,5 PB datového prostoru pro emaily uživatelů
Co řešíme? Ukaž mé y! Přes 1,5 PB datového prostoru pro y uživatelů … najdu tam,co neznám!

6 Odezva do stovek milisekund na každý položený dotaz
Co řešíme? Ukaž mé y! Odezva do stovek milisekund na každý položený dotaz … najdu tam,co neznám!

7 Přírůstek 1 TB dat každý den
Co řešíme? Ukaž mé y! Přírůstek 1 TB dat každý den … najdu tam,co neznám!

8 Všechna data dvakrát a online
Co řešíme? Ukaž mé y! Všechna data dvakrát a online … najdu tam,co neznám!

9 Jak to řešíme? Jak nám to jde? Co řešíme? Obsah přednášky
Nároky na datové úložiště Co řešíme? Námi používané technologie Jak to řešíme? Provozní zkušenosti Jak nám to jde? … najdu tam,co neznám!

10 Jak to řešíme? www.seznam.cz … najdu tam,co neznám! SAS disky
Kapacity od 70 GB do 200 GB Rychlosti od 150 IO/s Ceny od 25 Kč / GB SAS diskům věříme „více“ SATA disky Kapacity od 250 GB do 1 TB Rychlosti od 60 IO/s Ceny od 4 Kč / GB SATA diskům věříme „méně“ … najdu tam,co neznám!

11 Jak to řešíme? www.seznam.cz … najdu tam,co neznám!
Vícediskové servery Celková kapacita od 140 GB do 30 TB Až 1000 IO/s v jediném serveru Ceny od 40 Kč / GB do řádů stovek Kč SW nebo HW RAID varianty … najdu tam,co neznám!

12 Jak to řešíme? Externí SCSI, iSCSI přes IP, FiberChannel www.seznam.cz
Disková pole, diskové systémy Celková kapacita v řádku desítek a stovek TB Rychlosti v řádech stovek a tisíců IO/s Ceny v řádech desítek Kč / GB Obvykle „blackbox“ redundance v HW Externí SCSI, iSCSI přes IP, FiberChannel … najdu tam,co neznám!

13 Jak to řešíme? DAS, SAN, NAS … najdu tam,co neznám!

14 Jak to řešíme? Diskové pole tvářící se na serveru jako SCSI disk
DAS Diskové pole tvářící se na serveru jako SCSI disk Externí SCSI kabel, lokální Fiber channel … najdu tam,co neznám!

15 Jak to řešíme? Fyzické úložiště na serveru tvářící se jako SCSI disk A
SAN Fyzické úložiště na serveru tvářící se jako SCSI disk A Ethernetová síť nebo Fiber channel síť SW RAID ze dvou disků A a B s filesystémem EXT3 Fyzické úložiště na serveru tvářící se jako SCSI disk B … najdu tam,co neznám!

16 Jak to řešíme? Ethernetová síť nebo Fiber channel síť
NAS Ethernetová síť nebo Fiber channel síť Fyzické úložiště přístupné přes NFS s vlastním filesystémem Síťový disk připojený přes NFS … najdu tam,co neznám!

17 Jak to řešíme? Synchronizace přes IP pro každou dvojici zvlášť
Replikace dat vlastním řešením Inkrementální replikace pomocí binlogů Online replikace s minimálním zpožděním Vlastní aplikace na obou stranách + IP síť Master – slave model, automatické navázání, možnost full sync Synchronizace přes IP pro každou dvojici zvlášť … najdu tam,co neznám!

18 Jak to řešíme? Pošli soubor /A/B/C.dat Tady jsou data
Replikace dat vlastním řešením - čtení Klient nemá připojený disk, ale o data musí zažádat aplikačním protokolem. Klient Pošli soubor /A/B/C.dat Tady jsou data Uzel A - Slave Uzel B - Master … najdu tam,co neznám!

19 Jak to řešíme? Zapiš soubor /A/B/C.dat OK Replikuj soubor /A/B/C.dat
Replikace dat vlastním řešením - zápis Klient nemá připojený disk, data zapisuje aplikačním protokolem. Klient Zapiš soubor /A/B/C.dat OK Replikuj soubor /A/B/C.dat Uzel A - Slave Uzel B - Master … najdu tam,co neznám!

20 Jak to řešíme? Virtuální disk realizovaný několika servery v clusteru
Replikace dat přes GlusterFS Inkrementální replikace přes GlusterFS Online replikace s minimálním zpožděním Vyžaduje oddělenou IP síť mezi členy clusteru Automatické navázání, multimaster, možnost plného sesynchronizování Virtuální disk realizovaný několika servery v clusteru … najdu tam,co neznám!

21 Jak to řešíme? Zapiš / Čti soubor /A/B/C.dat OK / Tady jsou data
Replikace dat přes GlusterFS – čtení a zápis Klient má připojený virtuální disk, který simuluje fyzický disk složený z dat na všech uzlech clusteru. Klient Zapiš / Čti soubor /A/B/C.dat OK / Tady jsou data Replikace Uzel A Uzel B Uzel C … najdu tam,co neznám!

22 Jak to řešíme? R/W R/O www.seznam.cz … najdu tam,co neznám!
Replikace dat přes SeznamFS Event-driven replikace nad filesystémem Online replikace s minimálním zpožděním Stačí běžná IP síť mezi servery Master – slave model, inkrementální s pomocí vlastního binlogu R/W R/O … najdu tam,co neznám!

23 Jak to řešíme? Replikace dat přes SeznamFS – čtení a zápis Klient má připojený disk. Nad ním sleduje všechny FS aktivity démon a replikuje je. Klient Zapiš informaci o změně souboru /A/B/C.dat do lokálního binlogu. Replikace souboru /A/B/C.dat Replikace na ostatní servery Uzel B Uzel A - Master Uzel C … najdu tam,co neznám!

24 ? Jak to řešíme? www.seznam.cz … najdu tam,co neznám!
Co ještě řeší replikace? Zálohování Škálovatelnost ? … najdu tam,co neznám!

25 Jak to řešíme? Jak nám to jde? Co řešíme? Obsah přednášky
Nároky na datové úložiště Co řešíme? Námi používané technologie Jak to řešíme? Provozní zkušenosti Jak nám to jde? … najdu tam,co neznám!

26 Jak nám to jde? www.seznam.cz … najdu tam,co neznám! SATA SAS
Vícediskové servery Disková pole … najdu tam,co neznám!

27 SATA Jak nám to jde? www.seznam.cz … najdu tam,co neznám! SATA SAS
Vícediskové servery Disková pole Klady Velká kapacita Nízká cena za GB Zápory „Papírově“ nižší spolehlivost Nízká rychlost při náhodném IO … najdu tam,co neznám!

28 SAS Jak nám to jde? www.seznam.cz … najdu tam,co neznám! SATA SAS
Vícediskové servery Disková pole Klady Vysoká rychlost i při náhodném IO Vyšší „papírová“ spolehlivost“ Zápory Nízké kapacity disků Vyšší cena za GB … najdu tam,co neznám!

29 Vícediskové servery Jak nám to jde? www.seznam.cz
SATA SAS Vícediskové servery Disková pole Klady Odladěné „all in one“ řešení Nízká cena za výpočetní výkon spolu s kapacitou a servisem Zápory S diskovou kapacitou spojený značný výpočetní výkon… …který zvyšuje cenu Nižší spolehlivost než u diskových polí … najdu tam,co neznám!

30 Disková pole Jak nám to jde? www.seznam.cz … najdu tam,co neznám! SATA
SAS Vícediskové servery Disková pole Klady Nízká cena za GB Vyšší spolehlivost Jednoduchá správa zařízení Zápory Spousta dat v jediném místě Vysoká cena za funkce navíc, za licence, za kapacitu… … najdu tam,co neznám!

31 Jak nám to jde? www.seznam.cz … najdu tam,co neznám! GlusterFS
Replikace .cz SeznamFS … najdu tam,co neznám!

32 GlusterFS Jak nám to jde? www.seznam.cz … najdu tam,co neznám!
Replikace .cz SeznamFS Klady Velké množství variant konfigurace Multi-master, failover řešení s jednoduchým škálováním Zápory Překotný vývoj a radikální změny mezi verzemi kódu Vyžaduje vlastní infrastrukturu Spolehlivost … najdu tam,co neznám!

33 SeznamFS Jak nám to jde? www.seznam.cz … najdu tam,co neznám!
GlusterFS Replikace .cz SeznamFS Klady Jednoduchý a prověřený kód Minimální nároky na portaci a infrastrukturu Zápory Pouze jednostranná replikace v master – slave modelu Při ztrátě události na master serveru nutná plná resynchronizace … najdu tam,co neznám!

34 Replikace Email.cz Jak nám to jde? www.seznam.cz
GlusterFS Replikace .cz SeznamFS Klady Na míru potřebám služby .cz Díky tomu minimální nároky na přenosovou síť Snadná změna master uzlu Zápory Výrazně složitější kód než u SeznamFS Vhodné v podstatě pouze pro .cz … najdu tam,co neznám!

35 Senior IT operations manager
Díky za pozornost Vaše otázky? Michal Feix Senior IT operations manager ? … najdu tam,co neznám!