Cloud
Správa vlastní infrastruktury může být zejména ve světě AI velmi nákladné. Jak systém přenasazovat, jak ho škálovat nebo jak používat omezené zdroje grafických karet pro tisíce zákazníků? Co když chci zákazníky odbavovat ve zvýšeném množství jenom o víkendu, jinak může být provoz jenom desetinový?
Cloud computing obecně tyto problémy řeší. Kompletnější výčet výhod je následující:
- Škálovatelnost: potřebujete desetkrát větší provoz o víkendech nebo nárazově? Prostředí Google Cloudu umožňuje nastavit thresholdy vytížení, kdy má dojít ke klonování docker kontejnerů. Celý provoz tak může být obsluhován bez nežádoucího zpomalování.
- Cena provozu: i přes vyšší cenové nároky na hardware lokálního provozu si Cloud bere jen prostředky momentálně využívané. Neočekávané poddimenzování provozu se tak automaticky zlevní. Máte nastavený lokální provoz tak, že některé servery můžete jednoduše vypnout?
- Spolehlivost: redundance zajistí Váš server proti výpadkům. Pokud je jeden server v Nizozemsku, druhý v Casablance a třetí v Iowě, ani celostátní blackout nebo zemětřesení neznemožní přístup na stránky.
- Rychlost: u globálního poskytování služeb si můžete servery nasadit do míst Vašich zákazníků, jak bylo zmíněno v minulém odstavci. Latence se tak výrazně sníží.
- Zálohování: většina Cloudových služeb má nastaveno automatické zálohování nebo je schopno rychlých návratů k předchozím verzím.
- Out-of-the-box řešení: provoz GPU se dá tzv. "naklikat". Lokálně si je třeba složitě nastavovat, aktualizovat, chladit, monitorovat a nakonec vyměňovat. Proč tyto náročné činnosti nedelegovat zaměstnancům Googlu, Amazonu nebo Microsoftu?
Cloud není lékem na všechno. Někdy přechod není ani možný, například kvůli citlivé povaze dat zákazníka nebo zcela monolitické struktuře kódu. Jindy nevyjde cost-effectiveness analýza. Pokud však máte mezi prioritami škálovatelnost, spolehlivost nebo rychlost, může být optimálním řešením. V takovém případě bych mohl pomoci kritické části nebo i celý systém přemigrovat.