Cloudová vs. on-premise AI: která se vaší firmě opravdu hodí?

Zeptejte se tří dodavatelů, kde byste měli provozovat svou AI, a dostanete tři sebevědomé a protichůdné odpovědi — každá podezřele odpovídá tomu, co zrovna ten dodavatel prodává. Cloudová firma řekne cloud. Hardwarová firma řekne on-premise. Konzultant řekne, že to záleží, a pak vám naúčtuje, aby zjistil na čem. Pravda je jednodušší a mnohem méně dramatická: pro většinu malých a středních firem jde o praktické rozhodnutí s malým počtem proměnných a dokážete ho udělat dobře během jednoho odpoledne, jakmile vám někdo ty proměnné poctivě vysvětlí.

Tenhle rozhovor jsem vedl už mnohokrát, obvykle s majitelem firmy, kterého vyplašil titulek o úniku dat nebo prodejní prezentace plná slov jako suverénní a vzduchově oddělený. Přicházejí přesvědčeni, že to rozhodnutí je obrovské a nevratné. Obvykle není. Pod tím vším hlukem ve skutečnosti odpovídáte na dvě otázky: kde sídlí vaše data a kdo se k nim může dostat a co jste ochotni vlastnit oproti tomu, co si pronajmout. Všechno ostatní jsou detaily.

Pojďme to tedy osekat na dřeň. Tohle je verze, kterou bych dal příteli, který vede patnáctičlennou firmu a prostě chce udělat správnou věc, aniž by přeplatil nebo to překomplikoval. Žádné strašení, žádné vytáčky — jen to, co cloud a on-premise pro vás skutečně znamenají, kde každý opravdu vítězí, a způsob rozhodnutí, který obhájíte před účetním i auditorem.

Co tato slova doopravdy znamenají (bez marketingu)

Cloudová AI znamená, že model běží na cizích počítačích. Pošlete svůj text, obrázek nebo dokument přes internet poskytovateli, jeho hardware odvede přemýšlení a odpověď se vrátí. Stroje nevlastníte, neudržujete je a platíte podle využití — obvykle za požadavek nebo za token. Většina nástrojů AI, které už znáte, funguje takto.

On-premise AI znamená, že model běží na hardwaru, který ovládáte vy — server ve vaší kanceláři, v racku v datovém centru, které si pronajímáte, nebo privátní stroj, k němuž se dostanou jen vaše systémy. Vaše data neopustí váš perimetr. Stroj vlastníte (nebo plně ovládáte), což znamená, že vlastníte i jeho údržbu: záplaty, aktualizace, účet za elektřinu, telefonát ve dvě ráno, když něco přestane odpovídat.

Existuje užitečná střední cesta, která se v té dvojakosti ztrácí: privátní cloud neboli vlastní hostování na pronajaté infrastruktuře. Tady provozujete otevřený model na serveru, který si pronajímáte od hostingové firmy, nastaveném tak, aby byla vaše data izolovaná a nic se nesdílelo s žádným poskytovatelem AI třetí strany. Z hlediska kontroly dat to hodně připomíná on-premise, aniž byste museli kupovat fyzický hardware a opatrovat ho. Pro mnoho středních firem je to ono sladké místo, které nikdo nezmiňuje, protože se hezky nehodí do prodejní řeči.

O čem si všichni myslí, že to je — a o čem to ve skutečnosti je

Když lidé řeknou „potřebujeme on-premise AI“, téměř vždy myslí jednu ze dvou věcí a obvykle si je popletli dohromady. První je soukromí: skutečná, často oprávněná obava, kam putují citlivá data. Druhá je kontrola: touha nebýt vydán napospas dodavateli, který může změnit ceny, vyřadit model nebo mít výpadek právě to ráno, kdy ho nejvíc potřebujete. To jsou různé problémy s různými řešeními a jejich slučování vede k nákladné přehnané nápravě.

Tady je to, co prodejci strachu vynechávají: seriózní poskytovatelé cloudové AI nabízejí smluvní ochranu dat, která je pro velké množství firem skutečně dostatečná. Podnikové smlouvy slibující, že vaše data nebudou použita k trénování modelů, že jsou šifrována při přenosu i v klidu a že jsou po zpracování smazána. Pro marketingovou agenturu, která shrnuje vlastní koncepty blogů, je to víc než dost. Reflex sáhnout po on-premise se stává správnou odpovědí teprve tehdy, máte-li konkrétní důvod, proč to tak musí být.

A opačná past je stejně častá. Spousta firem sáhne po cloudovém API na všechno a pak po půl roce tiše zjistí, že posílá důvěrné dokumenty klientů přes třetí stranu, kterou nikdy pořádně neprověřila, a nemá tušení, co se kde loguje. Oba extrémy jsou obvykle znamením, že si nikdo nesedl a nepoložil ty nudné otázky. Pojďme je položit.

Poctivé srovnání, faktor po faktoru

Zapomeňte na hesla. Tady je, jak se oba přístupy doopravdy liší v tom, co v praxi pocítíte — peníze, data, rychlost, spolehlivost a práce s udržováním všeho při životě.

Obraz nákladů, který nikdo nakreslí jasně

Cloud vypadá levněji, protože je levnější — dokud není. Při nízkém a středním objemu poráží platba za požadavek nákup serveru, který stojí napůl nečinný. Náklad se převrátí, teprve když se vaše využití stane velkým a ustáleným: vysoká, předvídatelná zátěž, kterou fixní stroj obslouží úsporněji než měřené API. Chyba je předpokládat, že jste v tom bodě, když k němu máte daleko. Většina malých a středních firem svůj vlastní objem výrazně přeceňuje.

Náklady na údržbu skryté ve „provozujeme si to sami“

On-premise má cenovku, která se na faktuře nikdy neobjeví: někdo to musí udržet v chodu. Bezpečnostní záplaty, aktualizace modelů, monitoring, plán pro případ, kdy hardware zemře. Pokud máte interní IT tým s volnou kapacitou, fajn. Pokud ne, „vlastní hosting“ tiše znamená „člověk, jehož čas teď utrácíte“, nebo spravovaný partner, kterému platíte, aby se o to staral. Naplánujte na to poctivě rozpočet, jinak se úspory, které jste si představovali, vypaří.

Kdy je on-premise (nebo privátní) opravdu správná volba

Existují skutečné, konkrétní situace, kdy ponechání AI u sebe není paranoia — je to správné inženýrské a obchodní rozhodnutí. Pokud jste v jedné z nich, berte otázku on-premise vážně, místo abyste ji odmávli.

• Pracujete s daty, která ze zákona nesmějí opustit vaši zemi nebo vaše zdi — záznamy o pacientech, určité právní spisy, obranný nebo bezpečnostně citlivý materiál.
• Závazná smlouva s klientem nebo oborová regulace zakazuje posílat jejich data zpracovatelům třetích stran.
• Vaše využití AI je vysoké, ustálené a předvídatelné, takže fixní stroj při vašem rozsahu opravdu stojí méně než měřené API.
• Musíte fungovat bez závislosti na internetu — výrobní hala, vzdálené pracoviště, prostředí, kde je výpadek nepřijatelný.
• Vaší konkurenční výhodou je model nebo datová sada tak citlivá, že ani smluvní slib není riziko, které jste ochotni podstoupit.

Všimněte si, že žádný z těchto spouštěčů není pocit. Jsou ověřitelné. O to právě jde. Když nějaký skutečný platí, rádi vám postavíme privátní nebo on-premise řešení — pěkná řádka našich klientů v regulovaných oborech provozuje přesně tohle. Ale řekneme vám na rovinu, když neplatí, protože dívat se, jak si někdo kupuje server, který nepotřeboval, nikomu neprospívá.

Kdy je cloud zjevná, nijak trapná odpověď

Pro velkou část malých firem je cloudová AI prostě správný výchozí bod a není na tom nic druhořadého. Pokud experimentujete, pokud je váš objem skromný, pokud vaše data nejsou nezvykle citlivá nebo pokud jen chcete zjistit, zda AI pomáhá, než nasadíte kapitál — cloud vám umožní začít už tento týden za cenu pár káv a přestat ve chvíli, kdy to nefunguje.

Strategický argument je ještě silnější než ten finanční. Neměli byste kupovat infrastrukturu pro případ použití, který jste nevalidovali. Začněte v cloudu, dokažte, že si AI své peníze opravdu vydělá, zjistěte, jaký je váš skutečný objem a požadavky — a teprve potom, vyzbrojeni fakty místo dohadů, rozhodněte, zda má přesun k sobě smysl. Uděláno v tomto pořadí je migrace (pokud ji vůbec provedete) klidná a poučená. Uděláno obráceně jste vsadili peníze za hardware na tušení.

Jak se rozhodnout — krátká, praktická cesta

Nepotřebujete šestitýdenní studii. Potřebujete v pořadí odpovědět na hrstku poctivých otázek a nechat odpovědi ukázat cestu. Tady je postup, kterým majitele provádím.

1. 1
   Pojmenujte data

   Zapište přesně, jakých dat se AI dotkne. Buďte konkrétní. „E-maily zákaznické podpory“ je něco jiného než „zdravotní historie pacientů“. Citlivost dat řídí všechno, co následuje.
2. 2
   Zkontrolujte tvrdé pravidlo

   Existuje zákon, regulace nebo podepsaná smlouva, která omezuje, kam ta data mohou jít? Pokud ano, to omezení rozhodne otázku za vás — jděte na privátní nebo on-premise. Pokud ne, pokračujte.
3. 3
   Odhadněte skutečný objem

   Zhruba kolik požadavků na AI denně, realisticky, za půl roku? Většina majitelů hádá příliš vysoko. Skromný, nejistý objem pevně ukazuje na cloud; obrovský a ustálený otevírá nákladový případ pro on-premise.
4. 4
   Buďte poctiví ohledně toho, kdo to udržuje

   Máte lidi s časem a dovednostmi na provoz serveru, nebo partnera, který to udělá? Pokud ne, započítejte ten náklad — nebo ho nechte, ať vás nasměruje ke spravovanému cloudu.
5. 5
   Začněte tam, kde ověříte nejlevněji

   Pokud vás nic nenutí, začněte v cloudu, dokažte hodnotu a vraťte se k otázce infrastruktury, až budete mít skutečná čísla místo prognóz.

Projděte těchto pět kroků a odpověď obvykle vypadne sama. Buď ji brzy vyřeší tvrdé pravidlo, nebo zjistíte, že máte volnost začít levně a rozhodnout se pořádně později. Čemu se chcete vyhnout, je verze, kdy přeskočíte rovnou k opaku pátého kroku — nejdřív koupíte velké řešení a pak k němu zpětně dotváříte zdůvodnění.

Dobrá zpráva: nejsou to jednosměrné dveře

Nejosvobozující věc k pochopení je, že tohle rozhodnutí je málokdy trvalé. Dodavatelé ho rámují jako rozcestí, z něhož se už nikdy nevrátíte, protože naléhavost prodává. Ve skutečnosti, pokud stavíte rozumně — držíte část s AI volně oddělenou od zbytku systémů — můžete s tím, jak se mění vaše potřeby, přejít z cloudu na privátní a na on-premise, aniž byste všechno bourali.

Migrovali jsme klienty oběma směry. Firmu, která začala v cloudu, ověřila hodnotu, dosáhla skutečného objemu a přesunula ustálenou zátěž k sobě, aby ušetřila peníze a utáhla kontrolu. A firmu, která na něčí radu koupila hardware příliš brzy, zjistila, že je nečinný a zatěžující, a byla šťastnější po přechodu zpět na měřenou službu. Ani jeden přesun nebyl katastrofa, protože AI byla od začátku navržena jako přenositelná. Navrhujte s tímhle na mysli a otázka cloud versus on-premise ztrácí většinu své váhy.

Časté otázky