Cloud verzus on-premise AI: ktoré naozaj vyhovuje vašej firme?

Spýtajte sa troch dodávateľov, kde by ste mali prevádzkovať svoje AI, a dostanete tri sebavedomé, protirečivé odpovede — každá podozrivo zladená s tým, čo daný dodávateľ náhodou predáva. Cloudová firma povie cloud. Hardvérová firma povie on-premise. Konzultant povie, že to závisí, a potom vám naúčtuje, aby to zistil. Pravda je jednoduchšia a oveľa menej dramatická: pre väčšinu malých a stredných firiem je to praktické rozhodnutie s malým počtom premenných a viete sa preň správne rozhodnúť za jedno popoludnie, len čo vám niekto úprimne vysvetlí jednotlivé časti.

Tento rozhovor som viedol desiatky ráz, zvyčajne s majiteľom firmy, ktorého vystrašil titulok o únikoch dát alebo predajná prezentácia plná slov ako suverénny a vzduchovo oddelený. Prichádzajú presvedčení, že voľba je obrovská a nezvratná. Zvyčajne nie je. Pod hlukom v skutočnosti odpovedáte na dve otázky: kde sa nachádzajú vaše dáta a kto sa ich môže dotknúť a čo ste ochotní vlastniť oproti tomu, čo prenajať. Všetko ostatné sú detaily.

Tak si to zjednodušme. Toto je verzia, ktorú by som dal priateľovi, ktorý vedie firmu s 15 ľuďmi a len chce urobiť správnu vec bez preplácania alebo prehnaného inžinierstva. Žiadny predaj strachu, žiadne vyhýbanie sa — len čo cloud a on-premise naozaj znamenajú pre vás, kde každé riešenie skutočne vyhráva, a spôsob rozhodovania, ktorý obhájite pred svojím účtovníkom aj audítorom.

Čo tieto slová naozaj znamenajú (bez marketingu)

Cloudové AI znamená, že model beží na cudzích počítačoch. Pošlete svoj text, obrázok alebo dokument cez internet poskytovateľovi, jeho hardvér vykoná premýšľanie a odpoveď sa vráti. Stroje nevlastníte, neudržiavate ich a platíte podľa použitia — zvyčajne za požiadavku alebo za token. Väčšina AI nástrojov, ktoré už poznáte, funguje takto.

On-premise AI znamená, že model beží na hardvéri, ktorý ovládate vy — na serveri vo vašej kancelárii, v racku v dátovom centre, ktoré si prenajímate, alebo na súkromnom stroji, ku ktorému majú prístup len vaše systémy. Vaše dáta neopúšťajú váš perimeter. Vlastníte (alebo plne ovládate) tú škatuľu, čo znamená, že vlastníte aj údržbu: záplaty, aktualizácie, účet za elektrinu, telefonát o druhej ráno, keď niečo prestane reagovať.

Existuje užitočná stredná cesta, ktorá sa v binárnom uvažovaní stráca: súkromný cloud alebo samohostovanie na prenajatej infraštruktúre. Tu prevádzkujete otvorený model na serveri, ktorý si prenajímate od hostingovej firmy, nakonfigurovaný tak, aby vaše dáta boli izolované a nič sa nezdieľalo s tretostranným poskytovateľom AI. Z hľadiska kontroly dát to pôsobí veľmi podobne ako on-premise, bez toho, aby ste museli kupovať a opatrovať fyzický hardvér. Pre mnohé stredné firmy je to ideálny bod, ktorý nikto nespomína, lebo úhľadne nezapadá do predajnej reči.

O čom si všetci myslia, že to je — a o čom to naozaj je

Keď ľudia hovoria „potrebujeme on-premise AI“, takmer vždy majú na mysli jednu z dvoch vecí a zvyčajne si ich pomýlili. Prvou je súkromie: reálna, často oprávnená obava o to, kam idú citlivé dáta. Druhou je kontrola: túžba nebyť vydaný na milosť dodávateľovi, ktorý môže zmeniť ceny, zrušiť model alebo mať výpadok práve to ráno, keď ho najviac potrebujete. Sú to rozdielne problémy s rozdielnymi riešeniami a ich zlučovanie vedie k drahej prehnanej náprave.

Tu je to, čo predajcovia strachu vynechávajú: seriózni poskytovatelia cloudového AI ponúkajú zmluvnú ochranu dát, ktorá je pre veľké množstvo firiem skutočne dostatočná. Firemné dohody, ktoré sľubujú, že vaše dáta sa nepoužijú na trénovanie modelov, že sú šifrované pri prenose aj v pokoji, že sa po spracovaní vymažú. Pre marketingovú agentúru, ktorá si sumarizuje vlastné koncepty blogu, je to úplne dosť. Reflex k on-premise sa stáva správnou odpoveďou až vtedy, keď máte konkrétny dôvod, prečo to tak musí byť.

A opačná pasca je rovnako častá. Mnoho firiem siahne po cloudovom API na všetko a potom o pol roka neskôr potichu zistia, že posielajú dôverné dokumenty klientov cez tretiu stranu, ktorú si nikdy poriadne nepreverili, a netušia, čo sa kde zaznamenáva. Oba extrémy sú zvyčajne znakom toho, že si nikto nesadol a nepoložil tie nudné otázky. Položme si ich.

Úprimné porovnanie, faktor po faktore

Zabudnite na slogany. Tu je to, ako sa oba prístupy naozaj líšia v tých veciach, ktoré v praxi pocítite — peniaze, dáta, rýchlosť, spoľahlivosť a práca s udržiavaním všetkého pri živote.

Obraz nákladov, ktorý nikto jasne nenakreslí

Cloud vyzerá lacnejšie, lebo je lacnejší — kým nie je. Pri nízkom a strednom objeme platba za požiadavku poráža kúpu servera, ktorý stojí spolovice nečinný. Náklad sa prevráti až vtedy, keď sa vaše použitie stane veľkým a stálym: vysoká, predvídateľná záťaž, ktorú fixný stroj dokáže obslúžiť hospodárnejšie než meraný API. Chybou je predpokladať, že ste v tom bode, keď ste od neho ďaleko. Väčšina malých a stredných firiem výrazne preceňuje svoj vlastný objem.

Náklad na údržbu, ktorý sa skrýva v „prevádzkujeme si to sami“

On-premise má cenovku, ktorá sa nikdy neobjaví na faktúre: niekto to musí udržiavať v chode. Bezpečnostné záplaty, aktualizácie modelov, monitoring, núdzový plán pre prípad, že hardvér zlyhá. Ak máte interný IT tím s voľnou kapacitou, fajn. Ak nemáte, „samohostované“ potichu znamená „človek, ktorého čas teraz míňate“, alebo riadeného partnera, ktorému platíte, aby sa o to staral. Zarátajte to do rozpočtu úprimne, inak sa úspory, ktoré ste si predstavovali, vyparia.

Kedy je on-premise (alebo súkromné) skutočne tou správnou voľbou

Existujú reálne, konkrétne situácie, kde držať AI vo firme nie je paranoja — je to správne inžinierske a obchodné rozhodnutie. Ak ste v jednej z nich, berte otázku on-premise vážne, namiesto toho, aby ste ju mávnutím ruky odbili.

• Spracúvate dáta, ktoré právne nesmú opustiť vašu krajinu alebo vaše steny — záznamy pacientov, určité právne spisy, materiál citlivý z hľadiska obrany alebo bezpečnosti.
• Záväzná zmluva s klientom alebo odvetvová regulácia zakazuje posielanie ich dát tretostranným spracovateľom.
• Vaše použitie AI je vysoké, stále a predvídateľné, takže fixný stroj skutočne stojí menej než meraný API vo vašej mierke.
• Musíte fungovať bez závislosti od internetu — výrobná hala, vzdialené pracovisko, prostredie, kde je výpadok neprijateľný.
• Vašou konkurenčnou výhodou je model alebo súbor dát natoľko citlivý, že ani zmluvný sľub nie je riziko, ktoré ste ochotní podstúpiť.

Všimnite si, že žiadny z týchto spúšťačov nie je pocit. Sú overiteľné. To je celá pointa. Keď platí nejaký skutočný, radi vám postavíme súkromné alebo on-premise riešenie — celkom dosť našich klientov v regulovaných odvetviach prevádzkuje práve to. Ale jasne vám povieme, keď to neplatí, lebo sledovať niekoho, ako kupuje server, ktorý nepotreboval, nikomu nepomáha.

Kedy je cloud zjavnou, nezahanbujúcou odpoveďou

Pre veľkú časť malých firiem je cloudové AI jednoducho správny počiatočný bod a nie je na tom nič druhotriedne. Ak experimentujete, ak je váš objem mierny, ak vaše dáta nie sú nezvyčajne citlivé, alebo ak len chcete zistiť, či AI pomáha, skôr než nasadíte kapitál — cloud vám umožní začať tento týždeň za cenu pár káv a skončiť vo chvíli, keď to nefunguje.

Strategický argument je ešte silnejší než finančný. Nemali by ste kupovať infraštruktúru pre prípad použitia, ktorý ste neoverili. Začnite v cloude, dokážte, že AI si naozaj zaslúži svoje miesto, zistite, aký je váš skutočný objem a požiadavky — a potom, vyzbrojení faktami namiesto dohadov, rozhodnite sa, či má presun do firmy zmysel. Urobené v tomto poradí je migrácia (ak ju vôbec niekedy spravíte) pokojná a dobre informovaná. Urobené naopak ste vsadili peniaze za hardvér na tušenie.

Ako sa rozhodnúť — krátka, praktická cesta

Nepotrebujete šesťtýždňovú štúdiu. Potrebujete v poradí odpovedať na hŕstku úprimných otázok a nechať odpovede, nech ukážu cestu. Tu je cesta, ktorou prevádzam majiteľov.

1. 1
   Pomenujte dáta

   Napíšte presne, akých dát sa AI dotkne. Buďte konkrétni. „E-maily zákazníckej podpory“ sú niečo iné než „lekárske záznamy pacientov“. Citlivosť dát riadi všetko, čo nasleduje.
2. 2
   Skontrolujte, či existuje tvrdé pravidlo

   Existuje zákon, regulácia alebo podpísaná zmluva, ktorá obmedzuje, kam tieto dáta môžu ísť? Ak áno, toto obmedzenie rozhodne otázku za vás — choďte súkromne alebo on-premise. Ak nie, pokračujte.
3. 3
   Odhadnite skutočný objem

   Zhruba koľko AI požiadaviek denne, reálne, o pol roka? Väčšina majiteľov háda vysoko. Mierny, neistý objem pevne ukazuje na cloud; obrovský, stály otvára nákladový prípad pre on-premise.
4. 4
   Buďte úprimní v tom, kto to udržiava

   Máte ľudí s časom a zručnosťami na prevádzku servera, alebo partnera, ktorý to spraví? Ak nie, zarátajte ten náklad — alebo nech vás nasmeruje k riadenému cloudu.
5. 5
   Začnite tam, kde viete najlacnejšie overiť

   Ak vás nič nenúti, začnite v cloude, dokážte hodnotu a k otázke infraštruktúry sa vráťte, len čo máte skutočné čísla namiesto prognóz.

Prejdite týchto päť krokov a odpoveď zvyčajne vypadne sama od seba. Buď to tvrdé pravidlo vyrieši zavčasu, alebo zistíte, že máte slobodu začať lacno a rozhodnúť sa poriadne neskôr. Čomu sa chcete vyhnúť, je verzia, kde preskočíte rovno k opaku piateho kroku — najprv kúpite veľké riešenie a spätne si dokonštruujete zdôvodnenie.

Dobrá správa: nie sú to jednosmerné dvere

Najoslobodzujúcejšia vec, ktorú treba pochopiť, je, že toto rozhodnutie je zriedka trvalé. Dodávatelia ho prezentujú ako rázcestie, z ktorého sa nikdy nemôžete vrátiť, lebo naliehavosť predáva. V skutočnosti, ak budujete rozumne — pričom AI časť držíte voľne previazanú so zvyškom vašich systémov — môžete prechádzať z cloudu na súkromné a na on-premise, ako sa vaše potreby menia, bez toho, aby ste všetko búrali.

Klientov sme migrovali oboma smermi. Firmu, ktorá začala v cloude, overila hodnotu, dosiahla skutočný objem a presunula stálu záťaž do firmy, aby ušetrila peniaze a sprísnila kontrolu. A firmu, ktorá kúpila hardvér priskoro na niečiu radu, zistila, že stojí nečinný a obťažujúci, a bola šťastnejšia, keď sa vrátila k meranej službe. Ani jeden krok nebol katastrofa, lebo AI bolo od začiatku navrhnuté tak, aby bolo prenosné. Navrhujte to tak a otázka cloud verzus on-premise stratí väčšinu svojej váhy.

Časté otázky