Felhő vagy helyben futó MI: melyik illik valóban a vállalkozásához?

Kérdezzen meg három szállítót, hol futtassa az MI-jét, és három magabiztos, egymásnak ellentmondó választ kap — mindegyik gyanúsan egybevág azzal, amit az adott szállító éppen árul. A felhőcég azt mondja: felhő. A hardvercég azt mondja: helyben. A tanácsadó azt mondja, attól függ, majd kiszámlázza, hogy kiderítse, mitől. Az igazság egyszerűbb és sokkal kevésbé drámai: a legtöbb kis- és középvállalkozás számára ez egy gyakorlatias döntés néhány változóval, és egyetlen délután alatt jól meghozhatja, amint valaki őszintén elmagyarázza Önnek ezeket a részeket.

Ezt a beszélgetést már tucatszor lefolytattam, többnyire egy cégtulajdonossal, akit megijesztett egy adatszivárgásról szóló címsor vagy egy értékesítési prezentáció, tele olyan szavakkal, mint szuverén és légréssel elszigetelt. Azzal a meggyőződéssel érkeznek, hogy a döntés óriási és visszafordíthatatlan. Általában nem az. A zaj alatt valójában két kérdésre felel: hol vannak az adatai, és ki férhet hozzájuk, illetve mit hajlandó birtokolni, és mit bérelni. Minden más csak részlet.

Vegyük hát vissza a lényegre. Ez az a változat, amit egy barátomnak adnék, aki tizenöt fős céget vezet, és csak helyesen akar dönteni anélkül, hogy túlfizetne vagy túltervezné. Semmi félelemkeltés, semmi mellébeszélés — csupán az, hogy mit jelent valójában Önnek a felhő és a helyben futtatás, hol győz őszintén mindegyik, és egy döntési mód, amelyet a könyvelője és a könyvvizsgálója előtt is megvédhet.

Mit jelentenek valójában ezek a szavak (marketing nélkül)

A felhőalapú MI azt jelenti, hogy a modell valaki más számítógépein fut. Elküldi a szövegét, képét vagy dokumentumát az interneten egy szolgáltatónak, az ő hardvere végzi a gondolkodást, és a válasz visszaérkezik. Nem birtokolja a gépeket, nem karbantartja őket, és használat szerint fizet — rendszerint kérésenként vagy tokenenként. A legtöbb MI-eszköz, amelyet már ismer, így működik.

A helyben futó MI azt jelenti, hogy a modell olyan hardveren fut, amelyet Ön felügyel — egy szerveren az irodájában, egy bérelt adatközpont szekrényében, vagy egy privát gépen, amelyet csak az Ön rendszerei érhetnek el. Az adatai nem hagyják el a határait. Öné (vagy teljesen Ön felügyeli) a gép, ami azt jelenti, hogy a karbantartás is az Öné: a foltozás, a frissítések, a villanyszámla, a hajnali kettői telefonhívás, amikor valami nem válaszol többé.

Van egy hasznos köztes út, amely elvész ebben a kettősségben: a privát felhő, avagy a saját üzemeltetés bérelt infrastruktúrán. Itt egy nyílt modellt futtat egy szerveren, amelyet egy tárhelyszolgáltatótól bérel, úgy beállítva, hogy az adatai elszigeteltek legyenek, és semmi se kerüljön megosztásra egy külső MI-szolgáltatóval. Az adatkontroll szempontjából nagyon hasonlít a helyben futtatáshoz, anélkül, hogy fizikai hardvert kellene vásárolnia és dajkálnia. Sok középvállalkozás számára ez az az aranyközéputas pont, amelyet senki nem említ, mert nem illeszkedik szépen egy értékesítési beszédbe.

Amiről mindenki azt hiszi, hogy szól — és amiről valójában szól

Amikor azt mondják, „helyben futó MI kell nekünk”, szinte mindig két dolog egyikére gondolnak, és általában összekeverték a kettőt. Az első az adatvédelem: valós, gyakran jogos aggodalom afelől, hová kerülnek az érzékeny adatok. A második a kontroll: a vágy, hogy ne legyenek kiszolgáltatva egy szállítónak, aki árat változtathat, kivezethet egy modellt, vagy üzemzavart szenvedhet épp azon a reggelen, amikor a legjobban szüksége van rá. Ezek különböző problémák, különböző megoldásokkal, és összemosásuk költséges túlkorrigáláshoz vezet.

Íme, amit a félelemkeltők kihagynak: a komoly felhőalapú MI-szolgáltatók olyan szerződéses adatvédelmet kínálnak, amely rengeteg vállalkozás számára valóban elegendő. Vállalati megállapodások, amelyek ígérik, hogy adatait nem használják fel modellek tanítására, hogy átvitel közben és nyugalmi állapotban titkosítva vannak, és feldolgozás után törlik őket. Egy marketingügynökségnek, amely a saját blogvázlatait foglalja össze, ez bőven elég. A helyben futtatás reflexe csak akkor válik a helyes válasszá, ha van rá konkrét oka, hogy annak kell lennie.

És a fordított csapda éppolyan gyakori. Sok cég mindenre egy felhő-API-hoz nyúl, majd fél évvel később csendben rájön, hogy bizalmas ügyféldokumentumokat csorgat át egy harmadik félen, amelyet sosem ellenőrzött rendesen, és fogalma sincs, mi hol naplózódik. Mindkét szélsőség rendszerint annak a jele, hogy senki sem ült le feltenni az unalmas kérdéseket. Tegyük fel őket.

Őszinte összehasonlítás, tényezőről tényezőre

Felejtse el a szlogeneket. Íme, hogyan különbözik valójában a két megközelítés azokban a dolgokban, amelyeket a gyakorlatban érezni fog — pénz, adat, sebesség, megbízhatóság és az egész életben tartásának munkája.

A költségkép, amit senki nem rajzol meg világosan

A felhő olcsóbbnak tűnik, mert olcsóbb is — amíg nem az. Alacsony és mérsékelt forgalomnál a kérésenkénti fizetés veri a félig üresen álló szerver megvásárlását. A költség csak akkor fordul át, amikor a használata naggyá és állandóvá válik: magas, kiszámítható terhelés, amelyet egy fix gép gazdaságosabban szolgál ki, mint egy fogyasztásmérővel számlázott API. A hiba az, ha azt feltételezi, hogy ott tart, miközben közel sincs hozzá. A legtöbb kkv jócskán túlbecsüli a saját forgalmát.

A karbantartási költség, amely a „majd mi futtatjuk magunk”-ban rejtőzik

A helyben futtatásnak van egy árcédulája, amely soha nem jelenik meg a számlán: valakinek üzemben kell tartania. Biztonsági foltok, modellfrissítések, felügyelet, a tartalék terv arra, amikor a hardver tönkremegy. Ha van házon belüli IT-csapata szabad kapacitással, remek. Ha nincs, a „saját üzemeltetés” csendben azt jelenti, hogy „egy ember, akinek az idejét most költi”, vagy egy menedzselt partner, akit megfizet, hogy intézze. Tervezze ezt be őszintén a költségvetésbe, különben az elképzelt megtakarítások elpárolognak.

Mikor a helyben futtatás (vagy a privát) valóban a helyes döntés

Vannak valós, kézzelfogható helyzetek, amikor az MI házon belül tartása nem paranoia — hanem a helyes mérnöki és üzleti döntés. Ha Ön ezek egyikében van, vegye komolyan a helyben futtatás kérdését, ahelyett, hogy legyintene rá.

• Olyan adatokkal dolgozik, amelyek jogilag nem hagyhatják el az országát vagy a falait — betegnyilvántartások, bizonyos jogi iratok, védelmi vagy biztonsági szempontból érzékeny anyagok.
• Egy kötelező érvényű ügyfélszerződés vagy iparági szabályozás tiltja az adataik harmadik fél feldolgozóknak való elküldését.
• Az MI-használata magas, állandó és kiszámítható, így egy fix gép az Ön léptékében valóban kevesebbe kerül, mint egy fogyasztásmérővel számlázott API.
• Internetfüggőség nélkül kell működnie — egy gyártócsarnok, egy távoli telephely, egy környezet, ahol a kiesés elfogadhatatlan.
• Versenyelőnye egy olyan érzékeny modell vagy adathalmaz, hogy még egy szerződéses ígéret sem olyan kockázat, amelyet hajlandó vállalni.

Vegye észre, hogy ezek közül a kiváltó okok közül egyik sem érzés. Tesztelhetők. Épp ez a lényeg. Amikor egy valódi alkalmazandó, szívesen építünk Önnek privát vagy helyben futó felállást — szabályozott területeken működő ügyfeleink közül jó néhány pontosan ezt üzemelteti. De nyíltan megmondjuk, amikor nem alkalmazandó, mert nézni, ahogy valaki olyan szervert vesz, amelyre nem volt szüksége, senkinek sem segít.

Mikor a felhő a nyilvánvaló, nem szégyellnivaló válasz

A kisvállalkozások nagy része számára a felhőalapú MI egyszerűen a helyes kiindulópont, és ebben semmi másodrangú nincs. Ha kísérletezik, ha a forgalma szerény, ha az adatai nem szokatlanul érzékenyek, vagy ha csak ki akarja deríteni, segít-e az MI, mielőtt tőkét kötne le — a felhő lehetővé teszi, hogy már ezen a héten elkezdje néhány kávé áráért, és abbahagyja abban a pillanatban, amikor nem működik.

A stratégiai érv még a pénzügyinél is erősebb. Ne vásároljon infrastruktúrát olyan felhasználási esethez, amelyet nem validált. Kezdje a felhőben, bizonyítsa be, hogy az MI valóban megkeresi az árát, derítse ki, mi a valós forgalma és igénye — és akkor, tények, nem találgatások birtokában döntse el, van-e értelme a házon belülre költözésnek. Ebben a sorrendben végezve a migráció (ha egyáltalán sor kerül rá) higgadt és jól tájékozott. Fordítva csinálva hardverpénzt tett fel egy megérzésre.

Hogyan döntsön — egy rövid, gyakorlatias út

Nincs szüksége hathetes tanulmányra. Maroknyi őszinte kérdésre kell sorban válaszolnia, és hagynia, hogy a válaszok mutassák az utat. Íme az út, amelyen a tulajdonosokat végigvezetem.

1. 1
   Nevezze meg az adatot

   Írja le pontosan, milyen adatot fog érinteni az MI. Legyen konkrét. Az „ügyfélszolgálati e-mailek” más, mint a „betegek kórtörténete”. Az adat érzékenysége hajt mindent, ami ezután következik.
2. 2
   Ellenőrizze, van-e kemény szabály

   Van-e törvény, szabályozás vagy aláírt szerződés, amely korlátozza, hová kerülhet az az adat? Ha igen, az a megkötés eldönti a kérdést Ön helyett — menjen privátra vagy helyben futtatásra. Ha nincs, folytassa.
3. 3
   Becsülje meg a valós forgalmat

   Nagyjából hány MI-kérés naponta, reálisan, fél év múlva? A legtöbb tulajdonos túl magasra tippel. A szerény, bizonytalan forgalom határozottan a felhő felé mutat; egy hatalmas, állandó megnyitja a helyben futtatás költségérvét.
4. 4
   Legyen őszinte azzal kapcsolatban, ki karbantartja

   Vannak emberei, akiknek van idejük és tudásuk egy szerver futtatásához, vagy partnere, aki megteszi? Ha nincs, számolja bele azt a költséget — vagy hagyja, hogy a menedzselt felhő felé terelje.
5. 5
   Ott kezdje, ahol a legolcsóbban validálhat

   Ha semmi nem kényszeríti, kezdje a felhőben, bizonyítsa be az értéket, és térjen vissza az infrastruktúra kérdéséhez, amint valós számai vannak előrejelzések helyett.

Járja végig ezt az öt lépést, és a válasz általában magától kihullik. Vagy egy kemény szabály korán eldönti, vagy rájön, hogy szabadon kezdhet olcsón, és később dönthet rendesen. Amit el akar kerülni, az a változat, amelyben egyenesen az ötödik lépés ellentétére ugrik — előbb megveszi a nagy megoldást, majd visszafelé fabrikál hozzá indoklást.

Jó hír: ez nem egyirányú ajtó

A leginkább felszabadító dolog, amit megérthet, hogy ez a döntés ritkán végleges. A szállítók úgy keretezik, mint egy útelágazást, ahonnan soha nem fordulhat vissza, mert a sürgetés elad. A valóságban, ha ésszerűen épít — az MI-részt lazán csatolva tartja a rendszerei többi részétől —, igényei változásával áttérhet felhőről privátra, onnan helyben futtatásra anélkül, hogy mindent szétszedne.

Ügyfeleket migráltunk mindkét irányban. Egy céget, amely felhőben kezdett, validálta az értéket, valós forgalmat ért el, és egy állandó terhelést hozott házon belülre, hogy pénzt takarítson meg és szorosabbra fogja a kontrollt. És egy céget, amely valakinek a tanácsára túl korán vett hardvert, üresen állónak és tehernek találta, és boldogabb volt, amikor visszatért egy fogyasztásmérővel számlázott szolgáltatáshoz. Egyik lépés sem volt katasztrófa, mert az MI a kezdetektől hordozhatóra volt tervezve. Tervezzen erre, és a felhő kontra helyben futtatás kérdés a súlya nagy részét elveszíti.

Gyakori kérdések