IA in cloud o on-premise: quale si adatta davvero alla sua azienda?

Chieda a tre fornitori dove dovrebbe eseguire la sua IA e otterrà tre risposte sicure e contraddittorie, ciascuna sospettosamente allineata a ciò che quel fornitore guarda caso vende. L'azienda di cloud dice cloud. Quella di hardware dice on-premise. Il consulente dice che dipende, poi le fattura per scoprirlo. La verità è più semplice e molto meno drammatica: per la maggior parte delle piccole e medie imprese questa è una decisione pratica con poche variabili in gioco, e può prenderla bene in un pomeriggio, una volta che qualcuno le spiega quelle variabili con onestà.

Ho avuto questa conversazione decine di volte, di solito con un imprenditore spaventato da un titolo su fughe di dati o da una presentazione commerciale piena di parole come sovrano e air-gapped. Arrivano convinti che la scelta sia enorme e irreversibile. Di solito non lo è. Sotto al rumore, in realtà sta rispondendo a due domande: dove risiedono i suoi dati e chi può toccarli e cosa è disposto a possedere anziché noleggiare. Tutto il resto è dettaglio.

Quindi riduciamo all'osso. Questa è la versione che darei a un amico che gestisce un'azienda di quindici persone e vuole solo fare la cosa giusta senza pagare troppo né complicare troppo. Niente vendita basata sulla paura, niente giri di parole: solo cosa significano davvero cloud e on-premise per lei, dove ciascuno vince onestamente e un modo per decidere che potrà difendere sia davanti al suo commercialista sia davanti al suo revisore.

Cosa significano davvero queste parole (senza il marketing)

L'IA in cloud significa che il modello gira sui computer di qualcun altro. Lei invia il suo testo, la sua immagine o il suo documento via internet a un fornitore, il suo hardware elabora e la risposta torna indietro. Non possiede le macchine, non le mantiene e paga in base al consumo, di solito per richiesta o per token. La maggior parte degli strumenti di IA che già conosce funziona così.

L'IA on-premise significa che il modello gira su hardware che controlla lei: un server nel suo ufficio, in un rack che noleggia in un data center o una macchina privata raggiungibile solo dai suoi sistemi. I suoi dati non escono dal suo perimetro. Possiede (o controlla del tutto) la macchina, il che vuol dire che si fa carico anche della manutenzione: patch, aggiornamenti, bolletta della luce e la telefonata alle due di notte quando qualcosa smette di rispondere.

Esiste una via di mezzo utile che si perde nel ragionamento binario: il cloud privato o il self-hosting su infrastruttura noleggiata. Qui esegue un modello aperto su un server che noleggia da una società di hosting, configurato in modo che i suoi dati siano isolati e nulla venga condiviso con un fornitore di IA terzo. Dal punto di vista del controllo dei dati assomiglia molto all'on-premise, senza doverlo dotare di hardware fisico da comprare e accudire. Per molte aziende di medie dimensioni è il punto ideale che nessuno cita, perché non rientra ordinatamente in un argomentario di vendita.

Di cosa tutti pensano si tratti — e di cosa si tratta davvero

Quando si dice «ci serve l'IA on-premise», quasi sempre si intende una di due cose, e di solito le si è confuse. La prima è la privacy: una preoccupazione reale, spesso legittima, su dove finiscano i dati sensibili. La seconda è il controllo: il desiderio di non essere in balia di un fornitore che può cambiare i prezzi, ritirare un modello o avere un'interruzione proprio la mattina in cui serve di più. Sono problemi diversi con soluzioni diverse, e confonderli porta a una costosa correzione eccessiva.

Ecco ciò che i venditori di paura tralasciano: i fornitori seri di IA in cloud offrono una protezione dei dati contrattuale che, per moltissime aziende, è davvero sufficiente. Accordi aziendali che garantiscono che i suoi dati non saranno usati per addestrare modelli, che sono cifrati in transito e a riposo, che vengono cancellati dopo l'elaborazione. Per un'agenzia di marketing che riassume le proprie bozze di blog, è più che abbondante. Il riflesso dell'on-premise diventa la risposta giusta solo quando ha un motivo concreto perché lo sia.

E la trappola opposta è altrettanto comune. Molte aziende ricorrono a un'API in cloud per tutto, poi si accorgono in sordina, sei mesi dopo, di star facendo transitare documenti riservati dei clienti attraverso un terzo che non hanno mai verificato come si deve, senza sapere cosa venga registrato né dove. Entrambi gli estremi sono di solito il segno che nessuno si è seduto a fare le domande noiose. Facciamole.

Un confronto onesto, fattore per fattore

Dimentichi gli slogan. Ecco come i due approcci differiscono davvero sulle cose che percepirà nella pratica: denaro, dati, velocità, affidabilità e il lavoro per tenere tutto in vita.

Il quadro dei costi che nessuno traccia con chiarezza

Il cloud sembra più economico perché lo è, finché non lo è più. A volume basso e moderato, pagare per richiesta batte l'acquisto di un server che resta mezzo inattivo. Il costo si ribalta solo quando il consumo diventa grande e costante: un carico elevato e prevedibile che una macchina fissa può servire in modo più economico di un'API a consumo. L'errore è dare per scontato di essere a quel punto quando ne è lontanissimo. La maggior parte delle PMI sovrastima ampiamente il proprio volume.

Il costo di manutenzione che si nasconde in «lo gestiamo noi»

L'on-premise ha un cartellino che non compare mai in fattura: qualcuno deve tenerlo in funzione. Patch di sicurezza, aggiornamenti del modello, monitoraggio, il piano di emergenza per quando l'hardware si guasta. Se ha un team IT interno con capacità libera, bene. Altrimenti «self-hosted» significa in sordina «una persona di cui ora sta spendendo il tempo», o un partner gestito che paga perché se ne occupi. Lo metta a budget con onestà, altrimenti i risparmi che immaginava svaniscono.

Quando l'on-premise (o il privato) è davvero la scelta giusta

Esistono situazioni reali e concrete in cui tenere l'IA in casa non è paranoia, ma la decisione tecnica e aziendale corretta. Se si trova in una di queste, prenda sul serio la questione dell'on-premise invece di liquidarla con un gesto.

• Tratta dati che per legge non possono lasciare il suo Paese o le sue mura: cartelle dei pazienti, certi fascicoli legali, materiale sensibile per la difesa o la sicurezza.
• Un contratto vincolante con un cliente o una normativa di settore vieta di inviare i loro dati a responsabili del trattamento terzi.
• Il suo uso dell'IA è alto, costante e prevedibile, così che una macchina fissa costa davvero meno di un'API a consumo alla sua scala.
• Deve funzionare senza dipendere da internet: un reparto produttivo, un sito remoto, un ambiente in cui un'interruzione è inaccettabile.
• Il suo vantaggio competitivo è un modello o un set di dati così sensibile che persino una promessa contrattuale è un rischio che non è disposto a correre.

Noti che nessuno di questi fattori scatenanti è una sensazione. Sono verificabili. È questo il punto. Quando ne ricorre uno reale, le costruiamo volentieri un'installazione privata o on-premise: parecchi nostri clienti in settori regolamentati eseguono esattamente questo. Ma le diremo chiaramente quando non ricorre, perché vedere qualcuno comprare un server di cui non aveva bisogno non aiuta nessuno.

Quando il cloud è la risposta ovvia e senza imbarazzo

Per una larga fetta di piccole imprese, l'IA in cloud è semplicemente il punto di partenza giusto, e non c'è nulla di secondario in questo. Se sta sperimentando, se il suo volume è modesto, se i suoi dati non sono particolarmente sensibili o se vuole solo capire se l'IA aiuta prima di impegnare capitale, il cloud le permette di iniziare questa settimana al prezzo di qualche caffè e di smettere nel momento in cui non funziona.

L'argomento strategico è ancora più forte di quello finanziario. Non dovrebbe comprare infrastruttura per un caso d'uso che non ha convalidato. Inizi in cloud, dimostri che l'IA si guadagna davvero il suo posto, scopra quali sono il suo volume e i suoi requisiti reali e poi, armato di fatti anziché di supposizioni, decida se ha senso portarla in casa. Fatto in questo ordine, la migrazione (se mai la farà) è serena e ben informata. Fatto all'inverso, ha scommesso il denaro dell'hardware su un'intuizione.

Come decidere: un percorso breve e pratico

Non le serve uno studio di sei settimane. Le serve rispondere in ordine a una manciata di domande oneste e lasciare che le risposte indichino la via. Ecco il percorso che faccio fare ai titolari.

1. 1
   Nomini i dati

   Scriva esattamente quali dati toccherà l'IA. Sia specifico. «Email del supporto clienti» è diverso da «anamnesi mediche dei pazienti». La sensibilità dei dati guida tutto ciò che segue.
2. 2
   Verifichi se c'è una regola ferma

   Esiste una legge, una normativa o un contratto firmato che limita dove possono andare quei dati? Se sì, quel vincolo decide la questione per lei: vada su privato o on-premise. Se no, prosegua.
3. 3
   Stimi il volume reale

   Più o meno, quante richieste di IA al giorno, realisticamente, fra sei mesi? La maggior parte dei titolari stima per eccesso. Un volume modesto e incerto punta con decisione al cloud; uno enorme e costante apre il calcolo di costo dell'on-premise.
4. 4
   Sia onesto su chi lo mantiene

   Ha persone con il tempo e le competenze per far girare un server, o un partner che lo faccia? Altrimenti, metta a budget quel costo, o lo lasci orientare verso il cloud gestito.
5. 5
   Inizi dove può convalidare al costo minore

   Se nulla la obbliga, cominci in cloud, dimostri il valore e riapra la questione dell'infrastruttura una volta che avrà numeri reali anziché previsioni.

Percorra questi cinque passaggi e la risposta di solito esce da sola. O una regola ferma la chiude presto, o scopre di essere libero di iniziare a basso costo e decidere per bene più avanti. Ciò che conviene evitare è la versione in cui salta direttamente all'opposto del quinto passaggio: comprare prima la grande soluzione e costruire a ritroso una giustificazione.

Buona notizia: non è una porta a senso unico

La cosa più liberatoria da capire è che questa decisione è raramente definitiva. I fornitori la inquadrano come un bivio da cui non si può più tornare indietro, perché l'urgenza fa vendere. In realtà, se costruisce con criterio, mantenendo la parte di IA debolmente accoppiata al resto dei suoi sistemi, può passare dal cloud al privato all'on-premise man mano che le sue esigenze cambiano, senza smontare tutto.

Abbiamo migrato clienti in entrambe le direzioni. Un'azienda che è partita in cloud, ha convalidato il valore, ha raggiunto un volume reale e ha spostato in casa un carico costante per risparmiare e stringere il controllo. E un'azienda che ha comprato hardware troppo presto su consiglio di qualcuno, lo ha trovato inattivo e gravoso ed è stata più contenta tornando a un servizio a consumo. Nessuno dei due spostamenti è stato una catastrofe, perché l'IA era stata progettata per essere portabile fin dall'inizio. Progetti per questo e la questione cloud contro on-premise perde gran parte del suo peso.

Domande frequenti