AI in cloud o in locale? La domanda giusta sui tuoi dati

C'è una domanda che mi fanno quasi tutti i titolari quando si parla di AI: "ma i miei dati dove finiscono?". È una domanda sacrosanta. Il problema è che spesso arriva già con la risposta attaccata: c'è chi ha deciso che il cloud è il male e vuole tutto in casa, e chi ha deciso che il cloud è il futuro e non vuole sentir parlare d'altro.

Io non tifo per nessuna delle due squadre. Ho messo in produzione sistemi in cloud e sistemi che girano su una macchina in azienda, e la scelta giusta dipende da tre domande concrete. Vediamole una per una.

Prima domanda: che dati sono?

Non tutti i dati pesano uguale. Prima di scegliere l'architettura, vale la pena fare un inventario onesto di cosa passerebbe davvero dentro il sistema AI:

• Dati pubblici o quasi: descrizioni prodotto, testi del sito, manuali già distribuiti ai clienti. Se finissero su un giornale, non succederebbe niente.
• Dati interni ordinari: procedure, listini riservati, corrispondenza commerciale. Non vuoi che girino, ma non sono radioattivi.
• Dati personali e sensibili: anagrafiche clienti, dati sanitari (pensa ai certificati medici di una palestra), buste paga, dati bancari. Qui il GDPR non è un'opinione e gli errori costano cari.

L'errore tipico è trattare tutto come se fosse nella categoria più alta ("allora niente cloud!") o nella più bassa ("carichiamo tutto su ChatGPT!"). Nella pratica, in quasi ogni progetto una parte dei dati è tranquilla e una parte va protetta. Il progetto va disegnato di conseguenza, non a slogan.

Seconda domanda: chi li tratta, e con che contratto?

"Cloud" non è una parola sola: cambia tutto a seconda di chi c'è dall'altra parte e cosa firma.

Usare un account consumer gratuito di un chatbot per incollarci dentro dati dei clienti è una pessima idea: in molti casi quei dati possono essere usati per addestrare i modelli, e tu non hai contratti seri in mano. Usare gli stessi modelli tramite servizi business o API con contratto è un altro mondo: di norma trovi impegni scritti sul non usare i tuoi dati per l'addestramento, tempi di conservazione definiti, e spesso la possibilità di scegliere server in Europa.

Le domande da fare (o da far fare a chi ti segue) sono terra terra: i miei dati vengono usati per addestrare qualcosa? Quanto restano sui loro server? In che Paese stanno i server? C'è un accordo di trattamento dati firmabile? Se un fornitore non sa rispondere in modo chiaro, la risposta è già quella.

Terza domanda: quanto costa davvero ciascuna strada?

Qui casca l'asino, perché ognuna delle due strade ha costi che si vedono e costi che non si vedono.

Il cloud ha un costo d'ingresso quasi nullo: paghi a consumo, non compri ferro, parti in giorni. I costi nascosti: se l'uso cresce, la bolletta cresce con lui; i listini dei fornitori possono cambiare; e resti legato a un servizio che non controlli.

Il locale ribalta la struttura: costo iniziale concreto — per far girare bene un modello di dimensioni serie serve una macchina che, per dare un ordine di grandezza puramente indicativo, può andare da poche migliaia di euro in su — più corrente, manutenzione e qualcuno che tenga in piedi la baracca. In cambio: nessun dato esce dall'azienda, nessun costo a consumo, nessuna dipendenza da listini altrui. Va detto con onestà: i modelli che girano in locale su hardware da PMI sono in genere più piccoli e meno capaci dei migliori modelli in cloud, anche se il divario si sta riducendo di anno in anno.

Come regola pratica: volumi bassi e dati non critici spingono verso il cloud; volumi alti e costanti, o vincoli forti sui dati, fanno tornare i conti al locale prima di quanto si pensi. Ma i conti vanno fatti sul tuo caso, non sulla regola.

La via di mezzo che spesso funziona

La scelta non è quasi mai tutto-o-niente. Le combinazioni che uso più spesso nei progetti:

• Ibrido per tipo di dato: le lavorazioni sui dati sensibili girano in locale o su server europei con contratti a posto; il resto usa il cloud, che costa meno e rende di più.
• Anonimizzazione prima dell'invio: si tolgono nomi, codici fiscali e riferimenti identificativi prima che il testo parta verso il modello in cloud, e si rimettono al ritorno. Il modello lavora bene lo stesso, e fuori dall'azienda viaggia molto meno.
• Partire in cloud, valutare il locale dopo: si parte con il cloud per capire se il sistema serve davvero; se l'uso cresce e i costi pure, si porta in casa quello che conviene portare in casa.

Come decido io con i clienti

Alla fine il metodo è questo, in ordine: inventario dei dati che entrerebbero nel sistema; classificazione (pubblici, interni, sensibili); verifica dei contratti dei fornitori cloud in gioco; stima dei volumi a un anno; e solo alla fine la scelta dell'architettura, che spesso è mista. Diffida di chi parte dalla tecnologia — "ti installo il server AI", "ti metto tutto su cloud" — prima di aver guardato i tuoi dati.

Se questo dubbio ti sta bloccando un progetto, prenota mezz'ora di chiamata: guardiamo insieme che dati tratteresti e ti dico quale strada farei nei tuoi panni, con i pro e i contro sul tavolo.