Vai al contenuto

Guide · AI

Modello AI sui propri server o in cloud: come si sceglie?

di Salvo De Luca, fondatore e CEO di Dialogicom · pubblicata il 5 novembre 2026 · aggiornata il 6 novembre 2026

Dipende da quattro cose: quanto sono riservati i dati, quanto deve essere capace il modello, quante richieste ci saranno e chi seguirà la manutenzione. Il cloud dà i modelli più capaci senza hardware da gestire. Un modello sui vostri server tiene i testi in casa, ma chiede hardware e cura. Spesso la risposta giusta è usare tutti e due.

Armadi di server in una sala macchine, con le luci blu degli apparati

Le due strade

Che cosa vuol dire, in pratica.

In cloud

Il modello gira sui server del fornitore e si usa tramite API. Si paga a consumo, non c'è hardware da comprare, e si possono usare i modelli più capaci, come quelli di Anthropic, OpenAI e Google.

Sui vostri server

Un modello open source, cioè con i pesi scaricabili e una licenza che ne permette l'uso, installato su un server vostro o in un centro dati scelto da voi. I testi non vanno a un fornitore di modelli.

I pesi sono i numeri che il modello ha imparato durante l'addestramento: averli vuol dire poterlo far girare dove si vuole. «Locale» qui vuol dire on-premise, in azienda o su un server che controllate voi, non per forza sul computer di chi lo usa.

Riservatezza

Dove vanno i testi.

È spesso la domanda da cui si parte. In cloud i testi arrivano al fornitore, che spesso ha i server negli Stati Uniti. I servizi per uso professionale hanno condizioni precise su quanto conservano i dati e se li usano per addestrare: vanno lette per il servizio scelto, prima di cominciare.

Sui vostri server i testi restano da voi, ma la sicurezza diventa compito vostro: accessi, aggiornamenti, copie di sicurezza, controllo di chi entra. Nessuna delle due strade rende un uso dei dati conforme alle norme da sola. La parte tecnica la progettiamo noi; la valutazione legale spetta al vostro consulente.

Costi

A consumo o costo fisso.

In cloud si paga per uso: poche richieste costano poco, molte richieste costano in proporzione. Sui vostri server il costo è soprattutto fisso: un server con una scheda grafica adatta, energia, spazio e il tempo di chi lo segue. Si paga lo stesso, che lo usiate tanto o poco.

  • Volumi bassi o che cambiano molto: di solito conviene il cloud.
  • Volumi alti e costanti, su compiti che un modello più piccolo sa fare bene: il server proprio può convenire.
  • In ogni caso si stima sul vostro caso reale, con le vostre richieste, prima di comprare hardware.

Qualità

Quanto deve essere capace il modello.

Oggi i modelli più grandi in cloud sono i più capaci nei compiti difficili: ragionamenti lunghi, testi curati, molte lingue. I modelli open source che girano su un server di misura ragionevole sono più piccoli. Per compiti precisi e ripetitivi, come classificare una richiesta, estrarre dei campi o riassumere un testo breve, spesso bastano.

Il modo per saperlo non è leggere le classifiche. È provare i modelli candidati sugli stessi casi veri, con le stesse istruzioni, e confrontare i risultati con chi conosce il lavoro.

Manutenzione

Chi lo tiene in piedi.

In cloud del modello si occupa il fornitore, ma i modelli vengono sostituiti e ritirati: il software deve poter passare a una versione nuova, e ogni passaggio chiede nuove prove sulla qualità. Conviene anche prevedere un piano B: se un fornitore non risponde, il software deve poter passare a un altro modello o lasciare il lavoro a una persona.

Sui vostri server il modello resta quello finché non lo cambiate voi, ed è un vantaggio quando serve stabilità. In cambio tocca a voi, o a chi vi segue, aggiornare sistema, driver e programmi, e controllare che il servizio resti in piedi.

La via di mezzo

La soluzione ibrida.

Spesso non si sceglie una strada sola: si dividono i compiti secondo i dati. I compiti che toccano dati riservati vanno al modello sui vostri server. Gli altri vanno in cloud, dove il modello è più capace e si paga solo quando si usa.

Perché funzioni, le richieste ai modelli devono passare da un punto solo che sa quale compito va dove. Così un compito si sposta da una strada all'altra cambiando la configurazione, non il programma. Si può anche cominciare in cloud con dati di prova, misurare la qualità, e poi verificare se un modello sui vostri server basta.

La nostra esperienza

Tutte e due le strade, nei nostri progetti.

Abbiamo realizzato progetti con modelli open source installati sui server dei clienti, quando i dati non dovevano uscire dall'azienda. E lavoriamo ogni giorno con i modelli in cloud di Anthropic, OpenAI e Google nelle nostre applicazioni.

I limiti

Cosa tenere presente.

  • Le licenze dei modelli open source non sono tutte uguali: alcune limitano certi usi, e vanno lette prima di scegliere.
  • Un modello sui vostri server non è più sicuro per forza: lo è se il server è gestito bene.
  • Modelli e prezzi in cloud cambiano spesso: una scelta fatta oggi va rivista nel tempo.
  • L'hardware per i modelli va dimensionato sul carico vero, non su quello immaginato.

Domande frequenti

Le domande che ci fanno su questa scelta.

Il modello di solito sì, l'uso no: servono hardware, energia e il lavoro di chi lo installa e lo segue. Conviene fare il conto sul vostro volume di richieste.

Per i modelli più piccoli può bastare un buon server. Per quelli più grandi servono una o più schede grafiche con molta memoria. Il dimensionamento si fa dopo aver scelto il modello sui vostri casi.

Sì, ed è spesso il modo più prudente: si prova il compito con dati di prova o non riservati, si misura la qualità, poi si verifica se un modello sui vostri server dà risultati sufficienti. Se il software è progettato bene, il passaggio non lo riscrive.

Quello che dà i risultati migliori sui vostri casi, con una licenza adatta al vostro uso e una misura compatibile con l'hardware. I modelli cambiano spesso: per questo si sceglie dopo una prova, non prima.

Non sapete quale strada fa per voi?

Raccontateci che dati avete e che cosa ci volete fare: vi proponiamo la strada più adatta, con i suoi costi e i suoi limiti. Rispondiamo entro 24 ore lavorative.