In Nessun Corso Insegnano il TCO Reale di un Progetto AI

In sintesi

• Il TCO progetto AI in produzione supera mediamente del 200-400% le stime iniziali di pilota, a causa di voci nascoste che emergono solo dopo il go-live.
• Infrastruttura, consumo energetico, storage, rete e presidio operativo rappresentano la parte sommersa dell’iceberg, spesso ignorata nei business case.
• Il costo del dato — acquisizione, pulizia, governance — può incidere fino al 60% del budget complessivo di un’iniziativa AI.
• Il retraining periodico dei modelli non è un’opzione: è una necessità che va budgettata fin dall’inizio.

Ieri mattina, in una sala riunioni di un’azienda manifatturiera brianzola, ho assistito a una scena che si ripete con inquietante regolarità. Il CFO sfogliava il consuntivo del primo anno di un progetto di manutenzione predittiva. Il pilota era costato 45.000 euro. La produzione, a regime, ne aveva divorati 280.000. Nessuno aveva mentito. Semplicemente, nessuno aveva contato tutto.

Il TCO progetto AI è come il colesterolo: quello che vedi nelle analisi di routine è solo una parte della storia. L’altra parte — quella che ti ostruisce le arterie del budget — si nasconde in voci che nessun vendor ti illustrerà nella demo iniziale. Non per malafede, ma perché anche loro, spesso, non le conoscono fino in fondo.

Questo articolo non ti insegnerà a calcolare un TCO. Ti mostrerà dove guardare per non farti sorprendere.

Il total cost of ownership intelligenza artificiale: anatomia di un iceberg

La licenza software è la punta. Quella che emerge, quella che tutti vedono, quella su cui si negozia con accanimento. Poi c’è il resto: il 90% sommerso che determina se il progetto galleggerà o affonderà.

Quando parliamo di total cost of ownership intelligenza artificiale, dobbiamo includere almeno sette categorie di costo che raramente compaiono nei preventivi iniziali:

• Infrastruttura computazionale: GPU, TPU, cluster di calcolo — on-premise o cloud che sia
• Consumo energetico: training e inferenza hanno appetiti molto diversi
• Storage e gestione dati: i modelli AI sono voraci di spazio
• Rete e connettività: latenza e banda incidono sulle performance
• Presidio operativo: qualcuno deve tenere in piedi la baracca
• Retraining e manutenzione modelli: l’AI invecchia, e male
• Costo del dato: acquisizione, pulizia, labeling, governance

Immagina di trovarti in una riunione di budget a fine anno. Il responsabile IT presenta i costi del progetto AI. Il numero sulla slide è quello della licenza, più qualche voce generica di “infrastruttura”. Tu chiedi: “E l’energia? E il personale dedicato? E i dati che abbiamo dovuto comprare?”. Silenzio imbarazzato. Non perché qualcuno voglia nascondere qualcosa, ma perché quelle voci sono finite in altri centri di costo, diluite, invisibili.

Costi produzione AI: il divario tra pilota e realtà operativa

Il pilota è un ambiente protetto. Dati puliti, volumi ridotti, attenzione maniacale del team. La produzione è la giungla: dati sporchi, picchi di carico, utenti che usano il sistema in modi creativi e imprevisti.

I costi produzione AI esplodono per ragioni strutturali, non accidentali. Uno studio di Gartner del 2024 indica che il 65% dei progetti AI supera il budget previsto di oltre il 50% nel primo anno di produzione. McKinsey, nello stesso periodo, ha rilevato che solo il 22% delle aziende riesce a scalare i propri progetti AI oltre la fase pilota mantenendo i costi sotto controllo.

Perché accade? Perché il pilota misura la fattibilità tecnica, non la sostenibilità economica. Sono due domande diverse che richiedono metriche diverse.

Le voci che esplodono in produzione

Ecco una tabella che confronta le voci di costo tipiche tra fase pilota e produzione, basata su osservazioni di mercato:

Voce di costo	Pilota (incidenza %)	Produzione (incidenza %)	Moltiplicatore
Licenze software	40%	15%	1.5x
Infrastruttura	25%	30%	4x
Energia	5%	12%	8x
Storage	10%	18%	6x
Personale dedicato	15%	20%	5x
Retraining	5%	5%	3x

Il moltiplicatore indica quante volte il costo assoluto aumenta passando dal pilota alla produzione. L’energia, per esempio, può costare otto volte tanto — non perché il prezzo del kWh sia cambiato, ma perché il modello gira 24/7 invece che per qualche ora di test.

Il peso nascosto dell’energia nel TCO progetto AI

Un modello di linguaggio di grandi dimensioni consuma, durante il training, l’equivalente energetico di cinque automobili per l’intero ciclo di vita. In inferenza — cioè quando risponde alle tue domande — il consumo è minore ma costante, e si moltiplica per ogni richiesta.

Per capire davvero quanto pesa l’energia sull’AI nel tuo budget, devi considerare tre fattori: il tipo di modello, la frequenza d’uso, la localizzazione dell’infrastruttura. Un data center in Lombardia ha costi energetici diversi da uno in Irlanda o in Virginia.

Secondo l’International Energy Agency, i data center dedicati all’AI potrebbero consumare, entro il 2026, oltre 1.000 TWh annui a livello globale — più del consumo elettrico del Giappone. Per un’azienda italiana di medie dimensioni, questo si traduce in bollette che possono incidere dal 10% al 20% del TCO progetto AI complessivo.

Il costo energetico AI come variabile strategica

Non è solo una questione di euro. È una questione di sostenibilità, di ESG, di reputazione. Un’azienda che dichiara obiettivi di carbon neutrality e poi lancia progetti AI ad alto consumo energetico senza compensazioni si espone a critiche legittime.

Il costo energetico AI va quindi inserito nel business case non solo come voce economica, ma come variabile di compliance e comunicazione.

Il costo del dato: la voce più sottovalutata del total cost of ownership intelligenza artificiale

I dati non sono il nuovo petrolio. Sono il nuovo uranio: potentissimi, ma richiedono raffinazione costosa e gestione attenta.

Nel calcolo del total cost of ownership intelligenza artificiale, il dato incide in modi che sfuggono ai non addetti:

• Acquisizione: comprare dataset esterni, stipulare accordi con fornitori
• Pulizia: il data cleaning può assorbire il 60-80% del tempo di un data scientist
• Labeling: etichettare i dati per il training supervisionato costa, in media, 1-5 euro per record complesso
• Governance: GDPR, retention policy, audit trail — tutto ha un prezzo
• Aggiornamento: i dati invecchiano, e un modello addestrato su dati vecchi produce risultati vecchi

Un’azienda alimentare del Nord-Est ha scoperto, a progetto avviato, che i dati di produzione degli ultimi cinque anni erano inutilizzabili: formati diversi, campi mancanti, timestamp incoerenti. Il costo di bonifica ha superato quello del software.

Retraining e manutenzione: i costi produzione AI che non finiscono mai

Un modello AI non è un software tradizionale. Non lo installi e lo dimentichi. È più simile a un dipendente: va formato, aggiornato, monitorato. E ogni tanto va rimesso in riga.

I costi produzione AI includono necessariamente il retraining periodico. Perché? Perché il mondo cambia. I comportamenti dei clienti cambiano. I prodotti cambiano. Un modello di demand forecasting addestrato nel 2023 non può prevedere il 2025 senza aggiornamenti.

La frequenza di retraining dipende dal dominio applicativo:

• Fraud detection: retraining mensile o più frequente
• Manutenzione predittiva: trimestrale
• Analisi documentale: semestrale
• Raccomandazioni prodotto: settimanale in contesti e-commerce

Ogni ciclo di retraining comporta costi di calcolo, di validazione, di deployment. E richiede personale qualificato — che in Italia scarseggia e costa.

Il presidio operativo: qualcuno deve vigilare

Chi monitora che il modello non stia “driftando”? Chi interviene quando le performance degradano? Chi gestisce gli alert? Il presidio operativo è una voce che molte aziende dimenticano di budgettare, salvo poi scoprire che serve un team dedicato — o almeno una frazione significativa di FTE.

Come evitare sorprese: una checklist per il TCO progetto AI realistico

Non esiste una formula magica, ma esiste un metodo. Prima di approvare qualsiasi iniziativa AI, assicurati che il business case risponda a queste domande:

• Quali risorse di calcolo servono in produzione, non in pilota?
• Qual è il consumo energetico stimato su base annua?
• Quanto storage servirà tra 12, 24, 36 mesi?
• Chi presidierà il sistema e con quale effort?
• Con quale frequenza andrà retrainato il modello?
• I dati necessari esistono, sono puliti, sono accessibili?
• Quali costi di compliance e governance si applicano?

Se anche una sola di queste domande resta senza risposta, il tuo TCO progetto AI è una stima, non un budget.

Conclusione

Il pilota costa poco perché misura poco. La produzione costa tanto perché misura tutto: volumi reali, utenti reali, problemi reali. La differenza tra un progetto AI che genera valore e uno che divora budget sta nella capacità di prevedere — e governare — questa transizione.

Non si tratta di rinunciare all’AI. Si tratta di entrarci con gli occhi aperti, sapendo che la licenza software è solo il biglietto d’ingresso. Il vero costo del viaggio lo scopri strada facendo — a meno che tu non abbia fatto i compiti prima.

Se vuoi approfondire una delle voci più sottovalutate e in crescita, ti consiglio di esplorare la nostra guida completa sul costo energetico AI: è il punto di partenza per capire quanto peserà l’energia sul tuo prossimo progetto.

FAQ

Qual è la differenza principale tra TCO di un progetto AI e TCO di un software tradizionale?

Il TCO di un progetto AI include voci dinamiche come il retraining periodico, il costo del dato e il consumo energetico variabile, che nei software tradizionali sono marginali o assenti.

Quanto incide mediamente l’energia sul total cost of ownership intelligenza artificiale?

L’energia può rappresentare dal 10% al 20% del TCO complessivo, con punte superiori per modelli di grandi dimensioni o applicazioni ad alta frequenza d’uso.

Perché i costi produzione AI sono così diversi da quelli del pilota?

Il pilota opera su volumi ridotti, dati selezionati e attenzione dedicata. La produzione affronta volumi reali, dati imperfetti e funzionamento continuo, moltiplicando ogni voce di costo.

Come si calcola il costo del dato in un progetto AI?

Si sommano acquisizione, pulizia, labeling, storage, governance e aggiornamento periodico. Il labeling manuale, in particolare, può costare da 1 a 5 euro per record complesso.

Con quale frequenza va retrainato un modello AI in produzione?

Dipende dal dominio: da settimanale per e-commerce e fraud detection, a semestrale per applicazioni più stabili come l’analisi documentale.

Quali figure professionali servono per il presidio operativo di un sistema AI?

Servono competenze di MLOps, data engineering e domain expertise. Nelle PMI italiane, spesso queste competenze vanno costruite internamente o acquisite tramite partner esterni.

Il cloud riduce il TCO progetto AI rispetto all’on-premise?

Non necessariamente. Il cloud riduce il CAPEX iniziale ma può aumentare l’OPEX nel tempo, soprattutto per workload intensivi e continuativi. Va valutato caso per caso.

Come si inserisce il TCO AI nel business case complessivo di un’iniziativa?

Il TCO va confrontato con i benefici attesi su un orizzonte di almeno 3 anni, includendo risparmi operativi, ricavi incrementali e costi evitati. Solo così si ottiene un ROI realistico.