Un database ci salverà dai costi folli dell’IA?

Il costo dell’AI in produzione ha smesso di essere un problema teorico per diventare una priorità operativa. Pinecone e Tiger Data, due startup specializzate nell’ottimizzazione dell’infrastruttura per agenti AI, hanno presentato nei mesi scorsi soluzioni che promettono riduzioni drastiche dei token consumati — e dei costi associati. La domanda che le loro proposte sollevano non è tecnica ma strategica: stai acquistando una soluzione a un problema reale o stai pagando per qualcosa che il tuo fornitore di dati attuale sta già integrando?

Il contesto in cui queste proposte arrivano è quello di un mercato in cui il 79% delle organizzazioni sta investendo in AI agentica, secondo IDC. Gartner prevede che entro la fine del 2026 il 40% delle applicazioni enterprise avrà almeno un agente AI integrato. Ma lo stesso Gartner avverte che il 40% dei progetti agentici verrà cancellato entro il 2027 per costi fuori controllo. Il gap tra il 79% che investe e il 40% che cancella i progetti è la misura del problema che Pinecone e Tiger Data stanno cercando di risolvere. Resta da vedere se lo stanno risolvendo o se si stanno inserendo in uno spazio già occupato.

Pinecone Nexus: pre-compilare il contesto per non sprecarlo

Pinecone è nota principalmente come fornitore di vector database — la tecnologia che permette la ricerca semantica nei sistemi RAG. Nexus è il suo passo successivo: un “knowledge engine” che pre-compila il contesto rilevante per l’agente invece di lasciarlo costruire il contesto a ogni query.

Il problema che Nexus affronta è reale. In un sistema RAG standard, ogni query dell’agente attiva un processo di retrieval che cerca nei vector store i frammenti di testo più rilevanti, li assembla in un contesto, lo passa all’LLM insieme alla query, e riceve una risposta. Questo processo consuma token per il contesto passato al modello — e se il contesto è ridondante, mal selezionato o più ampio del necessario, i token vengono sprecati senza contribuire alla qualità della risposta.

Pinecone dichiara una riduzione dal 150.000 token a 2.000 token per chiamata su alcuni workflow standard — una riduzione del 98,7% del contesto passato all’LLM. Questo si traduce in una riduzione proporzionale dei costi, perché i modelli linguistici principali (OpenAI, Anthropic, Google) addebitano per token di input e output. Se il dato è verificabile nella pratica — non solo su benchmark costruiti ad hoc — è un’ottimizzazione economicamente rilevante.

Tiger Data Ghost: un database usa-e-getta per ogni agente

Tiger Data affronta il problema da un’angolazione diversa. Ghost è un’istanza PostgreSQL usa-e-getta, creata su misura per ogni agente e per ogni sessione di lavoro — e distrutta alla fine della sessione. Il modello di pricing è a ore di compute: l’agente paga solo per il tempo in cui la propria istanza database è attiva.

Il problema che Ghost risolve è quello dell’isolamento: quando più agenti accedono allo stesso database condiviso, devono gestire conflitti di scrittura, lock, e interferenze reciproche. Questo overhead riduce la velocità e aumenta i costi. Un’istanza dedicata per agente elimina il problema — ma tradizionalmente aveva il costo di provisioning e deprovisioning di un’istanza persistente. Il modello usage-based di Tiger Data trasforma questo costo in variabile proporzionale all’uso effettivo.

L’idea è architetturalmente elegante, ma la sua adozione dipende da quante organizzazioni hanno agenti che lavorano in parallelo su dataset diversi in modo sufficientemente frequente da giustificare la complessità di gestire istanze database effimere. Per workflow semplici o a bassa frequenza, il costo di orchestrazione dell’infrastruttura effimera potrebbe superare il risparmio sul compute.

Il problema più profondo: le piattaforme enterprise stanno assorbendo tutto

Il caso per Pinecone e Tiger Data sarebbe più solido se le piattaforme enterprise non stessero muovendosi nella stessa direzione. IDC documenta che la maggior parte delle organizzazioni si aspetta di fare il lavoro vettoriale all’interno del proprio database esistente — non su un vector store separato. Snowflake ha introdotto Horizon Context, un sistema di contesto gestito integrato nella piattaforma. Databricks ha presentato Genie Ontology con funzionalità simili. Le funzionalità che Pinecone e Tiger Data offrono come prodotti autonomi vengono assorbite come feature nelle piattaforme lakehouse che le grandi aziende già usano.

Questo crea un rischio di mercato specifico per le startup nell’ottimizzazione AI: il timing dell’adozione è critico. Un’organizzazione che adotta Pinecone Nexus oggi e poi scopre che il proprio lakehouse Snowflake offre funzionalità equivalenti in una release futura ha acquistato una soluzione point che diventerà ridondante. La velocità con cui le piattaforme enterprise stanno integrando queste funzionalità rende il time-to-commoditization molto più breve di quanto storicamente si osservasse nel software enterprise.

I dati che mancano: quanto costa davvero l’ottimizzazione del contesto

L’affermazione di Pinecone sulla riduzione del 98,7% dei token è impressionante ma parzialmente contestualizzata. Non sappiamo: su quale mix di workflow è stata misurata, se include il costo del sistema di pre-compilazione del contesto stesso (che richiede compute), e se la riduzione del contesto comporta una degradazione della qualità delle risposte nei casi complessi.

La ricerca di IDC su due terzi delle organizzazioni che usano 11 o più tecnologie database diverse suggerisce che il problema del contesto non è solo tecnico ma organizzativo: la frammentazione dei dati tra sistemi diversi rende difficile costruire un contesto coerente, indipendentemente dall’efficienza del retrieval. Ottimizzare il retrieval da un vector store non risolve il problema se i dati rilevanti sono distribuiti tra un CRM, un ERP, un file server e un sistema di ticketing che non parlano tra loro.

Il contesto mancante nella valutazione di Pinecone e Tiger Data è questo: qual è il punto di partenza dell’organizzazione che li adotta? Se ha già un’architettura dati integrata e un sistema RAG funzionante, Nexus può ridurre i costi marginali. Se il problema di fondo è la frammentazione dei dati, acquistare un ottimizzatore di contesto senza prima risolvere la frammentazione è come ottimizzare il motore di un’auto con le ruote sgonfie.

Vendor hype o soluzione reale: come valutarlo

Il modo più onesto per valutare proposte come Pinecone Nexus e Tiger Data Ghost è quello di separare la domanda tecnologica dalla domanda strategica. Tecnologicamente, entrambe le soluzioni affrontano problemi reali. Il context bloat è un problema documentato e costoso. L’isolamento dei workload agentici è una necessità reale per le organizzazioni con molti agenti in parallelo.

Strategicamente, la domanda è diversa: ha senso acquistare questi prodotti come soluzioni autonome, o è meglio aspettare che le funzionalità vengano integrate nelle piattaforme enterprise già in uso? La risposta dipende dall’urgenza del problema. Se il consumo di token è già un problema operativo significativo oggi — e per alcune organizzazioni lo è — investire in ottimizzazione immediata ha senso anche se la funzionalità verrà commoditizzata in 12-18 mesi. Il risparmio immediato supera il costo della futura migrazione.

Se invece il problema è ancora a livello di pilot o di scale limitata, aspettare che le piattaforme enterprise assorbano queste funzionalità è probabilmente la scelta più efficiente. Lo spazio dell’ottimizzazione AI sta consolidandosi rapidamente — il mercato del 2027 assomiglierà molto meno al mercato frammentato del 2026 — e chi costruisce ora su soluzioni point rischia di dover migrare in un momento scomodo.

Il mercato della gestione dei costi AI — valutato da IDC oltre 32,6 miliardi di dollari nel 2026, in crescita del 110% — non si risolve con un singolo prodotto. Chi ha già affrontato la sfida di portare l’AI in produzione a scala enterprise sa che l’ottimizzazione del retrieval è l’ultimo problema da risolvere, non il primo. Si risolve con una strategia che parte dall’architettura dei dati, passa per la governance del consumo di token, e arriva all’ottimizzazione del retrieval solo dopo aver risolto i problemi strutturali sottostanti. Pinecone e Tiger Data possono essere utili in questo percorso — ma non lo sostituiscono.