Nelle applicazioni basate sull'AI, gli utenti si aspettano di interagire tramite linguaggio naturale (testo o voce), il che richiede che gli agenti AI eseguano query sui database operativi e restituiscano risposte accurate e spiegabili.
QueryData è il prodotto di query dei dati in linguaggio naturale di Google Cloud. Combina un'esecuzione rapida e deterministica per la logica di business principale con la flessibilità di generalizzare tra frasi naturali e domande impreviste. Questo approccio offre un'accuratezza quasi del 100%, una bassa latenza online e una spiegabilità certificata.
QueryData supporta AlloyDB per PostgreSQL, Cloud SQL per PostgreSQL, Cloud SQL per MySQL, Spanner (dialetto GoogleSQL), Firestore con compatibilità con MongoDB e Bigtable.
Perché la generazione SQL con LLM di base non riesce in produzione
Il collegamento di un modello linguistico di grandi dimensioni (LLM) direttamente a uno schema di database (da testo standard a SQL o NL2SQL) funziona bene in un prototipo, raggiungendo spesso un'accuratezza dell'80%-90% su domande di base. In produzione, tuttavia, chiedere a un LLM di generare SQL da zero su schemi non elaborati spesso non funziona per cinque motivi:
- Errori semantici silenziosi: a differenza della generazione di codice, in cui gli errori di sintassi si manifestano in modo evidente, un LLM di fronte a una domanda ambigua raramente dice "Non lo so".
Al contrario, scrive un codice SQL apparentemente plausibile che viene eseguito correttamente (
200 OK), ma restituisce una risposta errata, ad esempio omettendo i filtri di stato richiesti o utilizzando formule e misurazioni errate. - Logica di business non scritta mancante nello schema: gli schemi definiscono tabelle e tipi di dati, non il modo in cui opera la tua attività. Se un utente chiede a un'app immobiliare "case vicino a buone scuole a Del Mar", lo schema non definisce quale distanza è considerata "vicina", quale soglia di valutazione rende una scuola "buona" o come valutare la vicinanza rispetto alla qualità della scuola. Senza queste regole, un LLM deve indovinare.
- Dati privati opachi e ambiguità delle entità: gli LLM vengono addestrati su fatti pubblici, non sulle stringhe memorizzate nelle tabelle private o su come gli utenti le scrivono in modo errato (soprattutto con l'input vocale). In "Proprietà vendute da Westwod nell'ultimo mese", un LLM basato solo su schema non può capire che "Westwod " è un errore di battitura per"Westwood" o se "Westwood " nel tuo database è una città, un comune o un'agenzia di intermediazione.
- La trappola della latenza rispetto all'accuratezza: fornire a un agente strumenti SQL non elaborati per esplorare tabelle, righe di esempio e correggersi in un loop multi-turn aumenta la latenza a oltre 30 secondi per domanda, il che è troppo lento per le app interattive. Al contrario, inserire le regole aziendali in un prompt di sistema gigante causa conflitti di istruzioni, in cui la correzione di una query interrompe silenziosamente le altre.
- Esposizione incontrollata dei dati: nelle applicazioni standard, il codice di backend controlla rigorosamente quali query vengono eseguite e quali righe un utente può visualizzare. Quando un LLM genera SQL in modo dinamico da un input utente non attendibile, l'affidamento alle istruzioni del prompt per proteggere metriche sensibili o dati dei tenant lascia il database vulnerabile alla manipolazione del prompt.
Requisiti di una soluzione pronta per la produzione
Le applicazioni di produzione richiedono un'accuratezza quasi del 100% sui workflow principali, una latenza online costantemente rapida, una spiegabilità trasparente, la generalizzabilità a domande impreviste e una sicurezza rigorosa dove l'accesso ai dati è importante.
Per soddisfare questi requisiti, è necessario andare oltre la generazione di SQL aperta e adottare tre funzionalità fondamentali:
- Contesto del dominio offline facile da curare: il contesto è la base dell'alta precisione. Anziché costringere un LLM a dedurre le regole aziendali e le relazioni tra le tabelle in fase di runtime, un sistema di produzione richiede un contesto di dominio strutturato preparato offline. La selezione e la gestione di questo contesto devono essere automatizzate, in modo che i team di ingegneria non debbano creare manualmente regole fragili.
- Corrispondenza online rapida e deterministica che generalizza e spiega il suo lavoro: una bassa latenza online richiede un motore che abbini rapidamente le domande al contesto verificato, risolva i valori del database, spieghi le regole aziendali esatte applicate e mostri le ambiguità all'utente anziché indovinare. Allo stesso tempo, il sistema non può essere un menu Segnala rigido. Deve generalizzare tra variazioni di frasi, combinazioni di filtri e domande impreviste utilizzando il contesto correlato e i metadati dello schema.
- Confini di sicurezza deterministici: poiché le interfacce in linguaggio naturale collegano l'input utente non attendibile al tuo database, la sicurezza è fondamentale. Una soluzione di produzione non può fare affidamento sui prompt LLM per applicare le regole di accesso. Deve applicare controlli deterministici a livello di database e contesto (inclusa la privacy a livello di riga per le applicazioni multi-tenant) per impedire l'esposizione non autorizzata dei dati.
Come il prodotto QueryData unisce questi elementi
Il prodotto QueryData è più di un semplice endpoint API QueryData. Funziona come un sistema unificato in due parti che combina il context engineering in fase di progettazione con l'esecuzione e la generalizzazione rapide e deterministiche in fase di runtime.
Context engineering in fase di progettazione
Per acquisire la logica del dominio offline, associa il database a un set di contesti e lo curi utilizzando l'agente di progettazione del contesto:
- Contesto di dominio strutturato oltre agli schemi non elaborati: oltre alle descrizioni delle tabelle e delle colonne del database, un set di contesto archivia le conoscenze di dominio precompilate per il database. Sebbene il contesto del dominio possa assumere molte forme, i set di contesto supportano tre tipi di contesto specializzati:
- Modelli di query: pattern SQL con parametri abbinati a pattern di domande generalizzati, associati a una spiegazione dell'intent certificata in modo che gli utenti possano verificare in che modo QueryData ha interpretato le domande aziendali principali.
- Facet di query: predicati di filtro SQL modulari e operatori AI del database (come
ai.ife Vector Search) che si combinano dinamicamente con i template in modo che un set di contesto compatto copra centinaia di combinazioni di filtri. - Ricerche di valori: ricerche rapide e deterministiche nel database che risolvono gli errori ortografici, mappano i termini degli utenti a colonne e valori esatti e identificano quando un termine corrisponde a più concetti.
- Curation automatizzata e hill climbing: anziché creare manualmente i file di contesto, esegui l'agente di Context Engineering nell'interfaccia a riga di comando o nell'IDE (come Antigravity o Claude Code) per automatizzare il ciclo di ottimizzazione:
- Genera un benchmark d'oro: crea ed espande coppie di domande-SQL rappresentative dallo schema del database, dalle query di seed e dal codebase dell'applicazione.
- Hill-climbing automatico: valuta l'API
QueryDatautilizzando Evalbench, diagnostica i pattern di errore della causa principale, crea un contesto generalizzato e carica automaticamente i set di contesto migliorati dalla tua CLI fino a quando l'accuratezza non converge. - Convalida su un set di test di holdout: valuta il set di contesto finale una volta alla fine dell'ottimizzazione rispetto a variazioni di domande non viste per confermare che l'accuratezza si generalizza al traffico reale senza overfitting.
Esecuzione delle query di runtime
In produzione, l'infrastruttura agentica (come Agent Development Kit (ADK), LangChain, Antigravity o Claude Code) invia le domande degli utenti all'endpoint API QueryData nell'Analisi conversazionale, direttamente o tramite MCP Toolbox for Databases:
- Esecuzione rapida e deterministica con la capacità di generalizzare:
- Esecuzione deterministica di modelli e facet: quando una domanda corrisponde al tuo set di contesto in qualsiasi variazione di frase o combinazione di filtri, l'API
QueryDatarisolve i valori del database e combina il modello SQL verificato con i facet corrispondenti. Poi esegue la query e restituisce sia la risposta sia una spiegazione dell'intent certificata con bassa latenza. - Rilevamento di ambiguità: se un termine nel prompt corrisponde a più concetti validi nei tuoi dati privati, l'API
QueryDatarestituisce un prompt di disambiguazione in modo che l'agente possa chiedere chiarimenti all'utente anziché indovinare. - Generalizzazione a query impreviste: quando una domanda non rientra nei modelli e nei facet predefiniti, l'API
QueryDatasintetizza dinamicamente l'SQL utilizzando i metadati dello schema del database, le ricerche di valori e i modelli correlati come guida.
- Esecuzione deterministica di modelli e facet: quando una domanda corrisponde al tuo set di contesto in qualsiasi variazione di frase o combinazione di filtri, l'API
- Sicurezza applicata al database: per proteggere i dati sensibili dalla manipolazione dei prompt, il prodotto QueryData funziona con i controlli di accesso a livello di database. Per le applicazioni multi-tenant su AlloyDB e Cloud SQL, le viste sicure con parametri incorporano filtri utente autenticati obbligatori direttamente nella definizione della vista del database, in modo che ogni query rispetti l'isolamento del tenant.
Prezzi
Ti vengono addebitati i prezzi di computing di AlloyDB per le query eseguite quando crei set di contesto e utilizzi QueryData con i tuoi agenti per i dati o le origini dati del database. Non sono previsti costi aggiuntivi per la creazione e l'utilizzo di set di contesti e QueryData durante il periodo di anteprima. Per ulteriori informazioni, consulta Prezzi di Data Cloud Agent.
Passaggi successivi
- Scopri come funzionano insieme i modelli, i facet e le ricerche di valori nella panoramica dei set di contesti.
- Genera e ottimizza automaticamente un set di contesti in Crea set di contesti con l'agente di progettazione del contesto.
- Connetti la tua applicazione all'API
QueryDatain Integra QueryData con un'applicazione. - Proteggi l'accesso utilizzando viste sicure parametrizzate per proteggere i dati multi-tenant.