Glossario dell'AI generativa

Questo glossario definisce i termini relativi all'intelligenza artificiale (AI) generativa.

Agenti AI

Un agente AI è un'applicazione che raggiunge un obiettivo elaborando l'input, eseguendo ragionamenti con gli strumenti disponibili e intraprendendo azioni in base alle sue decisioni. Gli agenti AI utilizzano la chiamata di funzione per formattare l'input e garantire interazioni precise con gli strumenti esterni. Il seguente diagramma mostra i componenti di un agente AI:

Un agente AI è composto da un livello di orchestrazione, un modello e degli strumenti.

Come mostrato nel diagramma precedente, gli agenti AI sono costituiti dai seguenti componenti:

  • Orchestrazione: il livello di orchestrazione di un agente gestisce la memoria, lo stato e il processo decisionale controllando il piano, l'utilizzo degli strumenti e il flusso di dati. L'orchestrazione include i seguenti componenti:
    • Profilo e istruzioni: l'agente assume un ruolo o un'identità specifica per indirizzare le sue azioni e le sue decisioni.
    • Memoria: per mantenere il contesto e lo stato, l'agente conserva la memoria a breve termine e quella a lungo termine. La memoria a breve termine conserva il contesto immediato e le informazioni necessarie per l'attività corrente. La memoria a lungo termine conserva la cronologia completa delle conversazioni.
    • Ragionamento e pianificazione: l'agente utilizza il modello per eseguire la scomposizione e la riflessione delle attività, quindi crea un piano. Innanzitutto, l'agente suddivide il prompt dell'utente in sottocomponenti per gestire attività complesse chiamando una o più funzioni. Successivamente, l'agente riflette sugli output della funzione utilizzando il ragionamento e il feedback per migliorare la risposta.
  • Modello: qualsiasi modello linguistico generativo che elabora obiettivi, crea piani e genera risposte. Per prestazioni ottimali, un modello deve supportare la chiamata di funzione e deve essere addestrato con firme di dati provenienti da strumenti o passaggi di ragionamento.
  • Strumenti: una raccolta di strumenti, tra cui API, servizi o funzioni, che recuperano dati ed eseguono azioni o transazioni. Gli strumenti consentono agli agenti di interagire con dati e servizi esterni.

Per le applicazioni che richiedono un processo decisionale autonomo, una gestione complessa dei flussi di lavoro in più fasi o esperienze adattive, gli agenti AI offrono prestazioni migliori rispetto ai modelli di base standard. Gli agenti sono eccellenti nel risolvere i problemi in tempo reale utilizzando dati esterni e nell'automatizzare attività ad alta intensità di conoscenza. Queste funzionalità consentono a un agente di fornire risultati più solidi rispetto alle funzionalità di generazione di testo passive dei modelli di base.

Per saperne di più sugli agenti AI, consulta Che cos'è un agente AI.

finestra contestuale

Una finestra contestuale è il numero di token che un foundation model può elaborare in un determinato prompt. Una finestra contestuale più ampia consente al modello di accedere ed elaborare più informazioni, il che porta a risposte più coerenti, pertinenti e complete.

I modelli Gemini sono progettati appositamente con ampie finestre contestuali per gestire queste grandi quantità di informazioni. Per dare un'idea della scala, un modello con una finestra contestuale di 1 milione di token può elaborare uno dei seguenti input:

  • 50.000 righe di codice (con i 80 caratteri standard per riga)
  • Tutti i messaggi che hai inviato negli ultimi 5 anni
  • 8 romanzi in lingua inglese di lunghezza media
  • Trascrizioni di oltre 200 puntate di podcast di durata media
  • 1 ora di video senza audio
  • Circa 45 minuti di video con audio
  • 9,5 ore di audio

Per ulteriori informazioni sulle best practice per i prompt con contesto lungo, consulta Contesto lungo.

embedding

Un embedding è una rappresentazione numerica di dati, come testo, immagini o video, che acquisisce le relazioni tra diversi input. Gli embedding vengono generati durante la fase di addestramento di un modello convertendo testo, immagini e video in array di numeri con rappresentazione in virgola mobile chiamati vettori. Gli embedding spesso riducono la dimensionalità dei dati, il che contribuisce a migliorare l'efficienza computazionale e a consentire l'elaborazione di set di dati di grandi dimensioni. Questa riduzione della dimensionalità è fondamentale per l'addestramento e il deployment di modelli complessi.

I modelli di machine learning (ML) richiedono che i dati siano espressi in un formato che possono elaborare. Gli embedding soddisfano questo requisito mappando i dati in uno spazio vettoriale continuo in cui una maggiore vicinanza riflette punti dati con significati simili. Gli embedding consentono ai modelli di discernere pattern e relazioni sfumati che sarebbero oscurati nei dati non elaborati.

Ad esempio, i modelli linguistici di grandi dimensioni (LLM) si basano sugli embedding per comprendere il contesto e il significato del testo. Questa comprensione consente all'LLM di generare risposte coerenti e pertinenti. Nella generazione di immagini, gli embedding acquisiscono le caratteristiche visive delle immagini, consentendo ai modelli di creare output realistici e diversificati.

I sistemi che utilizzano la Retrieval-Augmented Generation (RAG) si basano sugli embedding per abbinare le query degli utenti alle conoscenze pertinenti. Quando viene posta una query, questa viene convertita in un embedding, che viene poi confrontato con gli embedding dei documenti presenti nella knowledge base. Questo confronto, facilitato dalle ricerche di somiglianza nello spazio vettoriale, consente al sistema di recuperare le informazioni più pertinenti dal punto di vista semantico.

Per saperne di più sui modelli di embedding e sui casi d'uso, consulta la panoramica delle API di embedding.

foundation model

I foundation model sono modelli di grandi dimensioni e potenti, addestrati su enormi quantità di dati, che spesso abbracciano più modalità come testo, immagini, video e audio. Questi modelli utilizzano la modellazione statistica per prevedere le risposte probabili ai prompt e per generare nuovi contenuti. Apprendono pattern dai dati di addestramento, come pattern linguistici per la generazione di testo e tecniche di diffusione per la generazione di immagini.

Google offre una varietà di foundation model di AI generativa accessibili tramite un'API gestita. Per accedere ai foundation model disponibili in Google Cloud, utilizza Model Garden di Vertex AI.

chiamata di funzione

La chiamata di funzione è una funzionalità che connette i modelli linguistici di grandi dimensioni (LLM) a strumenti esterni come API e funzioni per migliorare le risposte dell'LLM. Questa funzionalità consente agli LLM di andare oltre le conoscenze statiche e di migliorare le risposte con informazioni e servizi in tempo reale, come database, sistemi di gestione dei rapporti con i clienti e repository di documenti.

Per utilizzare la chiamata di funzione, fornisci al modello un insieme di funzioni. In seguito, quando invii un prompt al modello, questo può selezionare e chiamare le funzioni in base alla tua richiesta. Il modello analizza il prompt e poi genera dati strutturati che specificano quale funzione chiamare e i valori parametro. L'output dei dati strutturati chiama la funzione e poi restituisce i risultati al modello. Il modello incorpora i risultati nel suo ragionamento per generare una risposta. Questo processo consente al modello di accedere e utilizzare informazioni che vanno oltre la sua conoscenza interna, consentendogli di eseguire attività che richiedono dati o elaborazioni esterni.

La chiamata di funzione è un componente fondamentale nell'architettura degli agenti AI. La chiamata di funzione fornisce un modo strutturato per consentire al modello di specificare quale strumento utilizzare e come formattare l'input, il che contribuisce a garantire interazioni precise con i sistemi esterni.

Per saperne di più sulla chiamata di funzione in Gemini, consulta Introduzione alla chiamata di funzione.

AI generativa

L'AI generativa è un tipo di AI che va oltre l'attenzione tradizionale dell'AI su classificazione e previsione. I modelli di AI tradizionali apprendono dai dati esistenti per classificare le informazioni o per prevedere i risultati futuri in base a pattern storici. L'AI generativa utilizza modelli di base per generare nuovi contenuti come testo, immagini, audio o video. Questi nuovi contenuti vengono generati apprendendo i pattern e lo stile sottostanti dei dati di addestramento, il che consente al modello di creare output simili ai dati su cui è stato addestrato.

Scopri di più su quando utilizzare l'AI generativa e sui casi d'uso aziendali dell'AI generativa.

grounding

Il grounding è il processo di collegamento dell'output di un modello a fonti di informazioni verificabili. Queste fonti potrebbero fornire informazioni pratiche e specifiche per il contesto, come documentazione aziendale interna, dati specifici del progetto o record di comunicazione. Il grounding contribuisce a migliorare l'accuratezza, l'affidabilità e l'utilità degli output dell'AI fornendo al modello l'accesso a origini dati specifiche. Il grounding riduce la probabilità di allucinazioni, ovvero i casi in cui il modello genera contenuti non oggettivi. Un tipo comune di grounding è la Retrieval-Augmented Generation (RAG), che prevede il recupero di informazioni esterne pertinenti per migliorare le risposte del modello.

Per saperne di più sul grounding con la Ricerca Google, consulta la panoramica del grounding.

modello linguistico di grandi dimensioni (LLM)

Un modello linguistico di grandi dimensioni (LLM) è un foundation model basato su testo addestrato su una grande quantità di dati. Gli LLM vengono utilizzati per eseguire attività di elaborazione del linguaggio naturale (NLP), come la generazione di testo, la traduzione automatica, il riassunto del testo e la risposta alle domande. Il termine LLM viene talvolta utilizzato in modo intercambiabile con foundation model. Tuttavia, gli LLM sono basati su testo, mentre i foundation model possono essere addestrati con e ricevere input da più modalità, tra cui testo, immagini, audio e video.

Per apprendere i pattern e le relazioni all'interno del linguaggio, gli LLM utilizzano tecniche come l'apprendimento per rinforzo e l'ottimizzazione delle istruzioni. Quando progetti i prompt, è importante considerare i vari fattori che possono influenzare le risposte del modello.

latenza

La latenza è il tempo necessario a un modello per elaborare un prompt di input e generare una risposta. Quando esamini la latenza di un modello, tieni presente quanto segue:

  • Tempo al primo token (TTFT): il tempo necessario al modello per produrre il primo token della risposta dopo aver ricevuto il prompt. Il TTFT è importante per le applicazioni di streaming in cui vuoi un feedback immediato.
  • Tempo all'ultimo token (TTLT): il tempo totale impiegato dal modello per elaborare il prompt e generare la risposta completa.

Per informazioni sulla riduzione della latenza, consulta Best practice con i modelli linguistici di grandi dimensioni (LLM).

prompt engineering

Il prompt engineering è il processo iterativo di creazione di un prompt e di accesso alla risposta del modello per ottenere la risposta che vuoi. Scrivere prompt ben strutturati può essere una parte essenziale per garantire risposte accurate e di alta qualità da un modello linguistico.

Di seguito sono riportate alcune tecniche comuni che puoi utilizzare per migliorare le risposte:

  • Prompt zero-shot: fornisci un prompt senza esempi e fai affidamento sulle conoscenze preesistenti del modello.
  • Prompt one-shot: fornisci un singolo esempio nel prompt per guidare la risposta del modello.
  • Prompt few-shot: fornisci più esempi nel prompt per dimostrare il pattern o l'attività che vuoi.

Quando fornisci esempi a un modello, contribuisci a controllare aspetti della sua risposta, come la formattazione, la formulazione, l'ambito e i pattern generali. I prompt few-shot efficaci combinano istruzioni chiare con esempi specifici e vari. È importante sperimentare per determinare il numero ottimale di esempi; un numero troppo basso di esempi potrebbe non fornire indicazioni sufficienti, mentre un numero troppo elevato di esempi può causare l'overfitting del modello rispetto agli esempi e non consentire una generalizzazione corretta.

Per ulteriori informazioni sulle best practice per i prompt, consulta la Panoramica delle strategie di prompting.

prompting

Un prompt è una richiesta in linguaggio naturale che viene inviata a un modello di AI generativa per ottenere una risposta. A seconda del modello, un prompt può contenere testo, immagini, video, audio, documenti e altre modalità o anche più modalità (multimodale).

Un prompt efficace è composto da contenuti e struttura. I contenuti forniscono tutte le informazioni pertinenti sull'attività, come istruzioni, esempi e contesto. La struttura garantisce un'analisi efficiente attraverso l'organizzazione, tra cui l'ordinamento, l'etichettatura e i delimitatori. A seconda dell'output che vuoi ottenere, potresti prendere in considerazione componenti aggiuntivi.

parametri del modello

I parametri del modello sono variabili interne che un modello utilizza per determinare il modo in cui elabora i dati di input e genera gli output. Durante l'addestramento, puoi regolare i parametri del modello, come peso e bias, per ottimizzarne le prestazioni. Durante l'inferenza, puoi influenzare l'output del modello tramite vari parametri di prompt, che non modificano direttamente i parametri del modello appreso.

Di seguito sono riportati alcuni dei parametri di prompting che influiscono sulla generazione di contenuti nell'API Gemini in Vertex AI:

  • temperature: la temperatura modifica la casualità della selezione dei token durante la generazione della risposta, il che influisce sulla creatività e sulla prevedibilità dell'output. Il valore di temperature è compreso tra 0 e 1. Temperature più basse (più vicine a 0) producono risultati più deterministici e prevedibili. Temperature più elevate (più vicine a 1) generano un testo più diversificato e creativo, ma i risultati sono potenzialmente meno coerenti.
  • topP: Top-P cambia il modo in cui il modello campiona e seleziona i token per l'output. Top-P seleziona l'insieme più piccolo di token la cui probabilità cumulativa supera una soglia o p, quindi campiona da quella distribuzione. Il valore di topP è compreso tra 0 e 1. Ad esempio, se i token A, B e C hanno una probabilità di 0,3, 0,2 e 0,1 e il valore di topP è 0.5, il modello seleziona A o B come token successivo utilizzando la temperatura ed esclude C come candidato.
  • topK: Top-K cambia il modo in cui il modello campiona e seleziona i token per l'output. Top-K seleziona i token statisticamente più probabili per generare una risposta. Il valore di topK rappresenta un numero di token compreso tra 1 e 40, tra i quali il modello sceglierà prima di generare una risposta. Ad esempio, se i token A, B, C e D hanno una probabilità di 0, 6, 0, 5, 0,2 e 0, 1 e il valore di top-K è 3, il modello seleziona A, B o C come token successivo utilizzando la temperatura ed esclude D come candidato.
  • maxOutputTokens: l'impostazione maxOutputTokens modifica il numero massimo di token che possono essere generati nella risposta. Un valore più basso genererà risposte più brevi, mentre un valore più alto genererà risposte potenzialmente più lunghe.

Per ulteriori informazioni sui parametri di campionamento nell'API Gemini in Vertex AI, consulta Parametri di generazione dei contenuti.

Retrieval-augmented generation (RAG)

La Retrieval-Augmented Generation (RAG) è una tecnica per migliorare la qualità e l'accuratezza dell'output dei modelli linguistici di grandi dimensioni (LLM) basandoli su fonti di conoscenza recuperate dopo l'addestramento del modello. La RAG affronta le limitazioni degli LLM, come le imprecisioni oggettive, la mancanza di accesso a informazioni aggiornate o specializzate e l'incapacità di citare le fonti. Fornendo l'accesso alle informazioni recuperate da knowledge base o documenti affidabili, inclusi i dati su cui il modello non è stato addestrato, i dati proprietari o i dati sensibili specifici dell'utente, la RAG consente agli LLM di generare risposte più affidabili e contestualmente pertinenti.

Quando un modello che utilizza la RAG riceve il tuo prompt, il processo RAG completa queste fasi:

  1. Recupero: ricerca di dati pertinenti al prompt.
  2. Aumento: aggiungi i dati recuperati al prompt.
  3. Genera:
    1. Chiedi all'LLM di creare un riepilogo o una risposta in base al prompt migliorato.
    2. Restituisci la risposta.

Per ulteriori informazioni su Vertex AI e RAG, consulta la panoramica di Vertex AI RAG Engine.

token

Un token è un'unità di dati di base elaborata da un foundation model. I modelli separano i dati di un prompt in token per l'elaborazione. L'insieme di tutti i token utilizzati da un modello è chiamato vocabolario. I token possono essere singoli caratteri come z, parole intere come cat o parti di parole più lunghe.

I tokenizzatori suddividono le parole lunghe, come termini complessi o tecnici, parole composte o parole con punteggiatura e caratteri speciali, in più token. Il processo di suddivisione del testo in token è chiamato tokenizzazione. L'obiettivo della tokenizzazione è creare token con un significato semantico che possono essere ricombinati per comprendere la parola originale. Ad esempio, la parola "predefined" può essere suddivisa nei seguenti token: "pre", "define", "ed".

I token possono rappresentare input multimodali come immagini, video e audio. Le tecniche di embedding trasformano l'input multimodale in rappresentazioni numeriche che il modello può elaborare come token. Di seguito sono riportati i calcoli approssimativi dei token per un input multimodale di esempio, indipendentemente dalle dimensioni del display o del file:

  • Immagini: 258 token totali
  • Video: 263 token al secondo
  • Audio: 32 token al secondo

Ogni modello ha un limite al numero di token che può gestire in un prompt e in una risposta. Inoltre, i costi di utilizzo del modello vengono calcolati in base al numero di token di input e output. Per informazioni su come ottenere il conteggio dei token di un prompt inviato a un modello Gemini, consulta Elenca e conta i token. Per informazioni sul costo dei modelli di AI generativa su Vertex AI, consulta Prezzi di Vertex AI.

ottimizzazione

L'ottimizzazione è il processo di adattamento di un modello di base per eseguire attività specifiche con maggiore precisione e accuratezza. L'ottimizzazione si ottiene regolando alcuni o tutti i parametri del modello o addestrando un modello su un set di dati contenente esempi che replicano le attività e i risultati che vuoi ottenere. L'ottimizzazione è un processo iterativo, che può essere complesso e costoso, ma ha il potenziale di produrre miglioramenti significativi delle prestazioni. L'ottimizzazione è più efficace quando hai un set di dati etichettato con più di 100 esempi e vuoi eseguire attività complesse o uniche in cui le tecniche di prompting non sono sufficienti.

Di seguito sono riportate le tecniche di ottimizzazione supportate da Vertex AI:

  • Fine-tuning completo: una tecnica che aggiorna tutti i parametri del modello durante il processo di ottimizzazione. Il fine-tuning completo può essere oneroso dal punto di vista computazionale e richiedere molti dati, ma ha anche il potenziale per raggiungere i massimi livelli di prestazioni, soprattutto per attività complesse.
  • Ottimizzazione efficiente dei parametri: una tecnica nota anche come ottimizzazione degli adattatori; l'ottimizzazione efficiente dei parametri aggiorna alcuni dei parametri del modello durante il processo di ottimizzazione. L'ottimizzazione efficiente dei parametri è più efficiente in termini di risorse e più conveniente rispetto al fine-tuning completo.
  • Fine-tuning supervisionato: una tecnica che addestra il modello su coppie di input-output etichettate. Il fine-tuning supervisionato è di uso comune per attività che coinvolgono classificazione, traduzione e riassunto.

Per saperne di più sull'ottimizzazione, consulta Introduzione all'ottimizzazione.