L'AI generativa ha introdotto un nuovo modo di creare e utilizzare le applicazioni di AI, diverso dall'AI predittiva. Per creare un'applicazione di AI generativa, devi scegliere tra una vasta gamma di architetture e dimensioni, curare i dati, progettare prompt ottimali, ottimizzare i modelli per attività specifiche e basare gli output dei modelli su dati reali.
Questo documento descrive come adattare i processi DevOps e MLOps per sviluppare, eseguire il deployment e gestire applicazioni di AI generativa su foundation model esistenti. Per informazioni sul deployment dell'AI predittiva, consulta MLOps: pipeline di distribuzione continua e automazione nel machine learning.
Che cosa sono DevOps e MLOps?
DevOps è una metodologia di ingegneria del software che collega lo sviluppo e le operazioni. DevOps promuove la collaborazione, l'automazione e il miglioramento continuo per semplificare il ciclo di vita dello sviluppo del software, utilizzando pratiche come l'integrazione continua e la distribuzione continua (CI/CD).
MLOps si basa sui principi di DevOps per affrontare le sfide della creazione e della gestione di sistemi di machine learning (ML). I sistemi di machine learning utilizzano in genere l'AI predittiva per identificare pattern e fare previsioni. Il flusso di lavoro MLOps include quanto segue:
- Convalida dei dati
- Addestramento del modello
- Valutazione e iterazione del modello
- Deployment e distribuzione del modello
- Monitoraggio del modello
Cosa sono i foundation model?
I foundation model sono il componente principale di un'applicazione di AI generativa. Questi modelli sono programmi di grandi dimensioni che utilizzano set di dati per apprendere e prendere decisioni senza l'intervento umano. I foundation model vengono addestrati su molti tipi di dati, tra cui testo, immagini, audio e video. I foundation model includono modelli linguistici di grandi dimensioni (LLM) come Llama 3.1 e modelli multimodali come Gemini.
A differenza dei modelli di AI predittiva, che vengono addestrati per attività specifiche su set di dati mirati, i foundation model vengono addestrati su set di dati enormi e diversificati. Questo addestramento ti consente di utilizzare i foundation model per sviluppare applicazioni per molti casi d'uso diversi. I foundation model hanno proprietà emergenti (PDF), che consentono loro di fornire risposte a input specifici senza addestramento esplicito. A causa di queste proprietà emergenti, i foundation model sono difficili da creare e gestire e richiedono l'adattamento dei processi DevOps e MLOps.
Lo sviluppo di un foundation model richiede risorse di dati significative, hardware specializzato, investimenti importanti e competenze specialistiche. Pertanto, molte aziende preferiscono utilizzare i foundation model esistenti per semplificare lo sviluppo e il deployment delle loro applicazioni di AI generativa.
Ciclo di vita di un'applicazione di AI generativa
Il ciclo di vita di un'applicazione di AI generativa include le seguenti fasi:
- Discovery: gli sviluppatori e gli ingegneri AI identificano il foundation model più adatto al loro caso d'uso. Considerano i punti di forza, i punti deboli e i costi di ciascun modello per prendere una decisione informata.
- Sviluppo e sperimentazione: gli sviluppatori utilizzano il prompt engineering per creare e perfezionare i prompt di input per ottenere l'output richiesto. Quando disponibili, l'apprendimento few-shot, la parameter-efficient fine-tuning (PEFT) e il concatenamento dei modelli aiutano a guidare il comportamento del modello. Il concatenamento dei modelli si riferisce all'orchestrazione delle chiamate a più modelli in una sequenza specifica per creare un flusso di lavoro.
- Deployment: gli sviluppatori devono gestire molti artefatti nel processo di deployment, tra cui template di prompt, definizioni di catene, modelli incorporati, datastore di recupero e adattatori di modelli ottimizzati. Questi artefatti hanno i propri requisiti di governance e richiedono una gestione attenta durante lo sviluppo e il deployment. Il deployment delle applicazioni di AI generativa deve inoltre tenere conto delle funzionalità tecniche dell'infrastruttura di destinazione, garantendo il rispetto dei requisiti hardware delle applicazioni.
- Monitoraggio continuo in produzione: gli amministratori migliorano le prestazioni delle applicazioni e mantengono gli standard di sicurezza attraverso tecniche di AI responsabile, come garantire equità, trasparenza e responsabilità negli output del modello.
- Miglioramento continuo: gli sviluppatori modificano costantemente i foundation model tramite tecniche di prompting, sostituendo i modelli con versioni più recenti o persino combinando più modelli per migliorare le prestazioni, l'efficienza dei costi o ridurre la latenza. L'addestramento continuo convenzionale rimane comunque rilevante per gli scenari in cui sono necessari l'ottimizzazione ricorrente o l'integrazione di loop di feedback umano.
Le pratiche di data engineering svolgono un ruolo fondamentale in tutte le fasi di sviluppo. Per creare output affidabili, devi disporre di un grounding oggettivo (che garantisce che gli output del modello siano basati su informazioni accurate e aggiornate) e di dati recenti provenienti da sistemi interni e aziendali. I dati di ottimizzazione aiutano ad adattare i modelli a attività e stili specifici e correggono gli errori persistenti.
Trova il modello di base per il tuo caso d'uso
Poiché la creazione di foundation model richiede un uso intensivo di risorse, la maggior parte delle aziende preferisce utilizzare un foundation model esistente ottimale per il proprio caso d'uso. Trovare il foundation model giusto è difficile perché ne esistono molti. Ogni modello ha architetture, dimensioni, set di dati di addestramento e licenze diversi. Inoltre, ogni caso d'uso presenta requisiti unici, che richiedono l'analisi dei modelli disponibili in più dimensioni.
Quando valuti i modelli, tieni conto dei seguenti fattori:
- Qualità: esegui prompt di test per valutare la qualità dell'output.
- Latenza e throughput: determina la latenza e il throughput corretti richiesti dal tuo caso d'uso, poiché questi fattori influiscono direttamente sull'esperienza utente. Ad esempio, un chatbot richiede una latenza inferiore rispetto alle attività di riassunto elaborate in batch.
- Tempo di sviluppo e manutenzione: considera l'investimento di tempo per lo sviluppo iniziale e la manutenzione continua. I modelli gestiti spesso richiedono meno sforzo rispetto ai modelli disponibili pubblicamente di cui esegui il deployment in autonomia.
- Costo di utilizzo: considera i costi di infrastruttura e consumo associati al modello.
- Conformità: valuta la capacità del modello di rispettare le normative pertinenti e i termini di licenza.
Sviluppa e sperimenta
Durante la creazione di applicazioni di AI generativa, lo sviluppo e la sperimentazione sono iterativi e orchestrati. Ogni iterazione sperimentale prevede il perfezionamento dei dati, l'adattamento del foundation model e la valutazione dei risultati. La valutazione fornisce un feedback che guida le iterazioni successive in un ciclo di feedback continuo. Se le prestazioni non corrispondono alle aspettative, puoi raccogliere più dati, migliorarli o curarli ulteriormente. Inoltre, potresti dover ottimizzare i prompt, applicare tecniche di ottimizzazione o passare a un altro foundation model. Questo ciclo di perfezionamento iterativo, guidato dagli insight della valutazione, è importante per ottimizzare le applicazioni di AI generativa tanto quanto lo è per il machine learning e l'AI predittiva.
Il paradigma dei foundation model
I foundation model si differenziano dai modelli predittivi perché sono modelli multiuso. Anziché essere addestrati per un unico scopo su dati specifici per quell'attività, i foundation model vengono addestrati su set di dati ampi, il che consente di applicare un foundation model a molti casi d'uso diversi.
I foundation model sono anche molto sensibili alle modifiche dell'input. L'output del modello e l'attività che esegue sono determinati dall'input del modello. Un foundation model può tradurre testo, generare video o classificare dati semplicemente modificando l'input. Anche modifiche insignificanti all'input possono influire sulla capacità del modello di eseguire correttamente l'attività.
Queste proprietà dei foundation model richiedono pratiche di sviluppo e operative diverse. Sebbene i modelli nel contesto dell'AI predittiva siano autosufficienti e specifici per l'attività, i foundation model sono multiuso e richiedono un elemento aggiuntivo oltre all'input utente dell'utente. I modelli di AI generativa richiedono un prompt e, più nello specifico, un template di prompt. Un template di prompt è un insieme di istruzioni ed esempi, insieme a segnaposto per accogliere input utente dell'utente. L'applicazione può combinare il template di prompt e i dati dinamici (come l'input utente dell'utente) per creare un prompt completo, ovvero il testo che viene passato come input al foundation model.
Il componente del modello con prompt
La presenza del prompt è una caratteristica distintiva delle applicazioni di AI generativa. Il modello e il prompt non sono sufficienti per la generazione di contenuti; l'AI generativa ha bisogno di entrambi. La combinazione del modello e del prompt è nota come componente del modello con prompt. Il componente del modello con prompt è il componente indipendente più piccolo sufficiente per creare un'applicazione di AI generativa. Il prompt non deve essere complicato. Ad esempio, può essere un'istruzione semplice, come "traduci la seguente frase dall'inglese al francese", seguita dalla frase da tradurre. Tuttavia, senza questa istruzione preliminare, un foundation model non eseguirà l'attività di traduzione richiesta. Pertanto, un prompt, anche solo un'istruzione di base, è necessario insieme all'input per fare in modo che il foundation model esegua l'attività richiesta dall'applicazione.
Il componente del modello con prompt crea un'importante distinzione per le pratiche MLOps durante lo sviluppo di applicazioni di AI generativa. Nello sviluppo di un'applicazione di AI generativa, la sperimentazione e l'iterazione devono essere eseguite nel contesto di un componente del modello con prompt. Il ciclo di sperimentazione dell'AI generativa inizia in genere con il test delle varianti del prompt, modificando la formulazione delle istruzioni, fornendo un contesto aggiuntivo o includendo esempi pertinenti, e valutando l'impatto di queste modifiche. Questa pratica è comunemente nota come prompt engineering.
Il prompt engineering prevede i seguenti passaggi iterativi:
- Prompting: crea e perfeziona i prompt per ottenere i comportamenti desiderati da un foundation model per un caso d'uso specifico.
- Valutazione: valuta gli output del modello, idealmente in modo programmatico, per misurare la sua comprensione e il suo successo nel soddisfare le istruzioni del prompt.
Per monitorare i risultati della valutazione, puoi facoltativamente registrare i risultati di un esperimento. Poiché il prompt stesso è un elemento fondamentale del processo di prompt engineering, diventa l'artefatto più importante tra quelli che fanno parte dell'esperimento.
Tuttavia, per sperimentare con un'applicazione di AI generativa, devi identificare i tipi di artefatti. Nell'AI predittiva, i dati, le pipeline e il codice sono diversi. Tuttavia, con il paradigma dei prompt nell'AI generativa, i prompt possono includere contesto, istruzioni, esempi, guardrail e dati interni o esterni effettivi estratti da un'altra posizione.
Per determinare il tipo di artefatto, devi riconoscere che un prompt ha componenti diversi e richiede strategie di gestione diverse. Considera quanto segue:
- Prompt come dati: alcune parti del prompt agiscono proprio come i dati. Elementi come esempi few-shot, knowledge base e query degli utenti sono essenzialmente punti dati. Questi componenti richiedono pratiche MLOps incentrate sui dati, come la convalida dei dati, il rilevamento della deviazione e la gestione del ciclo di vita.
- Prompt come codice: altri componenti, come il contesto, i template di prompt e i guardrail, sono simili al codice. Questi componenti definiscono la struttura e le regole del prompt stesso e richiedono pratiche più incentrate sul codice, come processi di approvazione, controllo delle versioni del codice e test.
Di conseguenza, quando applichi le pratiche MLOps all'AI generativa, devi disporre di processi che offrano agli sviluppatori un modo semplice per archiviare, recuperare, monitorare e modificare i prompt. Questi processi consentono un'iterazione rapida e una sperimentazione basata su principi. Spesso una versione di un prompt può funzionare bene con una versione specifica del modello e non altrettanto bene con un'altra versione. Quando monitori i risultati di un esperimento, devi registrare il prompt, le versioni dei componenti, la versione del modello, le metriche e i dati di output.
Concatenamento e miglioramento dei modelli
I modelli di AI generativa, in particolare i modelli linguistici di grandi dimensioni (LLM), devono affrontare sfide intrinseche per mantenere l'aggiornamento ed evitare le allucinazioni. La codifica di nuove informazioni negli LLM richiede un preaddestramento costoso e ad alta intensità di dati prima che possano essere implementati. A seconda del caso d'uso, l'utilizzo di un solo modello con prompt per eseguire una determinata generazione potrebbe non essere sufficiente. Per risolvere questo problema, puoi collegare tra loro diversi modelli con prompt, insieme a chiamate ad API esterne e logica espressa come codice. Una sequenza di componenti del modello con prompt collegati in questo modo è comunemente nota come catena.
Il seguente diagramma mostra i componenti di una catena e il relativo processo di sviluppo.
Mitigazione per l'aggiornamento e le allucinazioni
Due pattern comuni basati su catene che possono mitigare la recency e le allucinazioni sono la Retrieval-Augmented Generation (RAG) (PDF) e gli agenti.
- La RAG migliora i modelli preaddestrati con le conoscenze recuperate dai database, il che evita la necessità di preaddestramento. La RAG consente la fondatezza e riduce le allucinazioni incorporando informazioni oggettive aggiornate direttamente nel processo di generazione.
- Gli agenti, resi popolari dalla tecnica di prompting ReAct (PDF), utilizzano gli LLM come mediatori che interagiscono con vari strumenti, tra cui sistemi RAG, API interne o esterne, estensioni personalizzate o persino altri agenti. Gli agenti consentono query complesse e azioni in tempo reale selezionando e utilizzando dinamicamente fonti di informazioni pertinenti. Il modello LLM, che agisce come un agente, interpreta la query dell'utente, decide quale strumento utilizzare e formula la risposta in base alle informazioni recuperate.
Puoi utilizzare la RAG e gli agenti per creare sistemi multi-agente connessi a grandi reti di informazioni, consentendo una gestione sofisticata delle query e un processo decisionale in tempo reale.
L'orchestrazione di diversi modelli, logica e API non è una novità per le applicazioni di AI generativa. Ad esempio, i motori per suggerimenti combinano modelli di filtro collaborativo, modelli basati sui contenuti e regole aziendali per generare suggerimenti personalizzati sui prodotti per gli utenti. Analogamente, nel rilevamento delle frodi, i modelli di machine learning sono integrati con sistemi basati su regole e origini dati esterne per identificare attività sospette.
Ciò che rende diverse queste catene di componenti di AI generativa è che non è possibile caratterizzare in anticipo la distribuzione degli input dei componenti, il che rende i singoli componenti molto più difficili da valutare e gestire in modo isolato. L'orchestrazione causa un cambiamento di paradigma nel modo in cui sviluppi applicazioni di AI per l'AI generativa.
Nell'AI predittiva, puoi eseguire l'iterazione dei singoli modelli e componenti in modo isolato e poi concatenarli nell'applicazione AI. Nell'AI generativa, sviluppi una catena durante l'integrazione, esegui la sperimentazione sulla catena end-to-end e iteri strategie di concatenamento, prompt, foundation model e altre API in modo coordinato per raggiungere un obiettivo specifico. Spesso non sono necessari il feature engineering, la raccolta dei dati o ulteriori cicli di addestramento del modello, ma solo modifiche alla formulazione del template di prompt.
Il passaggio a MLOps per l'AI generativa, rispetto a MLOps per l'AI predittiva, comporta le seguenti differenze:
- Valutazione: a causa dell'alto accoppiamento delle catene, queste richiedono una valutazione end-to-end, non solo per ogni componente, per misurare le prestazioni complessive e la qualità dell'output. In termini di tecniche e metriche di valutazione, la valutazione delle catene è simile alla valutazione dei modelli con prompt.
- Controllo delle versioni: devi gestire una catena come un artefatto completo nella sua interezza. Devi monitorare la configurazione della catena con la relativa cronologia delle revisioni per l'analisi, la riproducibilità e per comprendere gli effetti delle modifiche sull'output. I log devono includere gli input, gli output, gli stati intermedi della catena e tutte le configurazioni della catena utilizzate durante ogni esecuzione.
- Monitoraggio continuo: per rilevare il peggioramento delle prestazioni, la deviazione dei dati o un comportamento imprevisto nella catena, devi configurare sistemi di monitoraggio proattivo. Il monitoraggio continuo aiuta a garantire l'identificazione tempestiva di potenziali problemi per mantenere la qualità dell'output generato.
- Introspezione: devi ispezionare i flussi di dati interni di una catena (ovvero gli input e gli output di ogni componente), nonché gli input e gli output dell'intera catena. Fornendo visibilità sui dati che fluiscono attraverso la catena e sui contenuti risultanti, gli sviluppatori possono individuare le fonti di errori, bias o comportamenti indesiderati.
Il seguente diagramma mostra come catene, componenti del modello con prompt e ottimizzazione del modello interagiscono in un'applicazione di AI generativa per ridurre l'obsolescenza e le allucinazioni. I dati vengono curati, i modelli vengono ottimizzati e vengono aggiunte catene per perfezionare ulteriormente le risposte. Dopo aver valutato i risultati, gli sviluppatori possono registrare l'esperimento e continuare a eseguire l'iterazione.
Ottimizzazione
Quando sviluppi un caso d'uso di AI generativa che coinvolge foundation model, può essere difficile, soprattutto per attività complesse, fare affidamento solo sul prompt engineering e sul concatenamento per risolvere il caso d'uso. Per migliorare le prestazioni delle attività, gli sviluppatori spesso devono ottimizzare direttamente il modello. L'ottimizzazione consente di modificare attivamente tutti i livelli o un sottoinsieme di livelli (ottimizzazione efficiente dei parametri) del modello per ottimizzare la sua capacità di eseguire una determinata attività. I modi più comuni per ottimizzare un modello sono i seguenti:
- Fine-tuning supervisionato: addestri il modello in modo supervisionato, insegnandogli a prevedere la sequenza di output corretta per un determinato input.
- Apprendimento per rinforzo con feedback umano (RLHF): addestri un modello di ricompensa per prevedere ciò che gli esseri umani preferirebbero come risposta. Poi, utilizzi questo modello di ricompensa per indirizzare l'LLM nella giusta direzione durante il processo di ottimizzazione. Questo processo è simile a quello di un gruppo di giudici umani che guidano l'apprendimento del modello.
Il seguente diagramma mostra come l'ottimizzazione aiuta a perfezionare il modello durante il ciclo di sperimentazione.
In MLOps, l'ottimizzazione condivide le seguenti funzionalità con l'addestramento del modello:
- La possibilità di monitorare gli artefatti che fanno parte del job di ottimizzazione. Ad esempio, gli artefatti includono i dati di input o i parametri utilizzati per ottimizzare il modello.
- La possibilità di misurare l'impatto dell'ottimizzazione. Questa funzionalità ti consente di valutare il modello ottimizzato per le attività specifiche su cui è stato addestrato e di confrontare i risultati con i modelli ottimizzati in precedenza o con i modelli bloccati per la stessa attività.
Addestramento e ottimizzazione continui
In MLOps, l'addestramento continuo è la pratica di riaddestrare ripetutamente i modelli di machine learning in un ambiente di produzione. L'addestramento continuo aiuta a garantire che il modello rimanga aggiornato e funzioni bene man mano che i pattern dei dati reali cambiano nel tempo. Per i modelli di AI generativa, l'ottimizzazione continua dei modelli è spesso più pratica di un processo di riaddestramento a causa degli elevati costi di dati e di calcolo coinvolti.
L'approccio all'ottimizzazione continua dipende dal caso d'uso e dagli obiettivi specifici. Per attività relativamente statiche come il riassunto di testi, i requisiti di ottimizzazione continua potrebbero essere inferiori. Tuttavia, per applicazioni dinamiche come i chatbot che richiedono un allineamento umano costante, è necessaria un'ottimizzazione più frequente utilizzando tecniche come l'RLHF basate sul feedback umano.
Per determinare la strategia di ottimizzazione continua corretta, devi valutare la natura del tuo caso d'uso e il modo in cui i dati di input si evolvono nel tempo. Anche il costo è un fattore importante, poiché l'infrastruttura di computing influisce notevolmente sulla velocità e sulla spesa dell'ottimizzazione. Le unità di elaborazione grafica (GPU) e le unità di elaborazione tensoriale (TPU) sono l'hardware necessario per l'ottimizzazione. Le GPU, note per la loro potenza di elaborazione parallela, sono molto efficaci nella gestione di workload ad alta intensità di calcolo e sono spesso associate all'addestramento e all'esecuzione di modelli di machine learning complessi. Le TPU, invece, sono progettate specificamente da Google per accelerare le attività di machine learning. Le TPU sono eccellenti nella gestione di operazioni con matrici di grandi dimensioni, comuni nelle reti neurali di deep learning.
Pratiche relative ai dati
In precedenza, il comportamento del modello ML era dettato esclusivamente dai dati di addestramento. Sebbene questo sia ancora vero per i foundation model, il comportamento del modello per le applicazioni di AI generativa basate sui foundation model è determinato dal modo in cui adatti il modello con diversi tipi di dati di input.
I foundation model vengono addestrati su dati come i seguenti:
- Set di dati di pre-addestramento (ad esempio C4, The Pile o dati proprietari)
- Set di dati per l'ottimizzazione delle istruzioni
- Set di dati per l'ottimizzazione della sicurezza
- Dati sulle preferenze umane
Le applicazioni di AI generativa vengono adattate in base a dati come i seguenti:
- Prompt
- Dati aumentati o fondati (ad esempio siti web, documenti, PDF, database o API)
- Dati specifici per l'attività per il PEFT
- Valutazioni specifiche per le attività
- Dati sulle preferenze umane
La differenza principale per le pratiche relative ai dati tra l'ML predittivo e l'AI generativa si trova all'inizio del processo del ciclo di vita. Nel ML predittivo, si dedica molto tempo al data engineering e, se non si hanno i dati giusti, non è possibile creare un'applicazione. Nell'AI generativa, si inizia con un foundation model, alcune istruzioni ed eventualmente alcuni input di esempio (come l'apprendimento in-context). Puoi creare un prototipo e lanciare un'applicazione con pochissimi dati.
La facilità di prototipazione, tuttavia, comporta l'ulteriore sfida di gestire dati diversi. L'AI predittiva si basa su set di dati ben definiti. Nell'AI generativa, una singola applicazione può utilizzare vari tipi di dati, provenienti da origini dati completamente diverse, che funzionano tutti insieme.
Considera i seguenti tipi di dati:
- Prompt di condizionamento: istruzioni fornite al foundation model per guidare il suo output e stabilire i limiti di ciò che può generare.
- Esempi few-shot: un modo per mostrare al modello ciò che vuoi ottenere tramite coppie di input e output. Questi esempi aiutano il modello a comprendere le attività specifiche e, in molti casi, possono migliorare le prestazioni.
- Dati di grounding o miglioramento: i dati che consentono al foundation model di produrre risposte per un contesto specifico e di mantenerle aggiornate e pertinenti senza dover riaddestrare l'intero foundation model. Questi dati possono provenire da API esterne (come la Ricerca Google) o da API e origini dati interne.
- Set di dati specifici per l'attività: i set di dati che aiutano a ottimizzare un foundation model esistente per una determinata attività, migliorandone le prestazioni in quell'area specifica.
- Set di dati di pre-addestramento completi: i set di dati di grandi dimensioni utilizzati per l'addestramento iniziale dei foundation model. Sebbene gli sviluppatori di applicazioni potrebbero non avere accesso a questi o ai tokenizer, le informazioni codificate nel modello stesso influenzano l'output e le prestazioni dell'applicazione.
Questa vasta gamma di tipi di dati aggiunge un livello di complessità in termini di organizzazione, monitoraggio e gestione del ciclo di vita dei dati. Ad esempio, un'applicazione basata su RAG può riscrivere le query degli utenti, raccogliere dinamicamente esempi pertinenti utilizzando un insieme di esempi selezionati, eseguire query su un database vettoriale e combinare le informazioni con un template di prompt. Un'applicazione basata su RAG richiede la gestione di più tipi di dati, tra cui query degli utenti, database vettoriali con esempi few-shot selezionati e informazioni aziendali, nonché template di prompt.
Ogni tipo di dati richiede un'organizzazione e una manutenzione attente. Ad esempio, un database vettoriale richiede l'elaborazione dei dati in embedding, l'ottimizzazione delle strategie di suddivisione in blocchi e la garanzia che siano disponibili solo le informazioni pertinenti. Un template di prompt richiede il controllo delle versioni e il monitoraggio, mentre le query degli utenti devono essere riscritte. Le best practice di MLOps e DevOps possono essere utili per queste attività. Nell'AI predittiva, crei pipeline di dati per l'estrazione, la trasformazione e il caricamento. Nell'AI generativa, crei pipeline per gestire, evolvere, adattare e integrare diversi tipi di dati in modo versionabile, tracciabile e riproducibile.
L'ottimizzazione dei foundation model può migliorare le prestazioni delle applicazioni di AI generativa, ma i modelli hanno bisogno di dati. Puoi ottenere questi dati avviando l'applicazione e raccogliendo dati reali, generando dati sintetici o una combinazione di entrambi. L'utilizzo di modelli di grandi dimensioni per generare dati sintetici sta diventando popolare perché questo metodo accelera il processo di deployment, ma è comunque importante che gli esseri umani controllino i risultati per la garanzia di qualità. Di seguito sono riportati alcuni esempi di come puoi utilizzare i modelli di grandi dimensioni per il data engineering:
- Generazione di dati sintetici: questo processo prevede la creazione di dati artificiali che assomigliano molto ai dati reali in termini di caratteristiche e proprietà statistiche. I modelli di grandi dimensioni e potenti spesso completano questa attività. I dati sintetici fungono da dati di addestramento aggiuntivi per l'AI generativa, consentendole di apprendere pattern e relazioni anche quando i dati reali etichettati sono scarsi.
- Correzione dei dati sintetici: questa tecnica si concentra sull'identificazione e sulla correzione di errori e incoerenze all'interno dei set di dati etichettati esistenti. Sfruttando la potenza di modelli più grandi, l'AI generativa può segnalare potenziali errori di etichettatura e proporre correzioni per migliorare la qualità e l'affidabilità dei dati di addestramento.
- Aumento dei dati sintetici: questo approccio va oltre la generazione di nuovi dati. L'augmentation dei dati sintetici prevede la manipolazione intelligente dei dati esistenti per creare diverse varianti, preservando al contempo le caratteristiche e le relazioni essenziali. L'AI generativa può incontrare una gamma più ampia di scenari rispetto all'AI predittiva durante l'addestramento, il che porta a una migliore generalizzazione e alla capacità di generare output sfumati e pertinenti.
A differenza dell'AI predittiva, è difficile valutare l'AI generativa. Ad esempio, potresti non conoscere la distribuzione dei dati di addestramento dei foundation model. Devi creare un set di dati di valutazione personalizzato che rifletta tutti i tuoi casi d'uso, inclusi i casi essenziali, medi e limite. Analogamente ai dati di ottimizzazione, puoi utilizzare LLM potenti per generare, curare e migliorare i dati per creare set di dati di valutazione solidi.
Valutazione
Il processo di valutazione è un'attività fondamentale dello sviluppo di applicazioni di AI generativa. La valutazione può avere diversi gradi di automazione: da completamente guidata da persone a completamente automatizzata da un processo.
Quando crei il prototipo di un progetto, la valutazione è spesso un processo manuale. Gli sviluppatori esaminano gli output del modello per farsi un'idea qualitativa delle sue prestazioni. Tuttavia, man mano che il progetto matura e il numero di scenari di test aumenta, la valutazione manuale diventa un collo di bottiglia.
L'automazione della valutazione offre due grandi vantaggi: consente di procedere più rapidamente e rende le valutazioni più affidabili. Inoltre, elimina la soggettività umana dall'equazione, il che contribuisce a garantire che i risultati siano riproducibili.
Tuttavia, l'automazione della valutazione per le applicazioni di AI generativa presenta una serie di sfide. Ad esempio, prendi in considerazione quanto segue:
- Sia gli input (prompt) che gli output possono essere incredibilmente complessi. Un singolo prompt potrebbe includere più istruzioni e vincoli che il modello deve gestire. Gli output stessi sono spesso ad alta dimensionalità, come un'immagine generata o un blocco di testo. È difficile acquisire la qualità di questi output in una metrica semplice. Alcune metriche consolidate, come BLEU per le traduzioni e ROUGE per i riassunti, non sono sempre sufficienti. Pertanto, puoi utilizzare metodi di valutazione personalizzati o un altro foundation model per valutare il tuo sistema. Ad esempio, puoi chiedere a un modello linguistico di grandi dimensioni (come AutoSxS) di valutare la qualità dei testi generati in base a varie dimensioni.
- Molte metriche di valutazione per l'AI generativa sono soggettive. Ciò che rende un output migliore di un altro può essere una questione di opinione. Devi assicurarti che la valutazione automatizzata sia in linea con il giudizio umano, perché vuoi che le tue metriche siano un proxy affidabile di ciò che penserebbero le persone. Per garantire la comparabilità tra gli esperimenti, devi determinare l'approccio e le metriche di valutazione nelle prime fasi del processo di sviluppo.
- Mancanza di dati di fatto, soprattutto nelle fasi iniziali di un progetto. Una soluzione alternativa è generare dati sintetici che fungano da dati di fatto temporanei che puoi perfezionare nel tempo con il feedback umano.
- Una valutazione completa è essenziale per proteggere le applicazioni di AI generativa dagli attacchi avversari. I malintenzionati possono creare prompt per tentare di estrarre informazioni sensibili o manipolare gli output del modello. I set di valutazione devono affrontare in modo specifico questi vettori d'attacco, attraverso tecniche come il prompt fuzzing (fornire al modello variazioni casuali dei prompt) e il test per la fuga di informazioni.
Per valutare le applicazioni di AI generativa, implementa quanto segue:
- Automatizza il processo di valutazione per garantire velocità, scalabilità e riproducibilità. Puoi considerare l'automazione come un proxy per il giudizio umano.
- Personalizza il processo di valutazione in base alle esigenze dei tuoi casi d'uso.
- Per garantire la comparabilità, stabilizza l'approccio di valutazione, le metriche e i dati di fatto il prima possibile nella fase di sviluppo.
- Genera dati di fatto sintetici per compensare la mancanza di dati di fatto reali.
- Includi scenari di test di prompt malevoli nel set di valutazione per testare l'affidabilità del sistema stesso contro questi attacchi.
Esegui il deployment
Le applicazioni di AI generativa a livello di produzione sono sistemi complessi con molti componenti che interagiscono tra loro. Per eseguire il deployment di un'applicazione di AI generativa in produzione, devi gestire e coordinare questi componenti con le fasi precedenti dello sviluppo dell'applicazione di AI generativa. Ad esempio, una singola applicazione potrebbe utilizzare diversi LLM insieme a un database, tutti alimentati da una pipeline di dati dinamica. Ognuno di questi componenti può richiedere un proprio processo di deployment.
Il deployment di applicazioni di AI generativa è simile a quello di altri sistemi software complessi, perché devi eseguire il deployment di componenti di sistema come database e applicazioni Python. Ti consigliamo di utilizzare pratiche di ingegneria del software standard, come il controllo della versione e CI/CD.
Controllo delle versioni
La sperimentazione con l'AI generativa è un processo iterativo che prevede cicli ripetuti di sviluppo, valutazione e modifica. Per garantire un approccio strutturato e gestibile, devi implementare un controllo delle versioni rigoroso per tutti i componenti modificabili. Questi componenti includono:
- Template di prompt: a meno che non utilizzi soluzioni specifiche per la gestione dei prompt, utilizza strumenti di controllo della versione per monitorare le versioni.
- Definizioni della catena: utilizza gli strumenti di controllo della versione per monitorare le versioni del codice che definisce la catena (tra cui integrazioni API, chiamate al database e funzioni).
- Set di dati esterni: nei sistemi RAG, i set di dati esterni svolgono un ruolo importante. Utilizza le soluzioni di analisi dei dati esistenti, come BigQuery, AlloyDB per PostgreSQL e Feature Store della piattaforma degli agenti, per monitorare queste modifiche e le versioni di questi set di dati.
- Modelli di adattatore: tecniche come l'ottimizzazione LoRA per i modelli di adattatore sono in continua evoluzione. Utilizza soluzioni di archiviazione dei dati consolidate (ad esempio Cloud Storage) per gestire e controllare le versioni di questi asset in modo efficace.
Integrazione continua
In un framework di integrazione continua, ogni modifica al codice viene sottoposta a test automatici prima dell'unione per rilevare tempestivamente i problemi. I test di unità e di integrazione sono importanti per la qualità e l'affidabilità. I test delle unità si concentrano su singole parti di codice, mentre i test di integrazione verificano che i diversi componenti funzionino insieme.
L'implementazione di un sistema di integrazione continua consente di:
- Garantire output affidabili e di alta qualità: test rigorosi aumentano la fiducia nelle prestazioni e nella coerenza del sistema.
- Rilevamento tempestivo dei bug: l'identificazione dei problemi tramite i test impedisce che causino problemi più gravi in un secondo momento. Individuare i bug in anticipo rende il sistema più robusto e resiliente ai casi limite e agli input imprevisti.
- Costi di manutenzione ridotti: gli scenari di test ben documentati semplificano la risoluzione dei problemi e consentono modifiche più semplici in futuro, riducendo le attività di manutenzione complessive.
Questi vantaggi sono applicabili alle applicazioni di AI generativa. Applica l'integrazione continua a tutti gli elementi del sistema, inclusi i template di prompt, la catena, la logica di concatenamento, i modelli incorporati e i sistemi di recupero.
Tuttavia, l'applicazione dell'integrazione continua all'AI generativa comporta le seguenti sfide:
- Difficoltà di generazione di scenari di test completi: la natura complessa e aperta degli output dell'AI generativa rende difficile definire e creare un insieme esaustivo di scenari di test che coprano tutte le possibilità.
- Problemi di riproducibilità: ottenere risultati deterministici e riproducibili è difficile perché i modelli generativi spesso presentano casualità e variabilità intrinseche nei loro output, anche per input identici. Questa casualità rende più difficile testare in modo coerente i comportamenti previsti.
Queste sfide sono strettamente correlate alla questione più ampia di come valutare le applicazioni di AI generativa. Puoi applicare molte delle stesse tecniche di valutazione allo sviluppo di sistemi di CI per l'AI generativa.
Distribuzione continua
Dopo l'unione del codice, un processo di distribuzione continua inizia a spostare il codice creato e testato in ambienti che assomigliano molto alla produzione per ulteriori test prima del deployment finale.
Come descritto in Sviluppa e sperimenta, gli elementi della catena diventano uno dei componenti principali di cui eseguire il deployment perché costituiscono fondamentalmente l'applicazione di AI generativa. Il processo di distribuzione per l'applicazione di AI generativa che contiene la catena potrebbe variare a seconda dei requisiti di latenza e del fatto che il caso d'uso sia batch o online.
I casi d'uso batch richiedono il deployment di un processo batch eseguito in base a una pianificazione in produzione. Il processo di distribuzione si concentra sul test dell'intera pipeline in integrazione in un ambiente simile a quello di produzione prima del deployment. Nell'ambito del processo di test, gli sviluppatori possono dichiarare requisiti specifici relativi al throughput del processo di elaborazione batch stesso e verificare che tutti i componenti dell'applicazione funzionino correttamente. Ad esempio, gli sviluppatori possono controllare le autorizzazioni, l'infrastruttura e le dipendenze del codice.
I casi d'uso online richiedono il deployment di un'API, ovvero l'applicazione che contiene la catena ed è in grado di rispondere agli utenti con una bassa latenza. Il tuo processo di distribuzione prevede il test dell'API in integrazione in un ambiente simile a quello di produzione. Questi test verificano che tutti i componenti dell'applicazione funzionino correttamente. Puoi verificare i requisiti non funzionali (ad esempio scalabilità, affidabilità e prestazioni) tramite una serie di test, inclusi i test di carico.
Elenco di controllo per il deployment
Il seguente elenco descrive i passaggi da seguire per eseguire il deployment di un'applicazione di AI generativa utilizzando un servizio gestito come Gemini Enterprise Agent Platform:
- Configura il controllo della versione: implementa pratiche di controllo della versione per i deployment dei modelli. Il controllo della versione ti consente di eseguire il rollback alle versioni precedenti, se necessario, e di monitorare le modifiche apportate al modello o alla configurazione del deployment.
- Ottimizza il modello: esegui le attività di ottimizzazione del modello (distillazione, quantizzazione e pruning) prima di pacchettizzare o eseguire il deployment del modello.
- Containerizza il modello: pacchettizza il modello addestrato in un container.
- Definisci i requisiti hardware di destinazione: assicurati che l'ambiente di deployment di destinazione soddisfi i requisiti per prestazioni ottimali del modello, come GPU, TPU e altri acceleratori hardware specializzati.
- Definisci l'endpoint del modello: specifica il container del modello, il formato di input, il formato di output e gli eventuali parametri di configurazione aggiuntivi.
- Alloca le risorse: alloca le risorse di computing appropriate per l'endpoint in base al traffico previsto e ai requisiti di prestazioni.
- Configura controllo dell'accesso: configura i meccanismi di controllo dell'accesso per limitare l'accesso all'endpoint in base alle policy di autenticazione e autorizzazione. Il controllo degli accessi contribuisce a garantire che solo gli utenti o i servizi autorizzati possano interagire con il modello di cui è stato eseguito il deployment.
- Crea endpoint del modello: crea un endpoint per eseguire il deployment del modello come servizio API REST. L'endpoint consente ai client di inviare richieste all'endpoint e ricevere risposte dal modello.
- Configura il monitoraggio e il logging: configura i sistemi di monitoraggio e logging per monitorare le prestazioni, l'utilizzo delle risorse e i log degli errori dell'endpoint.
- Esegui il deployment di integrazioni personalizzate: integra il modello in applicazioni o servizi personalizzati utilizzando l'SDK o le API del modello.
- Esegui il deployment di applicazioni in tempo reale: crea una pipeline di streaming che elabora i dati e genera risposte in tempo reale.
Logging e monitoraggio
Il monitoraggio delle applicazioni di AI generativa e dei relativi componenti richiede tecniche che puoi aggiungere a quelle di monitoraggio che utilizzi per le MLOps convenzionali. Devi registrare e monitorare l'applicazione end-to-end, il che include la registrazione e il monitoraggio dell'input e dell'output complessivi dell'applicazione e di ogni componente.
Gli input dell'applicazione attivano più componenti per produrre gli output. Se l'output di un determinato input è oggettivamente impreciso, devi determinare quale dei componenti non ha funzionato correttamente. Devi avere la derivazione nel logging per tutti i componenti eseguiti. Devi anche mappare gli input e i componenti con eventuali artefatti e parametri aggiuntivi da cui dipendono, in modo da poter analizzare gli input e gli output.
Quando applichi il monitoraggio, dai la priorità al monitoraggio a livello di applicazione. Se il monitoraggio a livello di applicazione dimostra che l'applicazione ha un buon rendimento, significa che anche tutti i componenti hanno un buon rendimento. In seguito, applica il monitoraggio ai componenti del modello con prompt per ottenere risultati più granulari e una migliore comprensione della tua applicazione.
Come per il monitoraggio convenzionale in MLOps, devi eseguire il deployment di un processo di avviso per notificare ai proprietari dell'applicazione quando viene rilevato un drift, uno skew o un decadimento delle prestazioni. Per configurare gli avvisi, devi integrare gli strumenti di avviso e notifica nel processo di monitoraggio.
Le sezioni seguenti descrivono le attività di monitoraggio di disallineamento e deviazione e di valutazione continua. Inoltre, il monitoraggio in MLOps include il monitoraggio delle metriche per l'integrità complessiva del sistema, come l'utilizzo delle risorse e la latenza. Queste metriche di efficienza si applicano anche alle applicazioni di AI generativa.
Rilevamento del disallineamento
Il rilevamento del disallineamento nei sistemi ML convenzionali si riferisce al disallineamento addestramento/produzione che si verifica quando la distribuzione dei dati delle caratteristiche in produzione si discosta dalla distribuzione dei dati delle caratteristiche osservata durante l'addestramento del modello. Per le applicazioni di AI generativa che utilizzano modelli preaddestrati in componenti concatenati per produrre l'output, devi anche misurare lo skew. Puoi misurare il disallineamento confrontando la distribuzione dei dati di input utilizzati per valutare l'applicazione e la distribuzione degli input dell'applicazione in produzione. Se le due distribuzioni si allontanano, devi indagare ulteriormente. Puoi applicare lo stesso processo anche ai dati di output.
Rilevamento della deviazione
Come il rilevamento del disallineamento, il rilevamento della deviazione verifica la presenza di differenze statistiche tra due set di dati. Tuttavia, anziché confrontare le valutazioni e gli input di pubblicazione, la deviazione cerca le modifiche nei dati di input. La deviazione ti consente di valutare gli input e, di conseguenza, il modo in cui il comportamento degli utenti cambia nel tempo.
Dato che l'input dell'applicazione è in genere un testo, puoi utilizzare metodi diversi per misurare lo skew e il drift. In generale, questi metodi cercano di identificare cambiamenti significativi nei dati di produzione, sia testuali (come le dimensioni dell'input) sia concettuali (come gli argomenti nell'input), rispetto al set di dati di valutazione. Tutti questi metodi cercano modifiche che potrebbero indicare che l'applicazione potrebbe non essere pronta a gestire correttamente la natura dei nuovi dati in arrivo. Alcuni metodi comuni includono:
- Calcolo di embedding e distanze
- Conteggio della lunghezza del testo e del numero di token
- Monitoraggio delle modifiche al vocabolario, dei nuovi concetti e intent, dei prompt e degli argomenti nei set di dati
- Utilizzando approcci statistici come la differenza di densità dei minimi quadrati (PDF), la discrepanza media massima (MMD), l'MMD del kernel appreso (PDF) o l'MMD sensibile al contesto.
Poiché i casi d'uso dell'AI generativa sono molto diversi, potresti aver bisogno di metriche personalizzate aggiuntive che acquisiscano meglio le modifiche impreviste nei tuoi dati.
Valutazione continua
La valutazione continua è un altro approccio comune al monitoraggio delle applicazioni di AI generativa. In un sistema di valutazione continua, acquisisci l'output di produzione del modello ed esegui un'attività di valutazione utilizzando questo output per monitorare le prestazioni del modello nel tempo. Puoi raccogliere feedback diretto degli utenti, ad esempio valutazioni, che forniscono insight immediati sulla qualità percepita degli output. In parallelo, il confronto delle risposte generate dal modello con i dati di fatto stabiliti consente un'analisi più approfondita delle prestazioni. Puoi raccogliere dati di fatto tramite la valutazione umana o come risultato di un approccio con modello di AI di ensemble per generare metriche di valutazione. Questo processo fornisce una panoramica di come le metriche di valutazione sono cambiate dal momento in cui hai sviluppato il modello a quello che hai in produzione oggi.
Regola
Nel contesto di MLOps, la governance comprende tutte le pratiche e le policy che stabiliscono il controllo, la responsabilità e la trasparenza sullo sviluppo, sul deployment e sulla gestione continua dei modelli di machine learning, incluse tutte le attività relative ai cicli di vita di codice, dati e modelli.
Nelle applicazioni di AI predittiva, la derivazione si concentra sul monitoraggio e sulla comprensione del percorso completo di un modello di machine learning. Nell'AI generativa, la derivazione va oltre l'artefatto del modello per estendersi a tutti i componenti della catena. Il monitoraggio include i dati, i modelli, la derivazione dei modelli, il codice e i relativi dati e metriche di valutazione. Il monitoraggio della derivazione può aiutarti a controllare, eseguire il debug e migliorare i tuoi modelli.
Oltre a queste nuove pratiche, puoi gestire il ciclo di vita dei dati e i cicli di vita dei componenti dell'AI generativa utilizzando le pratiche MLOps e DevOps standard.
Passaggi successivi
Esegui il deployment di un'applicazione di AI generativa utilizzando Agent Platform
Autori: Anant Nawalgaria, Christos Aniftos, Elia Secchi, Gabriela Hernandez Larios, Mike Styer e Onofrio Petragallo