MLOps sulla piattaforma agentica Gemini Enterprise

Questa sezione descrive i servizi di Gemini Enterprise Agent Platform che ti aiutano a implementare le operazioni di machine learning (MLOps) con il tuo flusso di lavoro di machine learning (ML).

Dopo il deployment, i modelli devono stare al passo con i dati in evoluzione dell'ambiente per funzionare in modo ottimale e rimanere pertinenti. MLOps è un insieme di pratiche che migliorano la stabilità e l'affidabilità dei sistemi ML.

Gli strumenti MLOps di Gemini Enterprise Agent Platform ti aiutano a collaborare tra i team di AI e a migliorare i tuoi modelli tramite monitoraggio, avvisi, diagnosi e spiegazioni utili dei modelli predittivi. Tutti gli strumenti sono modulari, quindi puoi integrarli nei tuoi sistemi esistenti in base alle tue esigenze.

Per saperne di più su MLOps, consulta Pipeline di distribuzione continua e automazione nel machine learning e Guida alle MLOps per professionisti.

diagramma delle funzionalità MLOps

  • Orchestrare i workflow: l'esecuzione manuale di processi di elaborazione ML in più passaggi può richiedere molto tempo ed essere soggetta a errori. Per automatizzare, monitorare e gestire le tue pipeline, Google Cloud fornisce orchestratori personalizzati in base all'ambito della tua architettura:

    • Pipeline di Gemini Enterprise Agent Platform: un orchestratore serverless ideale per workflow di ML container-native autonomi che operano rigorosamente all'interno dell'ecosistema di Agent Platform utilizzando Kubeflow Pipelines o TFX. È la scelta più semplice per i loop di addestramento e deployment dei modelli puri.

    • Managed Service for Apache Airflow: un ambiente Apache Airflow completamente gestito, ideale per MLOps aziendali end-to-end. Se la tua pipeline richiede eterogeneità (ad esempio l'orchestrazione di pipeline di dati in BigQuery o Dataflow, l'addestramento in Agent Platform e l'invio di previsioni a CRM o data lake esterni), Managed Airflow funge da control plane unificato. Elimina il debito tecnico dei container personalizzati grazie alla sua vasta libreria di oltre 1000 integrazioni predefinite. In alternativa alla scrittura di DAG Python Airflow, Managed Airflow offre Orchestration Pipelines, un framework YAML dichiarativo che fornisce una matrice pronta all'uso di motori di esecuzione per eseguire job PySpark su Managed Service for Apache Spark o job SQL su BigQuery.

  • Gestione e scalabilità dei job di addestramento: la gestione efficiente delle risorse di computing per l'addestramento è una sfida fondamentale di MLOps, soprattutto quando si passa dalla sperimentazione alla produzione. Vertex AI Training risolve questo problema fornendo servizi flessibili e completamente gestiti con opzioni di computing adatte all'intero ciclo di vita del ML.

    • Per la sperimentazione e i workload variabili, l'addestramento personalizzato prevede la piattaforma serverless predefinita che esegue il provisioning delle risorse on demand, offrendo la massima flessibilità.

    • Per workload su larga scala e prevedibili, i cluster di addestramento di Gemini Enterprise Agent Platform su cluster prenotati forniscono un ambiente permanente e dedicato che garantisce la disponibilità delle risorse, offre prestazioni stabili e aiuta a ottimizzare i costi per i team con un utilizzo elevato.

  • Monitora i metadati utilizzati nel tuo sistema ML: nella data science, è importante monitorare i parametri, gli artefatti e le metriche utilizzati nel flusso di lavoro ML, soprattutto quando lo ripeti più volte.

    • Vertex ML Metadata ti consente di registrare i metadati, i parametri e gli artefatti utilizzati nel tuo sistema ML. Puoi quindi eseguire query su questi metadati per analizzare, eseguire il debug e controllare le prestazioni del tuo sistema ML o degli artefatti che produce.
  • Identifica il modello migliore per un caso d'uso: quando provi nuovi algoritmi di addestramento, devi sapere quale modello addestrato offre le prestazioni migliori.

    • Vertex AI Experiments ti consente di monitorare e analizzare diverse architetture di modelli, iperparametri e ambienti di addestramento per identificare il modello migliore per il tuo caso d'uso.

    • Vertex AI TensorBoard ti aiuta a monitorare, visualizzare e confrontare gli esperimenti di ML per misurare le prestazioni dei tuoi modelli.

  • Gestisci le versioni dei modelli: l'aggiunta di modelli a un repository centrale ti aiuta a tenere traccia delle versioni dei modelli.

    • Model Registry di Gemini Enterprise Agent Platform fornisce una panoramica dei tuoi modelli per organizzare, monitorare e addestrare meglio le nuove versioni. Da Model Registry puoi valutare i modelli, eseguirne il deployment in un endpoint, creare inferenze batch e visualizzare i dettagli di modelli e versioni di modelli specifici.
  • Gestione delle caratteristiche: quando riutilizzi le caratteristiche ML in più team, hai bisogno di un modo rapido ed efficiente per condividerle e gestirle.

    • Vertex AI Feature Store fornisce un repository centralizzato per l'organizzazione, l'archiviazione e la distribuzione di caratteristiche di ML. L'utilizzo di un archivio di caratteristiche centrale consente a un'organizzazione di riutilizzare le caratteristiche di ML su larga scala e di aumentare la velocità di sviluppo e deployment di nuove applicazioni di ML.
  • Monitora la qualità del modello: un modello di cui è stato eseguito il deployment in produzione offre le prestazioni migliori con dati di input di inferenza simili ai dati di addestramento. Quando i dati di input si discostano da quelli utilizzati per addestrare il modello, le prestazioni del modello possono peggiorare, anche se il modello stesso non è cambiato.

    • Gemini Enterprise Agent Platform Model Monitoring monitora i modelli per rilevare il disallineamento addestramento/erogazione e la deriva dell'inferenza e ti invia avvisi quando la distorsione dei dati di inferenza in entrata si discosta troppo dalla base di riferimento dell'addestramento. Puoi utilizzare gli avvisi e le distribuzioni delle caratteristiche per valutare se è necessario riaddestrare il modello.
  • Scala le applicazioni AI e Python: Ray è un framework open source per la scalabilità delle applicazioni AI e Python. Ray fornisce l'infrastruttura per eseguire il computing distribuito e l'elaborazione parallela per il tuo workflow di machine learning (ML).

    • Ray on Agent Platform è progettato per consentirti di utilizzare lo stesso codice Ray open source per scrivere programmi e sviluppare applicazioni su Gemini Enterprise Agent Platform con modifiche minime. Puoi quindi utilizzare le integrazioni di Gemini Enterprise Agent Platform con altri servizi Google Cloud come Vertex AI Inference e BigQuery nell'ambito del tuo flusso di lavoro di machine learning (ML).

Passaggi successivi