MLOps auf der Gemini Enterprise Agent Platform

In diesem Abschnitt werden Gemini Enterprise Agent Platform-Dienste beschrieben, die Sie bei der Implementierung von Vorgängen für maschinelles Lernen (MLOps) mit Ihrem ML-Workflow unterstützen.

Nachdem Ihre Modelle bereitgestellt wurden, müssen sie mit den sich ändernden Daten aus der Umgebung Schritt halten, um eine optimale Leistung zu erzielen und relevant zu bleiben. MLOps bestehen aus einer Reihe von Verfahren, die die Stabilität und Zuverlässigkeit Ihrer ML-Systeme verbessern.

Die MLOps-Tools der Gemini Enterprise Agent Platform unterstützen Sie bei der Zusammenarbeit von KI-Teams und bei der Verbesserung Ihrer Modelle durch Monitoring von Vorhersagemodellen, Benachrichtigungen, Diagnosen und praktisch nutzbare Erläuterungen. Alle Tools sind modular aufgebaut, sodass Sie sie nach Bedarf in Ihre vorhandenen Systeme einbinden können.

Weitere Informationen zu MLOps finden Sie unter Continuous Delivery und Pipelines zur Automatisierung beim maschinellen Lernen und im Leitfaden zu MLOps.

Diagramm zu MLOps-Funktionen

  • Workflows orchestrieren: Das manuelle Ausführen mehrstufiger ML-Prozesse kann zeitaufwendig und fehleranfällig sein. Zum Automatisieren, Überwachen und Steuern Ihrer Pipelines bietet Google Cloud Orchestratoren, die auf den Umfang Ihrer Architektur zugeschnitten sind:

    • Gemini Enterprise Agent Platform Pipelines: Ein serverloser Orchestrator, der sich ideal für eigenständige, container-native ML-Workflows eignet, die ausschließlich innerhalb des Agent Platform-Ökosystems mit Kubeflow Pipelines oder TFX ausgeführt werden. Es ist die einfachste Option für reine Modelltrainings- und Bereitstellungsschleifen.

    • Managed Service for Apache Airflow: Eine vollständig verwaltete Apache Airflow-Umgebung, die sich ideal für End-to-End-MLOps in Unternehmen eignet. Wenn Ihre Pipeline Heterogenität erfordert (z. B. Orchestrierung von Datenpipelines in BigQuery oder Dataflow, Training in der Agent Platform und Übertragung von Vorhersagen an externe CRMs oder Data Lakes), fungiert Managed Airflow als einheitliche Steuerungsebene. Dank der umfangreichen Bibliothek mit über 1.000 vordefinierten Integrationen werden technische Schulden für benutzerdefinierte Container vermieden. Als Alternative zum Schreiben von Airflow-Python-DAGs bietet Managed Airflow Orchestration Pipelines, ein deklaratives YAML-Framework, das eine sofort einsatzbereite Matrix von Ausführungs-Engines zum Ausführen von PySpark-Jobs in Managed Service for Apache Spark oder SQL-Jobs in BigQuery bereitstellt.

  • Trainingsjobs verwalten und skalieren: Die effiziente Verwaltung von Rechenressourcen für das Training ist eine zentrale Herausforderung bei MLOps, insbesondere bei der Skalierung von der Experimentierphase bis zur Produktion. Vertex AI Training bietet flexible, vollständig verwaltete Dienste mit Rechenoptionen für den gesamten ML-Lebenszyklus.

    • Für Tests und variable Arbeitslasten wird beim benutzerdefinierten Training die standardmäßige serverlose Plattform verwendet, die Ressourcen nach Bedarf bereitstellt und maximale Flexibilität bietet.

    • Für umfangreiche, vorhersehbare Arbeitslasten bieten Gemini Enterprise Agent Platform-Trainingscluster auf reservierten Clustern eine persistente, dedizierte Umgebung, die die Ressourcenverfügbarkeit sicherstellt, eine stabile Leistung liefert und die Kosten für Teams mit hoher Auslastung optimiert.

  • In Ihrem ML-System verwendete Metadaten verfolgen: In Data Science ist es wichtig, die in Ihrem ML-Workflow verwendeten Parameter, Artefakte und Messwerte zu verfolgen, insbesondere wenn Sie den Workflow oft wiederholen.

    • Mit Vertex ML Metadata können Sie die Metadaten, Parameter und Artefakte aufzeichnen, die in Ihrem ML-System verwendet werden. Anschließend können Sie diese Metadaten abfragen, um die Leistung Ihres ML-Systems oder die davon generierten Artefakte zu analysieren, zu debuggen und zu prüfen.
  • Bestes Modell für einen Anwendungsfall identifizieren: Wenn Sie neue Trainingsalgorithmen ausprobieren, müssen Sie wissen, welches trainierte Modell die beste Leistung erzielt.

    • Mit Vertex AI Experiments können Sie verschiedene Modellarchitekturen, Hyperparameter und Trainingsumgebungen verfolgen und analysieren, um das beste Modell für Ihren Anwendungsfall zu ermitteln.

    • Mit Vertex AI TensorBoard können Sie ML-Tests verfolgen, visualisieren und vergleichen, um die Leistung Ihrer Modelle zu messen.

  • Modellversionen verwalten: Durch das Hinzufügen von Modellen zu einem zentralen Repository können Sie Modellversionen im Auge behalten.

    • Gemini Enterprise Agent Platform Model Registry bietet eine Übersicht über Ihre Modelle, sodass Sie neue Versionen besser organisieren, verfolgen und trainieren können. Mit Model Registry können Sie Modelle bewerten, Modelle an einem Endpunkt bereitstellen, Batchinferenzen erstellen und Details zu bestimmten Modellen und Modellversionen aufrufen.
  • Features verwalten: Wenn Sie ML-Features über Teams hinweg wiederverwenden, benötigen Sie eine schnelle und effiziente Möglichkeit, die Features freizugeben und bereitzustellen.

    • Vertex AI Feature Store bietet ein zentrales Repository zum Organisieren, Speichern und Bereitstellen von ML-Features. Durch die Verwendung eines zentralen Feature Store kann eine Organisation ML-Features in großem Maßstab wiederverwenden und die Geschwindigkeit der Entwicklung und Bereitstellung neuer ML-Anwendungen erhöhen.
  • Modellqualität überwachen: Ein in der Produktion bereitgestelltes Modell funktioniert am besten mit Inferenz-Eingabedaten, die den Trainingsdaten ähneln. Wenn die Eingabedaten von den Daten abweichen, die zum Trainieren des Modells verwendet wurden, kann sich die Leistung des Modells verschlechtern, auch wenn sich das Modell selbst nicht geändert hat.

    • Gemini Enterprise Agent Platform Model Monitoring überwacht Modelle auf Abweichungen zwischen Training und Bereitstellung und auf Inferenzabweichungen und sendet Ihnen Benachrichtigungen, wenn die eingehenden Inferenzdaten zu weit von der Trainingsbasis abweichen. Sie können die Benachrichtigungen und Featureverteilungen verwenden, um zu bewerten, ob Sie Ihr Modell neu trainieren müssen.
  • KI- und Python-Anwendungen skalieren: Ray ist ein Open-Source-Framework zur Skalierung von KI- und Python-Anwendungen. Ray bietet die Infrastruktur für verteiltes Computing und parallele Verarbeitung für Ihren ML-Workflow („maschinelles Lernen“).

    • Ray on Agent Platform wurde so entwickelt, dass Sie denselben Open-Source-Ray-Code zum Schreiben von Programmen und Entwickeln von Anwendungen in der Gemini Enterprise Agent Platform mit minimalen Änderungen verwenden können. Anschließend können Sie die Integrationen der Gemini Enterprise Agent Platform in andere Dienste von Google Cloud wie Vertex AI Inference und BigQuery als Teil Ihres ML-Workflows verwenden.

Nächste Schritte