KI und ML: Kostenoptimierung

Last reviewed 2026-10-29 UTC

Dieses Dokument im Google Cloud Well-Architected Framework: KI- und ML-Perspektive bietet einen Überblick über Prinzipien und Empfehlungen zur Optimierung der Kosten Ihrer KI-Systeme während des gesamten ML-Lebenszyklus. Mit einem proaktiven und fundierten Ansatz für das Kostenmanagement kann Ihr Unternehmen das volle Potenzial von KI- und ML-Systemen ausschöpfen und gleichzeitig die finanzielle Disziplin wahren. Die Empfehlungen in diesem Dokument entsprechen der Säule „Kostenoptimierung“ des Well-Architected Framework.

Mithilfe von KI- und ML-Systemen können Sie wertvolle Erkenntnisse und Vorhersagefunktionen aus Daten gewinnen. Sie können beispielsweise Reibungsverluste in internen Prozessen reduzieren, die Nutzererfahrung verbessern und tiefere Einblicke in die Kunden gewinnen. Die Cloud bietet enorme Ressourcen und eine schnelle Wertschöpfung ohne große Vorabinvestitionen für KI- und ML-Arbeitslasten. Um den Geschäftswert zu maximieren und die Ausgaben an Ihren Geschäftszielen auszurichten, müssen Sie die Kostentreiber verstehen, die Kosten proaktiv optimieren, Ausgabenkontrollen einrichten und FinOps-Verfahren einführen.

Die Empfehlungen in diesem Dokument sind den folgenden Grundprinzipien zugeordnet:

Kosten und Renditen definieren und messen

Um KI- und ML-Kosten in Google Cloudeffektiv zu verwalten, müssen Sie die Kosten für Cloud-Ressourcen und den Geschäftswert Ihrer KI- und ML-Initiativen definieren und messen. Damit Sie Ihre Ausgaben detailliert im Blick behalten können, bietet Google Cloud umfassende Tools zur Abrechnung und Kostenverwaltung, z. B.:

  • Cloud Billing-Berichte und -Tabellen
  • Data Studio-Dashboards, Budgets und Benachrichtigungen
  • Cloud Monitoring
  • Cloud Logging

Beachten Sie die folgenden Empfehlungen, um fundierte Entscheidungen zur Ressourcenzuweisung und -optimierung zu treffen.

Geschäftsziele und KPIs festlegen

Richten Sie die technischen Entscheidungen in Ihren KI- und ML-Projekten an den Geschäftszielen und Leistungskennzahlen (KPIs) aus.

Strategische Ziele und ROI-orientierte KPIs definieren

Sorgen Sie dafür, dass KI- und ML-Projekte auf strategische Ziele wie Umsatzwachstum, Kostensenkung, Kundenzufriedenheit und Effizienz ausgerichtet sind. Binden Sie Stakeholder ein, um die geschäftlichen Prioritäten zu verstehen. Definieren Sie KI- und ML-Ziele, die spezifisch, messbar, erreichbar, relevant und terminiert (SMART) sind. Ein SMART-Ziel ist beispielsweise: „Die Bearbeitungszeit für Chats im Kundensupport innerhalb von 6 Monaten durch den Einsatz eines KI-Chatbots um 15 % reduzieren.“

Um Fortschritte bei der Erreichung Ihrer Geschäftsziele zu erzielen und den Return on Investment (ROI) zu messen, definieren Sie KPIs für die folgenden Kategorien von Messwerten:

  • Kosten für Training, Inferenz, Speicher und Netzwerkressourcen, einschließlich spezifischer Stückkosten (z. B. Kosten pro Inferenz, Datenpunkt oder Aufgabe). Diese Messwerte helfen Ihnen, Einblicke in die Effizienz und Möglichkeiten zur Kostenoptimierung zu erhalten. Sie können diese Kosten mithilfe von Cloud Billing-Berichten und Monitoring-Dashboards im Blick behalten.
  • Messwerte zum Geschäftswert wie Umsatzwachstum, Kosteneinsparungen, Kundenzufriedenheit, Effizienz, Genauigkeit und Akzeptanz. Sie können diese Messwerte mit BigQuery-Analysen und Looker-Dashboards im Blick behalten.

  • Branchenspezifische Messwerte wie die folgenden:

    • Einzelhandel: Umsatzsteigerung und Abwanderung messen
    • Gesundheitswesen: Zeitaufwand für Patienten und Behandlungsergebnisse messen
    • Finanzbranche: Betrugsreduzierung messen

  • Projektspezifische Messwerte. Sie können diese Messwerte mit Tests auf der Gemini Enterprise Agent Platform und der Bewertung im Blick behalten.

    • Prädiktive KI: Accuracy und Precision messen
    • Generative KI: Akzeptanz, Zufriedenheit und Inhaltsqualität messen
    • Computer Vision AI: Genauigkeit messen

Kostenbewusstsein und kontinuierliche Optimierung fördern

Wenden Sie FinOps-Prinzipien an, um sicherzustellen, dass für jedes KI- und ML-Projekt die Kosten geschätzt werden und die tatsächlichen Kosten während des gesamten Lebenszyklus gemessen und verfolgt werden können. Sorgen Sie dafür, dass die Kosten und der geschäftliche Nutzen Ihrer Projekte zugewiesene Inhaber und klare Verantwortlichkeiten haben.

Weitere Informationen finden Sie unter Kostenbewusstsein fördern in der Säule „Kostenoptimierung“ des Well-Architected Framework.

Wertschöpfung und kontinuierliche Optimierung durch Iteration und Feedback

Ordnen Sie Ihre KI- und ML-Anwendungen direkt Ihren Geschäftszielen zu und messen Sie den ROI.

Beginnen Sie mit Pilotprojekten und verwenden Sie den folgenden iterativen Optimierungszyklus, um Ihre ROI-Hypothesen zu validieren:

  1. Kontinuierlich überwachen und Daten analysieren: Überwachen Sie KPIs und Kosten, um Abweichungen und Optimierungsmöglichkeiten zu erkennen.
  2. Datengestützte Anpassungen vornehmen: Optimieren Sie Strategien, Modelle, Infrastruktur und Ressourcenzuweisung basierend auf Datenerkenntnissen.
  3. Iterativ verfeinern: Passen Sie Geschäftsziele und KPIs basierend auf Ihren Erkenntnissen und den sich ändernden Geschäftsanforderungen an. Diese Iteration hilft Ihnen, Relevanz und strategische Ausrichtung beizubehalten.
  4. Feedbackschleife einrichten: Überprüfen Sie Leistung, Kosten und Wert mit Stakeholdern, um die laufende Optimierung und zukünftige Projektplanung zu unterstützen.

Abrechnungsdaten mit Cloud Billing und Labels verwalten

Eine effektive Kostenoptimierung erfordert Transparenz über die Quelle der einzelnen Kostenelemente. Die Empfehlungen in diesem Abschnitt können Ihnen helfen, mit Google Cloud-Tools detaillierte Einblicke in Ihre KI- und ML-Kosten zu erhalten. Sie können Kosten auch bestimmten KI- und ML-Projekten, -Teams und -Aktivitäten zuordnen. Diese Statistiken bilden die Grundlage für die Kostenoptimierung.

Google Cloud -Ressourcen organisieren und mit Labels versehen

  • Strukturieren Sie Ihre Projekte und Ressourcen in einer Hierarchie, die Ihre Organisationsstruktur und Ihre KI- und ML-Workflows widerspiegelt. Wenn Sie Kosten auf verschiedenen Ebenen verfolgen und analysieren möchten, organisieren Sie Ihre Google Cloud -Ressourcen mithilfe von Organisationen, Ordnern und Projekten. Weitere Informationen finden Sie unter Ressourcenhierarchie für Ihre Google Cloud -Landing-Zone festlegen.
  • Wenden Sie aussagekräftige Labels auf Ihre Ressourcen an. Sie können Labels verwenden, die das Projekt, das Team, die Umgebung, den Modellnamen, das Dataset, den Anwendungsfall und die Leistungsanforderungen angeben. Labels liefern wertvollen Kontext für Ihre Abrechnungsdaten und ermöglichen eine detaillierte Kostenanalyse.
  • Achten Sie bei allen KI- und ML-Projekten auf einheitliche Labelkonventionen. Einheitliche Labelkonventionen tragen dazu bei, dass Ihre Abrechnungsdaten organisiert sind und leicht analysiert werden können.
  • Exportieren Sie die Abrechnungsdaten nach BigQuery, um detaillierte Analysen und Berichte zu erstellen. BigQuery bietet leistungsstarke Abfragefunktionen, mit denen Sie die Abrechnungsdaten analysieren können, um Ihre Kosten besser zu verstehen.
  • Wenn Sie Kosten nach Labels, Projekten oder bestimmten Zeiträumen aggregieren möchten, können Sie benutzerdefinierte SQL-Abfragen in BigQuery schreiben. Mit solchen Abfragen können Sie Kosten bestimmten KI- und ML-Aktivitäten zuordnen, z. B. Modelltraining, Hyperparameter-Abstimmung oder Inferenz.
  • Verwenden Sie die Analysefunktionen in BigQuery, um Kostenanomalien oder unerwartete Ausgabenspitzen zu erkennen. Mit diesem Ansatz können Sie potenzielle Probleme oder Ineffizienzen in Ihren KI- und ML-Arbeitslasten erkennen.
  • Mit dem Dashboard zur Anomalieerkennung in Cloud Billing können Sie unerwartete Kosten identifizieren und verwalten.
  • Wenn Sie die Kosten basierend auf der Ressourcennutzung auf verschiedene Teams oder Abteilungen verteilen möchten, verwenden Sie die Funktion Kostenverteilung von Google Cloud. Die Kostenzuordnung fördert Verantwortlichkeit und Transparenz.
  • Wenn Sie Einblicke in Ausgabenmuster erhalten möchten, können Sie die vordefinierten Cloud Billing-Berichte verwenden. Sie können diese Berichte filtern und anpassen, um sich auf bestimmte KI- und ML-Projekte oder -Dienste zu konzentrieren.

Ressourcen kontinuierlich mit Dashboards, Benachrichtigungen und Berichten überwachen

Um eine skalierbare und robuste Methode zur Kostenverfolgung zu schaffen, benötigen Sie kontinuierliches Monitoring und Reporting. Dashboards, Benachrichtigungen und Berichte bilden die Grundlage für ein effektives Kostentracking. So haben Sie immer Zugriff auf Kosteninformationen, können Optimierungsbereiche identifizieren und dafür sorgen, dass Geschäftsziele und Kosten aufeinander abgestimmt sind.

Berichtssystem erstellen

Geplante Berichte erstellen und für die entsprechenden Stakeholder freigeben

Verwenden Sie Monitoring, um Messwerte aus verschiedenen Quellen zu erfassen, einschließlich Ihrer Anwendungen, Infrastruktur und Google Cloud -Dienste wie Compute Engine, Google Kubernetes Engine (GKE) und Cloud Run Functions. Wenn Sie Messwerte und Logs in Echtzeit visualisieren möchten, können Sie das vordefinierte Monitoring-Dashboard verwenden oder benutzerdefinierte Dashboards erstellen. Mit benutzerdefinierten Dashboards können Sie Messwerte definieren und hinzufügen, um bestimmte Aspekte Ihrer Systeme zu verfolgen, z. B. die Modellleistung, API-Aufrufe oder geschäftliche KPIs.

Mit Logging können Sie Logs aus Ihren Anwendungen, Systemen und Google Cloud -Diensten zentral erfassen und speichern. Verwenden Sie die Logs für die folgenden Zwecke:

  • Kosten und Auslastung von Ressourcen wie CPU, Arbeitsspeicher, Speicher und Netzwerk verfolgen.
  • Fälle von Überdimensionierung (Ressourcen werden nicht vollständig genutzt) und Unterdimensionierung (Ressourcen reichen nicht aus) identifizieren. Eine Überdimensionierung führt zu unnötigen Kosten. Eine unzureichende Bereitstellung verlangsamt die Trainingszeiten und kann zu Leistungsproblemen führen.
  • Identifizieren Sie inaktive oder nicht ausgelastete Ressourcen wie VMs und GPUs und ergreifen Sie Maßnahmen, um sie herunterzufahren oder ihre Größe anzupassen, um die Kosten zu optimieren.
  • Kostenanstiege identifizieren, um plötzliche und unerwartete Erhöhungen der Ressourcennutzung oder der Kosten zu erkennen.

Mit Looker oder Data Studio können Sie interaktive Dashboards und Berichte erstellen. Verbinden Sie die Dashboards und Berichte mit verschiedenen Datenquellen, einschließlich BigQuery und Monitoring.

Schwellenwerte für Benachrichtigungen anhand wichtiger KPIs festlegen

Legen Sie für Ihre KPIs die Grenzwerte fest, die Benachrichtigungen auslösen sollen. Sinnvolle Schwellenwerte für Benachrichtigungen können dazu beitragen, eine Überlastung durch Benachrichtigungen zu vermeiden. Erstellen Sie in Monitoring Benachrichtigungsrichtlinien, um Benachrichtigungen zu Ihren KPIs zu erhalten. Sie können beispielsweise Benachrichtigungen erhalten, wenn die Genauigkeit unter einen bestimmten Schwellenwert fällt oder die Latenz einen definierten Grenzwert überschreitet. Benachrichtigungen auf Grundlage von Protokolldaten können Sie in Echtzeit über potenzielle Kostenprobleme informieren. Solche Benachrichtigungen ermöglichen es Ihnen, umgehend Korrekturmaßnahmen zu ergreifen und weitere finanzielle Verluste zu verhindern.

Ressourcenzuweisung optimieren

Um die Kosteneffizienz Ihrer KI- und ML-Arbeitslasten in Google Cloudzu verbessern, müssen Sie die Ressourcenzuweisung optimieren. Damit Sie unnötige Ausgaben vermeiden und Ihre Arbeitslasten die Ressourcen erhalten, die sie für eine optimale Leistung benötigen, sollten Sie die Ressourcenzuweisung an die Anforderungen Ihrer Arbeitslasten anpassen.

Beachten Sie die folgenden Empfehlungen, um die Zuweisung von Cloud-Ressourcen zu KI- und ML-Arbeitslasten zu optimieren.

Mit Autoscaling Ressourcen dynamisch anpassen

Verwenden Sie Google Cloud -Dienste, die Autoscaling unterstützen, um die Ressourcenzuweisung automatisch an die aktuelle Nachfrage anzupassen. Autoscaling bietet folgende Vorteile:

  • Kosten- und Leistungsoptimierung: Sie vermeiden es, für inaktive Ressourcen zu bezahlen. Gleichzeitig sorgt Autoscaling dafür, dass Ihre Systeme auch bei Spitzenlasten über die erforderlichen Ressourcen verfügen, um optimal zu funktionieren.
  • Verbesserte Effizienz: Ihr Team hat mehr Zeit für andere Aufgaben.
  • Mehr Agilität: Sie können schnell auf sich ändernde Anforderungen reagieren und eine hohe Verfügbarkeit Ihrer Anwendungen aufrechterhalten.

In den folgenden Abschnitten werden die Techniken zusammengefasst, mit denen Sie Autoscaling für verschiedene Phasen Ihrer KI-Projekte implementieren können.

Training

  • Verwenden Sie verwaltete Dienste wie die Gemini Enterprise Agent Platform oder GKE, die integrierte Autoscaling-Funktionen für Trainingsjobs bieten.
  • Konfigurieren Sie Autoscaling-Richtlinien, um die Anzahl der Trainingsinstanzen anhand von Messwerten wie CPU-Auslastung, Arbeitsspeichernutzung und Länge der Jobwarteschlange zu skalieren.
  • Verwenden Sie benutzerdefinierte Skalierungsmesswerte, um das Autoscaling-Verhalten für Ihre spezifischen Arbeitslasten zu optimieren.

Inferenz

  • Stellen Sie Ihre Modelle auf skalierbaren Plattformen wie Gemini Enterprise Agent Platform Inference, GPUs in GKE oder Cloud TPU in GKE bereit.
  • Verwenden Sie Autoscaling-Funktionen, um die Anzahl der Replikate anhand von Messwerten wie Anforderungsrate, Latenz und Ressourcennutzung anzupassen.
  • Implementieren Sie Load Balancing, um den Traffic gleichmäßig auf die Replikate zu verteilen und eine Hochverfügbarkeit zu gewährleisten.

Mit kleinen Modellen und Datasets beginnen

Um die Kosten zu senken, sollten Sie ML-Hypothesen nach Möglichkeit in kleinem Umfang testen und einen iterativen Ansatz verwenden. Dieser Ansatz mit kleineren Modellen und Datasets bietet die folgenden Vorteile:

  • Geringere Kosten von Anfang an: Weniger Rechenleistung, Speicher und Verarbeitungszeit können in den ersten Experimentier- und Entwicklungsphasen zu geringeren Kosten führen.
  • Schnellere Iteration: Es ist weniger Trainingszeit erforderlich, sodass Sie schneller iterieren, alternative Ansätze ausprobieren und vielversprechende Richtungen effizienter identifizieren können.
  • Geringere Komplexität: Einfacheres Debugging, einfachere Analyse und Interpretation von Ergebnissen, was zu schnelleren Entwicklungszyklen führt.
  • Effiziente Ressourcennutzung: Geringere Wahrscheinlichkeit einer Überdimensionierung von Ressourcen. Sie stellen nur die Ressourcen bereit, die für die aktuelle Arbeitslast erforderlich sind.

Beachten Sie die folgenden Empfehlungen:

  • Zuerst Beispieldaten verwenden: Trainieren Sie Ihre Modelle mit einer repräsentativen Teilmenge Ihrer Daten. So können Sie die Leistung des Modells bewerten und potenzielle Probleme identifizieren, ohne das gesamte Dataset verarbeiten zu müssen.
  • Mit Notebooks experimentieren: Beginnen Sie mit kleineren Instanzen und skalieren Sie nach Bedarf. Sie können die Gemini Enterprise Agent Platform Workbench verwenden, eine verwaltete Jupyter-Notebook-Umgebung, die sich gut für Experimente mit verschiedenen Modellarchitekturen und Datasets eignet.

  • Mit einfacheren oder vortrainierten Modellen beginnen: Verwenden Sie Model Garden, um vortrainierte Modelle zu entdecken und zu erkunden. Solche Modelle benötigen weniger Rechenressourcen. Erhöhen Sie die Komplexität je nach Leistungsanforderungen schrittweise.

    • Verwenden Sie vortrainierte Modelle für Aufgaben wie Bildklassifizierung und Natural Language Processing. Um Trainingskosten zu sparen, können Sie die Modelle zuerst mit kleineren Datasets optimieren.
    • Verwenden Sie BigQuery ML für strukturierte Daten. Mit BigQuery ML können Sie Modelle direkt in BigQuery erstellen und bereitstellen. Dieser Ansatz kann für erste Tests kostengünstig sein, da Sie das Pay-per-Query-Preismodell für BigQuery nutzen können.

  • Für Ressourcenoptimierung skalieren: Verwenden Sie die flexible Infrastruktur von Google Cloud, um Ressourcen nach Bedarf zu skalieren. Beginnen Sie mit kleineren Instanzen und passen Sie deren Größe oder Anzahl bei Bedarf an.

Ressourcenanforderungen durch Tests ermitteln

Die Ressourcenanforderungen für KI- und ML-Arbeitslasten können erheblich variieren. Um die Ressourcenzuweisung und die Kosten zu optimieren, müssen Sie die spezifischen Anforderungen Ihrer Arbeitslasten durch systematisches Experimentieren verstehen. Um die effizienteste Konfiguration für Ihre Modelle zu ermitteln, testen Sie verschiedene Konfigurationen und analysieren Sie deren Leistung. Passen Sie dann die Ressourcen, die Sie für das Training und die Bereitstellung verwendet haben, entsprechend den Anforderungen an.

Wir empfehlen die folgende Vorgehensweise für Tests:

  1. Mit einer Baseline beginnen: Beginnen Sie mit einer Baseline-Konfiguration, die auf Ihren ersten Schätzungen der Arbeitslastanforderungen basiert. Zum Erstellen einer Baseline können Sie den Google Cloud -Preisrechner für neue Arbeitslasten oder einen vorhandenen Abrechnungsbericht verwenden.
  2. Kontingente kennen: Bevor Sie umfangreiche Tests starten, sollten Sie sich mit den Kontingenten Ihres Google Cloud -Projekts für die Ressourcen und APIs vertraut machen, die Sie verwenden möchten. Die Kontingente bestimmen den Bereich der Konfigurationen, die Sie realistisch testen können. Wenn Sie sich mit Kontingenten vertraut machen, können Sie während der Testphase innerhalb der verfügbaren Ressourcenlimits arbeiten.
  3. Systematisch experimentieren: Passen Sie Parameter wie die Anzahl der CPUs, die Arbeitsspeichergröße, die Anzahl und den Typ der GPUs und Cloud TPU sowie die Speicherkapazität an. Mit Gemini Enterprise Agent Platform Managed Training und Agent Platform Inference können Sie mit verschiedenen Maschinentypen und ‑konfigurationen experimentieren.

  4. Auslastung, Kosten und Leistung überwachen: Behalten Sie die Ressourcenauslastung, die Kosten und wichtige Leistungsmesswerte wie Trainingszeit, Inferenzlatenz und Modellgenauigkeit für jede Konfiguration im Blick, mit der Sie experimentieren.

    • Mit der Agent Platform-Konsole können Sie die Ressourcenauslastung und Leistungsmesswerte im Blick behalten.
    • Verwenden Sie Monitoring, um detaillierte Leistungsmesswerte zu erfassen und zu analysieren.
    • Verwenden Sie zum Aufrufen der Kosten Cloud Billing-Berichte und Monitoring-Dashboards.
    • Verwenden Sie Profilerstellungstools wie Agent Platform TensorBoard, um Leistungsengpässe in Ihren Modellen zu identifizieren und die Ressourcennutzung zu optimieren.

  5. Kosten analysieren: Vergleichen Sie die Kosten und die Leistung der einzelnen Konfigurationen, um die kostengünstigste Option zu ermitteln.

  6. Ressourcenschwellenwerte und Verbesserungsziele basierend auf Kontingenten festlegen: Definieren Sie Schwellenwerte, ab denen die Skalierung zu abnehmenden Leistungssteigerungen führt, z. B. eine minimale Reduzierung der Trainingszeit oder Latenz bei einer erheblichen Kostensteigerung. Berücksichtigen Sie beim Festlegen dieser Schwellenwerte die Projektkontingente. Bestimmen Sie den Punkt, an dem die Kosten und potenziellen Kontingentauswirkungen einer weiteren Skalierung nicht mehr durch Leistungssteigerungen gerechtfertigt sind.

  7. Iterativ verfeinern: Wiederholen Sie den Testprozess mit verfeinerten Konfigurationen basierend auf Ihren Ergebnissen. Achten Sie immer darauf, dass die Ressourcennutzung innerhalb Ihrer zugewiesenen Kontingente bleibt und den festgelegten Kosten-Nutzen-Schwellenwerten entspricht.

Ineffizienzen mit MLOps reduzieren

Da Unternehmen ML immer häufiger einsetzen, um Innovationen und Effizienz zu steigern, wird die effektive Verwaltung des ML-Lebenszyklus immer wichtiger. ML-Vorgänge (MLOps) sind eine Reihe von Praktiken, die den ML-Lebenszyklus von der Modellentwicklung bis zur Bereitstellung und zum Monitoring automatisieren und optimieren.

MLOps an Kostentreibern ausrichten

Wenn Sie MLOps für Kosteneffizienz nutzen möchten, müssen Sie die primären Kostentreiber im ML-Lebenszyklus identifizieren. Anschließend können Sie MLOps-Verfahren einführen und implementieren, die auf die Kostentreiber abgestimmt sind. Priorisieren und übernehmen Sie die MLOps-Funktionen, die die größten Kostentreiber betreffen. Dieser Ansatz hilft, einen überschaubaren und erfolgreichen Weg zu erheblichen Kosteneinsparungen zu finden.

MLOps zur Kostenoptimierung implementieren

Im Folgenden finden Sie gängige MLOps-Verfahren, mit denen Sie die Kosten senken können:

  • Versionsverwaltung: Mit Tools wie Git können Sie Versionen von Code, Daten und Modellen verfolgen. Die Versionsverwaltung sorgt für Reproduzierbarkeit, erleichtert die Zusammenarbeit und verhindert kostspielige Nacharbeiten, die durch Versionsprobleme verursacht werden können.
  • Continuous Integration und Continuous Delivery (CI/CD): Mit Cloud Build und Artifact Registry können Sie CI/CD-Pipelines implementieren, um das Erstellen, Testen und Bereitstellen Ihrer ML-Modelle zu automatisieren. CI/CD-Pipelines sorgen für eine effiziente Ressourcennutzung und minimieren die Kosten, die mit manuellen Eingriffen verbunden sind.
  • Beobachtbarkeit: Mit Monitoring und Logging können Sie die Modellleistung in der Produktion verfolgen, Probleme identifizieren und Benachrichtigungen für proaktive Maßnahmen auslösen. Mit der Beobachtbarkeit können Sie die Modellgenauigkeit aufrechterhalten, die Ressourcenzuweisung optimieren und kostspielige Ausfallzeiten oder Leistungseinbußen verhindern.
  • Modell-Retraining: Gemini Enterprise Agent Platform Pipelines vereinfacht die Prozesse für das regelmäßige Retraining von Modellen oder wenn die Leistung nachlässt. Wenn Sie Agent Platform-Pipelines für das erneute Training verwenden, bleiben Ihre Modelle genau und effizient. So können Sie unnötigen Ressourcenverbrauch vermeiden und eine optimale Leistung aufrechterhalten.
  • Automatisierte Tests und Bewertungen: Mit der Agent Platform können Sie die Modellbewertung beschleunigen und standardisieren. Implementieren Sie automatisierte Tests während des gesamten ML-Lebenszyklus, um die Qualität und Zuverlässigkeit Ihrer Modelle zu gewährleisten. Mit solchen Tests können Sie Fehler frühzeitig erkennen, kostspielige Probleme in der Produktion vermeiden und den Bedarf an umfangreichen manuellen Tests reduzieren.

Weitere Informationen finden Sie unter MLOps: Continuous Delivery und Pipelines zur Automatisierung im maschinellen Lernen.

Datenverwaltungs- und Governance-Praktiken erzwingen

Effektive Datenverwaltungs- und Governance-Verfahren sind für die Kostenoptimierung entscheidend. Gut organisierte Daten können Teams dazu ermutigen, Datasets wiederzuverwenden, unnötige Duplikate zu vermeiden und den Aufwand für die Beschaffung hochwertiger Daten zu reduzieren. Durch die proaktive Verwaltung von Daten können Sie die Speicherkosten senken, die Datenqualität verbessern und dafür sorgen, dass Ihre ML-Modelle mit den relevantesten und wertvollsten Daten trainiert werden.

Beachten Sie die folgenden Empfehlungen, um Praktiken für Datenmanagement und Governance zu implementieren.

Data-Governance-Framework einrichten und übernehmen

Durch die zunehmende Bedeutung von KI und ML sind Daten zum wertvollsten Asset für Unternehmen geworden, die sich im digitalen Wandel befinden. Ein robustes Framework für Data Governance ist eine entscheidende Voraussetzung, um KI- und ML-Arbeitslasten kostengünstig und in großem Umfang zu verwalten. Ein Data-Governance-Framework mit klar definierten Richtlinien, Verfahren und Rollen bietet einen strukturierten Ansatz für die Verwaltung von Daten während ihres gesamten Lebenszyklus. Ein solches Framework trägt dazu bei, die Datenqualität zu verbessern, die Sicherheit zu erhöhen, die Nutzung zu verbessern und Redundanz zu reduzieren.

Data-Governance-Framework einrichten

Es gibt viele bereits vorhandene Frameworks für die Data Governance, z. B. die vom EDM Council veröffentlichten Frameworks, mit Optionen für verschiedene Branchen und Unternehmensgrößen. Wählen Sie ein Framework aus, das Ihren spezifischen Anforderungen und Prioritäten entspricht, und passen Sie es an.

Data-Governance-Framework implementieren

Google Cloud bietet die folgenden Dienste und Tools, mit denen Sie ein robustes Data-Governance-Framework implementieren können:

  • Knowledge Catalog ist eine intelligente Datenstruktur, mit der Sie verteilte Daten zusammenführen und die Data Governance automatisieren können, ohne Datasets an einem Ort konsolidieren zu müssen. So lassen sich die Kosten für die Verteilung und Pflege von Daten senken, die Datenerkennung vereinfachen und die Wiederverwendung fördern.

  • Knowledge Catalog ist außerdem ein vollständig verwalteter und skalierbarer Dienst zur Metadatenverwaltung. Der Katalog bildet die Grundlage dafür, dass Daten-Assets zugänglich und wiederverwendbar sind.

    • Metadaten aus den unterstützten Google Cloud -Quellen werden automatisch in den Katalog aufgenommen. Für Datenquellen außerhalb von Google Clouderstellen Sie benutzerdefinierte Einträge.
    • Um die Auffindbarkeit und Verwaltung von Daten-Assets zu verbessern, können Sie technische Metadaten mit geschäftlichen Metadaten anreichern, indem Sie Aspekte verwenden.
    • Achten Sie darauf, dass Data Scientists und ML-Experten ausreichende Berechtigungen für den Zugriff auf Knowledge Catalog und die Verwendung der Suchfunktion haben.

  • Mit BigQuery Sharing können Sie Daten-Assets effizient und sicher organisationsübergreifend austauschen, um Herausforderungen im Hinblick auf Datenzuverlässigkeit und Kosten zu bewältigen.

    • Richten Sie Datenaustausche ein und sorgen Sie dafür, dass ausgewählte Daten-Assets als Einträge angezeigt werden können.
    • Verwenden Sie Data-Clean-Rooms, um den Zugriff auf sensible Daten sicher zu verwalten und effizient mit externen Teams und Organisationen an KI- und ML-Projekten zusammenzuarbeiten.
    • Sorgen Sie dafür, dass Data Scientists und ML-Experten ausreichende Berechtigungen haben, um Datasets in BigQuery Sharing aufzurufen und zu veröffentlichen.

Datasets und Features im gesamten ML-Lebenszyklus wiederverwendbar machen

Wenn Sie Datasets und Features in mehreren ML-Projekten wiederverwenden, können Sie die Effizienz erheblich steigern und die Kosten senken. Wenn Sie redundante Data-Engineering- und Feature-Entwicklungsarbeiten vermeiden, kann Ihr Unternehmen die Modellentwicklung beschleunigen, die Infrastrukturkosten senken und wertvolle Ressourcen für andere wichtige Aufgaben freisetzen.

Google Cloud bietet die folgenden Dienste und Tools, mit denen Sie Datasets und Features wiederverwenden können:

  • Daten- und ML-Experten können Datenprodukte veröffentlichen, um die Wiederverwendung in verschiedenen Teams zu maximieren. Die Datenprodukte können dann über Knowledge Catalog und BigQuery-Freigabe gefunden und verwendet werden.
  • Für tabellarische und strukturierte Datasets können Sie den Agent Platform Feature Store verwenden, um die Wiederverwendbarkeit zu fördern und die Feature-Verwaltung über BigQuery zu optimieren.
  • Sie können unstrukturierte Daten in Cloud Storage speichern und die Daten mithilfe von BigQuery-Objekttabellen und signierten URLs verwalten.
  • Sie können Vektoreinbettungen verwalten, indem Sie Metadaten in Ihre Vektorsuchindexe aufnehmen.

Mit MLOps automatisieren und optimieren

Ein wesentlicher Vorteil der Einführung von MLOps-Verfahren ist die Reduzierung der Kosten für Technologie und Personal. Durch die Automatisierung können Sie die Duplizierung von ML-Aktivitäten vermeiden und die Arbeitslast für Data Scientists und ML-Entwickler reduzieren.

Beachten Sie die folgenden Empfehlungen, um die ML-Entwicklung mit MLOps zu automatisieren und zu optimieren.

Datenerhebung und -verarbeitung automatisieren und standardisieren

Automatisieren und standardisieren Sie Ihre Technologien zur Datenerhebung und -verarbeitung, um den Aufwand und die Zeit für die ML-Entwicklung zu reduzieren.

Datenerhebung und -verarbeitung automatisieren

In diesem Abschnitt werden die Produkte, Tools und Techniken zusammengefasst, mit denen Sie die Datenerhebung und -verarbeitung automatisieren können.

Identifizieren und wählen Sie die relevanten Datenquellen für Ihre KI- und ML-Aufgaben aus:

Wählen Sie für jede Ihrer Datenquellen ein Aufnahmetool aus:

  • Dataflow: Für die Batch- und Streamverarbeitung von Daten aus verschiedenen Quellen mit Integration von ML-Komponenten. Für eine ereignisgesteuerte Architektur können Sie Dataflow mit Eventarc kombinieren, um Daten für ML effizient zu verarbeiten. Verwenden Sie GPU- und Right-Fitting-Funktionen, um die Effizienz von MLOps- und ML-Jobs zu verbessern.
  • Cloud Run Functions: Für die ereignisgesteuerte Datenaufnahme, die durch Änderungen in Datenquellen für Echtzeitanwendungen ausgelöst wird.
  • BigQuery: Für die klassische Aufnahme tabellarischer Daten mit häufigem Zugriff.

Tools für die Datentransformation und das Laden von Daten auswählen:

  • Verwenden Sie Tools wie Dataflow oder Dataform, um Datentransformationen wie die Feature-Skalierung, die Codierung kategorialer Variablen und die Erstellung neuer Features im Batch-, Streaming- oder Echtzeitmodus zu automatisieren. Die von Ihnen ausgewählten Tools hängen von Ihren Anforderungen und den ausgewählten Diensten ab.
  • Verwenden Sie Feature Store, um die Erstellung und Verwaltung von Features zu automatisieren. Sie können Features zentralisieren, um sie in verschiedenen Modellen und Projekten wiederzuverwenden.

Datenerhebung und -verarbeitung standardisieren

Verwenden Sie Dienste zur Metadatenverwaltung wie Knowledge Catalog, um Daten-Assets zu finden, zu verstehen und zu verwalten. So können Sie Datendefinitionen standardisieren und für Konsistenz in Ihrer Organisation sorgen.

Verwenden Sie automatisierte Trainingspipelines und Orchestrierung, um die Standardisierung zu erzwingen und die Kosten für die Verwaltung mehrerer benutzerdefinierter Implementierungen zu vermeiden. Weitere Informationen finden Sie im nächsten Abschnitt.

Trainingspipelines automatisieren und vorhandene Assets wiederverwenden

Um die Effizienz und Produktivität in MLOps zu steigern, sind automatisierte Trainingspipelines entscheidend. Google Cloud bietet eine robuste Reihe von Tools und Diensten zum Erstellen und Bereitstellen von Trainingspipelines, wobei der Schwerpunkt auf der Wiederverwendung vorhandener Assets liegt. Automatisierte Trainingspipelines tragen dazu bei, die Modellentwicklung zu beschleunigen, die Konsistenz zu gewährleisten und redundanten Aufwand zu reduzieren.

Trainingspipelines automatisieren

In der folgenden Tabelle werden die Dienste und Features von Google Cloud beschrieben, mit denen Sie die verschiedenen Funktionen einer Trainingspipeline automatisieren können.

Funktion Google Cloud  Dienste und Funktionen
Orchestrierung: Definieren Sie komplexe ML-Workflows, die aus mehreren Schritten und Abhängigkeiten bestehen. Sie können jeden Schritt als separate containerisierte Aufgabe definieren, um einzelne Aufgaben einfach zu verwalten und zu skalieren.
  • Verwenden Sie zum Erstellen und Orchestrieren von Pipelines Agent Platform Pipelines oder Kubeflow Pipelines. Diese Tools unterstützen einfache Datentransformation, Modelltraining, Modellbereitstellung und Pipeline-Versionsverwaltung. Mit ihnen können Sie Abhängigkeiten zwischen Schritten definieren, den Datenfluss verwalten und die Ausführung des gesamten Workflows automatisieren.
  • Für komplexe operative Aufgaben mit hohen Anforderungen an CI/CD und ETL (Extrahieren, Transformieren und Laden) verwenden Sie Managed Service for Apache Airflow. Wenn Sie Airflow für die Datenorchestrierung bevorzugen, ist Managed Airflow ein kompatibler verwalteter Dienst, der auf Airflow basiert.
  • Verwenden Sie für Pipelines, die außerhalb von Agent Platform Pipelines verwaltet werden, Workflows für infrastrukturbezogene Aufgaben wie das Starten und Beenden von VMs oder die Integration in externe Systeme.
  • Wenn Sie Ihren CI/CD-Prozess automatisieren möchten, verwenden Sie Cloud Build mit Pub/Sub. Sie können Benachrichtigungen und automatische Trigger einrichten, die ausgelöst werden, wenn neuer Code per Push übertragen wird oder ein neues Modell trainiert werden muss.
  • Wenn Sie eine vollständig verwaltete, skalierbare Lösung für die Pipelineverwaltung benötigen, verwenden Sie Cloud Data Fusion.
Versionsverwaltung: Sie können verschiedene Versionen von Pipelines und Komponenten verfolgen und steuern, um die Reproduzierbarkeit und Prüfbarkeit zu gewährleisten. Kubeflow-Pipeline-Vorlagen in einem Kubeflow Pipelines-Repository in Artifact Registry speichern.
Wiederverwendbarkeit: Vorhandene Pipelinekomponenten und Artefakte wie vorbereitete Datasets und trainierte Modelle wiederverwenden, um die Entwicklung zu beschleunigen. Speichern Sie Ihre Pipelinevorlagen in Cloud Storage und geben Sie sie in Ihrer Organisation frei.
Monitoring: Überwachen Sie die Pipelineausführung, um Probleme zu erkennen und zu beheben. Logging und Monitoring verwenden Weitere Informationen finden Sie unter Ressourcen kontinuierlich mit Dashboards, Benachrichtigungen und Berichten überwachen.

Wiederverwendbarkeit über Pipelines hinaus erweitern

Suchen Sie nach Möglichkeiten, die Wiederverwendbarkeit über Trainingspipelines hinaus zu erweitern. Im Folgenden finden Sie Beispiele für Funktionen von Google Cloud , mit denen Sie ML-Features, Datasets, Modelle und Code wiederverwenden können.

  • Feature Store bietet ein zentrales Repository zum Organisieren, Speichern und Bereitstellen von ML-Features. Sie können Features in verschiedenen Projekten und Modellen wiederverwenden, was die Konsistenz verbessern und den Aufwand für das Feature Engineering reduzieren kann. Sie können Features sowohl für Online- als auch für Offline-Anwendungsfälle speichern, freigeben und darauf zugreifen.
  • Mit Agent Platform-Datasets können Teams Datasets zentral erstellen und verwalten. So kann Ihr Unternehmen die Wiederverwendbarkeit maximieren und die Datenduplizierung reduzieren. Ihre Teams können die Datasets mit Knowledge Catalog suchen und finden.
  • Mit der Model Registry auf der Gemini Enterprise Agent Platform können Sie Ihre trainierten Modelle speichern, verwalten und bereitstellen. Mit Model Registry können Sie die Modelle in nachfolgenden Pipelines oder für Onlinevorhersagen wiederverwenden. So können Sie von früheren Trainings profitieren.
  • Mit benutzerdefinierten Containern können Sie Ihren Trainingscode und Ihre Abhängigkeiten in Containern verpacken und die Container in Artifact Registry speichern. Mit benutzerdefinierten Containern können Sie konsistente und reproduzierbare Trainingsumgebungen für verschiedene Pipelines und Projekte bereitstellen.

Google Cloud -Dienste für die Modellbewertung und -abstimmung verwenden

Google Cloud bietet eine leistungsstarke Suite von Tools und Diensten, mit denen Sie die Modellbewertung und -optimierung optimieren und automatisieren können. Mit diesen Tools und Diensten können Sie die Zeit bis zur Produktion verkürzen und die für kontinuierliches Training und Monitoring erforderlichen Ressourcen reduzieren. Mit diesen Diensten können Ihre KI- und ML-Teams die Modellleistung mit weniger teuren Iterationen verbessern, schnellere Ergebnisse erzielen und die Verschwendung von Rechenressourcen minimieren.

Ressourceneffiziente Modellbewertung und -experimente verwenden

Beginnen Sie ein KI-Projekt mit Tests, bevor Sie Ihre Lösung skalieren. In Ihren Experimenten können Sie verschiedene Metadaten wie Dataset-Version, Modellparameter und Modelltyp verfolgen. Für eine bessere Reproduzierbarkeit und einen besseren Vergleich der Ergebnisse sollten Sie zusätzlich zur Code-Versionsverwaltung ein Metadaten-Tracking verwenden, ähnlich wie die Funktionen in Git. Um fehlende Informationen oder die Bereitstellung der falschen Version in der Produktion zu vermeiden, sollten Sie Experimente auf der Agent Platform verwenden, bevor Sie eine vollständige Bereitstellung oder Trainingsjobs implementieren.

Mit Experiments auf der Agent Platform können Sie Folgendes tun:

  • Optimieren und automatisieren Sie das Tracking und die Erkennung von Metadaten über eine nutzerfreundliche UI und API für produktionsreife Arbeitslasten.
  • Analysieren Sie die Leistungsmesswerte des Modells und vergleichen Sie die Messwerte mehrerer Modelle.

Nachdem das Modell trainiert wurde, sollten Sie die Leistung und die Datendrift im Laufe der Zeit für eingehende Daten kontinuierlich überwachen. Um diesen Prozess zu optimieren, können Sie das Modellmonitoring auf der Gemini Enterprise Agent Platform verwenden, um direkt auf die erstellten Modelle in der Model Registry zuzugreifen. Model Monitoring auf der Agent Platform automatisiert auch das Monitoring von Daten und Ergebnissen durch Online- und Batchvorhersagen. Sie können die Ergebnisse zur weiteren Analyse und zum Tracking nach BigQuery exportieren.

Optimale Strategien zur Automatisierung des Trainings auswählen

Für die Hyperparameter-Abstimmung empfehlen wir die folgenden Ansätze:

  • Wenn Sie den Prozess der Suche nach den optimalen Hyperparametern für Ihre Modelle automatisieren möchten, verwenden Sie die Hyperparameter-Abstimmung der Agent Platform. Die Agent Platform verwendet fortschrittliche Algorithmen, um den Hyperparameter-Bereich zu untersuchen und die beste Konfiguration zu ermitteln.
  • Für eine effiziente Hyperparameter-Abstimmung sollten Sie Bayessche Optimierungstechniken verwenden, insbesondere bei komplexen Modellen und großen Datasets.

Für verteiltes Training empfehlen wir die folgenden Ansätze:

  • Verwenden Sie für große Datasets und komplexe Modelle die verteilte Trainingsinfrastruktur der Agent Platform. Mit diesem Ansatz können Sie Ihre Modelle auf mehreren Maschinen trainieren, was die Trainingszeit und die damit verbundenen Kosten erheblich reduziert. Verwenden Sie Tools wie die folgenden:

  • Wählen Sie optimierte ML-Frameworks wie Keras und PyTorch aus, die verteiltes Training und eine effiziente Ressourcennutzung unterstützen.

Explainable AI verwenden

Es ist wichtig, zu verstehen, warum ein Modell bestimmte Entscheidungen trifft, und potenzielle Verzerrungen oder Bereiche mit Verbesserungspotenzial zu identifizieren. Verwenden Sie Erklärbarkeitstechniken, um Einblicke in die Vorhersagen Ihres Modells zu erhalten.

  • Featurebasiert: Wenn Sie wissen möchten, welche Features den größten Einfluss auf die Vorhersagen Ihres Modells haben, analysieren Sie die Feature-Attributionen. Dieses Verständnis kann die Feature-Engineering-Bemühungen leiten und die Interpretierbarkeit des Modells verbessern.
  • Beispielbasiert: Verwenden Sie die Suche des nächsten Nachbarn, um eine Liste von Beispielen (in der Regel aus dem Trainings-Dataset) zurückzugeben, die der Eingabe am ähnlichsten sind. Da ähnliche Eingaben in der Regel ähnliche Vorhersagen liefern, können Sie diese Erläuterungen nutzen, um das Verhalten eines Modells zu untersuchen und zu erklären.

Verwaltete Dienste und vortrainierte Modelle verwenden

Wählen Sie einen inkrementellen Ansatz für die Modellauswahl und -entwicklung. So vermeiden Sie übermäßige Kosten, die mit einem jedes Mal neuen Start verbunden sind. Verwenden Sie ML-Frameworks, verwaltete Dienste und vortrainierte Modelle, um die Kosten im Blick zu behalten.

Beachten Sie die folgenden Empfehlungen, um den größtmöglichen Nutzen aus verwalteten Diensten und vortrainierten Modellen zu ziehen.

Notebooks für explorative Datenanalysen und Tests verwenden

Notebook-Umgebungen sind für kostengünstige ML-Experimente entscheidend. Ein Notebook bietet Data Scientists und Engineers einen interaktiven und kollaborativen Bereich, in dem sie Daten untersuchen, Modelle entwickeln, Wissen teilen und effizient iterieren können. Die Zusammenarbeit und der Wissensaustausch über Notebooks beschleunigen die Entwicklung, Code Reviews und den Wissenstransfer erheblich. Notebooks helfen, Workflows zu optimieren und doppelten Arbeitsaufwand zu reduzieren.

Anstatt teure Hardware für Ihre Entwicklungsumgebung zu beschaffen und zu verwalten, können Sie die skalierbare und bedarfsorientierte Infrastruktur von Agent Platform Workbench und Colab Enterprise nutzen.

  • Agent Platform Workbench ist eine Jupyter-Notebook-Entwicklungsumgebung für den gesamten Data-Science-Workflow. Sie können über das Jupyter-Notebook einer Instanz mit der Agent Platform und anderen Google Cloud-Diensten interagieren. Mit den Integrationen und Funktionen der Agent Platform Workbench können Sie Folgendes tun:

    • Mit BigQuery- und Cloud Storage-Integrationen in einem Jupyter-Notebook auf Ihre Daten zugreifen.
    • Wiederkehrende Aktualisierungen eines Modells mithilfe geplanter Ausführungen von Code automatisieren, der auf der Agent Platform ausgeführt wird.
    • Daten schnell durch Ausführen eines Notebooks in einem Managed Service for Apache Spark-Cluster verarbeiten.
    • Mit Agent Platform Pipelines ein Notebook als Schritt in einer Pipeline ausführen.

  • Colab Enterprise ist eine kollaborative, verwaltete Notebook-Umgebung mit den Sicherheits- und Compliance-Funktionen von Google Cloud. Colab Enterprise ist ideal, wenn die Prioritäten Ihres Projekts in der gemeinsamen Entwicklung und der Reduzierung des Aufwands für die Verwaltung der Infrastruktur liegen. Colab Enterprise lässt sich inGoogle Cloud -Dienste und KI-basierte Unterstützung mit Gemini einbinden. Mit Colab Enterprise können Sie Folgendes tun:

    • In Notebooks arbeiten, ohne die Infrastruktur verwalten zu müssen.
    • Notebook für einen einzelnen Nutzer, eine Google-Gruppe oder eine Google Workspace-Domain freigeben. Sie können den Notebook-Zugriff über IAM steuern.
    • Mit Funktionen interagieren, die in Agent Platform und BigQuery integriert sind.

Wenn Sie Änderungen verfolgen und bei Bedarf zu früheren Versionen zurückkehren möchten, können Sie Ihre Notebooks in Versionsverwaltungstools wie Git einbinden.

Mit vorhandenen und vortrainierten Modellen beginnen

Das Trainieren komplexer Modelle von Grund auf, insbesondere von Deep-Learning-Modellen, erfordert erhebliche Rechenressourcen und Zeit. Um die Modellauswahl und den Entwicklungsprozess zu beschleunigen, beginnen Sie mit vorhandenen und vortrainierten Modellen. Diese Modelle, die mit riesigen Datasets trainiert werden, machen das Training von Modellen von Grund auf überflüssig und reduzieren die Kosten und die Entwicklungszeit erheblich.

Schulungs- und Entwicklungskosten reduzieren

Wählen Sie für jede ML-Aufgabe ein geeignetes Modell oder eine geeignete API aus und kombinieren Sie diese, um einen End-to-End-ML-Entwicklungsprozess zu erstellen.

Model Garden bietet eine umfangreiche Sammlung vortrainierter Modelle für Aufgaben wie Bildklassifizierung, Objekterkennung und Natural Language Processing. Die Modelle sind in die folgenden Kategorien unterteilt:

  • Google-Modelle wie die Gemini-Modellfamilie und Imagen für die Bildgenerierung.
  • Offene Modelle wie Gemma und Llama.
  • Drittanbietermodelle von Partnern wie Anthropic.

Google Cloud bietet KI- und ML-APIs, mit denen Entwickler leistungsstarke KI-Funktionen in Anwendungen einbinden können, ohne Modelle von Grund auf neu erstellen zu müssen.

  • Mit der Cloud Vision API können Sie Informationen aus Bildern ableiten. Diese API ist nützlich für Anwendungen wie Bildanalyse, Inhaltsmoderation und automatisierte Dateneingabe.
  • Mit der Cloud Natural Language API können Sie Text analysieren, um seine Struktur und Bedeutung zu verstehen. Diese API ist nützlich für Aufgaben wie die Analyse von Kundenfeedback, die Kategorisierung von Inhalten und das Verstehen von Trends in sozialen Medien.
  • Die Speech-to-Text API wandelt Audio in Text um. Diese API unterstützt viele verschiedene Sprachen und Dialekte.
  • Die Document AI API verarbeitet Dokumente, um Daten zu extrahieren, zu klassifizieren und zu verstehen. Mit dieser API können Sie Workflows zur Dokumentverarbeitung automatisieren.
  • Die Dialogflow API ermöglicht die Erstellung von dialogorientierten Benutzeroberflächen wie Chatbots und Sprachassistenten. Mit dieser API können Sie Kundenservice-Bots und virtuelle Assistenten erstellen.
  • Die Gemini API bietet Zugriff auf das leistungsstärkste KI-Modell von Google für allgemeine Zwecke.

Abstimmungskosten reduzieren

Um den Bedarf an umfangreichen Daten und Rechenzeit zu reduzieren, können Sie Ihre vortrainierten Modelle mit bestimmten Datasets optimieren. Wir empfehlen die folgenden Ansätze:

  • Lerntransfer: Verwenden Sie das Wissen aus einem vortrainierten Modell für eine neue Aufgabe, anstatt von vorn zu beginnen. Dieser Ansatz erfordert weniger Daten und Rechenzeit, was zur Kostensenkung beiträgt.
  • Adapterabstimmung (parametereffiziente Abstimmung): Modelle an neue Aufgaben oder Domains anpassen, ohne eine vollständige Feinabstimmung vorzunehmen. Dieser Ansatz erfordert deutlich weniger Rechenressourcen und ein kleineres Dataset.
  • Überwachte Feinabstimmung: Das Modellverhalten wird mit einem mit Labels versehenen Dataset angepasst. Dieser Ansatz vereinfacht die Verwaltung der zugrunde liegenden Infrastruktur und den Entwicklungsaufwand, der für einen benutzerdefinierten Trainingsjob erforderlich ist.

Agent Studio auf der Gemini Enterprise Agent Platform entdecken und ausprobieren

Mit Agent Studio können Sie generative KI-Anwendungen schnell testen, Prototypen erstellen und bereitstellen.

  • Integration in Model Garden: Bietet schnellen Zugriff auf die neuesten Modelle und ermöglicht eine effiziente Bereitstellung der Modelle, um Zeit und Kosten zu sparen.
  • Einheitlicher Zugriff auf spezialisierte Modelle: Konsolidiert den Zugriff auf eine Vielzahl von vortrainierten Modellen und APIs, einschließlich solcher für Chat, Text, Medien, Übersetzung und Sprache. Durch diesen einheitlichen Zugriff können Sie die Zeit reduzieren, die Sie für die Suche nach einzelnen Diensten und deren Integration aufwenden müssen.

Verwaltete Dienste zum Trainieren oder Bereitstellen von Modellen verwenden

Verwaltete Dienste können dazu beitragen, die Kosten für das Modelltraining zu senken und die Infrastrukturverwaltung zu vereinfachen. So können Sie sich auf die Modellentwicklung und -optimierung konzentrieren. Dieser Ansatz kann zu erheblichen Kostenvorteilen und einer höheren Effizienz führen.

Operativen Aufwand reduzieren

Verwenden Sie verwaltete Dienste wie die folgenden, um die Komplexität und die Kosten der Infrastrukturverwaltung zu reduzieren:

  • Verwaltetes Training auf der Agent Platform bietet eine vollständig verwaltete Umgebung für das Training Ihrer Modelle in großem Maßstab. Sie können aus verschiedenen vordefinierten Containern mit gängigen ML-Frameworks auswählen oder eigene benutzerdefinierte Container verwenden. Google Cloud übernimmt die Bereitstellung, Skalierung und Wartung der Infrastruktur, sodass Sie weniger Betriebsaufwand haben.
  • Agent Platform Inference übernimmt die Infrastrukturskalierung, das Load Balancing und das Anfragerouting. Sie erhalten Hochverfügbarkeit und Leistung ohne manuelles Eingreifen.
  • Ray on Gemini Enterprise Agent Platform bietet einen vollständig verwalteten Ray-Cluster. Sie können den Cluster verwenden, um komplexe benutzerdefinierte KI-Arbeitslasten auszuführen, die viele Berechnungen erfordern (Hyperparameter-Abstimmung, Modellfeinabstimmung, verteiltes Modelltraining und bestärkendes Lernen durch menschliches Feedback), ohne Ihre eigene Infrastruktur verwalten zu müssen.

Verwaltete Dienste zur Optimierung der Ressourcennutzung verwenden

Weitere Informationen zur effizienten Ressourcennutzung finden Sie unter Ressourcenzuweisung optimieren.

Beitragende

Autor*innen:

Weitere Beitragende:

Zurück
Zuverlässigkeit
Weiter
Leistungsoptimierung