Erste Schritte mit Batch

Auf dieser Seite wird beschrieben, wie Sie mit Batch für Google Cloudbeginnen.

Übersicht

Batch ist ein vollständig verwalteter Dienst, mit dem Sie Batchverarbeitungsarbeitslasten auf Google Cloud -Ressourcen planen, in die Warteschlange stellen und ausführen können. Sie können Batch beispielsweise für Arbeitslasten aus den Bereichen Hochleistungs-Computing (HPC), maschinelles Lernen (ML) und Datenverarbeitung verwenden. Batch stellt Ressourcen bereit und verwaltet die Kapazität für Sie, sodass Ihre Batcharbeitslasten in großem Maßstab ausgeführt werden können.

Wenn Sie Batch verwenden, müssen Sie keine Jobplaner von Drittanbietern konfigurieren und verwalten, Ressourcen nicht bereitstellen oder deren Bereitstellung aufheben oder Ressourcen zonenweise anfordern. Zum Ausführen eines Jobs geben Sie Parameter für die Ressourcen an, die für Ihre Arbeitslast erforderlich sind. Batch ruft dann Ressourcen ab und stellt den Job zur Ausführung in die Warteschlange. Batch ist nativ in andere Google Cloud -Dienste eingebunden. So können Sie Batchjobs planen, ausführen, speichern und analysieren, sodass Sie sich auf das Senden eines Jobs konzentrieren können und die Ergebnisse nutzen.

Batch besteht aus den folgenden Komponenten:

  • Job: Ein geplantes Programm, das eine Reihe von Aufgaben ohne Nutzerinteraktion ausführt, normalerweise für Berechnungsarbeitslasten. Ein Job kann beispielsweise ein einzelnes Shell-Script oder eine komplexe, mehrteilige Berechnung sein.

    Ein Batchjob stellt ein Array aus einer oder mehreren Aufgaben und die Umgebung dar, in der diese Aufgaben ausgeführt werden sollen. Sie definieren das Programm für den Job als eine Sequenz von einem oder mehreren Runnables. Bei jeder Aufgabe wird die Sequenz von ausführbaren Dateien für die Ressourcen des Jobs ausgeführt. Sie können die Aufgaben eines Jobs so konfigurieren, dass sie parallel oder nacheinander ausgeführt werden.

  • Aufgabe: Eine Ausführung der Sequenz von ausführbaren Dateien eines Jobs. Wenn ein Job mehrere Aufgaben hat, geben Sie an, wie sich die einzelnen Ausführungen unterscheiden sollen. Dazu verweisen Sie in den ausführbaren Dateien des Jobs auf die Umgebungsvariable für den Index einer Aufgabe.

  • Runnable: Ein ausführbares Script oder ein ausführbarer Container, das bzw. den Sie als Teil eines Jobs definieren.

  • Ressourcen: Die Infrastruktur, die zum Ausführen eines Jobs erforderlich ist. Sie müssen mindestens die für jede Aufgabe erforderlichen Rechenressourcen angeben: CPU-Kerne, Arbeitsspeicher und (falls erforderlich) zusätzlichen Speicherplatz auf dem Bootlaufwerk. Optional können Sie auch andere Ressourcenoptionen für den Job angeben. Batch erstellt und löscht automatisch die Ressourcen, die Ihren Spezifikationen während der Laufzeit des Jobs entsprechen.

    Konkret wird jeder Batchjob in einer regionalen verwalteten Instanzgruppe (Managed Instance Group, MIG) ausgeführt. Eine MIG ist eine Gruppe von einer oder mehreren übereinstimmenden Compute Engine-VM-Instanzen, die sich jeweils in einer der enthaltenen Zonen befinden. Jede VM hat dedizierte Hardware für CPU-Kerne und Arbeitsspeicher, die sich auf die Leistung Ihres Jobs auswirken, sowie ein Bootlaufwerk, auf dem ein Betriebssystem-Image und Anweisungen zum Ausführen Ihres Jobs gespeichert sind. Falls angegeben, kann ein Job auch zusätzliche Ressourcen wie GPUs, TPUs oder externe Speicher-Volumes enthalten oder darauf zugreifen. Die Anzahl der für einen Job bereitgestellten VMs hängt von den von Ihnen angegebenen Hardwareanforderungen und Optionen für die Aufgabenplanung ab.

Zusammenfassend lässt sich sagen, dass Sie mit Batch Jobs erstellen und ausführen können, die jeweils die Ressourcen bereitstellen und verwenden, die zum Ausführen ihrer Aufgaben erforderlich sind.

Weitere Informationen zum Jobverhalten und zu den Optionen finden Sie auf der Seite Übersicht über die Erstellung und Ausführung von Jobs.

Preise

Für die Verwendung von Batch fallen keine zusätzlichen Kosten an. Ihnen werden nur die Kosten für die zugrunde liegenden Ressourcen in Rechnung gestellt, die für die Ausführung Ihrer Jobs erforderlich sind.

Weitere Informationen zu den Kosten für Batch und zum Filtern von Cloud Billing-Abrechnungsberichten, um Batch-Kosten aufzurufen, finden Sie unter Preise.

Beschränkungen

Für Batch gelten die folgenden Einschränkungen:

  • Sie dürfen die Batch-Kontingente und -Limits für Ihr Projekt nicht überschreiten.

  • Für Jobs können nur Maschinentypen aus den folgenden Maschinenserien verwendet werden:

    • Für allgemeine Zwecke: C4, C4A, C4D, C3, C3D, E2, N4, N4A, N2D, N2, N1 und T2D
    • Computing-optimiert: C2, C2D und H3
    • Speicheroptimiert: M3, M2 und M1
    • Beschleunigungsoptimiert:
      • GPUs: A4, A3 Ultra, A3 Mega, A3 High, A2, G4 und G2
      • TPUs (nur Slices mit einem Host): TPU7x, v6e und v5p

  • Sie können nicht mehr als eine Aufgabengruppe pro Job angeben. Alle Jobs haben nur eine Aufgabengruppe mit dem Namen group0.

Vorbereitung

Bevor Sie Batch verwenden können, müssen die folgenden Voraussetzungen erfüllt sein:

  1. Wenn Batch in Ihrem Projekt noch nicht verwendet wurde, aktivieren Sie Batch für Ihr Projekt.
  2. Batch für jeden neuen Nutzer einrichten

Batch für ein Projekt aktivieren

So verwenden Sie Batch mit einem Projekt:

  1. Wählen Sie in der Google Cloud Console auf der Seite für die Projektauswahl ein Projekt von Google Cloud aus oder erstellen Sie eines.

    Erforderliche Rollen zum Auswählen oder Erstellen eines Projekts

    • Projekt auswählen: Für die Auswahl eines Projekts ist keine bestimmte IAM-Rolle erforderlich. Sie können jedes Projekt auswählen, für das Ihnen eine Rolle zugewiesen wurde.
    • Projekt erstellen: Zum Erstellen eines Projekts benötigen Sie die Rolle „Project Creator“ (roles/resourcemanager.projectCreator), die die Berechtigung resourcemanager.projects.create enthält. Informationen zum Zuweisen von Rollen

    Zur Projektauswahl

  2. Prüfen Sie, ob die Abrechnung für Ihr Google Cloud -Projekt aktiviert ist.

  3. Prüfen Sie, ob Batch für Ihr Projekt aktiviert ist:

    1. Aktivieren Sie die Batch, Compute Engine und Cloud Logging APIs, falls sie noch nicht aktiviert sind.

      Rollen, die zum Aktivieren von APIs erforderlich sind

      Zum Aktivieren von APIs benötigen Sie die Berechtigung serviceusage.services.enable. Wenn Sie das Projekt erstellt haben, haben Sie diese Berechtigung wahrscheinlich bereits über die Inhaberrolle (roles/owner). Andernfalls können Sie diese Berechtigung über die Rolle „Service Usage-Administrator“ (roles/serviceusage.serviceUsageAdmin) erhalten. Informationen zum Zuweisen von Rollen

      APIs aktivieren

    2. Ihr Projekt muss ein oder mehrere Dienstkonten mit den erforderlichen Berechtigungen zum Erstellen und Zugreifen auf die Ressourcen zum Ausführen von Batchjobs haben.

      Wichtig: Allen Nutzern, die Batchjobs in Ihrem Projekt erstellen und ausführen dürfen, muss die Berechtigung zur Verwendung eines dieser Dienstkonten gewährt werden. Wählen Sie also keine Dienstkonten aus, die mehr Berechtigungen haben, als Sie diesen Nutzern gewähren möchten.

      Das Dienstkonto, das jeder Job standardmäßig verwendet, ist das Compute Engine-Standarddienstkonto. Sie können aber auch anpassen, welches Dienstkonto ein Job verwendet.

      Wenn Sie nicht nur die Standardkonfiguration für die Dienstkonten Ihres Jobs verwenden möchten, weisen Sie allen Dienstkonten, die Ihr Projekt für Batch-Jobs verwendet, die folgenden IAM-Rollen zu.

      • Batch-Agent-Melder (roles/batch.agentReporter) für das Projekt
      • Damit Jobs Logs in Cloud Logging generieren können: Log-Autor (roles/logging.logWriter) für das Projekt

      Das Dienstkonto, das Sie für einen Job verwenden, benötigt möglicherweise auch zusätzliche Rollen, je nachdem, welche Konfigurationsoptionen Sie für Ihre Jobs verwenden möchten. In der Dokumentation zu den einzelnen Aufgaben finden Sie Informationen dazu, ob zusätzliche Berechtigungen erforderlich sind. Weitere Informationen zum Zuweisen von Rollen zu Dienstkonten finden Sie unter Dienstkonten einschränken und Zugriff auf Dienstkonten verwalten.

    3. Machen Sie sich mit dem Batch-Dienst-Agent Ihres Projekts vertraut:

      Nachdem Sie einen Batch-Job erstellt haben, wird der Batch-Dienst-Agent automatisch für Ihr Projekt mit dem folgenden Namen erstellt:

      service-PROJECT_NUMBER@gcp-sa-cloudbatch.

      Ersetzen Sie PROJECT_NUMBER durch die Projektnummer Ihres Projekts.

      Dem Batch-Dienst-Agent wird automatisch die IAM-Rolle „Google Batch-Dienst-Agent“ (roles/batch.serviceAgent) zugewiesen. Diese Konfiguration ist erforderlich, damit Ihr Projekt Batch verwenden kann.

      Für bestimmte Anwendungsfälle, z. B. das Ausführen eines Jobs in einem freigegebene VPC-Netzwerk, müssen Sie dem Batch-Dienst-Agent Ihres Projekts jedoch zusätzliche Berechtigungen gewähren.

      Weitere Informationen finden Sie unter Dienst-Agents.

Batch für einen neuen Nutzer einrichten

So verwenden Sie Batch als Nutzer:

  1. Bitten Sie Ihren Administrator, Ihnen die erforderlichen IAM-Rollen für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie zur Verwendung von Batch benötigen. Informationen zu den erforderlichen Berechtigungen finden Sie in der Dokumentation zu den einzelnen Aufgaben.

    Wenn Sie beispielsweise lernen möchten, wie Sie Batch verwenden, indem Sie einen einfachen Job erstellen, sollten Sie Rollen für die folgenden Aufgaben anfordern:

    • So erstellen Sie Jobs:
    • Zum Auflisten und Beschreiben von Jobs: Batch-Job-Bearbeiter (roles/batch.jobsEditor) oder Batch-Job-Betrachter (roles/batch.jobsViewer) für das Projekt
    • Zum Aufrufen von Logs für Jobs: Loganzeige (roles/logging.viewer) für das Projekt
    • Zum Löschen von Jobs: Batch-Job-Editor (roles/batch.jobsEditor) für das Projekt

    Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff verwalten.

  2. Wenn Sie die Befehlszeilenbeispiele für Batch verwenden möchten, richten Sie die Google Cloud CLI so ein: Weitere Informationen zur Authentifizierung für die Google Cloud CLI

    1. Installieren Sie die Google Cloud CLI und melden Sie sich dann mit Ihrer föderierten Identität in der gcloud CLI an. Nach der Anmeldung initialisieren Sie die Google Cloud CLI mit dem folgenden Befehl: 

      gcloud init

    2. Empfohlen: Legen Sie mit dem Befehl gcloud config set project ein Standardprojekt fest:

      gcloud config set project PROJECT_ID

      Ersetzen Sie PROJECT_ID durch die Projekt-ID Ihres Projekts.

  3. Wenn Sie die API- oder Clientbibliotheksbeispiele für Batch verwenden möchten, lesen Sie den Hilfeartikel Bei Batch authentifizieren.

Support anfordern

Sie können Batch mit der Community diskutieren, indem Sie das Batch-Tag in den Google Developer Program-Foren verwenden.

Wenn Sie Probleme mit Batch haben, lesen Sie die Dokumentation zur Fehlerbehebung.

Wenn Sie Support für Batch benötigen oder Feedback geben möchten, verwenden Sie die folgenden Ressourcen:

  • Bei Abrechnungsproblemen mit Google Cloudwenden Sie sich an den Abrechnungssupport.

  • Wenn Sie ein kostenpflichtiges Supportpaket haben, wenden Sie sich bei Problemen mit Batch direkt an den Google Cloud -Support.

    Google Cloud bietet verschiedene Supportpakete für unterschiedliche Anforderungen, etwa Rund-um-die-Uhr-Verfügbarkeit, Telefonsupport und Kontakt mit einem technischen Supportmanager. Weitere Informationen finden Sie unter Support vonGoogle Cloud .

  • Wenn Sie Feedback oder Feature Requests für Batch geben oder Probleme mit Batch ohne kostenpflichtiges Supportpaket melden möchten, klicken Sie auf den Button Feedback geben, den Sie am Anfang und Ende jeder Batch-Dokumentationsseite finden. Wählen Sie dann eine der folgenden Optionen aus:

    • Wählen Sie für Feedback zur Batch-Dokumentation „Feedback zur Dokumentation“ aus.
    • Wählen Sie für alle anderen Feedbacks zu Batch „Produktfeedback“ aus.

Nächste Schritte