Storage Transfer Service kann auf Ereignisbenachrichtigungen in Google Cloudreagieren, um Daten, die in einem Cloud Storage-Bucket hinzugefügt oder aktualisiert wurden, automatisch zu übertragen. Weitere Informationen zu den Vorteilen ereignisgesteuerter Übertragungen
Bei ereignisgesteuerten Übertragungen aus Cloud Storage werden Pub/Sub-Benachrichtigungen verwendet, um zu erfahren, wann Objekte im Quell-Bucket geändert oder hinzugefügt wurden. Das Löschen von Objekten wird nicht erkannt. Wenn Sie ein Objekt in der Quelle löschen, wird das zugehörige Objekt im Ziel-Bucket nicht gelöscht.
Ereignisgesteuerte Übertragungen verwenden immer einen Cloud Storage-Bucket als Ziel.
Berechtigungen konfigurieren
Zusätzlich zu den Berechtigungen, die für alle Übertragungsjobs erforderlich sind, benötigen ereignisgesteuerte Übertragungen die Rolle Pub/Sub Subscriber.
Suchen Sie den Namen des Storage Transfer Service-Dienst-Agents für Ihr Projekt:
Rufen Sie die Referenzseite
googleServiceAccounts.getauf.Es wird ein interaktives Steuerfeld mit dem Titel Diese Methode testen geöffnet.
Geben Sie im Steuerfeld unter Anfrageparameter Ihre Projekt-ID ein. Das hier angegebene Projekt muss das Projekt sein, das Sie zum Verwalten des Storage Transfer Service verwenden. Dieses kann sich vom Projekt des Quell-Buckets unterscheiden.
Klicken Sie auf Ausführen.
Die E-Mail-Adresse des Dienst-Agents wird als Wert von
accountEmailzurückgegeben. Kopieren Sie diesen Wert.Die E-Mail des Dienst-Agents hat das Format
project-PROJECT_NUMBER@storage-transfer-service..Weisen Sie dem Storage Transfer Service-Dienst-Agent die Rolle
Pub/Sub Subscriberzu.Cloud Console
Folgen Sie der Anleitung unter Zugriff über die Google Cloud Console steuern, um dem Storage Transfer Service-Dienst die Rolle
Pub/Sub Subscriberzuzuweisen. Die Rolle kann auf Themen-, Abo- oder Projektebene zugewiesen werden.gcloudCLIFolgen Sie der Anleitung unter Richtlinie festlegen, um die folgende Bindung hinzuzufügen:
{ "role": "roles/pubsub.subscriber", "members": [ "serviceAccount:project-PROJECT_NUMBER@storage-transfer-service." }
Pub/Sub konfigurieren
Prüfen Sie, ob Sie die Voraussetzungen für die Verwendung von Pub/Sub mit Cloud Storage erfüllen.
Erstellen Sie eine Pub/Sub-Benachrichtigung für den Cloud Storage-Quell-Bucket.
Sie können Pub/Sub-Benachrichtigungen nicht mit der Google Cloud Console verwalten. Verwenden Sie stattdessen die gcloud CLI oder eine der verfügbaren Clientbibliotheken.
gcloud storage buckets notifications create gs://SOURCE_BUCKET_NAME --topic=TOPIC_NAME
Erstellen Sie ein Pull-Abo für das Thema. Sie müssen für jeden Übertragungsjob ein separates Abo erstellen.
Das folgende Beispiel zeigt den Google Cloud CLI-Befehl zum Erstellen eines Pull-Abos. Eine Anleitung für die Console und den Code der Clientbibliothek finden Sie unter Pull-Abo erstellen.
gcloud pubsub subscriptions create SUBSCRIPTION_ID --topic=TOPIC_NAME --ack-deadline=300
Übertragungsjob erstellen
Sie können die Google Cloud Console, die Google Cloud CLI oder die REST API verwenden, um einen ereignisbasierten Übertragungsjob zu erstellen.
Google Cloud Console
Rufen Sie in der Google Cloud Console die Seite Übertragungsjob erstellen auf.
Wählen Sie Cloud Storage sowohl als Quelle als auch als Ziel aus.
Wählen Sie als Planungsmodus die Option Ereignisgesteuert aus und klicken Sie auf Nächster Schritt.
Wählen Sie den Quell-Bucket für diese Übertragung aus.
Geben Sie im Abschnitt Ereignisstream den Namen des Abos ein:
projects/PROJECT_NAME/subscriptions/SUBSCRIPTION_IDOptional können Sie Filter definieren und dann auf Nächster Schritt klicken.
Wählen Sie den Ziel-Bucket für diese Übertragung aus.
Optional können Sie eine Start- und Endzeit für die Übertragung eingeben. Wenn Sie keine Zeit angeben, wird die Übertragung sofort gestartet und so lange ausgeführt, bis sie manuell beendet wird.
Geben Sie Übertragungsoptionen an. Weitere Informationen finden Sie auf der Seite Übertragungen erstellen.
Klicken Sie auf Erstellen.
Nach dem Erstellen wird der Übertragungsjob ausgeführt und ein Ereignis-Listener wartet auf Benachrichtigungen im Pub/Sub-Abo. Auf der Seite mit den Jobdetails wird ein Vorgang pro Stunde angezeigt. Außerdem finden Sie dort Details zu den für jeden Job übertragenen Daten.
gcloud
Verwenden Sie den Befehl gcloud transfer jobs create mit dem Flag --event-stream-name, um eine ereignisgesteuerte Übertragung mit der Google Cloud CLI zu erstellen:
gcloud transfer jobs create \
gs://SOURCE_BUCKET \
gs://DESTINATION_BUCKET \
--event-stream-name=projects/PROJECT_NAME/subscriptions/SUBSCRIPTION_ID \
--event-stream-starts=EVENT_STREAM_STARTS \
--event-stream-expires=EVENT_STREAM_EXPIRES
Ersetzen Sie die Platzhalter durch Ihre tatsächlichen Werte:
- SOURCE_BUCKET: Der Name Ihres Cloud Storage-Quell-Buckets.
- DESTINATION_BUCKET: Ihr Cloud Storage-Ziel-Bucket.
- PROJECT_NAME: Das Projekt, das das Pub/Sub-Abo enthält.
- SUBSCRIPTION_ID: Die ID des von Ihnen erstellten Pub/Sub-Abos (z.B.
my-subscription). - EVENT_STREAM_STARTS: Gibt an, wann das Monitoring von Ereignissen im Datums-/Uhrzeitformat %Y-%m-%dT%H:%M:%S%z (z.B.
2020-04-12T06:42:12+04:00) gestartet werden soll. Wenn nicht festgelegt, wird der Job gestartet und das Monitoring von Ereignissen beginnt, sobald der Befehl zum Erstellen des Jobs erfolgreich gesendet wurde. - EVENT_STREAM_EXPIRES: Wann das Überwachen von Ereignissen beendet werden soll. Wenn nicht festgelegt, wird der Job fortgesetzt, bis er manuell beendet wird.
Eine vollständige Liste der unterstützten Felder finden Sie in der gcloud transfer jobs create-Referenz.
REST
Senden Sie das folgende JSON-Objekt an den Endpunkt transferJobs.create, um eine ereignisgesteuerte Übertragung mit der REST API zu erstellen:
transfer_job { "description": "YOUR DESCRIPTION", "status": "ENABLED", "projectId": "PROJECT_ID", "transferSpec" { "gcsDataSource" { "bucketName": "GCS_SOURCE_NAME" }, "gcsDataSink": { "bucketName": "GCS_SINK_NAME" } } "eventStream" { "name": "projects/PROJECT_NAME/subscriptions/SUBSCRIPTION_ID", "eventStreamStartTime": "2022-12-02T01:00:00+00:00", "eventStreamExpirationTime": "2023-01-31T01:00:00+00:00" } }
eventStreamStartTime und eventStreamExpirationTime sind optional.
Wenn die Startzeit weggelassen wird, beginnt die Übertragung sofort. Wenn die Endzeit weggelassen wird, wird die Übertragung fortgesetzt, bis sie manuell beendet wird.
Clientbibliotheken
Go
Informationen zum Installieren und Verwenden der Clientbibliothek für den Storage Transfer Service finden Sie unter Storage Transfer Service-Clientbibliotheken. Weitere Informationen finden Sie in der API-Referenzdokumentation für Storage Transfer Service Go.
Richten Sie zur Authentifizierung beim Storage Transfer Service die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Java
Informationen zum Installieren und Verwenden der Clientbibliothek für den Storage Transfer Service finden Sie unter Storage Transfer Service-Clientbibliotheken. Weitere Informationen finden Sie in der API-Referenzdokumentation für Storage Transfer Service Java.
Richten Sie zur Authentifizierung beim Storage Transfer Service die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Node.js
Informationen zum Installieren und Verwenden der Clientbibliothek für den Storage Transfer Service finden Sie unter Storage Transfer Service-Clientbibliotheken. Weitere Informationen finden Sie in der API-Referenzdokumentation für Storage Transfer Service Node.js.
Richten Sie zur Authentifizierung beim Storage Transfer Service die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Python
Informationen zum Installieren und Verwenden der Clientbibliothek für den Storage Transfer Service finden Sie unter Storage Transfer Service-Clientbibliotheken. Weitere Informationen finden Sie in der API-Referenzdokumentation für Storage Transfer Service Python.
Richten Sie zur Authentifizierung beim Storage Transfer Service die Standardanmeldedaten für Anwendungen ein. Weitere Informationen finden Sie unter Authentifizierung für eine lokale Entwicklungsumgebung einrichten.
Ereignisgesteuerte Übertragung überwachen
Wenn Sie eine ereignisgesteuerte Übertragung erstellen, erstellt der Storage Transfer Service einen Übertragungsjob. Sobald die Startzeit erreicht ist, wird ein Übertragungsvorgang gestartet und ein Event-Listener wartet auf Benachrichtigungen aus der Pub/Sub-Warteschlange.
Der Übertragungsvorgang wird mit dem Status in progress etwa 24 Stunden lang ausgeführt. Nach 24 Stunden ist der Vorgang abgeschlossen und ein neuer Vorgang beginnt.
Alle 24 Stunden wird ein neuer Vorgang erstellt, bis die Endzeit des Übertragungsjobs erreicht ist oder der Job manuell beendet wird.
Wenn eine Dateiübertragung läuft, wenn der Vorgang abgeschlossen sein soll, wird der aktuelle Vorgang fortgesetzt, bis die Datei vollständig übertragen wurde. Ein neuer Vorgang wird gestartet und die beiden Vorgänge werden gleichzeitig ausgeführt, bis der alte Vorgang abgeschlossen ist. Alle Ereignisse, die während dieses Zeitraums erkannt werden, werden vom neuen Vorgang verarbeitet.
So rufen Sie den aktuellen Vorgang und alle abgeschlossenen Vorgänge auf:
Google Cloud Console
Rufen Sie in der Google Cloud Console die Seite Storage Transfer Service auf.
Wählen Sie in der Jobliste entweder den Tab Alle oder Cloud-zu-Cloud aus.
Klicken Sie auf die Job-ID für Ihre Übertragung. In der Spalte Planungsmodus werden alle ereignisgesteuerten Übertragungen im Vergleich zu Batchübertragungen aufgeführt.
Wählen Sie den Tab Vorgänge aus. Es werden Details zum aktuellen Vorgang angezeigt und abgeschlossene Vorgänge werden in der Tabelle Ausführungsverlauf aufgeführt. Klicken Sie auf einen abgeschlossenen Vorgang, um weitere Details aufzurufen.
gcloud
Verwenden Sie gcloud transfer jobs monitor, um den Fortschritt eines Jobs in Echtzeit zu überwachen. Die Antwort zeigt den aktuellen Vorgang, die Startzeit des Jobs, die Menge der übertragenen Daten, übersprungene Byte und die Anzahl der Fehler.
gcloud transfer jobs monitor JOB_NAME
So rufen Sie den aktuellen Vorgangsnamen ab:
gcloud transfer jobs describe JOB_NAME --format="value(latestOperationName)"
So listen Sie aktuelle und abgeschlossene Vorgänge auf:
gcloud transfer operations list --job-names=JOB_NAME
So rufen Sie Details zu einem Vorgang auf:
gcloud transfer operations describe OPERATION_NAME