Caractéristiques de performances des pipelines Pub/Sub vers BigQuery

Cette page décrit les caractéristiques de performances des jobs de traitement en flux continu Dataflow qui lisent des données depuis Pub/Sub et les écrivent dans BigQuery. Elle présente les résultats de tests de référence pour deux types de pipelines de traitement en flux continu :

  • Carte uniquement (transformation par message) : pipelines qui effectuent des transformations par message, sans suivre l'état ni regrouper les éléments dans le flux. Exemples : ETL, validation de champ et mappage de schéma.

  • Agrégation par fenêtre (GroupByKey) : pipelines qui effectuent des opérations avec état et regroupent les données en fonction d'une clé et d'une fenêtre temporelle. Exemples : comptage d'événements, calcul de sommes et collecte d'enregistrements pour une session utilisateur.

La plupart des charges de travail pour l'intégration de données en flux continu appartiennent à ces deux catégories. Si votre pipeline suit un schéma similaire, vous pouvez utiliser ces benchmarks pour évaluer votre job Dataflow par rapport à une configuration de référence performante.

Méthodologie de test

Les benchmarks ont été effectués à l'aide des ressources suivantes :

  • Un sujet Pub/Sub préprovisionné avec une charge d'entrée constante. Les messages ont été générés à l'aide du modèle Streaming Data Generator.

    • Débit de messages : environ 1 000 000 de messages par seconde
    • Charge d'entrée : 1 Gio/s
    • Format des messages : texte JSON généré de manière aléatoire avec un schéma fixe
    • Taille des messages : environ 1 Kio par message
  • Une table BigQuery standard.

  • Pipelines de traitement en flux continu Dataflow basés sur le modèle Pub/Sub vers BigQuery. Ces pipelines effectuent l'analyse et le mappage de schéma minimaux requis. Aucune fonction définie par l'utilisateur (UDF) personnalisée n'a été utilisée.

Une fois le scaling horizontal stabilisé et le pipeline atteint un état stable, les pipelines ont été autorisés à s'exécuter pendant environ une journée, après quoi les résultats ont été collectés et analysés.

Pipelines Dataflow

Deux variantes de pipeline ont été testées :

Pipeline de carte uniquement. Ce pipeline effectue un mappage et une conversion simples des messages JSON. Pour ce test, le modèle Pub/Sub vers BigQuery a été utilisé sans modification.

  • Sémantique : le pipeline a été testé en mode « exactement une fois » et en mode « au moins une fois ». Le traitement de type "au moins une fois" offre un meilleur débit. Toutefois, il ne doit être utilisé que lorsque les enregistrements en double sont acceptables ou que le plug-in récepteur en aval gère la déduplication.

Pipeline d'agrégation par fenêtre. Ce pipeline regroupe les messages par clé spécifique dans des fenêtres de taille fixe et écrit les enregistrements agrégés dans BigQuery. Pour ce test, un pipeline Apache Beam personnalisé basé sur le modèle Pub/Sub vers BigQuery a été utilisé.

  • Logique d'agrégation : pour chaque fenêtre fixe d'une minute sans chevauchement, les messages avec la même clé ont été collectés et écrits en tant qu'enregistrement agrégé unique dans BigQuery. Ce type d'agrégation est couramment utilisé dans le traitement des journaux pour combiner des événements associés, tels que l'activité d'un utilisateur, dans un seul enregistrement pour l'analyse en aval.

  • Parallélisme des clés : le benchmark a utilisé 1 000 000 de clés distribuées de manière uniforme.

  • Sémantique : le pipeline a été testé en mode "exactement une fois". Les agrégations nécessitent une sémantique de type "exactement une fois" pour garantir l'exactitude et éviter le double comptage dans un groupe et une fenêtre.

Configuration du job

Le tableau suivant montre comment les jobs Dataflow ont été configurés.

Paramètre Carte uniquement, exactement une fois Carte uniquement, au moins une fois Agrégation par fenêtre, exactement une fois
Type de machine des nœuds de calcul n1-standard-2 n1-standard-2 n1-standard-2
Processeurs virtuels de nœud de calcul 2 2 2
RAM de la machine de nœud de calcul 7,5 Gio 7,5 Gio 7,5 Gio
Disque persistant de la machine de nœud de calcul Disque persistant standard (HDD), 30 Go Disque persistant standard (HDD), 30 Go Disque persistant standard (HDD), 30 Go
Nœuds de calcul initiaux 70 30 180
Nombre maximal de nœuds de calcul 100 100 250
Streaming Engine Oui Oui Oui
Autoscaling horizontal Oui Oui Oui
Modèle de facturation Facturation basée sur les ressources Facturation basée sur les ressources Facturation basée sur les ressources
L'API Storage Write (gRPC) est-elle activée ? Oui Oui Oui
Flux de l'API Storage Write (gRPC) 200 Non applicable 500
Fréquence de déclenchement de l'API Storage Write (gRPC) 5 secondes Non applicable 5 secondes

L'API BigQuery Storage Write (gRPC) est recommandée pour les pipelines de traitement en flux continu. Lorsque vous utilisez le mode "exactement une fois" avec l'API Storage Write (gRPC), vous pouvez ajuster les paramètres suivants :

  • Nombre de flux d'écriture. Pour garantir un parallélisme des clés suffisant lors de l'étape d'écriture, définissez le nombre de flux de l'API Storage Write (gRPC) sur une valeur supérieure au nombre de processeurs de nœuds de calcul, tout en maintenant un niveau raisonnable de débit de flux d'écriture BigQuery .

  • Fréquence de déclenchement. Une valeur de seconde à un seul chiffre convient aux pipelines à haut débit.

Pour en savoir plus, consultez la section Écrire des données depuis Dataflow vers BigQuery.

Résultats du benchmark

Cette section décrit les résultats des tests de référence.

Débit et utilisation des ressources

Le tableau suivant présente les résultats des tests pour le débit du pipeline et l'utilisation des ressources.

Résultat Carte uniquement, exactement une fois Carte uniquement, au moins une fois Agrégation par fenêtre, exactement une fois
Débit d'entrée par nœud de calcul Moyenne : 17 Mo/s, n=3 Moyenne : 21 Mo/s, n=3 Moyenne : 6 Mo/s, n=3
Utilisation moyenne du processeur sur tous les nœuds de calcul Moyenne : 65%, n=3 Moyenne : 69%, n=3 Moyenne : 80%, n=3
Nombre de nœuds de calcul Moyenne : 57, n=3 Moyenne : 48, n=3 Moyenne : 169, n=3
Unités de calcul Streaming Engine par heure Moyenne : 125, n=3 Moyenne : 46, n=3 Moyenne : 354, n=3

L'algorithme d'autoscaling peut affecter le niveau d'utilisation cible du processeur. Pour atteindre un niveau d'utilisation cible du processeur plus élevé ou plus faible, vous pouvez définir la plage d'autoscaling ou l' indicateur d'utilisation des nœuds de calcul. Des cibles d'utilisation plus élevées peuvent entraîner des coûts plus faibles, mais aussi une latence de fin plus mauvaise, en particulier pour les charges variables.

Pour un pipeline d'agrégation par fenêtre, le type d'agrégation, la taille de la fenêtre et le parallélisme des clés peuvent avoir un impact important sur l'utilisation des ressources.

Latence

Le tableau suivant présente les résultats du benchmark pour la latence du pipeline.

Latence totale de bout en bout de l'étape Carte uniquement, exactement une fois Carte uniquement, au moins une fois Agrégation par fenêtre, exactement une fois
P50 Moyenne : 800 ms, n=3 Moyenne : 160 ms, n=3 Moyenne : 3 400 ms, n=3
P95 Moyenne : 2 000 ms, n=3 Moyenne : 250 ms, n=3 Moyenne : 13 000 ms, n=3
P99 Moyenne : 2 800 ms, n=3 Moyenne : 410 ms, n=3 Moyenne : 25 000 ms, n=3

Les tests ont mesuré la latence de bout en bout par étape (métrique job/streaming_engine/stage_end_to_end_latencies ) sur trois exécutions de test de longue durée. Cette métrique mesure le temps que le Streaming Engine passe à chaque étape du pipeline. Elle englobe toutes les étapes internes du pipeline, telles que :

  • Le brassage et la mise en file d'attente des messages pour le traitement
  • Le temps de traitement réel, par exemple la conversion des messages en objets de ligne
  • L'écriture de l'état persistant, ainsi que le temps passé en file d'attente pour écrire l'état persistant

Une autre métrique de latence est la fraîcheur des données. Toutefois, la fraîcheur des données est affectée par des facteurs tels que le fenêtrage défini par l'utilisateur et les retards en amont dans la source. La latence du système fournit une référence plus objective pour l'efficacité et l'état du traitement interne d'un pipeline sous charge.

Les données ont été mesurées sur environ une journée par exécution, les périodes de démarrage initiales étant supprimées afin de refléter des performances stables et en état stable. Les résultats montrent deux facteurs qui introduisent une latence supplémentaire :

  • Mode "exactement une fois" Pour obtenir une sémantique de type "exactement une fois", un brassage déterministe et des recherches d'état persistant sont nécessaires pour la déduplication. Le mode "au moins une fois" est beaucoup plus rapide, car il contourne ces étapes.

  • Agrégation par fenêtre Les messages doivent être entièrement brassés, mis en mémoire tampon et écrits dans un état persistant avant la fermeture de la fenêtre, ce qui ajoute à la latence de bout en bout.

Les benchmarks présentés ici représentent une référence. La latence est très sensible à la complexité du pipeline. Les UDF personnalisées, les transformations supplémentaires et la logique de fenêtrage complexe peuvent toutes augmenter la latence. Les agrégations simples et très réductrices, telles que la somme et le nombre, ont tendance à entraîner une latence plus faible que les opérations lourdes en état, telles que la collecte d'éléments dans une liste.

Coûts estimés

Vous pouvez estimer le coût de référence de votre propre pipeline comparable avec la facturation basée sur les ressources à l'aide du Google Cloud simulateur de coût, comme suit :

  1. Ouvrez le simulateur de coût.
  2. Cliquez sur Ajouter à l'estimation.
  3. Sélectionnez Dataflow.
  4. Pour Type de service, sélectionnez "Dataflow Classic".
  5. Sélectionnez Paramètres avancés pour afficher l'ensemble complet des options.
  6. Choisissez l'emplacement où le job s'exécute.
  7. Dans le champ Type de mission, sélectionnez "Traitement en flux continu".
  8. Sélectionnez Activer Streaming Engine.
  9. Saisissez les informations concernant les heures d'exécution du job, les nœuds de calcul, les machines de nœud de calcul et le stockage de disque persistant.
  10. Saisissez le nombre estimé d'unités de calcul Streaming Engine.

L'utilisation des ressources et les coûts sont à peu près linéaires avec le débit d'entrée, bien que pour les petits jobs avec seulement quelques nœuds de calcul, le coût total soit dominé par les coûts fixes. Pour commencer, vous pouvez extrapoler le nombre de nœuds de calcul et la consommation de ressources à partir des résultats du benchmark.

Supposons, par exemple, que vous exécutiez un pipeline de carte uniquement en mode "exactement une fois", avec un débit de données d'entrée de 100 Mio/s. En fonction des résultats du benchmark pour un pipeline de 1 Gio/s, vous pouvez estimer les besoins en ressources comme suit :

  • Facteur de scaling : (100 Mio/s) / (1 Gio/s) = 0,1
  • Nœuds de calcul projetés : 57 nœuds de calcul × 0,1 = 5,7 nœuds de calcul
  • Nombre projeté d'unités de calcul Streaming Engine par heure : 125 × 0,1 = 12,5 unités par heure

Cette valeur ne doit être utilisée qu'à titre d'estimation initiale. Le débit et le coût réels peuvent varier considérablement en fonction de facteurs tels que le type de machine, la distribution de la taille des messages, le code utilisateur, le type d'agrégation, le parallélisme des clés et la taille de la fenêtre. Pour en savoir plus, consultez Bonnes pratiques pour l'optimisation des coûts Dataflow.

Exécuter un pipeline de test

Cette section présente les gcloud dataflow flex-template run commandes qui ont été utilisées pour exécuter le pipeline de carte uniquement.

Mode "exactement une fois"

gcloud dataflow flex-template run JOB_ID \
  --template-file-gcs-location gs://dataflow-templates-us-central1/latest/flex/PubSub_to_BigQuery_Flex \
  --enable-streaming-engine \
  --num-workers 70 \
  --max-workers 100 \
  --parameters \
inputSubscription=projects/PROJECT_IDsubscriptions/SUBSCRIPTION_NAME,\
outputTableSpec=PROJECT_ID:DATASET.TABLE_NAME,\
useStorageWriteApi=true,\
numStorageWriteApiStreams=200 \
storageWriteApiTriggeringFrequencySec=5

Mode "au moins une fois"

gcloud dataflow flex-template run JOB_ID \
  --template-file-gcs-location gs://dataflow-templates-us-central1/latest/flex/PubSub_to_BigQuery_Flex \
  --enable-streaming-engine \
  --num-workers 30 \
  --max-workers 100 \
  --parameters \
inputSubscription=projects/PROJECT_ID/subscriptions/SUBSCRIPTION_NAME,\
outputTableSpec=PROJECT_ID:DATASET.TABLE_NAME,\
useStorageWriteApi=true \
  --additional-experiments streaming_mode_at_least_once

Remplacez les éléments suivants :

  • JOB_ID : ID du job Dataflow
  • PROJECT_ID : ID du projet
  • SUBSCRIPTION_NAME: nom de l'abonnement Pub/Sub
  • DATASET: nom de l'ensemble de données BigQuery
  • TABLE_NAME: nom de la table BigQuery

Générer des données test

Pour générer des données test, exécutez la commande suivante afin d'exécuter le modèle Streaming Data Generator :

gcloud dataflow flex-template run JOB_ID \
  --template-file-gcs-location gs://dataflow-templates-us-central1/latest/flex/Streaming_Data_Generator \
  --num-workers 70 \
  --max-workers 100 \
  --parameters \
topic=projects/PROJECT_ID/topics/TOPIC_NAME,\
qps=1000000,\
maxNumWorkers=100,\
schemaLocation=SCHEMA_LOCATION

Remplacez les éléments suivants :

  • JOB_ID : ID du job Dataflow
  • PROJECT_ID : ID du projet
  • TOPIC_NAME: nom du sujet Pub/Sub
  • SCHEMA_LOCATION: chemin d'accès à un fichier de schéma dans Cloud Storage

Le modèle Streaming Data Generator utilise un fichier JSON Data Generator pour définir le schéma du message. Les tests de référence ont utilisé un schéma de message semblable à celui-ci :

{
  "logStreamId": "{{integer(1000001,2000000)}}",
  "message": "{{alphaNumeric(962)}}"
}

Étapes suivantes