Mettre à l'échelle un déploiement Kubernetes

Les environnements Kubernetes vous permettent de faire évoluer vos ressources de base de données de manière dynamique en fonction des besoins de la charge de travail. Utilisez ces procédures de scaling si vous avez déployé Spanner Omni à l'aide du chart Helm.

Avant de commencer

Avant de faire évoluer votre déploiement Kubernetes, vous devez procéder comme suit :

Nous vous recommandons d'effectuer un scaling vertical jusqu'à au moins 32 Go de mémoire par serveur avant d'ajouter d'autres serveurs pour effectuer un scaling horizontal.

Limites

Le scaling dans Kubernetes présente les limites suivantes :

  • Serveurs non racine uniquement : le scaling horizontal est compatible avec les instances non racine. Le scaling des serveurs racine n'est pas compatible.

  • Contraintes de stockage StatefulSet : étant donné que les Kubernetes volumeClaimTemplates sont immuables, vous ne pouvez pas étendre les disques de pod à l'aide d'une seule helm upgrade commande. Au lieu de cela, le scaling du stockage nécessite des étapes d'extension manuelle du volume.

Scaling vertical

Pour ajuster les ressources de processeur ou de mémoire de vos serveurs, mettez à jour votre configuration à l'aide d'une mise à niveau Helm :

helm upgrade spanner-omni HELM_CHART_PATH \
  --version VERSION \
  --reuse-values \
  --set resources.cpu=CPU_CORES \
  --set resources.memory=MEMORY_LIMIT \
  -n NAMESPACE

Remplacez les éléments suivants :

  • HELM_CHART_PATH: chemin d'accès à votre chart Helm, par exemple oci://us-docker.pkg.dev/spanner-omni/charts/spanner-omni.
  • VERSION : version du chart Helm, par exemple 0.3.0.
  • CPU_CORES: nombre de cœurs de processeur virtuel à attribuer à chaque pod de serveur, par exemple 8.
  • MEMORY_LIMIT: limite de RAM pour chaque pod de serveur, par exemple 32Gi.
  • NAMESPACE: espace de noms Kubernetes du déploiement, par exemple spanner-ns.

Scaling horizontal

Pour effectuer un scaling horizontal, ajoutez des serveurs à votre déploiement. Le scaling horizontal est compatible avec les serveurs non racine.

Ajouter des serveurs non racine

Pour ajouter des serveurs non racine, augmentez le nombre de répliques dans la configuration du chart Helm. Vous pouvez effectuer un scaling uniforme de toutes les zones ou d'une zone spécifique.

Scaling uniforme

Pour effectuer un scaling de chaque zone du déploiement à 15 serveurs, exécutez la commande suivante :

helm upgrade spanner-omni HELM_CHART_PATH \
  --version VERSION \
  --reuse-values \
  --set deployment.replicasPerZone=REPLICAS \
  -n NAMESPACE

Remplacez les éléments suivants :

  • HELM_CHART_PATH: chemin d'accès à votre chart Helm, par exemple oci://us-docker.pkg.dev/spanner-omni/charts/spanner-omni.
  • VERSION: version du chart Helm, par exemple 0.3.0.
  • REPLICAS: nombre cible de répliques de serveur par zone, par exemple 15.
  • NAMESPACE: espace de noms Kubernetes, par exemple spanner-ns.

Scaling d'une zone spécifique

Si votre déploiement initial a configuré différents nombres de serveurs pour des zones individuelles, vous pouvez cibler une seule zone. Par exemple, pour augmenter le nombre de répliques de la première zone du premier emplacement à 15, exécutez la commande suivante :

helm upgrade spanner-omni HELM_CHART_PATH \
  --version VERSION \
  --reuse-values \
  --set locations[0].zones[0].replicas=REPLICAS \
  -n NAMESPACE

Remplacez REPLICAS par le nombre de répliques de la zone cible, par exemple 15.

Pour vérifier que les nouveaux serveurs ont bien rejoint le déploiement, interrogez la CLI Spanner Omni pour répertorier les serveurs de déploiement ou afficher votre tableau de bord Grafana.

spanner deployment servers list \
  --zone=ZONE \
  --deployment-endpoint=ENDPOINT

Remplacez les éléments suivants :

  • ZONE: zone que vous souhaitez répertorier, par exemple us-central1-a.
  • ENDPOINT : point de terminaison externe de votre déploiement, par exemple ${ENDPOINT}:15000.

Supprimer des serveurs non racine

La réduction du nombre de serveurs nécessite des étapes supplémentaires, car le système doit déplacer en toute sécurité les partitions de données des serveurs mis hors service. Étant donné que les StatefulSets Kubernetes suppriment les pods de l'index le plus élevé à l'index le plus bas, vous devez d'abord cibler les serveurs non racine avec l'index le plus élevé pour les supprimer.

Pour réduire le nombre de serveurs, procédez comme suit :

  1. Répertoriez les serveurs de votre zone pour identifier les candidats à la suppression :

    spanner deployment servers list \
      --zone=ZONE \
      --deployment-endpoint=ENDPOINT
    

    Exemple de résultat :

    NAME                                                          HOST                        PORT_BASE  ROOT  STATE
    zones/us-central1-a/servers/spanner-a-0.pod.spanner-ns:15000  spanner-a-0.pod.spanner-ns  15000      true  -
    zones/us-central1-a/servers/spanner-a-1.pod.spanner-ns:15000  spanner-a-1.pod.spanner-ns  15000      -     -
    

    Supprimez le serveur non racine mis hors service avec l'index le plus élevé (par exemple, spanner-a-1.pod.spanner-ns:15000) :

    spanner deployment servers delete SERVER_NAME \
      --zone=ZONE \
      --deployment-endpoint=ENDPOINT
    

    Remplacez SERVER_NAME par l'identifiant du serveur, par exemple spanner-a-1.pod.spanner-ns:15000.

    Vérifiez la liste des serveurs jusqu'à ce que le serveur cible soit supprimé de la liste. Après la suppression, le serveur passe à un état non sain dans le système et est supprimé du chemin de service actif.

  2. Réduisez le déploiement Helm en exécutant une commande de mise à niveau Helm pour qu'il corresponde au nombre de répliques cible. Par exemple, pour réduire le nombre de répliques par zone à 1 pod, exécutez la commande suivante :

    helm upgrade spanner-omni HELM_CHART_PATH \
      --version VERSION \
      --reuse-values \
      --set deployment.replicasPerZone=REPLICAS \
      -n NAMESPACE
    

    Remplacez REPLICAS par le nombre de répliques mis à jour, par exemple 1.

  3. Supprimez les revendications de volume persistant (PVC) Kubernetes associées aux pods supprimés. Pour éviter toute perte accidentelle de données, Helm et Kubernetes ne suppriment pas automatiquement les PVC lors de la réduction d'un StatefulSet. Supprimez manuellement les PVC pour récupérer complètement le stockage :

    kubectl delete pvc LOGS_PVC DATA_PVC -n NAMESPACE
    

    Par exemple, pour supprimer les journaux et les volumes de données de spanner-a-1 dans l'espace de noms spanner-ns :

    kubectl delete pvc logs-volume-spanner-a-1 data-volume-spanner-a-1 -n spanner-ns
    

Ajouter une zone

L'ajout d'une zone à votre déploiement augmente la disponibilité et protège votre base de données contre les pannes d'une seule zone.

Par exemple, la commande suivante initialise un déploiement à zone unique en cours d'exécution sur Google Kubernetes Engine (GKE) dans la us-east1-b zone de la us région :

helm upgrade --install spanner-omni HELM_CHART_PATH \
  --version VERSION \
  --set resources.cpu=2 \
  --set resources.memory=8Gi \
  --set global.platform=gke \
  --set-json 'locations=[{"name":"us","zones":[{"name":"us-east1-b","shortName":"east-b"}]}]' \
  -n NAMESPACE

Ajoutez la zone us-east1-c à cette configuration en procédant comme suit :

  1. Lancez les pods dans la nouvelle zone en exécutant la commande helm upgrade et en transmettant un bloc JSON mis à jour qui inclut la nouvelle zone d'emplacement :

    helm upgrade spanner-omni HELM_CHART_PATH \
      --version VERSION \
      --reuse-values \
      --set-json 'locations=[{"name":"us","zones":[{"name":"us-east1-b","shortName":"east-b"},{"name":"us-east1-c","shortName":"east-c"}]}]' \
      -n NAMESPACE
    
  2. Ajoutez la nouvelle zone à l'aide de la CLI Spanner Omni. Attendez que les pods du serveur racine de la zone nouvellement créée passent à l'état Running et prêt. Exécutez ensuite la commande de création de zone :

    spanner deployment zones create NEW_ZONE \
      --location=LOCATION \
      --root-servers=ROOT_SERVERS_LIST \
      --deployment-endpoint=ENDPOINT
    

    Remplacez les éléments suivants :

    • NEW_ZONE: identifiant de la zone à ajouter, par exemple us-east1-c.
    • LOCATION : emplacement du déploiement, par exemple us.
    • ROOT_SERVERS_LIST: liste d'endpoints de serveurs racine séparés par une virgule dans la nouvelle zone, par exemple spanner-east-c-0.pod.spanner-ns:15000,spanner-east-c-1.pod.spanner-ns:15000,spanner-east-c-2.pod.spanner-ns:15000.
    • ENDPOINT : point de terminaison de déploiement externe, par exemple, ${ENDPOINT}:15000.
  3. Attendez la fin de la création de la zone. La réplication des schémas et des tables de base de données existants dans une nouvelle zone prend du temps. Surveillez la progression de la synchronisation de la zone en répertoriant les zones de déploiement :

    spanner deployment zones list --deployment-endpoint=ENDPOINT
    

Supprimer une zone

Vous pouvez mettre hors service une zone active de votre déploiement multizone pour réduire les ressources ou vous adapter aux modifications de la topologie.

Supprimez la zone us-east1-c créée dans la section précédente en procédant comme suit :

  1. Supprimez la zone et lancez la suppression de la zone dans Spanner Omni :

    spanner deployment zones delete ZONE --deployment-endpoint=ENDPOINT
    

    Remplacez ZONE par la zone à supprimer, par exemple us-east1-c.

  2. Vérifiez que la zone a été supprimée. Exécutez une commande de liste et attendez que la zone n'apparaisse plus dans la sortie :

    spanner deployment zones list --deployment-endpoint=ENDPOINT
    
  3. Supprimez les serveurs du cluster Kubernetes en exécutant une commande de mise à niveau Helm et en transmettant un bloc JSON d'emplacements mis à jour qui exclut la zone supprimée :

    helm upgrade spanner-omni HELM_CHART_PATH \
      --version VERSION \
      --reuse-values \
      --set-json 'locations=[{"name":"us","zones":[{"name":"us-east1-b","shortName":"east-b"}]}]' \
      -n NAMESPACE
    

Scaling du stockage

Étant donné que les volumeClaimTemplates Kubernetes sont immuables, vous ne pouvez pas augmenter les capacités de stockage des pods directement à l'aide de la commande helm upgrade. Vous devez effectuer une extension manuelle du volume. Pour en savoir plus, consultez le guide sur l'extension de volume GKE StatefulSet.

Pour étendre votre espace de stockage sur disque, procédez comme suit :

  1. Définissez les paramètres de l'extension de volume en tant que variables d'environnement dans votre terminal :

    NEW_SIZE="NEW_SIZE"
    NAMESPACE="NAMESPACE"
    RELEASE_NAME="spanner-omni"
    STATEFULSET_NAMES="STATEFULSET_NAME_1 STATEFULSET_NAME_2 STATEFULSET_NAME_3"
    HELM_CHART_PATH="HELM_CHART_PATH"
    VERSION="VERSION"
    

    Remplacez les éléments suivants :

    • NEW_SIZE: taille de la capacité de stockage cible, par exemple 200Gi.
    • NAMESPACE: espace de noms Kubernetes, par exemple spanner-ns.
    • STATEFULSET_NAME_1, STATEFULSET_NAME_2, ...: noms des StatefulSets de votre déploiement, correspondant généralement aux noms courts de vos zones (par exemple, spanner-east-b spanner-east-c).
    • HELM_CHART_PATH: chemin d'accès à votre chart Helm, par exemple oci://us-docker.pkg.dev/spanner-omni/charts/spanner-omni.
    • VERSION : version du chart Helm, par exemple 0.3.0.
  2. Exécutez les commandes pour appliquer un correctif aux PVC, supprimer les StatefulSets (en laissant les pods de backend intacts) et mettre à niveau le déploiement Helm :

    # Patch all associated PVCs directly.
    for pvc in $(kubectl get pvc -n $NAMESPACE \
      -l app.kubernetes.io/instance=$RELEASE_NAME \
      -o name | grep "data-volume"); do
      kubectl patch $pvc -n $NAMESPACE -p "{\"spec\":{\"resources\":{\"requests\":{\"storage\":\"$NEW_SIZE\"}}}}"
    done
    
    # Delete the StatefulSet while leaving backend pods intact (orphan cascade).
    kubectl delete statefulset $STATEFULSET_NAMES -n $NAMESPACE --cascade=orphan
    
    # Run Helm upgrade to align the templates with the expanded size.
    helm upgrade $RELEASE_NAME $HELM_CHART_PATH \
      --version $VERSION \
      --reuse-values \
      --set storage.data.size=$NEW_SIZE \
      -n $NAMESPACE
    

Étapes suivantes