GPU-Unterstützung für Worker-Pools

Auf dieser Seite wird die GPU-Konfiguration für Ihre Cloud Run-Workerpools beschrieben. Google bietet NVIDIA RTX PRO 6000 Blackwell-GPUs mit 96 GB GPU-Arbeitsspeicher (VRAM) und NVIDIA L4-GPUs mit 24 GB GPU-Arbeitsspeicher (VRAM) an. Dieser ist vom Instanzarbeitsspeicher getrennt.

GPUs in Cloud Run werden vollständig verwaltet. Es sind keine zusätzlichen Treiber oder Bibliotheken erforderlich. Die GPU-Funktion bietet On-Demand-Verfügbarkeit ohne erforderliche Reservierungen, ähnlich wie bei On-Demand-CPUs und On-Demand-Arbeitsspeicher in Cloud Run.

Cloud Run-Instanzen mit einer angehängten NVIDIA RTX PRO 6000 Blackwell-GPU oder L4-GPU mit vorinstallierten Treibern werden in etwa 5 Sekunden gestartet. Danach können die in Ihrem Container ausgeführten Prozesse die GPU verwenden.

Sie können eine GPU pro Cloud Run-Instanz konfigurieren. Wenn Sie Sidecar-Container verwenden, kann die GPU nur an einen Container angehängt werden.

Unterstützte GPU-Typen

Cloud Run unterstützt zwei Arten von GPUs:

  • NVIDIA RTX PRO 6000 Blackwell-GPU mit der aktuellen NVIDIA-Treiberversion: 580.x.x (13.0). Für die NVIDIA RTX PRO 6000 Blackwell-GPU müssen Sie mindestens 20 CPUs und 80 GiB Arbeitsspeicher verwenden.
  • L4-GPU mit der aktuellen NVIDIA-Treiberversion: 580.x.x (13.0). Für L4-GPUs müssen Sie mindestens 4 CPUs und 16 GiB Arbeitsspeicher verwenden.

Unterstützte Regionen

Die NVIDIA RTX PRO 6000 Blackwell-GPU wird in den folgenden Regionen unterstützt:

Die L4-GPU wird in den folgenden Regionen unterstützt:

  • asia-southeast1 (Singapur)
  • asia-south1 (Mumbai) . Diese Region ist nur auf Einladung verfügbar. Wenden Sie sich an Ihr Google Konten-Team, wenn Sie daran interessiert sind.
  • europe-west1 (Belgien) Blattsymbol Niedriger CO2-Ausstoß
  • europe-west4 (Niederlande) Blattsymbol Niedriger CO2-Ausstoß
  • us-central1 (Iowa) Blattsymbol Niedriger CO2-Ausstoß . Für die zusätzliche Skalierung von Ressourcen in dieser Region ist möglicherweise ein Antrag auf Kontingenterhöhung erforderlich. Wenden Sie sich an Ihr Google-Kontenteam, wenn Sie an dieser Region interessiert sind.
  • us-east4 (Northern Virginia) . Für die zusätzliche Skalierung von Ressourcen in dieser Region ist möglicherweise ein Antrag auf Kontingenterhöhung erforderlich. Wenden Sie sich an Ihr Google-Kontenteam, wenn Sie an dieser Region interessiert sind.

Auswirkungen auf die Kosten

Weitere Informationen zu GPU-Preisen finden Sie unter Cloud Run – Preise. Beachten Sie die folgenden Anforderungen und Hinweise:

  • Es gibt einen Kostenunterschied zwischen zonaler GPU-Redundanz und nicht zonaler Redundanz. Weitere Informationen zu GPU-Preisen finden Sie unter Cloud Run – Preise.
  • GPU-Workerpools können nicht automatisch skaliert werden. Die GPU wird Ihnen auch dann in Rechnung gestellt, wenn auf der GPU kein Prozess ausgeführt wird, solange die GPU-Instanz des Worker-Pools läuft.
  • Die Preise für CPU und Arbeitsspeicher für Worker-Pools unterscheiden sich von denen für Dienstleistungen und Jobs. Die GPU-SKU hat jedoch den gleichen Preis wie Dienstleistungen und Aufträge.
  • Die CPU- und Speicherkonfigurationen Ihrer Ressource.
  • Die GPU wird für die gesamte Dauer des Instanzlebenszyklus in Rechnung gestellt.

Optionen für die zonale GPU-Redundanz

Standardmäßig verteilt Cloud Run Ihren Worker-Pool auf mehrere Zonen innerhalb einer Region. Diese Architektur bietet eine inhärente Resilienz: Wenn es in einer Zone zu einem Ausfall kommt, leitet Cloud Run den Traffic automatisch von der betroffenen Zone zu fehlerfreien Zonen in derselben Region um.

Wenn Sie mit GPU-Ressourcen arbeiten, sollten Sie die spezifischen Kapazitätsbeschränkungen von GPU-Ressourcen beachten. Bei einem Zonenausfall hängt der standardmäßige Failover-Mechanismus für GPU-Arbeitslasten davon ab, dass in den verbleibenden fehlerfreien Zonen genügend ungenutzte GPU-Kapazität verfügbar ist. Aufgrund der begrenzten Verfügbarkeit von GPUs ist diese Kapazität möglicherweise nicht immer verfügbar.

Um die Verfügbarkeit Ihrer GPU-beschleunigten Worker-Pools bei zonalen Ausfällen zu erhöhen, können Sie die zonale Redundanz speziell für GPUs konfigurieren:

  • Zonale Redundanz aktiviert (Standard): Cloud Run reserviert GPU-Kapazität für Ihren Worker-Pool über mehrere Zonen hinweg. Dies erhöht die Wahrscheinlichkeit erheblich, dass Ihr Worker-Pool den aus einer betroffenen Zone umgeleiteten Datenverkehr erfolgreich verarbeiten kann, und bietet eine höhere Zuverlässigkeit bei Zonenausfällen, allerdings mit zusätzlichen Kosten pro GPU-Sekunde.

  • Zonale Redundanz deaktiviert: Cloud Run versucht, für GPU-Arbeitslasten ein Failover auf Best-Effort-Basis durchzuführen. Der Traffic wird nur dann an andere Zonen weitergeleitet, wenn zu diesem Zeitpunkt genügend GPU-Kapazität verfügbar ist. Diese Option garantiert keine reservierte Kapazität für Failover-Szenarien, führt aber zu niedrigeren Kosten pro GPU-Sekunde.

SLA

Die SLA für Cloud Run GPU hängt davon ab, ob der Worker-Pool die zonale Redundanz oder die nicht-zonale Redundanz option verwendet. Weitere Informationen finden Sie auf der SLA-Seite.

Kontingenterhöhung anfordern

Das Kontingent für Cloud Run-nvidia-rtx-pro-6000-GPUs wird in Milli-GPUs gewährt. Projekten, in denen zum ersten Mal eine nvidia-rtx-pro-6000-GPU in einer Region verwendet wird, werden automatisch 3.000 milliGPU-Kontingente (zonale Redundanz deaktiviert) zugewiesen, wenn die erste Bereitstellung erstellt wird. Das entspricht 3 GPUs. Projekten, in denen zum ersten Mal nvidia-l4-GPUs in einer Region für Cloud Run verwendet werden, wird automatisch ein Kontingent von 3 GPUs (zonale Redundanz deaktiviert) gewährt, wenn die erste Bereitstellung erstellt wird.

Falls Sie zusätzliche Cloud Run GPUs benötigen, müssen Sie eine Quotenerhöhung für Ihren Cloud Run Worker-Pool beantragen. Über die Links in den folgenden Schaltflächen können Sie das benötigte Kontingent anfordern.

Kontingent erforderlich Kontingentlink
NVIDIA RTX PRO 6000 Blackwell-GPU mit deaktivierter zonaler Redundanz (niedrigerer Preis) GPU-Kontingent ohne zonale Redundanz anfordern
NVIDIA RTX PRO 6000 Blackwell-GPU mit aktivierter zonaler Redundanz (höherer Preis) GPU-Kontingent mit zonaler Redundanz anfordern
L4-GPU mit deaktivierter zonaler Redundanz (niedrigerer Preis) GPU-Kontingent ohne zonale Redundanz anfordern
L4-GPU mit aktivierter zonaler Redundanz (höherer Preis) GPU-Kontingent mit zonaler Redundanz anfordern

Weitere Informationen zum Anfordern von Kontingenterhöhungen finden Sie unter Kontingent erhöhen.

Hinweis

In der folgenden Liste werden die Anforderungen und Einschränkungen bei der Verwendung von GPUs in Cloud Run beschrieben:

  1. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  2. Verify that billing is enabled for your Google Cloud project.

  3. Cloud Run API aktivieren

    Rollen, die zum Aktivieren von APIs erforderlich sind

    Zum Aktivieren von APIs benötigen Sie die Berechtigung serviceusage.services.enable. Wenn Sie das Projekt erstellt haben, haben Sie diese Berechtigung wahrscheinlich bereits über die Rolle „Inhaber“ (roles/owner). Andernfalls können Sie diese Berechtigung über die Rolle „Service Usage-Administrator“ (roles/serviceusage.serviceUsageAdmin) erhalten. Informationen zum Zuweisen von Rollen

    API aktivieren

  4. Erforderliches Kontingent anfordern
  5. Empfehlungen zum Erstellen Ihres Container-Images und zum Laden großer Modelle finden Sie unter GPU Best Practices: Cloud Run Worker Pools mit GPUs.
  6. Stellen Sie sicher, dass Ihr Cloud Run-Workerpool die folgenden Konfigurationen aufweist:
    • Konfigurieren Sie die Abrechnungseinstellungen für die instanzbasierte Abrechnung. Beachten Sie, dass Worker-Pools, die auf instanzbasierte Abrechnung eingestellt sind, dennoch auf Null skalieren können.
    • Konfigurieren Sie für die NVIDIA RTX PRO 6000 Blackwell-GPU mindestens 20 CPUs und mindestens 80 GiB Arbeitsspeicher.
    • Für L4 GPU konfigurieren Sie mindestens 4 CPU für Ihren Worker-Pool, wobei 8 CPU empfohlen werden, und mindestens 16 GiB Arbeitsspeicher, wobei 32 GiB empfohlen werden.
    • Ermitteln und legen Sie eine optimale maximale Parallelität für Ihre GPU-Nutzung fest.

Erforderliche Rollen

Um die Berechtigungen zu erhalten, die Sie zum Konfigurieren und Bereitstellen von Cloud Run-Workerpools benötigen, bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen für Workerpools zuzuweisen:

  • Cloud Run Developer (roles/run.developer) - der Cloud Run-Workerpool
  • Dienstkontonutzer (roles/iam.serviceAccountUser) – die Dienstidentität

Eine Liste der IAM-Rollen und -Berechtigungen im Zusammenhang mit Cloud Run finden Sie unter IAM-Rollen für Cloud Run und IAM-Berechtigungen für Cloud Run. Wenn Ihr Cloud Run-Workerpool mitGoogle Cloud -APIs wie Cloud-Clientbibliotheken verknüpft ist, lesen Sie die Konfigurationsanleitung für Dienstidentitäten. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Bereitstellungsberechtigungen und Zugriff verwalten.

Konfigurieren eines Cloud Run-Workerpools mit GPU

Jede Konfigurationsänderung führt zur Erstellung einer neuen Überarbeitung. Für nachfolgende Überarbeitungen gilt automatisch dieselbe Konfigurationseinstellung, sofern Sie sie nicht explizit aktualisieren.

Sie können die Google Cloud Console, die Google Cloud CLI oder YAML verwenden, um die GPU zu konfigurieren.

Console

  1. Rufen Sie in der Google Cloud Console Cloud Run auf:

    Zu Cloud Run

  2. Wählen Sie im Cloud Run-Navigationsmenü Worker Pools aus und klicken Sie auf Deploy container, um einen neuen Worker-Pool zu konfigurieren. Wenn Sie einen vorhandenen Workerpool konfigurieren möchten, klicken Sie auf den Workerpool und dann auf Neue Überarbeitung bearbeiten und bereitstellen.

  3. Wenn Sie einen neuen Worker-Pool konfigurieren, füllen Sie die Seite mit den anfänglichen Worker-Pool-Einstellungen aus und klicken Sie dann auf Container, Netzwerk, Sicherheit, um die Worker-Pool-Konfigurationsseite zu erweitern.

  4. Klicken Sie auf den Tab Container.

    Image

    • Konfigurieren Sie CPU, Speicher, Parallelverarbeitung, Ausführungsumgebung und Startprüfung gemäß den Empfehlungen in Bevor Sie beginnen
    • Aktivieren Sie das Kontrollkästchen GPU, wählen Sie dann den GPU-Typ aus dem Menü GPU-Typ und die Anzahl der GPUs aus dem Menü Anzahl der GPUs.
    • Zonenredundanz ist standardmäßig aktiviert. Um die aktuelle Einstellung zu ändern, aktivieren Sie das Kontrollkästchen GPU, um die GPU-Redundanz-Optionen anzuzeigen.
      • Wählen Sie Keine zonale Redundanz, um die zonale Redundanz zu deaktivieren.
      • Wählen Sie Zonale Redundanz, um die zonale Redundanz einzuschalten.

  5. Klicken Sie auf Erstellen oder Bereitstellen.

gcloud

Um einen GPU-fähigen Worker-Pool zu erstellen, verwenden Sie den Befehl gcloud run worker-pools deploy:

  gcloud run worker-pools deploy WORKER_POOL \
    --image IMAGE_URL \
    --gpu 1

Ersetzen Sie Folgendes:

  • WORKER_POOL: Der Name Ihres Cloud Run-Worker-Pools.
  • IMAGE_URL: Ein Verweis auf das Container-Image, das den Worker-Pool enthält, z. B. us-docker.pkg.dev/cloudrun/container/worker-pool:latest.

Um die GPU-Konfiguration für einen Worker-Pool zu aktualisieren, verwenden Sie den Befehl gcloud run worker-pools update:

  gcloud run worker-pools update WORKER_POOL \
    --image IMAGE_URL \
    --cpu CPU \
    --memory MEMORY \
    --gpu GPU_NUMBER \
    --gpu-type GPU_TYPE \
    --GPU_ZONAL_REDUNDANCY

Ersetzen Sie Folgendes:

  • WORKER_POOL: Der Name Ihres Cloud Run-Worker-Pools.
  • IMAGE_URL: Ein Verweis auf das Container-Image, das den Worker-Pool enthält, z. B. us-docker.pkg.dev/cloudrun/container/worker-pool:latest.
  • CPU: Die Anzahl der CPUs. Für die NVIDIA RTX PRO 6000 Blackwell-GPU müssen Sie mindestens 20 CPUs angeben. Für NVIDIA L4 GPU müssen Sie mindestens 4 CPU angeben.
  • MEMORY: die Größe des Arbeitsspeichers. Für die NVIDIA RTX PRO 6000 Blackwell GPU müssen Sie mindestens 80Gi (80 GiB) angeben. Für NVIDIA L4 GPU müssen Sie mindestens 16Gi (16 GiB) angeben.
  • GPU_NUMBER: der Wert 1 (eins). Wenn dieser Wert nicht angegeben ist, aber ein GPU_TYPE vorhanden ist, ist der Standardwert 1.
  • GPU_TYPE: Der GPU-Typ. NVIDIA RTX PRO 6000 Blackwell-GPU, geben Sie nvidia-rtx-pro-6000 ein. Geben Sie für die L4-GPU den Wert nvidia-l4 (nvidia-L4 Kleinbuchstabe L, nicht numerischer Wert vierzehn) ein.
  • GPU_ZONAL_REDUNDANCY: no-gpu-zonal-redundancy zum Deaktivieren der zonalen Redundanz oder gpu-zonal-redundancy zum Aktivieren der zonalen Redundanz.

YAML

  1. Wenn Sie einen neuen Worker-Pool erstellen, überspringen Sie diesen Schritt. Wenn Sie einen vorhandenen Worker-Pool aktualisieren, laden Sie die zugehörige YAML-Konfiguration herunter:

    gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml

  2. Aktualisieren Sie das Attribut nvidia.com/gpu: und nodeSelector:
    run.googleapis.com/accelerator:    :

    apiVersion: run.googleapis.com/v1
kind: WorkerPool
metadata:
  name: WORKER_POOL
spec:
  template:
    metadata:
      annotations:
        run.googleapis.com/gpu-zonal-redundancy-disabled: 'GPU_ZONAL_REDUNDANCY'
    spec:
      containers:
      - image: IMAGE_URL
        resources:
          limits:
            cpu: 'CPU'
            memory: 'MEMORY'
            nvidia.com/gpu: '1'
      nodeSelector:
        run.googleapis.com/accelerator: GPU_TYPE

    Ersetzen Sie Folgendes:

    • WORKER_POOL: Der Name Ihres Cloud Run-Worker-Pools.
    • IMAGE_URL: Ein Verweis auf das Container-Image, das den Worker-Pool enthält, z. B. us-docker.pkg.dev/cloudrun/container/worker-pool:latest.
    • CPU: Die Anzahl der CPUs. Für die NVIDIA RTX PRO 6000 Blackwell-GPU müssen Sie mindestens 20 CPUs angeben. Für die L4-GPU müssen Sie mindestens 4 CPUs angeben.
    • MEMORY: die Größe des Arbeitsspeichers. Für die NVIDIA RTX PRO 6000 Blackwell GPU müssen Sie mindestens 80Gi (80 GiB) angeben. Für L4 GPU müssen Sie mindestens 16Gi (16 GiB) angeben.
    • GPU_TYPE: Der GPU-Typ. Geben Sie für die NVIDIA RTX PRO 6000 Blackwell-GPU nvidia-rtx-pro-6000 ein. Geben Sie für die L4-GPU den Wert nvidia-l4 (nvidia-L4 Kleinbuchstabe L, nicht numerischer Wert vierzehn) ein.
    • GPU_ZONAL_REDUNDANCY: false, um die zonale GPU-Redundanz zu aktivieren, oder true, um sie zu deaktivieren.

  3. Erstellen oder aktualisieren Sie den Worker-Pool mit dem folgenden Befehl:

    gcloud run worker-pools replace worker-pool.yaml

    Der Befehl gcloud run worker-pools replace verwendet standardmäßig die Datei worker-pool.yaml, sofern sie vorhanden ist.

Terraform

Informationen zum Anwenden oder Entfernen einer Terraform-Konfiguration finden Sie unter Grundlegende Terraform-Befehle.

resource "google_cloud_run_v2_worker_pool" "default" {
  provider = google-beta
  name     = "WORKER_POOL"
  location = "REGION"

  template {
    gpu_zonal_redundancy_disabled = "GPU_ZONAL_REDUNDANCY"
    containers {
      image = "IMAGE_URL"
      resources {
        limits = {
          "cpu" = "CPU"
          "memory" = "MEMORY"
          "nvidia.com/gpu" = "1"
        }
      }
    }
    node_selector {
      accelerator = "GPU_TYPE"
    }
  }
}

Ersetzen Sie Folgendes:

  • WORKER_POOL: Der Name Ihres Cloud Run-Worker-Pools.
  • GPU_ZONAL_REDUNDANCY: false, um die zonale GPU-Redundanz zu aktivieren, oder true, um sie zu deaktivieren.
  • IMAGE_URL: Ein Verweis auf das Container-Image, das den Worker-Pool enthält, z. B. us-docker.pkg.dev/cloudrun/container/worker-pool:latest.
  • CPU: Die Anzahl der CPUs. Für die NVIDIA RTX PRO 6000 Blackwell-GPU müssen Sie mindestens 20 CPUs angeben. Für NVIDIA L4 GPU müssen Sie mindestens 4 CPU angeben.
  • MEMORY: die Größe des Arbeitsspeichers. Für die NVIDIA RTX PRO 6000 Blackwell GPU müssen Sie mindestens 80Gi (80 GiB) angeben. Für NVIDIA L4 GPU müssen Sie mindestens 16Gi (16 GiB) angeben.
  • GPU_TYPE: Der GPU-Typ. NVIDIA RTX PRO 6000 Blackwell-GPU, geben Sie nvidia-rtx-pro-6000 ein. Geben Sie für die L4-GPU den Wert nvidia-l4 (nvidia-L4 Kleinbuchstabe L, nicht numerischer Wert vierzehn) ein.

GPU-Einstellungen aufrufen

So zeigen Sie die aktuellen GPU-Einstellungen für Ihren Cloud Run-Workerpool an:

Console

  1. Rufen Sie in der Google Cloud Console die Seite „Cloud Run-Workerpools“ auf:

    Zu Cloud Run-Worker-Pools

  2. Klicken Sie auf den gewünschten Worker-Pool, um die Seite Worker-Pooldetails zu öffnen.

  3. Klicken Sie auf Neue Überarbeitung bearbeiten und bereitstellen.

  4. Suchen Sie die GPU-Einstellung in den Konfigurationsdetails.

gcloud

  1. Verwenden Sie den folgenden Befehl:

    gcloud run worker-pools describe WORKER_POOL

  2. Suchen Sie in der zurückgegebenen Konfiguration nach der GPU-Einstellung.

GPU entfernen

Sie können GPUs über die Google Cloud Console, die Google Cloud CLI oder YAML entfernen.

Console

  1. Rufen Sie in der Google Cloud Console Cloud Run auf:

    Zu Cloud Run

  2. Wählen Sie im Cloud Run-Navigationsmenü Worker Pools aus und klicken Sie auf Deploy container, um einen neuen Worker-Pool zu konfigurieren. Wenn Sie einen vorhandenen Workerpool konfigurieren möchten, klicken Sie auf den Workerpool und dann auf Neue Überarbeitung bearbeiten und bereitstellen.

  3. Wenn Sie einen neuen Worker-Pool konfigurieren, füllen Sie die Seite mit den anfänglichen Worker-Pool-Einstellungen aus und klicken Sie dann auf Container, Netzwerk, Sicherheit, um die Worker-Pool-Konfigurationsseite zu erweitern.

  4. Klicken Sie auf den Tab Container.

Image

  • Deaktivieren Sie das GPU-Kontrollkästchen.
  1. Klicken Sie auf Erstellen oder Bereitstellen.

gcloud

Um die GPU zu entfernen, setzen Sie die Anzahl der GPUs auf 0:

  gcloud run worker-pools update WORKER_POOL --gpu 0

Ersetzen Sie WORKER_POOL durch den Namen Ihres Cloud Run-Workerpools.

YAML

  1. Wenn Sie einen neuen Worker-Pool erstellen, überspringen Sie diesen Schritt. Wenn Sie einen vorhandenen Worker-Pool aktualisieren, laden Sie die zugehörige YAML-Konfiguration herunter:

    gcloud run worker-pools describe WORKER_POOL --format export > worker-pool.yaml

  2. Löschen Sie die Zeilen nvidia.com/gpu: und nodeSelector: run.googleapis.com/accelerator: GPU_TYPE.

  3. Erstellen oder aktualisieren Sie den Worker-Pool mit dem folgenden Befehl:

    gcloud run worker-pools replace worker-pool.yaml

    Der Befehl gcloud run worker-pools replace verwendet standardmäßig die Datei worker-pool.yaml, sofern sie vorhanden ist.

Treiberbibliotheken

Standardmäßig werden alle Treiberbibliotheken für die NVIDIA RTX PRO 6000 Blackwell-GPU und die NVIDIA L4-GPU unter /usr/local/nvidia/lib64 bereitgestellt. Cloud Run hängt diesen Pfad automatisch an die Umgebungsvariable LD_LIBRARY_PATH (d.h. ${LD_LIBRARY_PATH}:/usr/local/nvidia/lib64) des Containers mit der GPU an. So kann der dynamische Linker die NVIDIA-Treiberbibliotheken finden. Der Linker sucht und löst Pfade in der Reihenfolge, die Sie in der Umgebungsvariable LD_LIBRARY_PATH angeben. Alle Werte, die Sie in dieser Variablen angeben, haben Vorrang vor dem Standardpfad für Cloud Run-Treiberbibliotheken /usr/local/nvidia/lib64.

Wenn Sie eine CUDA-Version höher als 13.0 verwenden möchten, ist es am einfachsten, von einem neueren NVIDIA-Basis-Image abzuhängen, auf dem bereits Pakete für die Aufwärtskompatibilität installiert sind. Eine weitere Möglichkeit besteht darin, die NVIDIA-Pakete für die Aufwärtskompatibilität manuell zu installieren und sie zu LD_LIBRARY_PATH hinzuzufügen. Sehen Sie sich die Kompatibilitätsmatrix von NVIDIA an, um zu ermitteln, welche CUDA-Versionen mit der bereitgestellten NVIDIA-Treiberversion aufwärtskompatibel sind.