Auf KI-Bedrohungsergebnisse reagieren

Dieses Dokument enthält informelle Anleitungen dazu, wie Sie auf verdächtige Aktivitäten in Ihren KI-Ressourcen reagieren können. Die empfohlenen Schritte sind möglicherweise nicht für alle Ergebnisse geeignet und können sich auf Ihre Abläufe auswirken. Bevor Sie Maßnahmen ergreifen, sollten Sie die Ergebnisse untersuchen, die erhobenen Informationen bewerten und entscheiden, wie Sie reagieren möchten.

Hinweis

  1. Ergebnis überprüfen Notieren Sie sich die betroffenen Ressourcen und die erkannten Binärdateien, Prozesse oder Bibliotheken.
  2. Wenn Sie mehr über das Ergebnis erfahren möchten, das Sie untersuchen, sehen Sie im Index der Bedrohungsergebnisse nach.

Allgemeine Empfehlungen

  • Wenden Sie sich an den Inhaber der betroffenen Ressource.
  • Arbeiten Sie mit Ihrem Sicherheitsteam zusammen, um unbekannte Ressourcen zu identifizieren, einschließlich Agent Runtime-Instanzen, Sitzungen, Dienstkonten und Agentenidentitäten. Löschen Sie Ressourcen, die mit nicht autorisierten Konten erstellt wurden.
  • Um IAM-Rollen mit zu vielen Berechtigungen zu identifizieren und zu beheben, verwenden Sie IAM Recommender. Löschen oder deaktivieren Sie potenziell gehackte Konten.
  • Prüfen Sie bei den Dienststufen „Standard-Legacy“, „Standard“, „Premium“ und „Enterprise (eingestellt)“ alle Identitäts- und Zugriffsergebnisse.
  • Für weitere Untersuchungen können Sie Incident-Response-Dienste wie Mandiant verwenden.
  • Erfassen und sichern Sie die Logs der betroffenen Ressourcen für die forensische Analyse.

Potenziell manipuliertes Dienstkonto oder manipulierte KI-Agenten-Identität

Exfiltration und Extraktion

  • Widerrufen Sie die Rollen für das Hauptkonto, das in der Zeile Haupt-E-Mail-Adresse in den Ergebnisdetails aufgeführt ist, bis die Untersuchung abgeschlossen ist.
  • Wenn Sie die weitere Exfiltration verhindern möchten, fügen Sie den betroffenen Ressourcen restriktive IAM-Richtlinien hinzu.
  • Wenn Sie feststellen möchten, ob die betroffenen Datasets vertrauliche Informationen enthalten, prüfen Sie sie mit Sensitive Data Protection. Sie können den Inspektionsjob so konfigurieren, dass die Ergebnisse an Security Command Center gesendet werden. Je nach Menge der Informationen können die Kosten für Sensitive Data Protection erheblich sein. Folgen Sie den Best Practices, um die Kosten für Sensitive Data Protection unter Kontrolle zu halten.
  • Verwenden Sie VPC Service Controls, um Sicherheitsperimeter um Datendienste wie BigQuery und Cloud SQL zu erstellen und so Datenübertragungen an Projekte außerhalb des Perimeters zu verhindern.

Verdächtige Tokengenerierung

  • Prüfen Sie, ob die projektübergreifende Tokengenerierung erforderlich ist. Wenn dies nicht erforderlich ist, entfernen Sie die IAM-Rollenbindung im Zielprojekt, die dem Hauptkonto aus dem Quellprojekt die Berechtigung iam.serviceAccounts.getAccessToken, iam.serviceAccounts.getOpenIdToken, iam.serviceAccounts.implicitDelegation oder iam.serviceAccounts.signJwt gewährt.

  • Untersuchen Sie die im Ergebnis angegebenen Logs, um die von Ihren agentischen Arbeitslasten verwendeten Methoden zur Tokengenerierung zu prüfen.

Vertrauliche IAM-Rollen oder -Berechtigungen gewährt

Nicht autorisierte Gemini Enterprise-Dokumentimporte

  • Prüfen Sie die Details der ImportDocuments-Anfrage in Logging, um den Gemini Enterprise-Zieldatenspeicher und das externe Hauptkonto oder die externe Quellressource (z. B. einen externen Cloud Storage-Bucket oder ein externes BigQuery-Dataset) zu identifizieren.
  • Widerrufen Sie die IAM-Rollen für das Hauptkonto, das den nicht autorisierten Import initiiert hat, bis Ihre Untersuchung abgeschlossen ist.
  • Prüfen und löschen Sie alle nicht vertrauenswürdigen Dokumente, die in den betroffenen Gemini Enterprise-Datenspeicher importiert wurden, um eine Verunreinigung des Wissensspeichers oder indirekte Prompt Injection zu verhindern.
  • Mit VPC Service Controls können Sie Dienstperimeter für Gemini Enterprise und Ihre Datenspeicherdienste erzwingen, um nicht autorisierte Datenimporte über Perimeter hinweg zu blockieren.

Nächste Schritte