Répondre aux résultats de détection des menaces liées à l'IA

Ce document fournit des conseils informels sur la façon de réagir aux activités suspectes détectées dans vos ressources d'IA. Les procédures recommandées peuvent ne pas convenir pour tous les résultats et peuvent avoir un impact sur vos opérations. Avant d'agir, vous devez examiner les résultats, évaluer les informations que vous avez recueillies et décider de votre plan d'action.

Avant de commencer

  1. Examinez le résultat. Notez les ressources concernées et les binaires, processus ou bibliothèques détectés.
  2. Pour en savoir plus sur le résultat que vous examinez, recherchez-le dans l'index des menaces constatées.

Recommandations générales

  • Contactez le propriétaire de la ressource concernée.
  • Avec votre équipe de sécurité, identifiez les ressources inconnues, y compris les instances Agent Runtime, les sessions, les comptes de service et les identités d'agent. Supprimez les ressources qui ont été créées avec des comptes non autorisés.
  • Pour identifier et corriger les rôles trop permissifs, utilisez l'outil de recommandation IAM. Supprimez ou désactivez les comptes potentiellement piratés.
  • Pour les niveaux de service Standard-legacy, Standard, Premium et Enterprise (obsolète), examinez tous les résultats d'identité et d'accès.
  • Pour approfondir l'enquête, vous pouvez utiliser des services de réponse aux incidents, par exemple Mandiant.
  • Pour l'analyse forensique, collectez et sauvegardez les journaux des ressources concernées.

Compte de service ou identité d'agent potentiellement compromis

Exfiltration et extraction

  • Révoquez les rôles du compte principal listé sur la ligne Adresse e-mail du compte principal des résultats détaillés jusqu'à ce que l'enquête soit terminée.
  • Pour mettre fin à toute exfiltration, ajoutez des stratégies IAM restrictives sur les ressources concernées.
  • Pour déterminer si les ensembles de données concernés contiennent des informations sensibles, inspectez-les avec Sensitive Data Protection. Vous pouvez configurer le job d'inspection pour qu'il envoie les résultats à Security Command Center. Selon la quantité d'informations, les coûts de Sensitive Data Protection peuvent être importants. Suivez les bonnes pratiques pour maîtriser les coûts de Sensitive Data Protection.
  • Utilisez VPC Service Controls pour créer des périmètres de sécurité autour des services de données tels que BigQuery et Cloud SQL afin d'empêcher les transferts de données vers des projets situés en dehors du périmètre.

Génération de jetons suspects

  • Validez la nécessité de générer des jetons multiprojets. Si ce n'est pas nécessaire, supprimez la liaison de rôle IAM dans le projet cible qui accorde l'autorisation iam.serviceAccounts.getAccessToken, iam.serviceAccounts.getOpenIdToken, iam.serviceAccounts.implicitDelegation ou iam.serviceAccounts.signJwt au compte principal du projet source.

  • Examinez les journaux spécifiés dans le résultat pour valider les méthodes de génération de jetons utilisées par vos charges de travail d'agent.

Rôles ou autorisations IAM sensibles accordés

Importations non autorisées de documents Gemini Enterprise

  • Examinez les détails de la requête ImportDocuments dans Logging pour identifier le datastore Gemini Enterprise cible et le compte principal externe ou la ressource source externe (comme un bucket Cloud Storage ou un ensemble de données BigQuery externe).
  • Révoquez les rôles IAM du compte principal qui a lancé l'importation non autorisée jusqu'à la fin de votre enquête.
  • Inspectez et supprimez tous les documents non approuvés importés dans le datastore Gemini Enterprise concerné pour éviter l'empoisonnement du datastore ou l'injection indirecte de prompts.
  • Utilisez VPC Service Controls pour appliquer des périmètres de service autour de Gemini Enterprise et de vos services de stockage de données afin de bloquer les importations de données non autorisées entre les périmètres.

Étapes suivantes