Rispondere ai risultati delle minacce dell'AI

Questo documento offre indicazioni informali su come rispondere ai risultati di attività sospette nelle tue risorse AI. I passaggi consigliati potrebbero non essere appropriati per tutti i risultati e potrebbero influire sulle tue operazioni. Prima di intraprendere qualsiasi azione, devi esaminare i risultati, valutare le informazioni raccolte e decidere come rispondere.

Prima di iniziare

  1. Esamina il risultato. Prendi nota delle risorse interessate e dei file binari, dei processi o delle librerie rilevati.
  2. Per scoprire di più sul risultato che stai esaminando, cercalo nell'indice dei risultati delle minacce.

Consigli generali

  • Contatta il proprietario della risorsa interessata.
  • Collabora con il tuo team di sicurezza per identificare risorse sconosciute, tra cui istanze di Agent Runtime, sessioni, service account e identità degli agenti. Elimina le risorse create con account non autorizzati.
  • Per identificare e correggere i ruoli eccessivamente permissivi, utilizza il motore per suggerimenti IAM. Elimina o disattiva gli account potenzialmente compromessi.
  • Per i livelli di servizio Standard-legacy, Standard, Premium ed Enterprise (deprecato), esamina tutti i risultati relativi a identità e accesso.
  • Per ulteriori indagini, puoi utilizzare i servizi di risposta agli incidenti, ad esempio Mandiant.
  • Per l'analisi forense, raccogli ed esegui il backup dei log delle risorse interessate.

Account di servizio o identità dell'agente potenzialmente compromessi

Esfiltrazione ed estrazione

  • Revoca i ruoli per l'entità elencata nella riga Email entità nei dettagli del risultato fino al completamento dell'indagine.
  • Per interrompere ulteriori esfiltrazioni, aggiungi policy IAM restrittive alle risorse interessate.
  • Per determinare se i set di dati interessati contengono informazioni sensibili, ispezionali con Sensitive Data Protection. Puoi configurare il job di ispezione in modo che invii i risultati a Security Command Center. A seconda della quantità di informazioni, i costi di Sensitive Data Protection possono essere significativi. Segui le best practice per tenere sotto controllo i costi di Sensitive Data Protection.
  • Utilizza i Controlli di servizio VPC per creare perimetri di sicurezza attorno ai servizi di dati come BigQuery e Cloud SQL per impedire i trasferimenti di dati a progetti esterni al perimetro.

Generazione di token sospetta

  • Convalida la necessità di generare token tra progetti. Se non è necessario, rimuovi l'associazione del ruolo IAM nel progetto di destinazione che concede l'autorizzazione iam.serviceAccounts.getAccessToken, iam.serviceAccounts.getOpenIdToken, iam.serviceAccounts.implicitDelegation o iam.serviceAccounts.signJwt all'entità dal progetto di origine.

  • Esamina i log specificati nel risultato per convalidare i metodi di generazione dei token utilizzati dai workload degli agenti.

Ruoli o autorizzazioni IAM sensibili concessi

Importazioni di documenti Gemini Enterprise non autorizzate

  • Esamina i dettagli della richiesta ImportDocuments in Logging per identificare il datastore Gemini Enterprise di destinazione e l'entità esterna o la risorsa di origine esterna (ad esempio un bucket Cloud Storage o un set di dati BigQuery esterno).
  • Revoca i ruoli IAM per l'entità che ha avviato l'importazione non autorizzata fino al completamento dell'indagine.
  • Ispeziona ed elimina tutti i documenti non attendibili importati nel datastore Gemini Enterprise interessato per evitare l'avvelenamento del knowledge store o il prompt injection indiretto.
  • Utilizza i Controlli di servizio VPC per applicare i perimetri di servizio intorno a Gemini Enterprise e ai tuoi servizi di archiviazione dei dati per bloccare le importazioni di dati non autorizzate tra perimetri.

Passaggi successivi