Verwaltung von Sicherheitslücken mit KI

Fortschrittliche KI-Modelle haben die Geschwindigkeit und den Umfang verändert, mit denen Sicherheitsteams und Angreifer Sicherheitslücken finden. KI kann Sicherheitslücken innerhalb von Minuten finden und Angreifer können diese Sicherheitslücken schneller als je zuvor ausnutzen.

Bei Google haben wir die Verwaltung von Sicherheitslücken mithilfe von KI transformiert, wie in den Projekten Naptime und Bigsleep gezeigt wird. Wir nutzen KI, um Sicherheitslücken in unserer eigenen Infrastruktur zu scannen, zu identifizieren und zu beheben. Wir arbeiten auch mit Partnern aus der gesamten Branche zusammen, darunter Open-Source-Maintainer, Chiphersteller und Hardwarehersteller, um Fehler bei KI zu finden und zu beheben, bevor sie ausgenutzt werden können.

In diesem Dokument wird beschrieben, wie Sie mithilfe von KI-Technologien, die Ihnen bei den folgenden Aufgaben helfen, Sicherheitslücken in Ihren Anwendungen finden und beheben können:

  • Entwickeln Sie ein Programm zur KI-Gefahrenabwehr.
  • Nach externen Sicherheitslücken suchen.
  • Assets und Probleme priorisieren
  • Kritische Sicherheitslücken beheben
  • Mithilfe von Playbooks für aktive Reaktionen überwachen.

KI-basiertes Programm zur Bedrohungsabwehr entwickeln

KI-Bedrohungen unterscheiden sich von herkömmlichen Bedrohungen in Bezug auf Zeit und Umfang. Manuelle Prozesse zum Entwickeln, Testen und Bereitstellen von Korrekturen für Ihre Anwendungen reichen nicht mehr aus. Stattdessen müssen Sie neue Strategien implementieren, die automatisiertes Patchmanagement, kontinuierliches Monitoring, eine engere Integration in Entwicklungspipelines und Softwaremodernisierung umfassen.

Um den Ansatz Ihrer Organisation für die Verwaltung von Sicherheitslücken zu ändern, sollten Sie die folgenden Grundsätze berücksichtigen:

  • Die Verwaltung von Sicherheitslücken muss KI- und agentische Optionen umfassen.
  • Alle Software muss gepatcht werden.
  • Kontrollmechanismen müssen Schatten-KI, nicht autorisierte interne API-Integrationen, Browsererweiterungen und lokale, von Entwicklern verwaltete Tools kontinuierlich erkennen und verwalten.
  • Die Definition des kritischen Risikos Ihrer Organisation muss berücksichtigen, dass Modelle nicht nur einzelne Sicherheitslücken, sondern auch Angriffspfade ausnutzen können.
  • Ihre Organisation muss innerhalb von Minuten Abhilfemaßnahmen ergreifen können.

Um ein Programm zur KI-Bedrohungsabwehr zu erstellen, benötigen Sie die Unterstützung von Führungskräften und Partnern aus Ihren Entwicklungs-, Betriebs-, Sicherheits- und Geschäftsteams. Führen Sie im Rahmen Ihres ersten Plans die folgenden Schritte aus:

  • Legen Sie eine klare Governance und Eigentümerschaft fest, einschließlich eines definierten Komitees, Rollen und Entscheidungsprozesses.
  • Definieren Sie Ergebnisse und wichtige Messwerte (z. B. Einhaltung von SLAs, Anzahl der Ausnahmen und Abdeckung von Assets), um den Fortschritt zu verfolgen und der Führungsebene Bericht zu erstatten.
  • Richtlinien, SLAs und Ausnahmeprozesse erstellen.

Das folgende Diagramm zeigt die Phasen für die Entwicklung eines effektiven Programms zur Abwehr von KI-Bedrohungen. Die einzelnen Phasen werden in den verbleibenden Abschnitten dieses Dokuments beschrieben.

Phasen des Programms zur KI-basierten Bedrohungsabwehr.

Wenn Sie ein Programm zur Bedrohungsabwehr erstellen und implementieren möchten, wenden Sie sich an Mandiant Cybersecurity Consulting.

Phase 1: Vorbereitung

Bevor Sie KI-Scanner für Sicherheitslücken in Ihrer Codebasis bereitstellen, sollten Sie das Risiko für Ihre Assets bewerten. Priorisieren Sie die Arten von Scans und Assets, die Sie mit KI scannen müssen, um Ihre Triage-Pipeline nicht zu überlasten.

Nach externen Gefährdungen suchen

Die Assets, die am anfälligsten für KI-Bedrohungen sind, sind internetorientierte Assets wie die folgenden:

  • Compute Engine-VMs
  • Cloud Run-Funktionen
  • Google Kubernetes Engine-Cluster (GKE)
  • Öffentliche Cloud Storage-Buckets

Damit Sie im Laufe der Zeit eine umfassende Liste dieser Assets erhalten, aktivieren Sie die kontinuierliche Erkennung mit einem Produkt wie Wiz Red Agent. Die kontinuierliche Erkennung ist ein fortlaufender, automatisierter Prozess, bei dem Assets in Echtzeit gescannt werden, sobald sie erstellt oder geändert werden. Wiz Red Agent kann Ihr internetorientiertes Netzwerk proaktiv scannen, um aktive Webanwendungen, öffentlich zugängliche APIs, benutzerdefinierte Software und sogar Vibe-codierte Anwendungen zu finden.

Nachdem Wiz Red Agent ein Asset gefunden hat, kann er reale Angriffe simulieren, um Sicherheitslücken zu finden und Angriffsketten zu erstellen. Wenn Wiz Red Agent eine Sicherheitslücke findet, werden die Daten an den Wiz Security Graph gesendet. Mit dem Wiz Security Graph können Sie sehen, mit welchen internen Assets das internetorientierte Asset verbunden ist. So können Sie die potenziellen Auswirkungen eines externen Sicherheitsvorfalls ermitteln.

Angenommen, ein Entwickler erstellt eine Testumgebung für einen neuen Chatbot. Der Entwickler möchte testen, wie der Chatbot mit Live-Daten interagiert. Daher stellt er einen Prototyp mit Cloud Run bereit. Um das Testen zu vereinfachen, erlaubt der Entwickler nicht authentifizierte Aufrufe, wodurch der Prototyp öffentlich wird. Der Entwickler verbindet einen temporären Cloud Storage-Bucket, der einen Snapshot von echten Nutzerdaten enthält, mit dem Prototyp. Der Entwickler vergisst jedoch, seine Testumgebung zu löschen.

In diesem Beispiel kann Wiz Red Agent die neue Subdomain *.run.app finden und das Asset durch die kontinuierliche Erkennungsfunktion als über das Internet zugängliches Asset kennzeichnen. Wiz Red Agent kann dann mit dem Chatbot-Prototyp interagieren, um festzustellen, dass der Chatbot mit einem API-Endpunkt verbunden ist. Wiz Red Agent simuliert verschiedene Angriffe, z. B. einen Prompt-Injection-Angriff, um Sicherheitslücken zu ermitteln. Da der Entwickler keine geeigneten Sicherheitsmaßnahmen eingerichtet hat, findet Wiz Red Agent eine Sicherheitslücke und stellt fest, dass sie sich seitlich in den Cloud Storage-Bucket bewegen kann. Wiz Red Agent sendet die Daten an den Wiz Security Graph, der diese Sicherheitslücke als kritisch kennzeichnet. Ihre Prozesse können diesen Prototyp innerhalb von Minuten herunterfahren.

Assets für den Tiefencode-Scan priorisieren

Beim Deep Code Scanning werden Datenfluss und Quellcode verfolgt, um strukturelle Fehler und Sicherheitslücken zu finden, während Entwickler die Software noch schreiben. Die Implementierung von Deep Code Scanning für Ihren gesamten Code ist jedoch ein ressourcenintensiver und zeitaufwendiger Prozess.

Um zu priorisieren, für welche Codebases eine detaillierte Code-Analyse erforderlich ist, müssen Sie ein Inventar aller Repositories nach Plattform oder Umgebung erstellen, z. B. SaaS oder selbst gehostet. Berücksichtige Folgendes:

  • Die Zugänglichkeit Ihres Quellcodes oder Ihrer Binärdateien (ob sie öffentlich verfügbar oder intern sind). Wenn Ihre Binärdateien öffentlich verfügbar sind, gibt es keinen wirklichen Schutz vor LLM-basiertem Reverse Engineering.
  • Die Programmiersprache (ob Ihr Code in einer speichersicheren Sprache wie Go, Rust, Java oder Python geschrieben ist).
  • Die Berechtigungen, die für die Ausführung des Codes erforderlich sind.
  • Die Vertraulichkeit der Assets, auf die der Code zugreifen muss.

Implementieren Sie Deep Code Scanning für Code mit dem höchsten Risiko: Code, der öffentlich zugänglich ist, speichersichere Sprachen verwendet, hohe Berechtigungen für die Ausführung erfordert und auf hochsensible Daten zugreifen muss.

Außerdem sollten Sie prüfen, ob Sie weitere Maßnahmen ergreifen können, um Ihren Code zu schützen. Berücksichtige Folgendes:

  • Bevor Sie alte oder wenig genutzte Komponenten scannen, sollten Sie prüfen, ob sie vollständig entfernt oder eingestellt werden können, um den Wartungs- und Sicherheitsaufwand zu verringern. In einigen Fällen können Sie zu Alternativen mit einer kleineren Angriffsfläche migrieren.
  • Prüfen Sie den Patching-Status. Wenn das Patchen in Rückstand geraten ist, sollten Sie ein Upgrade dieser Abhängigkeiten auf moderne unterstützte Versionen priorisieren.
  • Als langfristige Priorisierungsstrategie sollten Sie kritische Komponenten identifizieren, die in speichersicheren Sprachen geschrieben sind, und nach speichersicheren Alternativen suchen. Wenn es keine sichereren Alternativen gibt, sollten Sie sie auf eine Roadmap für das Umschreiben in speichersicheren Sprachen setzen, um Sicherheitslücken im Zusammenhang mit der Speichersicherheit zu verringern. Kurzfristig sollten Sie Sandboxing als Risikominderung in Betracht ziehen, z. B. mit GKE Sandbox.

Um Assets zu priorisieren, können Sie Wiz-Funktionen wie die folgenden verwenden:

  • Wiz Service Catalog und Wiz-Inventar, um die mit Ihren Assets verbundenen Risiken in Bezug auf Gefährdung und Auswirkungen zu ermitteln.

    Im Wiz-Inventar werden Assets wie virtuelle Maschinen, Datenbanken und Code-Repositories automatisch erkannt. Mit Wiz Inventory lässt sich ermitteln, ob ein Asset öffentlich zugänglich ist, Eingaben nicht vertrauenswürdiger Nutzer oder externen API-Traffic verarbeitet und in welcher Umgebung das Asset ausgeführt wird. Im Wiz Service Catalog können diese Assets in Geschäftsdienste (z. B. das Abrechnungssystem oder das Kundenportal) gruppiert werden, denen Sie Eigentümer zuweisen können. Mithilfe dieser Gruppen lässt sich ermitteln, welche Assets kritische Geschäftssysteme sind, welche Systeme Zugriff auf vertrauliche Daten haben und wer für die Anwendung verantwortlich ist.

  • Wiz Security Graph und Wiz Workload Scanner, um die Quellcode-Repositories zu identifizieren, die in einer Live-Produktionsumgebung verwendet werden.

    Wiz Workload Scanner analysiert Ihre Umgebung, um festzustellen, ob Code tatsächlich in Ihrer Umgebung ausgeführt wird, und verfolgt die Softwareherkunft Ihres Codes nach. Wiz Security Graph erkennt schädliche Kombinationen, um festzustellen, ob ein potenzielles Problem ein hohes Risiko darstellt. Anhand dieser Informationen können Sie das Deep Code Scanning für risikoreiche Angriffspfade und potenzielle Schwachstellen für laterale Bewegungen priorisieren.

  • Die Wiz Code-to-Cloud-Pipeline bildet die Herkunft eines Assets in der Produktion ab.

    Mit der Wiz Code-to-Cloud-Pipeline können Sie Code priorisieren, der in der Produktion aktiv und erreichbar ist, das ursprüngliche Repository für Sicherheitslücken ermitteln und Ihre Infrastructure-as-Code-Konfigurationen (IaC) härten. Mit der Wiz Code-to-Cloud-Pipeline können Sie Ihr Code-Repository mit der tatsächlichen Nutzung verknüpfen.

Phase 2: Scannen und priorisieren

Nachdem Sie Ihr Programm erstellt und Ihre Assets nach Risiko priorisiert haben, können Sie KI verwenden, um Sicherheitslücken in Ihrer Umgebung zu finden und zu priorisieren.

Detaillierte Analyse Ihrer Codebasis

Beim Deep Code Scanning werden mithilfe von fortschrittlicher KI komplexe Codefehler gefunden, die Fehler mit Cloud-Schwachstellen in Verbindung gebracht und Fehlermeldungen reduziert. Führen Sie die folgenden Arten von Scans durch:

  • Basisscans: Scannen Sie Code in Ihrer IDE und CI/CD-Pipeline kontinuierlich, um häufige Programmierfehler, fest codierte Secrets und anfällige Abhängigkeiten zu finden.
  • Umfassende KI-Scans: Analysieren Sie hochkritische Codebasen mit komplexer Geschäftslogik und identifizieren Sie verkettete oder Zero-Day-Sicherheitslücken, die bei SAST möglicherweise nicht erkannt werden.

Für einen Baseline-Scan können Sie Wiz Code verwenden, um nach vertraulichen Informationen zu suchen, IaC-Fehlkonfigurationen zu finden, statische Anwendungssicherheitstests (Static Application Security Testing, SAST) durchzuführen und Sicherheitsrisiken in Drittanbietersoftware mithilfe der Software Composition Analysis (SCA) zu identifizieren.

Wiz Code hilft Ihnen, Ihre Sicherheitsrichtlinien durchzusetzen, indem Code in der CI/CD-Baseline ausgewertet und Builds blockiert werden, die nicht Ihren Standards entsprechen. Wiz Code kann Ihr Inventar prüfen, um festzustellen, welche Sicherheitslücken in der Produktionsumgebung erreichbar sind. Wenn Wiz Code eine Sicherheitslücke findet, analysiert Wiz Green Agent automatisch den umgebenden Code und erstellt einen Patch, um das Problem zu beheben. Wenn das Problem in der IDE des Entwicklers gefunden wird, kann Green Agent den Code umgestalten, bevor der Entwickler die Änderung in der Pipeline committet. Wenn in der CI/CD-Pipeline ein Problem gefunden wird, kann Wiz Green Agent automatisch eine Pull-Anfrage in GitHub oder GitLab mit dem Code-Patch erstellen.

Um einen umfassenden KI-Scan durchzuführen, können Sie CodeMender (Preview) mit der Gemini Enterprise Agent Platform bereitstellen. CodeMender (entwickelt von Google DeepMind) ist ein hochspezialisierter, autonomer KI-Engineering-Agent, der sich auf die Analyse, das Debugging und das Patchen von Code auf einer tiefen Ebene konzentriert. CodeMender verhält sich wie ein autonomer Senior Software Engineer, der Code in eine Sandbox zieht, verschiedene Tests ausführt und die Kernlogik korrigiert. Testläufe können dynamische Analysen, Fuzzing und automatisierte Kompilierungstests umfassen. CodeMender kann Fehler autonom nach strukturellen Auswirkungen priorisieren, Probleme beheben und Code mithilfe einer iterativen Methode umgestalten.

Probleme analysieren und Behebung planen

Nachdem Sie eine Liste mit Sicherheitslücken zusammengestellt haben, können Sie die Ergebnisse von Wiz Code und CodeMender an Engines wie die Wiz SAST Triage AI Engine weiterleiten, um die Ergebnisse zu optimieren und festzustellen, ob die Angriffsvektoren ausnutzbar sind. Wiz Security Graph kann auch dazu beitragen, den Kontext mithilfe der Code-to-Cloud-Pipeline zu erweitern. Wiz Red Agent kann die aktive Website untersuchen und den Angriffspfad validieren.

Nachdem Sie die Triage abgeschlossen haben, sollten Sie die folgenden Empfehlungen berücksichtigen, um Ihre KI-Agents zu optimieren und Falschmeldungen zu entfernen:

  • Bitten Sie erfahrene Entwickler, eine kleine, zufällige Stichprobe der Ergebnisse zu überprüfen, um Muster zu erkennen, Vertrauensgrenzen zu klären und Ihre KI-Prozesse zu optimieren.
  • Erstellen Sie KI-Skills basierend auf Ihrem Leitfaden für die Meldung von Sicherheitslücken, in dem definiert wird, was Ihre Organisation als echte Sicherheitslücke betrachtet und was nicht als Falschmeldung oder nicht sicherheitsbezogener Fehler gilt.
  • Mit einem KI-Agenten Testläufe planen und schreiben und in einer Sandbox-Umgebung ausführen
  • Lassen Sie Ihre KI-Agents neue Stichprobenergebnisse analysieren und optimieren Sie Ihre Prompts und KI-Skills, bis sie Ihren menschlichen Entscheidungen entsprechen.

Wenn es länger dauert, eine Sicherheitslücke als ausnutzbar zu beweisen, als eine Korrektur mit geringem Risiko zu implementieren, überspringen Sie den Reproduktionsprozess und fahren Sie mit der Behebung fort.

Phase 3: Beheben

Um Probleme zu beheben, müssen Sie Hochgeschwindigkeits-Workflows implementieren, mit denen Sicherheitslücken in großem Umfang autonom überprüft, gepatcht und validiert werden können – in der IDE des Entwicklers, im Code-Repository und in der Produktionsumgebung.

Wiz Green Agent kann automatisch einen Abhilfemaßnahmenplan auf Grundlage der verfügbaren Daten erstellen. Dadurch werden Wiz-Workflows ausgelöst, um Ihre SecOps-Teams über Ihr Ticketsystem zu benachrichtigen und den Plan zur Fehlerbehebung an CodeMender zu senden. CodeMender erstellt den Patch, testet die Korrektur in einer sicheren Sandbox, um Regressionen zu verhindern, und erstellt die Pull-Anfrage zum Patchen Ihres Systems. Ein Entwickler kann die Pull-Anfrage dann prüfen und auf „Bereitstellen“ klicken, um die Änderung zu übernehmen.

Die grundlegenden Methoden zum Aktualisieren von Abhängigkeiten sind zwar nicht neu, aber ein funktionierendes, automatisiertes Patching-System ist unerlässlich, um mit der schieren Menge an Patches umzugehen, die durch KI-gestützte Erkennung generiert werden. Ihre Organisation muss in der Lage sein, Updates schnell zu verarbeiten, ohne Produktionssysteme zu beschädigen.

Wir empfehlen die folgenden Vorgehensweisen, um den Prozess der Fehlerbehebung zu optimieren:

  • Sichtbarkeit von Abhängigkeiten herstellen: Führen Sie ein kontinuierliches Inventar Ihrer Softwareabhängigkeiten.
  • Build- und Release-Prozess automatisieren: Nachdem die Tests und die Qualifizierung abgeschlossen sind, sollten Sie die manuellen Schritte minimieren, die erforderlich sind, um den Code zu veröffentlichen und Upgrades zu starten.
  • Kontinuierliche Upgrades durchführen: Wenn Sie Ihre Abhängigkeiten regelmäßig aktualisieren, wird das Code-Delta bei der Veröffentlichung eines Sicherheitspatches minimiert. Ein kleineres Delta bedeutet ein geringeres Risiko von Breaking Changes und schnellere Bereitstellungszeiten bei einem Notfall-Patch.
  • Rollouts mit Canary-Bereitstellungen testen: Implementieren Sie automatisierte Canary-Bereitstellungen und robuste Rollback-Mechanismen für Abhängigkeitsupgrades. Mit Canary-Bereitstellungen können Sie Patches in der Produktion mit minimalen Auswirkungen testen.

Software modernisieren

Der Übergang von einem herkömmlichen Entwicklungs-Workflow zu einem agentischen Framework erfordert die Orchestrierung spezialisierter KI-Agenten, die sich auf bestimmte Aufgaben wie das Verfassen von Texten, das Generieren von Tests und Sicherheitsprüfungen konzentrieren. Die folgenden Beispiele beschreiben, wie Sie KI-Agents in Ihren Softwareentwicklungszyklus einführen können:

  • Entwicklung: Entwickler entwerfen und prototypisieren Anwendungen mit In-IDE-Chat oder Prompts in natürlicher Sprache über die CLI.
  • Entwicklung: KI-Prozesse unterstützen Entwickler beim Generieren von Code oder beim Ändern von vorhandenem Code durch Codevervollständigungen.
  • Testen und warten: Entwickler und Qualitätssicherungsteams nutzen KI-gestützte Tests und automatisierte Refaktorierung.
  • Überprüfen und bereitstellen: Entwickler nutzen KI-basierte Code-Reviews und Unterstützung für Infrastructure-as-Code.
  • Fehlerbehebung: Entwickler nutzen KI-basierte Problemanalysen in Tools wie Firebase Crashlytics für Abstürze und Fehler.
  • Betrieb: Entwickler und Software-Ingenieure verwenden KI-Agents, um vorhandene Anwendungen zu verstehen und zu ändern.

Bei der Softwaremodernisierung werden die Sicherheit und die Reduzierung der technischen Schulden nach links verschoben, sodass autonome Agents kleine, iterative Änderungen an Ihrer Umgebung vornehmen können. Die Softwaremodernisierung basiert auf MCP-Servern (Model Context Protocol), die Modellen direkten Echtzeitzugriff auf externe Tools und Live-Umgebungsdaten ermöglichen.

Um das Risiko von unsicherem Code zu Beginn des Softwareentwicklungszyklus zu minimieren, können Sie unabhängige Agents bereitstellen, die Abhängigkeiten während der Planung analysieren, mit Toolintegrationen Unit-Tests generieren und automatisierte Code-Reviews direkt im Quell-Repository durchführen können. Durch die Einbettung projektspezifischer Regeln, spezialisierter Fähigkeiten und deterministischer Befehlshooks direkt in den Entwicklerarbeitsbereich werden Coding-Agents zur primären Frontlinie für die Risikoreduzierung. Um Kundenservicemitarbeiter zu zwingen, die richtigen Schritte auszuführen, verwenden Sie deterministische Scripts und rufen Sie Peer-Reviews mit separaten, spezialisierten Kundenservicemitarbeitern auf. Spezialisierte Agents können einen Security Scanner-Agent, einen Debugging-Agent oder einen automatisierten Red Teaming-Agent umfassen.

Um die Softwaremodernisierung zu unterstützen, können Tools wie Google Antigravity und Gemini Code Assist als unabhängige Mitarbeiter fungieren, die Probleme erfassen, testen und beheben, bevor eine manuelle Überprüfung oder zentrale Pipeline-Builds erfolgen. Google Antigravity bietet einen vollständigen Agent Manager und eine IDE-Umgebung. Gemini Code Assist in der Gemini CLI bietet eine Terminal-CLI für die Headless-Ausführung. Sie können verschiedene Agent-Skills in Wiz und anderen Google-Produkten verwenden, um Ihren Entwicklungsprozess zu unterstützen. Die Agent Platform umfasst Modelle wie Gemini 3.5 Pro und Flash, die mehrstufige Problemlösung, lange Kontextfenster und die integrierte Ausführung von Tools bieten.

Um die Entwicklungsgeschwindigkeit zu erhöhen, sollten Sie Agents verwenden, die inkrementell planen, kontinuierlich testen und kleine Änderungen lokal scannen können, bevor sie per Commit festgeschrieben werden. Diese Agents sorgen für die Stabilität der Codebasis und führen Rollbacks durch, wenn Commits klein und isoliert sind.

Sicherheitsgrundlagen stärken

Bevor Sie Agents in Ihrer Umgebung einführen, sollten Sie Ihre Infrastruktur und Ihren SDLC-Pipeline entsprechend absichern. Berücksichtigen Sie die folgenden Maßnahmen, um eine sichere Grundlage zu schaffen:

  • Konfigurieren Sie Richtlinien und Zugriffssteuerungen, um Einblick in Ihre Softwarekomponenten zu erhalten, Sicherheitslücken zu erkennen und Probleme zu beheben, bevor Sie Software in der Produktion bereitstellen.
  • Verwenden Sie gehärtete Basis-Images mit Shielded VM, Confidential Computing und WizOS, um die Anwendungs-, Betriebssystem- und Hardwareschicht zu schützen.
  • Überwachen Sie Entwicklerarbeitsplätze und CI/CD-Build-Runner mit dem Wiz Runtime Sensor, um aktive CI/CD-Pipeline-Angriffe zu erkennen und aktiven In-Memory-Kontext bereitzustellen.
  • Sie können Abweichungen von Ihrem Sicherheitsstatusdienst erkennen und beheben, um eine Umgebung aufrechtzuerhalten, die Ihren Sicherheitsrichtlinien entspricht.
  • Konfigurieren Sie ein sicheres Gateway für die Open-Source-Nutzung, um Ihre Sicherheitsrichtlinien mit Wiz Registry Connectors zu erzwingen.
  • Isolieren Sie Entwicklungs-, Staging- und Produktionsumgebungen durch strenge Netzwerksegmentierung und Firewallregeln.
  • Speichern Sie alle Pipeline-, Bereitstellungs- und Zugriffslogs an einem zentralen, unveränderlichen Speicherort für kontinuierliches Monitoring und forensische Analysen.
  • Behandeln Sie die CI/CD-Pipeline als unveränderliche Infrastruktur, um Manipulationen und Konfigurationsabweichungen zu vermeiden. Für eine unveränderliche Infrastruktur sind auch kurzlebige Runner erforderlich, die es einem Angreifer nicht ermöglichen, sich dauerhaft in Ihrer Infrastruktur festzusetzen.
  • Speichern Sie alle Änderungen an Anwendungen und Clustern in Quell-Repositories, die eine Versionskontrolle und Überprüfung vor der Bereitstellung ermöglichen.

Weitere Best Practices finden Sie unter Google Cloud Minimum Viable Secure Platform.

Softwareentwicklungs-Lebenszyklus härten

Das Secure AI Framework (SAIF) beschreibt die Kontrollen, die Sie implementieren müssen, um die sichere Verwendung von KI in Ihrer SDLC-Pipeline zu gewährleisten. Wichtige Aspekte, die Sie beim Hinzufügen von KI berücksichtigen sollten:

  • Menschen müssen die Kontrolle behalten, um die Verantwortlichkeit zu gewährleisten und zu verhindern, dass KI-Agenten in kritischen Situationen ohne klare menschliche Aufsicht oder Zuordnung autonom handeln. Sie benötigen eindeutige Agent-Identitäten, Mechanismen zur Nutzereinwilligung und sichere Eingaben.
  • Die Fähigkeiten von KI-Agenten müssen begrenzt bleiben, damit sie nur ihren beabsichtigten Zweck erfüllen und Berechtigungen nicht unangemessen eskalieren können. Sie müssen geeignete Zugriffssteuerungen und die Verwaltung von Anmeldedaten mit eingeschränktem Umfang konfigurieren und Sandboxing verwenden, um Komponenten entsprechend zu isolieren.
  • Alle Aktionen müssen beobachtbar sein, um Transparenz und Prüfbarkeit zu gewährleisten und Sicherheitsentscheidungen und das Nutzerverständnis zu ermöglichen.

Bei Lieferkettenangriffen kann ein vertrauenswürdiger Agent manipuliert werden, um eine kritische Datenbank zu ändern, Code zu manipulieren oder Produktionsgeheimnisse preiszugeben. Um das Risiko zu minimieren, stützen sich SDLC-Pipelines, die KI verwenden, auf Best Practices für die Sicherheit wie die folgenden:

  • IDE- und Arbeitsbereichseinstellungen, mit denen Browsererweiterungen, CLI-Dienstprogramme und IDE-Plug-ins gesteuert werden, um zu verhindern, dass nicht autorisierte KI-Coding-Assistenten proprietäre Codezeilen an nicht geprüfte externe Modellendpunkte übertragen.
  • Strenge Zugriffssteuerungen, um unbefugte Änderungen zu verhindern. Strenge IAM- und Authentifizierungsmechanismen (Identity and Access Management) sorgen dafür, dass Sie Pipeline-Dienstkonten, einschließlich Agent-Konten, nur die erforderlichen Mindestberechtigungen erteilen, die Multi-Faktor-Authentifizierung für alle menschlichen Nutzer erzwingen und den Zugriff von Nutzern und Agents regelmäßig überprüfen, um sicherzustellen, dass er auf dem neuesten Stand ist.
  • Schutz von Quellcode und Konfiguration, um sicherzustellen, dass schädlicher oder versehentlicher Code niemals in die Build-Phase gelangt. Beachten Sie dabei Folgendes:
    • Achten Sie darauf, dass Branches und Pull- oder Merge-Anfragen von autorisierten Kollegen, insbesondere von menschlichen Prüfern, überprüft werden.
    • Keine Umgehungsoptionen für das Zusammenführen zulassen.
    • Alle Commits müssen signiert sein, um die Authentizität des Codes zu bestätigen und unbefugte Manipulationen zu verhindern.
    • Die Möglichkeit einschränken, internen Code zu forken oder versehentlich private Repositorys öffentlich zu machen.
  • Dynamische Secret-Verwaltung, um gehackte Anmeldedaten zu vermeiden. Um Secrets dynamisch zu verarbeiten, müssen Sie hartcodierte Passwörter, API-Schlüssel und Tokens im Quellcode und in Konfigurationsdateien entfernen. Automatisierte Tools zum Scannen von Secrets in Ihren IaC- und Konfigurationsdateien helfen dabei, Secrets zu finden, bevor Commits akzeptiert werden. Mit Secret Manager können Sie Anmeldedaten dynamisch zur Laufzeit einfügen.
  • Automatisierung von Sicherheitsprüfungen in der Pipeline, um Sicherheitslücken frühzeitig zu erkennen. Erwägen Sie eine Teststrategie, die SAST-, SCA- und DAST-Tests umfasst, damit Sie Schwachstellen während der Entwicklung, in Drittanbieterbibliotheken und beim Ausführen von Anwendungen finden können.
  • Sichere Anwendungspakete, um Manipulationen zu verhindern Verwenden Sie die unveränderliche Versionsverwaltung für Ihre Build-Pakete und scannen Sie Container-Images und Pakete, bevor Sie sie in Ihre Artefaktregistrierung übertragen. Stellen Sie dieselben Container-Images in allen Umgebungen bereit, einschließlich Entwicklung, Staging und Produktion.

Phase 4: Überwachen

Da sich die Bedrohungslandschaft durch agentenbasierte Angriffe schnell ändert, müssen Sie Prozesse kontinuierlich überwachen und Automatisierungsmöglichkeiten identifizieren. Sie müssen auch in der Lage sein, Bedrohungen zu erkennen und darauf zu reagieren, die durch Sicherheitslücken im Code entstehen, unabhängig davon, wo sich der Code befindet. Um Bedrohungen effektiv zu überwachen, müssen Sie Sensoren einrichten, geeignete Messwerte festlegen, Simulationsläufe durchführen und erprobte, aktive Playbooks für Incident Response verwenden.

Wiz Defend lässt sich in Google Security Operations einbinden, um Ihre SOC-Workflows mit Warnungen und Kontext aus der Wiz-Plattform zu optimieren. Wiz Defend überwacht das Laufzeitverhalten, Cloud-Konfigurationen, Identitäten und Sicherheitslücken direkt in Ihrer Cloud-Umgebung. Wiz Defend organisiert Echtzeitbenachrichtigungen und verarbeitet forensische Beweise zu zuverlässigen Erkennungen und konsolidierten Bedrohungen. Wiz Blue Agent kann die Daten untersuchen, um festzustellen, ob eine Bedrohung real ist. Wiz kann dann priorisierte Benachrichtigungen an Google SecOps senden, damit weitere Reaktionsmaßnahmen ergriffen werden können.

Google SecOps kann Telemetriedaten aus Ihrer gesamten Umgebung aufnehmen, um Ereignisse zu korrelieren und Reaktions-Playbooks zu koordinieren. Diese Telemetrie umfasst lokale Server, SaaS-Identitätsanbieter, Endpunkte, Firewalls und Multi-Cloud-Umgebungen. Google SecOps umfasst ein agentenbasiertes SOC, das Warnungen automatisch untersuchen kann, um zusätzlichen Kontext zu liefern. Analysten können Fragen in natürlicher Sprache stellen und der Agent kann technischen Kontext, Telemetriedaten und Empfehlungen zur Behebung von Problemen liefern. Der Agent kann auch die Erstellung und Verwaltung von Regeln zur Bedrohungserkennung automatisieren, Erkennungslücken identifizieren und automatisch Erkennungsregeln für die Lücken generieren.

Agentic Threat Intelligence kann Daten von Mandiant und VirusTotal verwenden, um Untersuchungen zu beschleunigen. Agentic Threat Intelligence automatisiert komplexe und zeitaufwendige Aufgaben wie das Reverse Engineering von Code, die Analyse von Malware und die Erstellung benutzerdefinierter Threat Briefings. So können Sicherheitsteams sich anderen wichtigen Aufgaben widmen.

Das folgende Diagramm zeigt, wie die verschiedenen Monitoring-Tools zusammenarbeiten, um Kontext hinzuzufügen, automatisierte Aufgaben auszuführen und Benachrichtigungen zu priorisieren.

Tools für das Monitoring von KI-Bedrohungen.

Nächste Schritte