Wie man die Offenlegung von KI-Daten im gesamten Unternehmen misst und reduziert

Die meisten Organisationen messen die Sicherheit von KI erst, nachdem etwas passiert ist.

Eine sensible Eingabe löst eine Warnung aus.

Ein Mitarbeiter fügt vertrauliche Daten in eine KI-Anwendung ein.

Ein Kopilot gibt Informationen weiter, die jemand nicht hätte sehen sollen.

Ein Agent sendet Daten an ein anderes System.

Diese Ereignisse sind wichtig.

Sie messen die Ergebnisse jedoch erst, nachdem sensible Daten bereits in den Risikopfad gelangt sind.

Die Offenlegung von KI-Daten beginnt früher.

Es beginnt, wenn ein KI-System unter Bedingungen, die ein unnötiges oder unangemessenes Risiko darstellen, auf sensible Daten zugreifen kann.

Ein Kopilot mit geerbtem Zugriff auf vertrauliche Dateien birgt Risiken, noch bevor er zurückkehrt.

Ein KI-Agent mit der Berechtigung, Kundendatensätze abzufragen, schafft bereits dann ein Sicherheitsrisiko, bevor er diese Datensätze an einen anderen Ort weiterleitet.

Eine RAG-Anwendung, die mit übermäßig gemeinsam genutzten Repositories verbunden ist, schafft ein Sicherheitsrisiko, noch bevor ein Benutzer das falsche Dokument abruft.

Dies wirft eine andere Sicherheitsfrage auf:

Auf wie viele sensible Unternehmensdaten kann KI zugreifen, unter wessen Autorität, mit welchen Berechtigungen und was kann nach dem Abruf geschehen?

Sicherheitsverantwortliche benötigen eine messbare Antwort.

Was versteht man unter KI-Datenexposition?

Die Offenlegung von KI-Daten liegt vor, wenn ein KI-System auf sensible Daten zugreifen, diese abrufen, verarbeiten, offenlegen, kombinieren, verschieben oder auf sie zugreifen kann, wodurch unnötige Sicherheits-, Datenschutz-, Compliance- oder Geschäftsrisiken entstehen.

Eine Offenlegung setzt keinen Verstoß voraus.

Es benötigt keinen Angreifer.

Es ist nicht einmal erforderlich, dass Daten das Unternehmen verlassen.

Betrachten wir einen Mitarbeiter, der einen firmeneigenen Copiloten rechtmäßig nutzt.

Der Mitarbeiter gehört einer alten Kooperationsgruppe an, die noch immer Zugriff auf vertrauliche Akquisitionsdokumente hat.

Der Copilot erbt diesen Zugriffskontext oder arbeitet innerhalb dieses Kontextes und kann diese Dokumente abrufen.

Kein Angreifer konnte die Authentifizierung umgehen.

Keine Datenbank wurde veröffentlicht.

Es hat keine Schadsoftware eine Datei gestohlen.

Sensible Informationen befinden sich nun jedoch innerhalb eines KI-zugänglichen Pfades, der über den aktuellen Geschäftsbedarf des Mitarbeiters hinausgeht.

Das ist die Offenlegung von KI-Daten.

Offenlegung, Leckage und Exfiltration von KI-Daten

Sicherheitsteams verwenden die Begriffe Gefährdung, Datenleck, Offenlegung und Datenexfiltration oft synonym. Das erschwert die Messung von KI-Risiken.

Der Begriff „Exposition“ beschreibt den Zustand. Offenlegung, Leckage, Missbrauch und Exfiltration beschreiben Wege, wie dieser Zustand Auswirkungen haben kann.

Diese Unterscheidung ist wichtig, weil Sicherheitsteams das Risiko verringern können, bevor es zu einem Vorfall kommt.

Warum traditionelle Sicherheitskennzahlen die Gefährdung durch KI-Daten außer Acht lassen

Organisationen messen bereits Schwachstellen, Vorfälle, Malware, Identitäten, Authentifizierungsereignisse, Cloud-Konfigurationen, DLP-Verstöße und Modellrisiken.

Diese Signale sind weiterhin nützlich.

Aber keine der Antworten ist von selbst gegeben:

Auf wie viele sensible Daten kann dieses KI-System tatsächlich zugreifen?

Ein IAM-System kann erkennen, dass eine Anwendung Zugriff auf ein Repository hat.

Ein Datensicherheitssystem kann erkennen, dass das Repository Kundendatensätze enthält.

Ein KI-gestütztes Inventarsystem kann wissen, dass ein Agent existiert.

Ein SIEM-System kann erkennen, dass der Agent eine API-Anfrage gestellt hat.

Die Tragweite der Enthüllungen wird deutlich, wenn diese Fakten miteinander in Zusammenhang stehen.

Wie man die Exposition gegenüber KI-Daten misst

Organisationen müssen die KI-Exposition nicht in einer einzigen universellen Kennzahl zusammenfassen.

Sie benötigen ein wiederholbares Modell, das erkennt, welche KI-Datenbeziehungen das größte Wirkungspotenzial bergen.

Eine sinnvolle Beurteilung sollte mindestens sechs Dimensionen berücksichtigen.

1. Reichweite sensibler Daten

Beginnen wir mit den potenziellen Auswirkungen.

Ermitteln Sie, auf welche sensiblen, regulierten, vertraulichen, geschützten oder geschäftskritischen Informationen jedes KI-System zugreifen kann.

Beispiele hierfür sind:

• PII und PHI
• Zahlungsinformationen
• Zugangsdaten und Geheimnisse
• Quellcode
• Geistiges Eigentum
• Finanzunterlagen
• Rechtsdokumente
• Mitarbeiterinformationen
• Kundendatensätze
• Forschungs- und Produktpläne

Messen Sie anschließend die Menge und Konzentration sensibler Informationen innerhalb der erreichbaren Umgebung.

Die Zählung von KI-Systemen ohne Messung der dahinterliegenden sensiblen Daten sagt wenig über die tatsächliche Gefährdung aus.

2. Effektiver KI-Zugang

Direkte Genehmigungen erzählen nur einen Teil der Geschichte.

KI-Systeme können sich Zugang verschaffen durch:

• Benutzerberechtigungen
• Gruppen und verschachtelte Gruppen
• Anwendungen
• Servicekonten
• APIs
• Steckverbinder
• OAuth-Berechtigungen
• Maschinenidentitäten
• Delegierte Berechtigungen
• Gemeinsame Repositories
• Andere Agenten

Messen effektiver Zugang, einschließlich geerbt und indirekte Wege.

Eine KI-Anwendung ohne offensichtliche direkte Berechtigung kann dennoch über die dahinterstehende Identität, Anwendung, Verbindung oder das Dienstkonto auf sensible Daten zugreifen.

3. Abrufbarkeit

Zugriff und Abruf sind zwar verwandt, aber dennoch unterschiedlich.

Ein Repository kann den Zugriff ermöglichen, während ein KI-Workflow ermittelt, ob diese Informationen praktisch auffindbar werden durch:

• Unternehmenssuche
• LAPPEN
• Vektordatenbanken
• Wissensdatenbanken
• APIs
• Steckverbinder
• Agenten-Tools
• Suchindizes

Dies wirft eine wichtige Messfrage auf:

Welche sensiblen Informationen kann KI in einen nutzbaren Kontext umwandeln?

Eine in einem großen Datenspeicher verborgene, ruhende Datei kann wesentlich sichtbarer werden, sobald ein KI-Assistent sie anhand einer Anfrage in natürlicher Sprache finden kann.

4. Schweregrad der Berechtigung

Nicht jede Genehmigung birgt das gleiche Potenzial für Auswirkungen.

Messen, ob KI Folgendes kann:

• Lesen Sie
• Suchen
• Herunterladen
• Export
• Schreiben
• Ändern
• Löschen
• Aktie
• Schicken
• Ausführen
• Werkzeuge aufrufen
• Ruf nachgelagerte Systeme auf

Ein reiner Leseassistent und ein autonomer Agent mit Lese-, Schreib-, Sende- und Löschfunktionen sollten nicht die gleiche Risikopriorität erhalten.

5. Aktivität und Nutzung

Berechtigungen messen Potenzial.

Aktivität liefert einen Nutzungsnachweis.

Verfolgen Sie, ob KI-Systeme tatsächlich:

• Zugriff auf sensible Repositories
• Abrufen regulierter Aufzeichnungen
• Sensible Anfragen übermitteln
• Sensible Antworten zurückgeben
• Informationen bewegen
• Hochrisiko-Tools einsetzen
• Änderungsdaten
• Informationen teilen
• Interagiere mit ungewöhnlichen Ressourcen

Die aktive Nutzung einer risikoreichen Berechtigung kann mehr Aufmerksamkeit verdienen als eine ungenutzte Berechtigung, während ungenutzte übermäßige Berechtigungen dennoch eine Entfernung rechtfertigen können.

6. Ziel und Aktionsreichweite

Abschließend gilt es zu ermitteln, was passiert, nachdem die KI auf die Daten zugegriffen hat.

Kann es:

• Die Informationen an den Benutzer zurückgeben?
• Per E-Mail senden?
• In eine andere SaaS-Anwendung schreiben?
• Eine externe API aufrufen?
• An einen anderen Agenten weiterleiten?
• In einem anderen Repository speichern?
• Damit eine wichtige Entscheidung treffen?
• Einen automatisierten Workflow auslösen?

Das Ziel ist genauso wichtig wie der Ausgangspunkt.

Die Gleichung zur Offenlegung von KI-Daten

Sicherheitsteams können diese Dimensionen nutzen, um die Messung der Gefährdung durch KI-Daten zu strukturieren, ohne die Gefährdung als einen einzigen universellen Wert zu behandeln.

Was sollten CISOs messen?

Die “Anzahl der entdeckten KI-Tools” sollte nicht das primäre Maß für die Sicherheit von KI-Daten sein.

Verfolgen Sie, ob die Exposition abnimmt.

Ziel ist nicht ein größeres KI-Inventar.

Ziel ist es, weniger sensible Daten hinter unnötigem KI-Zugriff zu verbergen und weniger folgenreiche Wege von der Datenabfrage zur Handlung zu schaffen.

Wie man die Offenlegung von KI-Daten reduziert

1. Sensible Daten vor der KI-Anbindung identifizieren.

Informieren Sie sich darüber, welche regulierten, vertraulichen, geschützten, anerkennungsrelevanten, finanziellen, gesundheitsbezogenen, persönlichen und geschäftskritischen Informationen in den Repositories vorhanden sind, auf die KI zugreifen kann.

Führen Sie dies nach Möglichkeit vor dem Verbinden von Kopiloten, RAG-Systemen, Suchfunktionen oder Agenten durch.

2. KI-Identitäten und Zugriffspfade abbilden

Identifizieren Sie Agenten, Copiloten, KI-Anwendungen, Servicekonten, Maschinenidentitäten, APIs, Konnektoren und Workflows, die Wege zu Unternehmensdaten schaffen.

Ermitteln Sie anschließend, wessen Autorität jeder Pfad nutzt.

3. Übermäßigen KI-Zugriff reduzieren

Finden Sie KI-Systeme, deren Zugriffsrechte über ihren genehmigten Zweck hinausgehen.

Priorisieren Sie Berechtigungen im Zusammenhang mit sensiblen und geschäftskritischen Informationen.

Anwenden geringste Privilegien zu den Daten hinter der KI, nicht nur zur KI-Anwendung selbst.

4. Sicherer Abruf

Relevanz bedeutet nicht automatisch Autorisierung.

RAG und KI-Systeme für Unternehmen sollten die Zugriffsbeschränkungen beim Abruf sensibler Informationen respektieren.

Überprüfen Sie Quellberechtigungen, Indizes, Vektorspeicher, Konnektoren und Abrufidentitäten.

5. Reduzieren Sie die Datenmenge, die die KI nicht benötigt.

Veraltete, redundante, überholte, doppelte und übermäßig gespeicherte Informationen können die KI-Exposition erhöhen, ohne einen geschäftlichen Mehrwert zu schaffen.

Die KI-Bereitschaft sollte auch die Datenminimierung umfassen.

6. KI-Datenaktivität überwachen

Verknüpfen Sie KI-Aktivitäten mit sensiblen Daten und dem Identitätskontext.

Ermitteln Sie, welche KI-Systeme tatsächlich auf sensible Informationen zugreifen, diese abrufen, verschieben, weitergeben, verändern oder löschen.

7. Eingabeaufforderungen und Antworten schützen

KI-Exposition kann auch auf der Interaktionsebene erfolgen.

Überwachung der Eingabeaufforderungen für sensible Informationen und in Antworten auftauchen, Verstöße mit Benutzern und Richtlinien in Verbindung bringen und riskante Interaktionen untersuchen.

8. Einschränkung der Fähigkeiten von Agenten mit hohem Einfluss

Geben Sie den Agenten nur die Werkzeuge, Berechtigungen, Funktionen und die Autonomie, die sie für ihren Zweck benötigen.

Trennen Sie Lese- und Schreibvorgänge sowie die daraus resultierenden Aktionen, wo immer dies praktikabel ist.

Für Maßnahmen mit weitreichenden Folgen ist eine stärkere Autorisierung oder menschliche Zustimmung erforderlich.

9. Steuerziele

Fragen Sie, wohin die KI sensible Informationen nach dem Abruf senden kann.

Unangemessene Bewegungen zwischen Anwendungen, APIs, externen Diensten, Agenten und anderen Zielen unterbinden.

10. Nachbessern und erneut messen

Das Expositionsmanagement erfordert einen geschlossenen Regelkreis.

Übermäßige Zugriffsrechte entfernen, Freigaben korrigieren, unnötige Daten löschen, Richtlinien anwenden, Eigentumsrechte zuweisen und Korrekturmaßnahmen einleiten.

Messen Sie dann die Belichtung erneut.

Offenlegung von KI-Daten bei Copiloten, RAG und Agenten

Das Messmodell bleibt gleich, aber das Expositionsmuster ändert sich je nach KI-Architektur.

Kopiloten

Copiloten arbeiten häufig innerhalb bestehender Unternehmensanwendungen und Benutzerzugriffsmodelle.

Die zentrale Frage der Exposition lautet:

Welche sensiblen Informationen lassen sich für diesen Nutzer durch KI leichter aufdecken?

LAPPEN

RAG fügt eine Abrufinfrastruktur zwischen Benutzer und Quelldaten hinzu.

Teams müssen die Berechtigungen für die Datenquellen, die Indizierung, Vektorspeicher, Abrufidentitäten, die Autorisierung und den sensiblen Kontext, der an das Modell zurückgegeben wird, verstehen.

Die Relevanz bestimmt, welche Daten die KI abrufen kann. Die Autorisierung bestimmt, welche Daten sie abrufen soll.

AI-Agenten

Agenten verleihen Autonomie und Handlungsfähigkeit.

Die Sicherheitsfrage erweitert sich von “Was kann es abrufen?” zu:

Was kann es abrufen, was kann es entscheiden und was kann es als Nächstes tun?

Das macht Identität, Delegierung, Werkzeugberechtigungen, Zielsteuerung und nachgelagerte Aktionen zu zentralen Aspekten der Expositionsmessung.

Die Offenlegung von KI-Daten ist eine Kennzahl vor einem Vorfall.

Das ist die größere Veränderung.

Bei herkömmlichen Sicherheitsprogrammen werden Datenvorfälle oft erst dann gemessen, wenn der Zugriff oder die Datenbewegung gegen die Richtlinien verstoßen hat.

Künstliche Intelligenz schafft die Möglichkeit, die Bedingungen zu messen, die solche Ereignisse wahrscheinlicher machen, bevor sie eintreten.

Wie BigID dabei hilft, die Offenlegung von KI-Daten zu messen und zu reduzieren

BigID geht bei der KI-Sicherheit vom Datenniveau her vor.

Das ist deshalb wichtig, weil das Risiko eines KI-Systems stark von den Unternehmensinformationen, Identitäten, Berechtigungen, Aktivitäten und Aktionen abhängt, die damit verbunden sind.

BigID unterstützt Organisationen:

• Sensible Daten entdecken und klassifizieren: Identifizieren Sie regulierte, vertrauliche, geschützte, Berechtigungs-, persönliche, gesundheitsbezogene, finanzielle und geschäftskritische Informationen in unternehmensweiten Umgebungen.
• KI entdecken und steuern: Verbinde Modelle, Agenten, Copiloten, Eingabeaufforderungen, Datensätze, Vektorspeicher, Pipelines und Schatten-KI mit sensiblen Daten, Eigentumsverhältnissen, Herkunft, Identitäten, Berechtigungen, Richtlinien und Risiken.
• KI-Zugriff verstehen: Entdecken Sie KI-Zugriffspfade und verbinden Sie KI-Identitäten, vererbte Berechtigungen, Anwendungen, APIs, Dienstkonten und Maschinenidentitäten mit sensiblen Unternehmensdaten.
• Übermäßigen Zugriff erkennen: Finden Sie weit gefasste, veraltete, geerbte, unnötige, externe oder risikoreiche Berechtigungen im Zusammenhang mit sensiblen Informationen.
• Aktivitätskontext hinzufügen: Verstehen Sie, wie sensible Daten in Cloud-, SaaS-, Hybrid-, On-Premises- und KI-vernetzten Umgebungen abgerufen, verschoben, heruntergeladen, geteilt, geändert oder gelöscht werden.
• Schutz von KI-Interaktionen: Überwachen Sie sensible Daten in Eingabeaufforderungen und Antworten, ordnen Sie Verstöße Benutzern und Konversationen zu und verknüpfen Sie riskante Interaktionen mit Richtlinien und Reaktionsabläufen.
• Unnötige Daten reduzieren: Identifizieren Sie veraltete, redundante, überholte, doppelte und übermäßig gespeicherte Informationen, um die Datenmenge zu erhöhen, auf die KI potenziell zugreifen kann.
• Exposition verringern: Priorisieren Sie Risiken, reduzieren Sie übermäßige Zugriffe, setzen Sie Richtlinien durch, weisen Sie Verantwortlichkeiten zu, löschen Sie unnötige Daten und koordinieren Sie die Behebung von Problemen in den verschiedenen Unternehmensumgebungen.

BigID verbindet die Belichtungskette:

KI → Identität → Autorität → Zugriff → Sensible Daten → Aktivität → Aktion → Ziel

Damit verschiebt sich der Fokus der KI-Datensicherheit von der Zählung von Systemen und Vorfällen hin zur Messung der damit verbundenen Gefährdung sensibler Daten.

Der CISO-Test zur Offenlegung von KI-Daten

Lautet die Antwort auf mehrere dieser Fragen „Nein“, verfügt die Organisation möglicherweise über KI-Transparenz, ohne jedoch Einblick in die Offenlegung von KI-Daten zu haben.

Diese Unterscheidung wird an Bedeutung gewinnen, wenn sich die KI von der Beantwortung von Fragen hin zum Abrufen von Daten, dem Aufrufen von Werkzeugen, der Koordination mit anderen Akteuren und dem Ergreifen von Maßnahmen entwickelt.

Häufig gestellte Fragen zur Offenlegung von KI-Daten

Was versteht man unter KI-Datenexposition?

Die Offenlegung von KI-Daten liegt vor, wenn ein KI-System unter Bedingungen, die unnötige Sicherheits-, Datenschutz-, Compliance- oder Geschäftsrisiken schaffen, auf sensible Daten zugreifen, diese abrufen, verarbeiten, offenlegen, kombinieren, verschieben oder mit ihnen interagieren kann.

Ist die Offenlegung von KI-Daten dasselbe wie ein Datenleck im Zusammenhang mit KI?

Nein. „Offenlegung“ beschreibt einen Zustand, in dem sensible Daten über einen ungeeigneten oder unnötig riskanten KI-Zugriffspfad zugänglich sind. „Leakage“ beschreibt das Auftreten sensibler Informationen in einem ungeeigneten System, einer ungeeigneten Interaktion oder Ausgabe. Die Reduzierung der Offenlegung kann dazu beitragen, Leakage zu verhindern.

Erfordert die Offenlegung von KI-Daten eine Datenschutzverletzung?

Nein. Sensible Daten können auch ohne externen Angreifer oder bestätigte Sicherheitslücke durch übermäßige Berechtigungen, zu häufige Weitergabe von Daten, unangemessenen Abruf, breiten KI-Zugriff oder unnötige Datenverfügbarkeit offengelegt werden.

Wie misst man die Exposition gegenüber KI-Daten?

Messen Sie die Sensibilität und das Volumen der Daten, auf die die KI zugreifen kann, effektive Zugriffswege, die Erreichbarkeit des Abrufs, die Schwere der Berechtigungen, die tatsächliche Aktivität und die Ziele oder Aktionen, die nach dem Abruf verfügbar sind.

Was versteht man unter übermäßigem KI-Zugriff?

Übermäßiger KI-Zugriff liegt vor, wenn ein KI-System über mehr Zugriffsrechte oder Berechtigungen verfügt, als für seinen genehmigten Zweck erforderlich sind. Das Risiko steigt, wenn diese Berechtigungen sensible, regulierte, vertrauliche oder geschäftskritische Informationen betreffen.

Wie erzeugt RAG die Offenlegung von KI-Daten?

RAG-Systeme rufen Unternehmensinformationen ab und ordnen relevante Inhalte in den KI-Kontext ein. Sicherheitslücken können entstehen, wenn Quellberechtigungen, Abrufberechtigungen, Indizes, Vektorspeicher oder Zugriffspfade es der KI ermöglichen, sensible Informationen außerhalb des vorgesehenen Bereichs abzurufen.

Wie erhöhen KI-Agenten die Datenexposition?

KI-Agenten können Datenzugriff mit Autonomie und Werkzeugnutzung kombinieren. Ein Agent kann sensible Informationen abrufen und diese anschließend schreiben, ändern, senden, teilen, löschen oder an ein anderes System oder einen anderen Agenten weitergeben, wodurch die potenziellen Auswirkungen erhöht werden.

Kann KI Daten offenlegen, selbst wenn Nutzer über gültige Berechtigungen verfügen?

Ja. Der berechtigte Zugriff kann den aktuellen Geschäftsbedarf weiterhin übersteigen. Künstliche Intelligenz kann den Zugriff auf allgemein zugängliche Informationen erheblich vereinfachen – vom Auffinden über den Abruf und die Kombination bis hin zur Nutzung –, was bestehende Probleme mit übermäßigem Zugriff noch verstärken kann.

Welche Kennzahlen sollten CISOs im Hinblick auf die Offenlegung von KI-Daten überwachen?

Nützliche Kennzahlen sind unter anderem: sensible Daten, die von KI erreicht werden können, KI-Identitäten mit übermäßigem Zugriff, risikoreiche KI-zu-Daten-Pfade, sensible Daten, die dem Abruf ausgesetzt sind, KI-Identitäten mit weitreichenden Berechtigungen, Verstöße gegen die Anforderungen an die Reaktionsfähigkeit sensibler Daten, aktiver Zugriff auf sensible Daten, Zeit zur Behebung von Sicherheitslücken und die Beseitigung von Gefährdungen.

Wie können Organisationen die Offenlegung von KI-Daten reduzieren?

Organisationen können sensible Daten aufdecken, KI-Identitäten und Zugriffspfade abbilden, übermäßige Berechtigungen reduzieren, den sicheren Abruf gewährleisten, unnötige Daten minimieren, Aktivitäten überwachen, Eingabeaufforderungen und Antworten schützen, Agentenfunktionen einschränken, Ziele kontrollieren und die Gefährdung kontinuierlich beheben und neu messen.

Wie trägt BigID dazu bei, die Offenlegung von KI-Daten zu reduzieren?

BigID verknüpft KI-Systeme mit sensiblen Daten, Identitäten, Berechtigungen, Aktivitäten, Eigentümern, Herkunft, Richtlinien und Geschäftskontexten. Dies unterstützt Unternehmen dabei, risikoreiche KI-Zugriffe zu identifizieren, Prioritäten für die Gefährdung festzulegen, übermäßige Berechtigungen zu reduzieren, KI-Interaktionen zu schützen, unnötige Daten zu minimieren und Gegenmaßnahmen einzuleiten.