Was versteht man unter KI-Datenexposition?

Künstliche Intelligenz muss keine sensiblen Daten preisgeben, um ein Datensicherheitsproblem zu erzeugen.

Manchmal beginnt das Problem viel früher.

Ein Copilot kann Dateien durchsuchen, zu denen ein Mitarbeiter zwar technisch Zugriffsberechtigung hat, die er aber nicht mehr benötigt.

Eine RAG-Anwendung kann vertrauliche Informationen aus einem überlasteten Datenspeicher abrufen.

Ein KI-Agent kann über ein Servicekonto mit weitreichenden Berechtigungen auf Kundendatensätze zugreifen.

Ein Mitarbeiter kann sensible Informationen an eine nicht genehmigte KI-Anwendung übermitteln.

Ein Agent kann Informationen zwar ordnungsgemäß abrufen, aber auch die Fähigkeit erlangen, sie an einen ungeeigneten Ort weiterzuleiten.

Jedes Szenario sieht anders aus.

Sie haben eine gemeinsame Sicherheitsbedingung:

Sensible Unternehmensdaten sind durch KI unter Bedingungen zugänglich geworden, die unnötige Risiken bergen.

Das heißt Offenlegung von KI-Daten.

Das Verständnis dieser Unterscheidung ist wichtig, weil Unternehmen so das Risiko minimieren können, bevor es zu einer Offenlegung, einem Datenleck, einem Missbrauch, einer Datenexfiltration oder einer Datenschutzverletzung kommt.

Was versteht man unter KI-Datenexposition?

Die Offenlegung von KI-Daten liegt vor, wenn ein KI-System auf sensible Daten zugreifen, diese abrufen, verarbeiten, offenlegen, kombinieren, verschieben oder auf sie zugreifen kann, wodurch unnötige Sicherheits-, Datenschutz-, Compliance- oder Geschäftsrisiken entstehen.

Exposition beschreibt eine Risikozustand.

Es beschreibt nicht zwangsläufig einen Sicherheitsvorfall.

Die Daten müssen das Unternehmen nicht verlassen.

Ein Angreifer muss es nicht stehlen.

Ein Modell muss dies nicht in einer Ausgabe offenlegen.

Es muss nicht zu einem Sicherheitsverstoß kommen.

Wenn ein KI-System über einen Zugriff, der über den legitimen Bedarf hinausgeht, unsicheren Abruf, übermäßiger Weitergabe, unnötiger Datenverfügbarkeit oder übermäßig weitreichenden Berechtigungen Zugang zu sensiblen Informationen erhält, besteht möglicherweise bereits eine Gefährdung der KI-Daten durch das Unternehmen.

Diese Unterscheidung gibt den Sicherheitsteams die Möglichkeit, früher zu handeln.

Die Sicherheitsfrage betrifft nicht nur die Frage, ob KI sensible Daten durchgestochen hat. Es geht vielmehr darum, ob KI unter Bedingungen, die zu einer unangemessenen Nutzung oder Offenlegung führen könnten, Zugriff auf sensible Daten erlangen kann.

Wie sieht die Offenlegung von KI-Daten aus?

Betrachten wir ein in SharePoint gespeichertes Finanzplanungsdokument.

Das Dokument enthält vertrauliche Informationen zur Unternehmensübernahme.

Vor Jahren hat jemand den übergeordneten Ordner mit einer großen Projektgruppe geteilt. Das Projekt wurde beendet, aber die Berechtigungen blieben bestehen.

Ein Mitarbeiter gehört noch zu dieser Gruppe.

Die Organisation verbindet später einen KI-Unternehmensassistenten mit demselben Repository.

Der Mitarbeiter stellt eine berechtigte geschäftliche Frage.

Der Assistent findet das Beschaffungsdokument, weil der Mitarbeiter über die bestehenden Zugriffsrechte verfügt, die den Abruf ermöglichen.

Auf der Authentifizierungsebene ist nicht zwangsläufig etwas schiefgegangen.

Das Repository wurde nicht öffentlich zugänglich gemacht.

Die KI hat die Zugriffskontrollen nicht umgangen.

Doch KI hat ein altes Berechtigungsproblem wesentlich einfacher handhabbar gemacht.

KI musste den übermäßigen Zugriff nicht erst schaffen. Sie hat lediglich die bereits vorhandenen Zugriffe leichter auffindbar und nutzbar gemacht.

Offenlegung von KI-Daten vs. KI-Datenleck

Die Offenlegung von KI-Daten und das Lecken von KI-Daten beschreiben unterschiedliche Risikostufen.

Eine Offenlegung von KI-Daten liegt vor, wenn sensible Informationen über einen ungeeigneten oder unnötig riskanten KI-Zugriffspfad zugänglich sind.

Ein Datenleck im Bereich der künstlichen Intelligenz entsteht, wenn sensible Informationen in einer ungeeigneten Anwendung, Interaktion, Ausgabe oder Umgebung auftauchen.

Zum Beispiel:

Ein KI-Assistent, der dürfen Der Zugriff auf vertrauliche Personalakten durch übermäßige Benutzerberechtigungen stellt ein Sicherheitsrisiko dar.

Wenn ein Mitarbeiter vertrauliche Mitarbeiterinformationen ohne berechtigten Grund an Dritte weitergibt, hat dies zu einer Offenlegung oder einem Datenleck geführt.

Eine Offenlegung kann auch ohne Informationsleck vorliegen. Ein Informationsleck setzt im Allgemeinen voraus, dass sensible Informationen eine beabsichtigte Informationsgrenze überschreiten.

Offenlegung von KI-Daten vs. KI-Datenexfiltration

KI-Datenexfiltration beschreibt die unbefugte Übermittlung sensibler Informationen an einen Ort, an den sie nicht gelangen sollten.

Ein KI-Agent könnte zwar rechtmäßig Kundendatensätze abrufen, diese dann aber an einen nicht autorisierten externen Dienst senden.

Der Zugang wurde möglicherweise gestattet.

Das Ziel war es nicht.

Diese Unterscheidung gewinnt für autonome KI zunehmend an Bedeutung.

Der Agent hat möglicherweise die Berechtigung, die Daten zu lesen. Das bedeutet jedoch nicht, dass er die Berechtigung hat, die Daten überallhin zu senden, wo er kommunizieren kann.

Erfahren Sie mehr über Datenexfiltration von KI-Agenten.

Offenlegung von KI-Daten vs. übermäßiger KI-Zugriff

Diese Konzepte überschneiden sich, sind aber nicht identisch.

Übermäßiger KI-Zugriff beschreibt eine KI-Identität, Anwendung, einen Agenten oder eine unterstützende Identität, die über mehr Zugriffsrechte verfügt, als ihr genehmigter Zweck erfordert.

Offenlegung von KI-Daten beschreibt das daraus resultierende Risiko für sensible Daten, das durch diesen Zugriff und die damit verbundenen Bedingungen entsteht.

Zum Beispiel:

Ein Agent kann weitreichenden Zugriff auf ein Repository mit öffentlichem Marketingmaterial haben. Die Berechtigung mag zwar ihren Zweck überschreiten, die unmittelbaren Auswirkungen auf die Daten dürften aber relativ gering bleiben.

Die gleiche Berechtigung, angewendet auf ein Repository, das personenbezogene Daten von Kunden, Zugangsdaten, Finanzunterlagen und vertrauliche Produktpläne enthält, birgt ein weitaus größeres Risiko.

Eine Berechtigung allein bestimmt nicht das Risiko. Das Risiko hängt von den Daten ab, die der Berechtigung zugrunde liegen.

Erfahren Sie mehr übermäßiger Zugriff Verknüpft Berechtigungen mit dem Risiko für sensible Daten.

Was verursacht die Offenlegung von KI-Daten?

Die Offenlegung von KI-Daten ist selten auf ein einzelnes Kontrollversagen zurückzuführen.

Sie entsteht häufig aus den Beziehungen zwischen Daten, Identitäten, Berechtigungen, Abrufsystemen, KI-Anwendungen und Aktionen.

1. Übermäßiger Benutzerzugriff

Copiloten und KI-Systeme für Unternehmen können innerhalb von Benutzerzugriffskontexten operieren.

Wenn ein Benutzer bereits unnötigen Zugriff auf sensible Informationen hat, kann KI es erleichtern, diese Informationen zu finden und zu nutzen.

Über Jahre angehäufte Genehmigungsschulden können plötzlich auffindbar werden.

2. Vererbte und indirekte Berechtigungen

Der Zugriff auf KI kann über Gruppen, Anwendungen, APIs, Dienstkonten, Maschinenidentitäten, Konnektoren, delegierte Berechtigungen oder andere Agenten erfolgen.

Die mit der KI interagierende Identität gibt möglicherweise nicht die vollständige Zugriffskette preis.

Sicherheitsteams müssen verstehen effektiver Zugang, einschließlich vererbter und indirekter Pfade.

Erfahren Sie mehr KI-Agenten erben Berechtigungen.

3. Übermäßig gemeinsam genutzte Unternehmensdaten

Cloud-Speicher, Kollaborationsplattformen, SaaS-Anwendungen, Dateifreigaben, Objektspeicher und Wissensdatenbanken können einen breiten internen oder externen Zugriff ermöglichen.

KI kann es erleichtern, diese bestehenden Entscheidungen zur gemeinsamen Nutzung in großem Umfang umzusetzen.

4. RAG- und Retrieval-Fehlkonfiguration

RAG führt die Abfrage zwischen Unternehmensdaten und dem Modell ein.

Eine Gefährdung kann entstehen, wenn Quellberechtigungen, Indizes, Vektorspeicher, Konnektoren, Abrufidentitäten oder Autorisierungslogiken zulassen, dass sensible Informationen außerhalb des vorgesehenen Geltungsbereichs in den KI-Kontext gelangen.

Die Relevanz bestimmt, welche Daten die KI abrufen kann. Die Autorisierung bestimmt, welche Daten sie abrufen soll.

Erfahren Sie mehr über RAG-Sicherheit.

5. Überprivilegierte KI-Agenten

Agenten können Datenzugriff mit Werkzeugen und Autonomie kombinieren.

Ein Agent, der nur genehmigte Datensätze liest, erzeugt ein anderes Expositionsprofil als ein Agent, der lesen, schreiben, senden, löschen, ausführen und nachgelagerte Systeme aufrufen kann.

Die Berechtigungen der Agenten sollten dem genehmigten Zweck und der Aufgabe entsprechen.

6. Sensible Anregungen und Reaktionen

Mitarbeiter können personenbezogene Daten, Quellcode, Anmeldeinformationen, Finanzinformationen, Gesundheitsdaten, geistiges Eigentum oder vertrauliche Geschäftsdaten an KI-Anwendungen übermitteln.

KI kann in Antworten auch sensible Informationen zurückgeben.

Dadurch entsteht ein Sicherheitsrisiko auf der Interaktionsebene, selbst wenn das Quellcode-Repository sicher bleibt.

Erfahren Sie mehr über KI-gestützte Sicherheitsvorkehrungen.

7. Schatten-KI

Mitarbeiter könnten KI-Anwendungen nutzen, die von den Sicherheits-, Datenschutz- oder Governance-Teams nicht geprüft wurden.

Dadurch können unbekannte Pfade zwischen Unternehmensinformationen und KI-Diensten entstehen.

Schatten-KI Dies führt zu Herausforderungen sowohl hinsichtlich der Anwendungstransparenz als auch der Datenoffenlegung.

8. Veraltete und unnötige Daten

KI kann keine Informationen aufdecken, die in der erreichbaren Umgebung nicht mehr existieren.

Veraltete, redundante, doppelte, überholte, triviale und übermäßig gespeicherte Informationen erhöhen die Datenmenge, die KI potenziell entdecken und verarbeiten kann.

Datenminimierung kann diese exponierte Oberfläche verringern.

9. Unkontrollierte Reiseziele

Bei Zugriffskontrollen liegt der Fokus stark darauf, woher Daten stammen.

Autonome KI erfordert von den Teams auch die Frage, wohin die Daten als Nächstes fließen können.

Ein Agent kann Daten abrufen und diese dann über eine API, eine Anwendung, eine E-Mail, einen Workflow, ein Tool oder einen anderen Agenten senden.

Das Ziel ist genauso wichtig wie der Ausgangspunkt.

Häufige Beispiele für die Offenlegung von KI-Daten

Wie KI den Umgang mit sensiblen Daten verändert

Die Offenlegung sensibler Daten gab es schon lange vor der generativen KI.

Organisationen hatten bereits mit Problemen wie Public-Cloud-Speicher, übermäßigen Berechtigungen, falsch konfigurierten Repositories, veralteten Konten, externer Freigabe, Insiderrisiken und nicht verwalteten Kopien zu kämpfen.

KI verändert die Ökonomie dieses Risikos.

Wie Copiloten KI-Daten offenlegen

Enterprise-Copiloten können über bestehende Anwendungs- und Benutzerzugriffsmodelle funktionieren.

Das macht Legacy-Berechtigungen zu einem entscheidenden Bestandteil der KI-Bereitschaft.

Ein Benutzer kann technisch gesehen Zugriff auf Tausende von Dokumenten haben, die sich über Jahre durch Gruppenzugehörigkeit, geerbte Berechtigungen, Projektzugriff, freigegebene Ordner und Zusammenarbeit angesammelt haben.

Vor der Zeit der KI musste man zum Auffinden eines vergessenen Dokuments unter Umständen wissen, dass es existierte und wo es jemand aufbewahrt hatte.

KI-gestützte Suche kann das ändern.

KI kann jahrelange Genehmigungsschulden in durchsuchbare Daten umwandeln.

Organisationen sollten den Zugriff auf sensible Daten überprüfen, bevor sie Repositories umfassend mit unternehmensweiten Copiloten verbinden.

Wie RAG die Offenlegung von KI-Daten ermöglicht

RAG verbindet KI mit Unternehmenswissen.

Das schafft zwar einen enormen Mehrwert, führt aber auch zu einer Sicherheitsgrenze beim Datenabruf.

Teams müssen Folgendes verstehen:

• Welche Quelldaten gelangen in die RAG-Umgebung?
• Welche sensiblen Informationen diese Daten enthalten
• Wie Dokumente indexiert oder eingebettet werden
• Welche Identitäten können Informationen suchen oder abrufen?
• Ob die Abrufmethode die Quellenautorisierung berücksichtigt
• Welcher sensible Kontext erreicht das Modell?
• Wohin die generierten Antworten gelangen können

Ein sicheres Quellcode-Repository garantiert nicht automatisch einen sicheren Abruf.

Die RAG-Sicherheit muss eine Verbindung herstellen zwischen dem, was die KI abrufen kann, und dem, was sie abrufen sollte.

Wie KI-Agenten die Datenexposition erhöhen

Agenten fügen eine weitere Dimension hinzu: Aktion.

Ein herkömmlicher Assistent kann Informationen abrufen und eine Antwort zurückgeben.

Ein Agent kann Informationen abrufen und dann:

• Senden Sie eine E-Mail
• Aktualisieren eines Kundendatensatzes
• Ticket erstellen
• API aufrufen
• Ein Dokument bearbeiten
• Informationen löschen
• Einen Workflow auslösen
• Kontext an einen anderen Agenten übergeben

Dies erweitert die Sicherheitsfrage von:

Worauf kann KI zugreifen?

Zu:

Worauf kann KI zugreifen, unter wessen Autorität und was kann sie als Nächstes tun?

Darum geringstes Privileg für KI-Agenten, Delegierung, Identitätsmanagement, Zugriffsmanagement und Zielkontrollen sind wichtig.

Warum KI-Identität für die Datenexposition relevant ist

Künstliche Intelligenz greift nicht auf einheitliche Weise auf Unternehmensdaten zu.

Ein KI-Workflow kann folgendermaßen ablaufen:

• Die Identität eines menschlichen Benutzers
• Eine Anwendungsidentität
• Ein Servicekonto
• Eine Maschinenidentität
• API-Zugangsdaten
• Eine delegierte Genehmigung
• Eine KI-spezifische Identität
• Ein weiterer Agent

Die Identität, die zur Authentifizierung dient, gibt nicht immer Aufschluss darüber, wessen Autorität letztendlich den Zugriff regelt.

Sicherheitsteams müssen daher beides verstehen Identität und Delegation.

Erfahren Sie mehr über KI-Identität vs. Maschinenidentität vs. Servicekonten.

Welche Daten erzeugen die größte KI-Offenbarung?

Nicht alle für KI zugänglichen Daten bergen das gleiche Risiko.

Sicherheitsteams sollten Daten wie die folgenden priorisieren:

• Persönlich identifizierbare Informationen (PII)
• Geschützte Gesundheitsinformationen (PHI)
• Zahlungs- und Finanzinformationen
• Anmeldeinformationen
• Geheimnisse und API-Schlüssel
• Quellcode
• Geistiges Eigentum
• Kundeninformationen
• Mitarbeiterinformationen
• Rechts- und vertrauliche Dokumente
• Forschung
• Produktpläne
• Plattenmaterialien
• Vertrauliche Mitteilungen

Auch der Kontext spielt eine Rolle.

Dieselbe Zugriffsberechtigung birgt je nach den dahinterliegenden Informationen unterschiedliche Risiken.

Der Umgang mit KI sollte daher den Zugriff mit Datensensibilität, Identität, Aktivität, Eigentumsverhältnissen, Geschäftskontext und potenziellen Maßnahmen verknüpfen.

Wie man die Offenlegung von KI-Daten reduziert

Organisationen sollten das Risiko entlang des gesamten Weges von der KI zur Datenverarbeitung minimieren.

1. Sensible Daten aufdecken

Identifizieren Sie regulierte, vertrauliche, geschützte, anmelderelevante, finanzielle, gesundheitsbezogene, persönliche und geschäftskritische Informationen in Cloud-, SaaS-, On-Premises-, Hybrid-, Kollaborations- und KI-vernetzten Umgebungen.

2. KI-Systeme und Datenbeziehungen entdecken

Identifizieren Sie Modelle, Agenten, Copiloten, KI-Anwendungen, Prompts, Datensätze, Vektorspeicher, Pipelines und Schatten-KI.

Ermitteln Sie anschließend, welche Unternehmensdaten sie nutzen oder auf welche sie zugreifen können.

3. Effektiven KI-Zugriff verstehen

Direkte, vererbte, Gruppen-, Anwendungs-, Dienstkonto-, Maschinenidentitäts-, API-, Konnektor-, delegierte und Agent-zu-Agent-Zugriffe ordnen.

4. Überflüssige Berechtigungen reduzieren

Das Prinzip der minimalen Berechtigungsvergabe richtet sich nach dem genehmigten Zweck des KI-Systems.

Übermäßiger Zugriff auf sensible und geschäftskritische Daten sollte Priorität haben.

5. Sichere KI-Abfrage

Überprüfen Sie Quellberechtigungen, Indizes, Vektorspeicher, Abrufidentitäten, Konnektoren und Autorisierungslogik.

Relevanz ist nicht gleichbedeutend mit Autorisierung.

6. Eingabeaufforderungen und Antworten schützen

Identifizieren Sie sensible Informationen, die in Eingabeaufforderungen oder KI-Antworten auftauchen, und verknüpfen Sie Verstöße mit Benutzern, Konversationen, Richtlinien und Reaktionsabläufen.

7. Überwachung sensibler Datenaktivitäten

Verstehen Sie, wie sensible Informationen in KI-vernetzten Umgebungen abgerufen, verschoben, heruntergeladen, geteilt, verändert oder gelöscht werden.

8. Unnötige Daten reduzieren

Minimieren Sie veraltete, redundante, überholte, doppelte, triviale und übermäßig gespeicherte Informationen, die den Aktionsradius der KI unnötig erweitern.

9. Agentenaktionen und -ziele einschränken

Werkzeuge, Berechtigungen, Funktionalität und Autonomie sollten auf genehmigte Bedürfnisse beschränkt werden.

Kontrollieren, wohin sensible Informationen nach dem Abruf gelangen können.

10. Beheben und neu bewerten

Zugriffe einschränken, Freigaben korrigieren, unnötige Daten entfernen, Richtlinien durchsetzen, Zuständigkeiten zuweisen und Korrekturmaßnahmen koordinieren.

Ermitteln Sie anschließend, ob die Exposition tatsächlich abgenommen hat.

Wie misst man die Offenlegung von KI-Daten?

Die bloße Zählung von KI-Anwendungen gibt Sicherheitsverantwortlichen keine Auskunft darüber, welches Risiko für sensible Daten von diesen Anwendungen ausgeht.

Organisationen sollten Faktoren wie die folgenden bewerten:

• Sensible Daten, die von KI erfasst werden können
• Effektiver KI-Zugang
• Abrufbarkeit
• Berechtigungsschwere
• Tatsächliche KI-Datenaktivität
• Verfügbare Folgeaktionen und Ziele

Ziel ist es, herauszufinden, welche KI-Daten-Beziehungen das größte potenzielle Risiko bergen und ob Sicherheitsteams dieses Risiko im Laufe der Zeit verringern können.

Das vollständige Rahmenkonzept für die Praxis finden Sie unter Wie man die Offenlegung von KI-Daten im gesamten Unternehmen misst und reduziert.

Wie BigID dazu beiträgt, die Offenlegung von KI-Daten zu reduzieren

BigID geht bei der KI-Sicherheit vom Datenniveau her vor.

BigID verbindet KI-Systeme mit sensiblen Daten, Identitäten, Berechtigungen, Eigentumsverhältnissen, Aktivitäten, Herkunft, Richtlinien, Geschäftskontext, Risiken und Abhilfemaßnahmen.

BigID unterstützt Organisationen:

• Sensible Daten entdecken und klassifizieren: Identifizieren Sie personenbezogene, regulierte, vertrauliche, firmeneigene, berechtigungsbezogene, gesundheitsbezogene, finanzielle und geschäftskritische Informationen in unternehmensweiten Umgebungen.
• KI entdecken und steuern: Verbinde Modelle, Agenten, Copiloten, Eingabeaufforderungen, Datensätze, Vektorspeicher, Pipelines und Schatten-KI mit sensiblen Daten, Eigentumsverhältnissen, Herkunft, Identitäten, Berechtigungen, Richtlinien und Risiken.
• KI-Zugriff verstehen: Verknüpfen Sie KI-Identitäten und Zugriffspfade mit sensiblen Unternehmensinformationen.
• Übermäßigen Zugriff erkennen: Finden Sie weit gefasste, veraltete, geerbte, unnötige, externe oder risikoreiche Berechtigungen im Zusammenhang mit sensiblen Daten.
• Aktivitätskontext hinzufügen: Verstehen Sie, wie sensible Informationen in Unternehmensumgebungen abgerufen, verschoben, heruntergeladen, weitergegeben, verändert oder gelöscht werden.
• Schutz von KI-Interaktionen: Überwachen Sie sensible Informationen in Eingabeaufforderungen und Antworten und verknüpfen Sie Verstöße mit Benutzern, Konversationen, Richtlinien und Reaktionsabläufen.
• Unnötige Daten reduzieren: Identifizieren Sie veraltete, redundante, überholte, doppelte und übermäßig gespeicherte Informationen, die das Risiko einer KI-Angriffsgefahr erhöhen.
• Laufwerksbereinigung: Priorisieren Sie die Offenlegung, reduzieren Sie unnötige Zugriffe, setzen Sie Richtlinien durch, weisen Sie Verantwortlichkeiten zu, entfernen Sie unnötige Daten und koordinieren Sie Korrekturmaßnahmen.

BigID verbindet die Offenlegungskette der KI-Daten:

KI → Identität → Autorität → Zugriff → Sensible Daten → Aktivität → Aktion → Ziel

Das hilft Sicherheitsteams dabei, von der Frage „Welche Fragen muss ich stellen?“ zur nächsten überzugehen:

“Haben wir KI?”

Zu:

“Welche KI kann auf unsere sensiblen Daten zugreifen, warum kann sie darauf zugreifen und was kann als Nächstes passieren?”

Die Offenlegung von KI-Daten beginnt vor dem Vorfall.

Die Sicherheit von KI kann nicht erst dann beginnen, wenn eine sensible Eingabeaufforderung einen Alarm auslöst, ein Assistent vertrauliche Informationen preisgibt oder ein Agent Daten an einen ungeeigneten Ort sendet.

Bis dahin kann die Organisation bereits seit Monaten oder Jahren dem zugrunde liegenden Risiko ausgesetzt sein.

Die bessere Frage stellt sich schon früher:

Wo kann KI unter Bedingungen, die unnötige Risiken bergen, an sensible Informationen gelangen?

Die Beantwortung dieser Frage macht die Offenlegung von KI-Daten zu etwas, das Sicherheitsteams finden, priorisieren, reduzieren und kontinuierlich neu bewerten können.

Der beste Zeitpunkt, um die Offenlegung von KI-Daten zu reduzieren, ist, solange es sich noch um eine Zugriffsbedingung handelt, und nicht erst, nachdem es zu einer Offenlegung, einem Datenleck, einem Missbrauch oder einer Datenexfiltration gekommen ist.

Häufig gestellte Fragen zur Offenlegung von KI-Daten

Was versteht man unter KI-Datenexposition?

Die Offenlegung von KI-Daten liegt vor, wenn ein KI-System unter Bedingungen, die unnötige Sicherheits-, Datenschutz-, Compliance- oder Geschäftsrisiken schaffen, auf sensible Daten zugreifen, diese abrufen, verarbeiten, offenlegen, kombinieren, verschieben oder mit ihnen interagieren kann.

Ist die Offenlegung von KI-Daten eine Datenschutzverletzung?

Nein. Die Offenlegung von KI-Daten kann bereits vor einem Datenleck erfolgen. Übermäßige Berechtigungen, zu häufige Weitergabe von Daten, unsicherer Datenabruf, unnötige Datenverfügbarkeit oder übermäßig leistungsfähige KI-Zugriffe können zu einer Offenlegung führen, ohne dass ein bestätigter Datenverlust oder ein unbefugter externer Zugriff vorliegt.

Worin besteht der Unterschied zwischen der Offenlegung von KI-Daten und dem Leck von KI-Daten?

Die Offenlegung von KI-Daten beschreibt eine Risikosituation, in der sensible Daten über einen ungeeigneten oder unnötig riskanten KI-Zugriffspfad zugänglich sind. Der Begriff „KI-Datenleck“ beschreibt das Auftreten sensibler Informationen in einer ungeeigneten Anwendung, Interaktion, Ausgabe oder Umgebung.

Worin besteht der Unterschied zwischen der Offenlegung von KI-Daten und dem Abfluss von KI-Daten?

Die Offenlegung von KI-Daten beschreibt sensible Informationen, auf die KI unter riskanten Bedingungen zugreifen kann. Von KI-Datenexfiltration spricht man, wenn sensible Informationen an ein nicht autorisiertes Ziel gelangen.

Was verursacht die Offenlegung von KI-Daten?

Häufige Ursachen sind übermäßige Berechtigungen, vererbte Zugriffsrechte, übermäßig gemeinsam genutzte Speicherorte, unsicherer Datenabruf, überprivilegierte Agenten, sensible Eingabeaufforderungen und Antworten, Schatten-KI, unnötige Daten und unkontrollierte nachgelagerte Ziele.

Können gültige Berechtigungen dennoch zu einer Offenlegung von KI-Daten führen?

Ja. Eine Berechtigung kann technisch gültig bleiben, auch wenn sie den aktuellen Geschäftsbedarf übersteigt. KI kann den Zugriff auf sensible Informationen erleichtern und deren Auffinden, Abruf, Kombination und Nutzung vereinfachen.

Wie erzeugt RAG die Offenlegung von KI-Daten?

RAG kann zu Sicherheitslücken führen, wenn Quellberechtigungen, Indizes, Vektorspeicher, Abrufidentitäten, Konnektoren oder Autorisierungslogik zulassen, dass sensible Informationen außerhalb des vorgesehenen Geltungsbereichs in den KI-Kontext gelangen.

Wie erzeugen KI-Agenten Datenlecks?

KI-Agenten können den Zugriff auf sensible Daten mit Werkzeugen, Berechtigungen und Autonomie kombinieren. Ein Agent kann Informationen abrufen und diese anschließend schreiben, ändern, senden, teilen, löschen oder an ein anderes System oder einen anderen Agenten weitergeben.

Was versteht man unter übermäßigem KI-Zugriff?

Übermäßiger KI-Zugriff liegt vor, wenn ein KI-System oder eine zugehörige Identität über mehr Zugriffsrechte verfügt, als für den genehmigten Zweck erforderlich sind. Das daraus resultierende Risiko hängt von der Sensibilität der Daten ab, die diesen Berechtigungen zugrunde liegen, und davon, was die KI damit anstellen kann.

Wie können Organisationen die Offenlegung von KI-Daten reduzieren?

Organisationen können sensible Daten und KI-Systeme aufdecken, effektive Zugriffsrechte abbilden, übermäßige Berechtigungen reduzieren, den sicheren Datenabruf gewährleisten, Eingabeaufforderungen und Antworten schützen, Aktivitäten überwachen, unnötige Daten minimieren, Agentenaktionen und -ziele einschränken und Sicherheitslücken kontinuierlich beheben.

Wie misst man die Exposition gegenüber KI-Daten?

Organisationen können die Reichweite sensibler Daten, den effektiven KI-Zugriff, die Abrufbarkeit, die Berechtigungsstufe, die tatsächliche KI-Aktivität sowie verfügbare Folgeaktionen und -ziele bewerten. Ziel ist es, die KI-Daten-Beziehungen mit dem größten potenziellen Einfluss zu identifizieren.

Wie trägt BigID zur Reduzierung der Offenlegung von KI-Daten bei?

BigID verbindet KI-Systeme mit sensiblen Daten, Identitäten, Berechtigungen, Aktivitäten, Eigentumsverhältnissen, Herkunft, Richtlinien und Geschäftskontext, um Organisationen dabei zu helfen, risikoreiche KI-Zugriffe zu identifizieren, die Offenlegung zu priorisieren, übermäßige Berechtigungen zu reduzieren, KI-Interaktionen zu schützen, unnötige Daten zu minimieren und Abhilfemaßnahmen einzuleiten.