Implementieren von KI-Datensicherheit

  • 6 Minuten

Die Datensicherheit ist für KI von entscheidender Bedeutung, da KI-Systeme vorhandene Herausforderungen mit Datenklassifizierung, Berechtigungen und Governance verstärken. KI erleichtert die Datenermittlung – was bedeutet, dass alle Probleme mit der Datenverarbeitung vergrößert werden, was zu potenziellen Datenlecks und unbefugtem Zugriff führt. KI basiert nicht nur auf Daten, sondern erstellt auch neue Daten, die im Laufe der Zeit einen Wert gewinnen, was es zu einem Ziel für Angreifer macht. Obwohl datensicherheit keine neue Disziplin ist, macht KI die Datensicherheit noch wichtiger.

Ein grundlegendes Prinzip der KI-Datensicherheit besteht darin, dass Entscheidungen zur Zugriffssteuerung niemals auf das KI-System übertragen werden sollten. Die KI sollte nur Zugriff auf die gleichen Daten haben wie der Benutzer, in dessen Auftrag sie handelt.

Screenshot der Herausforderungen der KI-Governance und -Sicherheit, die zeigt, wie KI vorhandene Datensicherheitsbedenken verstärkt.

Grundlegendes zur Datenlandschaft von KI-Systemen

Generative KI-Systeme interagieren mit einer Vielzahl von Datentypen, die alle Schutz erfordern:

  • Schulungsdaten: Die Zum Erstellen und Optimieren von Modellen verwendeten Datasets, die proprietäre Informationen, personenbezogene Daten oder urheberrechtlich geschütztes Material enthalten können
  • Erdungsdaten: Dokumente, Datenbanken und Wissensdatenbanken, auf welche die KI zur Laufzeit über Techniken wie abrufgestützte Generierung (Retrieval-Augmented Generation, RAG) zugreift.
  • Interaktionsdaten: Benutzeraufforderungen, Modellantworten, Aufgezeichnete Unterhaltungen und während der Verwendung generierte Nutzlasten von Toolanrufen
  • Generierte Ausgaben: Zusammenfassungen, Code, Berichte und andere Artefakte, die die KI erstellt, wodurch Informationen aus mehreren vertraulichen Quellen kombiniert werden können

Jeder Datentyp hat unterschiedliche Sicherheitsanforderungen, Zugriffsmuster und regulatorische Auswirkungen. Eine umfassende KI-Datensicherheitsstrategie befasst sich mit allen.

Screenshot der Datentypen, die von generativer KI verwendet werden, mit verbrauchten, erstellten und aufgerufenen Datenkategorien.

Implementieren der Zugriffssteuerung mit Agentidentitäten

Das Prinzip, dass KI nur auf die gleichen Daten zugreifen sollte wie der Benutzer, von dem er im Auftrag handelt, ist einfach zu sagen, aber die Implementierung erfordert eine zweckorientierte Identitätsverwaltung. Agent-Identitätsframeworks bieten standardisierte Möglichkeiten zum Steuern, Authentifizieren und Autorisieren von KI-Agents.

Agent-Identitätsframeworks unterstützen in der Regel zwei Authentifizierungsmodi:

  • Delegierter Zugriff (im Namen des Benutzers): Der Agent arbeitet unter der Identität des angemeldeten Benutzers mithilfe eines On-Behalf-Of-Flusses. Der Agent erbt nur die Berechtigungen, für die der Benutzer zugestimmt hat und für die er autorisiert ist. Dies erzwingt direkt das Prinzip, dass die KI nicht auf Daten zugreifen kann, auf die der Benutzer nicht zugreifen kann.
  • Nur-Anwendungszugriff: Der Agent handelt unter seiner eigenen dedizierten Identität, die von seinen eigenen Rollenzuweisungen gesteuert wird. Dieser Modus wird für Hintergrund- oder unbeaufsichtigte Workflows verwendet, bei denen kein Benutzer beteiligt ist.

Wenn Sie einen Agent auf einer modernen KI-Plattform erstellen, kann der Dienst automatisch eine Agentidentität bereitstellen. Administratoren weisen dieser Identität dann Rollen mithilfe der rollenbasierten Zugriffssteuerung (RBAC) zu und wenden das Prinzip der minimalen Rechte auf Ebene des Agenten an – getrennt von den Berechtigungen der menschlichen Entwickler, die es erstellt haben.

Diese Trennung ist für die Auditierbarkeit wichtig: Vorgänge, die vom KI-Agent ausgeführt werden, werden in Protokollen unter der Identität des Agents und nicht im Konto eines menschlichen Benutzers angezeigt, sodass unerwartetes Agentverhalten erkannt und untersucht werden kann.

Beispielsweise stellt Microsoft Entra-Agent-ID diese Funktion bereit, indem dedizierte Identitäten für KI-Agents ausgestellt werden, die sowohl delegierte als auch nur anwendungsgeschützte Zugriffsmodi unterstützen, wobei Rollenzuweisungen über Azure RBAC verwaltet werden.

Diagramm, in dem delegierte und nur anwendungsgeschützte Zugriffsmodi für KI-Agentidentitäten verglichen werden.

Datenklassifizierung und Governance

Effektive KI-Datensicherheit erfordert auch starke Praktiken der Datengovernance:

  • Klassifizieren von Daten, bevor KI darauf zugreift: Stellen Sie sicher, dass Daten, auf die KI-Systeme zugreifen, gemäß ihrer Vertraulichkeitsstufe klassifiziert und gekennzeichnet werden. KI kann nur Zugriffssteuerungen erzwingen, die vorhanden sind – wenn Daten nicht ordnungsgemäß klassifiziert werden, kann die KI vertrauliche Informationen für nicht autorisierte Benutzer anzeigen.
  • Anwenden von RICHTLINIEN zur Verhinderung von Datenverlust (Data Loss Prevention, DLP): Erweitern vorhandener DLP-Richtlinien, um KI-Interaktionskanäle abzudecken. Achten Sie darauf, ob KI-Prompts, Antworten und Nutzlasten der Toolaufrufe vertrauliche Daten enthalten.
  • Erzwingen von Aufbewahrungs- und Löschrichtlinien: Definieren Sie, wie lange Interaktionsdaten (Unterhaltungsprotokolle, Eingabeaufforderungsverläufe) aufbewahrt werden. Minimieren Sie den Expositionszeitraum, indem Sie Daten, die nicht mehr benötigt werden, automatisch säubern.
  • Überwachen von Datenzugriffsmustern: Überwachen Sie, auf welche Daten die KI zugreift, wann und in welchem Auftrag. Anomale Zugriffsmuster , z. B. ein Agent, der plötzlich große Datenmengen außerhalb seines normalen Bereichs abfragt, kann auf eine Kompromittierung hinweisen.