Karte: Microsoft Purview Untersuchungen zur Datensicherheit

Was ist eine Anwendungs- oder Plattformkarte?

Die Anwendungs- und Plattformkarten von Microsoft sollen Ihnen helfen, zu verstehen, wie unsere KI-Technologie funktioniert, welche Entscheidungen Anwendungsbesitzer treffen können, die die Leistung und das Verhalten der Anwendung beeinflussen können, und wie wichtig es ist, die gesamte Anwendung zu berücksichtigen, einschließlich der Technologie, der Menschen und der Umgebung. Anwendungskarten werden für KI-Anwendungen und Plattformkarten für KI-Plattformdienste erstellt. Diese Ressourcen können die Entwicklung oder Bereitstellung Ihrer eigenen Anwendungen unterstützen und für Benutzer oder Projektbeteiligte freigegeben werden, die von ihnen betroffen sind.

Im Rahmen seiner Verpflichtung zu verantwortungsvoller KI hält sich Microsoft an sechs Grundprinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz und Verantwortlichkeit. Diese Prinzipien sind in die verantwortungsvolle KI-Standard eingebettet, die Teams beim Entwerfen, Erstellen und Testen von KI-Anwendungen unterstützt. Anwendungs- und Plattformkarten spielen eine wichtige Rolle bei der Operationalisierung dieser Prinzipien, indem sie Transparenz in Bezug auf Funktionen, beabsichtigte Verwendungen und Einschränkungen bieten. Um weitere Erkenntnisse zu erhalten, sollten die Leser den Microsoft-Bericht zur Transparenz der verantwortungsvollen KI und den Verhaltenskodex erkunden, in denen beschrieben wird, wie Unternehmenskunden und Einzelpersonen verantwortungsbewusst mit KI umgehen können.

Übersicht

Microsoft Purview Untersuchungen zur Datensicherheit ist eine KI-fähige Untersuchungsanwendung für Cybersicherheits- und Datensicherheitsteams. Es hilft Organisationen, Daten im Zusammenhang mit potenziellen Sicherheitsverletzungen, Insider-Vorfällen und Exfiltrationsereignissen zu analysieren, indem Suche, KI-Analyse und Entschärfungsplanung in einem Workflow kombiniert werden. Die Anwendung verwendet generative KI, um Risiken vertraulicher Inhalte zu identifizieren, Elemente mit hoher Auswirkung zu priorisieren und Empfehlungen zu erstellen, die die Eindämmung und Wartung unterstützen.

Die Anwendung wurde entwickelt, um Zeit und Komplexität bei Untersuchungen nach Sicherheitsverletzungen und bei Untersuchungen mit hohem Risiko zu reduzieren. Anstatt sehr große Mengen von Dateien, E-Mails und Nachrichten manuell zu überprüfen, können Analysten Vektorsuch-, Kategorisierungs- und Untersuchungstools verwenden, um sich zuerst auf die relevantesten und riskantesten Inhalte zu konzentrieren. Dies verbessert die Selektierungseffizienz, unterstützt die teamübergreifende Koordination und hilft Organisationen dabei, rechtzeitig Maßnahmen wie untersuchungsgesteuerte Entschärfungsplanung und Bereinigungsvorgänge zu ergreifen.

Untersuchungen zur Datensicherheit richtet sich an Unternehmenskunden und nachgeschaltete Benutzer wie Sicherheitsanalysten, Incident-Responder, Bedrohungsermittler und Datenschutzteams. Zu den wichtigsten Dokumentationen gehören Informationen zu Untersuchungen zur Datensicherheit amd Learn zur KI-Analyse in Untersuchungen zur Datensicherheit.

Schlüsselbegriffe

Die folgende Liste enthält ein Glossar mit Schlüsselbegriffen im Zusammenhang mit Microsoft Purview Untersuchungen zur Datensicherheit:

  • Kategorisierung: Eine KI-Funktion, die bereichsbezogene Untersuchungsinhalte in Standard-, benutzerdefinierte oder KI-vorgeschlagene Kategorien gruppiert, um die Priorisierung zu beschleunigen. Standard- und Erweiterte Verarbeitungsoptionen helfen Analysten dabei, von einer umfassenden Selektierung zu einem tieferen Clustering auf Themenebene zu wechseln.
  • Prüfung: Ein KI-Analysemodus, der eine fokussierte Überprüfung auf Elementebene für Bereiche wie Anmeldeinformationen, Risiko und Risikoleitfaden durchführt. Die Untersuchungsergebnisse helfen Den Ermittlern, den Schweregrad und die empfohlenen nächsten Aktionen zu verstehen.
  • Untersuchungsbereich: Der Satz von Inhaltselementen, die für die Überprüfung und Analyse in einer Untersuchung ausgewählt wurden.
  • Entschärfungsplan: Ein strukturierter Satz von Aktionen für Elemente, die während der Untersuchung als hohe Priorität identifiziert wurden. Es hilft Analysten dabei, Korrektur- und Risikominderungsaufgaben nachzuverfolgen und auszuführen.
  • Bereinigen (weich/hart): Eine Entschärfungsaktion zum Entfernen riskanter Elemente, die in einer Untersuchung identifiziert wurden. Die vorläufige Bereinigung verschiebt Elemente an wiederherstellbare Speicherorte, während die endgültige Bereinigung Elemente dauerhaft löscht.
  • Risikobewertung: Eine während der Prüfung generierte Bewertung, die Analysten dabei hilft, Inhalte basierend auf potenziellen Auswirkungen auf die Sicherheit zu priorisieren. Es unterstützt Selektierungs- und Eskalationsentscheidungen.
  • KI-Suche (Vorschau): Eine suchbasierte Suchoberfläche, die den semantischen Abruf mit KI-generierten Zusammenfassungen und Zitaten kombiniert. Es hilft Analysten zu bewerten, ob Suchergebnisse mit der Untersuchungsabsicht übereinstimmen.
  • Vektorsuche: Eine semantische Suchmethode, die Einbettungen verwendet, um kontextrelevante Inhalte abzurufen, auch wenn genaue Schlüsselwörter fehlen. Es unterstützt absichtsbezogene Abfragen und relevanzbasierte Rangfolgen.

Wichtige Features oder Funktionen

Die wichtigsten Features und Funktionen, die hier beschrieben werden, beschreiben, worauf Microsoft Purview Untersuchungen zur Datensicherheit ausgelegt ist und wie es über unterstützte Aufgaben hinweg funktioniert.

  • Integrierter Incident-to-Investigation-Workflow: Die Anwendung unterstützt die Erstellung von Untersuchungen aus Microsoft Defender XDR Vorfällen, Insider-Risikomanagement-Fällen, Datensicherheitsstatus-Management (Vorschau) Erkenntnissen oder manuellen Entwurfsmodus. Dies hilft Sicherheitsteams, von Warnungen zur datenorientierten Analyse zu wechseln, ohne tools zu wechseln. Es verbessert auch die Zusammenarbeit zwischen Cybersicherheits-, Compliance- und Risikoteams.
  • KI-gestützter semantischer Abruf: Die Vektorsuche ermöglicht das zielorientierte Abrufen über bereichsbezogene, textbasierte Inhalte hinweg. Analysten können relevante Elemente auch dann finden, wenn inhalte keine genauen Abfragebegriffe enthalten. Dies verbessert den Rückruf und reduziert die manuelle Schlüsselwort (keyword) Trial-and-Error.This improves recall and reduce manual Schlüsselwort (keyword) trial-and-error.
  • KI-gestützte Priorisierung durch Kategorisierung: Die Kategorisierung organisiert Daten in Standard-, benutzerdefinierten und KI-vorgeschlagenen Kategorien, sodass sich Analysten schnell auf Bereiche mit höherem Risiko konzentrieren können. Die erweiterte Kategorisierung bietet zusätzliche organization auf Themenebene für eine eingehendere Überprüfung. Dies reduziert den Überprüfungsaufwand bei großen Untersuchungen, indem priorisierte Inhalte angezeigt werden, anstatt zuerst eine vollständige manuelle Überprüfung zu erfordern.
  • Gezielte Risiko- und Nachweisprüfung: Prüfungstools extrahieren Anmeldeinformationen, bewerten das Elementrisiko und generieren risikoorientierte Ergebnisse für ausgewählte Inhalte. Analysten erhalten ein schnelleres Verständnis dafür, was verfügbar sein könnte und was als Nächstes zu tun ist. Dies unterstützt eine schnellere Eindämmung und Behebung bei aktiven Vorfällen.
  • Entschärfungs- und Bereinigungsaktionen: Ermittler können Ergebnisse durch Entschärfungspläne und Bereinigungsworkflows in konkrete Aktionen umwandeln. Dadurch werden Die Analyseausgaben direkt mit der Ausführung der Risikoreduzierung verknüpft. Teams können den Fortschritt und status von Entschärfungsentscheidungen innerhalb des Untersuchungslebenszyklus nachverfolgen.
  • Audit- und Ökosystemintegration: Die Lösung lässt sich in Microsoft Purview-Überwachungsworkflows und Microsoft-Sicherheitslösungen integrieren, sodass Teams den Beweiskontext erhalten und Reaktionsaktionen ausrichten können. Es unterstützt auch die Protokollierung von Untersuchungsaktivitäten im einheitlichen Überwachungsprotokoll, um die operative Verantwortlichkeit zu stärken.

Beabsichtigte Verwendung

Microsoft Purview Untersuchungen zur Datensicherheit können in mehreren Szenarien verwendet werden. Beispiele für Anwendungsfälle sind:

  • Reaktion auf Sicherheitsverletzungen durch einen Defender XDR Incident: Ein Analyst kann eine neue Datensicherheitsuntersuchung direkt aus einem Defender XDR Incident erstellen, um den Explosionsradius eines kompromittierten Benutzers zu bewerten. KI-gestützte Untersuchungsoberfläche zeigt Anmeldeinformationen, vertrauliche Dokumente und Kommunikationen an, auf die der Angreifer zugreifen könnte, wobei regulierte und kundenrelevante Daten zuerst priorisiert werden. Entschärfungsmaßnahmen werden innerhalb derselben Untersuchung durchgeführt und erzeugen eine dokumentierte Antwort für die Überwachung und Nachverfolgung.
  • Ablaufverfolgung der Mitarbeiterdatenexfiltration über das Überwachungsprotokoll: Wenn ein Mitarbeiter verdächtigt wird, eine große Datenmenge zu exfiltrieren, fragt ein Prüfer das einheitliche Überwachungsprotokoll über Untersuchungen zur Datensicherheit ab, um heruntergeladene und abgerufene Dateien nachzuverfolgen. Die KI-Kategorisierung trennt Routineaktivitäten von verdächtigen Inhalten und konzentriert die Aufmerksamkeit auf die Daten mit dem höchsten Risiko. Ki-angereicherte Erkenntnisse werden für weitere Maßnahmen an Rechts- und Datenschutzteams weitergegeben.
  • Suchen vertraulicher Daten auf einer überbelichteten SharePoint-Website: Nachdem sie erfahren haben, dass eine SharePoint-Website mit vertraulichen Inhalten weit übermäßig freigegeben ist, untersucht ein Ermittler diese Website und führt KI-Analysen durch, um zu ermitteln, was tatsächlich gefährdet ist. Vektorsuche und Kategorisierung von Oberflächenkonzentrationen sensibler Inhalte, die nicht manuell überprüft werden können.
  • Überprüfen riskanter KI-Interaktionen: Ein Ermittler legt eine DSI-Untersuchung auf KI-Eingabeaufforderungen und -antworten mit vertraulichen Daten ein, unabhängig davon, ob es sich um ki-Tools von Microsoft Copilot oder KI-Tools von Drittanbietern handelt. Untersuchungen identifizieren, wo regulierte Inhalte, Anmeldeinformationen oder PII in Interaktionen aufgetreten sind, und die Kategorisierung hebt wiederkehrende Muster riskanter Verwendung hervor. Die Ergebnisse sind sowohl die sofortige Behebung von verfügbar gemachten Inhalten als auch die umfassendere Nachverfolgung mit den beteiligten Benutzern und Tools.

Modelle und Trainingsdaten

Microsoft Purview Untersuchungen zur Datensicherheit nutzt eine Vielzahl von KI-Modellen, um die Benutzerfreundlichkeit zu verbessern. Beispiele hierfür sind Azure OpenAI-Dienstmodelle und Microsoft Security Copilot Plattformfunktionen, die für Vektoreinbettungen, Kategorisierung und untersuchungsbezogene KI-Ausgaben verwendet werden. Weitere Informationen zu den Daten, die zum Trainieren der Basismodelle hinter Microsoft Purview Untersuchungen zur Datensicherheit verwendet werden, finden Sie auf den verknüpften Modellkarten, um die relevanten Datenkarten zu finden.

Leistung

Microsoft Purview Untersuchungen zur Datensicherheit ist für die zuverlässige Ausführung in Workflows nach einer Sicherheitsverletzung und Untersuchung von Datenrisiken in Unternehmen konzipiert, in denen der Untersuchungsbereich ordnungsgemäß definiert ist und Benutzern die erforderlichen Rollengruppen zugewiesen werden. Unter diesen Bedingungen können Analysten Suchergebnisse iterativ verfeinern, Daten durch Kategorisierung priorisieren und die Überprüfung ausgewählter Elemente durchführen, um Entschärfungsentscheidungen zu unterstützen.

Die vorgesehenen Eingaben sind in erster Linie Unternehmensinhalte und Ermittlereingabeaufforderungen. Eingaben umfassen Dateien, E-Mails und Nachrichten aus unterstützten Microsoft 365-Datenquellen. Metadaten und überwachungsverknüpften Kontext; und Abfragen in natürlicher Sprache oder Schlüsselwort (keyword), die in der Vektorsuche und der Suche mit KI (Vorschau) verwendet werden. Zu den erwarteten Ausgaben gehören Suchergebnisse mit Relevanzrang, Kategoriegruppierungen, Ergebnisse der Risiko- und Nachweisprüfung und Risikominderungsempfehlungen.

Die primäre ausgewertete und dokumentierte KI-Interaktionsmodalität ist Text. Vektorisierung und semantisches Abrufen hängen vom Textinhalt ab. Einige Inhaltstypen, die keinen verwendbaren Text enthalten, werden von Vektorisierungsworkflows ausgeschlossen, sodass Ermittler dies bei der Bereichsplanung berücksichtigen sollten.

Leistung und Nützlichkeit werden durch die Qualität der Untersuchungseinrichtung beeinflusst, einschließlich Bereichsgenauigkeit, Kategorieauswahl und iterativer menschlicher Überprüfung. Bei großen Datasets gibt die Kategorisierung priorisierte Teilmengen zurück, anstatt eine vollständige Abdeckung für jede Kategorie zu erhalten. Für eine umfassende Analyse auf Elementebene sollten Teams Kategorisierung mit Prüfung und Prüfervalidierung kombinieren.

Begrenzungen

Das Verständnis der Einschränkungen von Microsoft Purview Untersuchungen zur Datensicherheit ist entscheidend, um festzustellen, ob es innerhalb sicherer und effektiver Grenzen verwendet wird. Während wir Kunden ermutigen, Microsoft Purview Untersuchungen zur Datensicherheit in ihren innovativen Lösungen oder Anwendungen zu nutzen, ist es wichtig zu beachten, dass Microsoft Purview Untersuchungen zur Datensicherheit nicht für jedes mögliche Szenario. Wir empfehlen Benutzern, sich entweder auf den Microsoft Enterprise AI Services Code of Conduct (für Organisationen) oder den Abschnitt Code Conduct im Microsoft-Servicevertrag (für Einzelpersonen) sowie auf die folgenden Überlegungen zu beziehen, wenn sie einen Anwendungsfall auswählen:

  • Einschränkungen bei der Zuverlässigkeit der KI-Ausgabe: Die von generativer KI generierten Ergebnisse sind möglicherweise nicht immer vollständig genau oder vollständig. Diese Einschränkung ist wichtig, da Ermittler sonst das Vertrauen überschätzen und den Kontext, der den Schweregrad des Incidents ändert, überschätzen. Benutzer sollten kritische Ergebnisse überprüfen, insbesondere vor rechtlichen, compliance- oder unumkehrbaren technischen Maßnahmen. Menschliches Urteilsvermögen bleibt in endgültigen Entscheidungen erforderlich.
  • Abhängigkeit von Textinhalten für semantische Tools: Vektorsuche und zugehörige semantische Workflows erfordern Textinhalt. Bestimmte Inhaltstypen, z. B. reine Bildelemente oder Inhalte ohne extrahierenden Text, können von der Vektorisierung und daher von einigen KI-gestützten Abrufworkflows ausgeschlossen werden. Teams sollten auswerten, ob wichtige Beweise möglicherweise zusätzliche Überprüfungsmethoden außerhalb der semantischen Suche erfordern. Dies trägt dazu bei, falsche Annahmen über die vollständige Abdeckung zu vermeiden.
  • Priorisiertes, nicht erschöpfendes Kategorisierungsverhalten: Die Kategorisierung ist so optimiert, dass inhalte mit hoher Relevanz für ausgewählte Kategorien angezeigt werden, nicht um eine vollständige Überprüfung jedes Elements im Bereich pro Kategorie zu gewährleisten. In großen Datasets werden relevante Elemente mit niedrigerer Bewertung möglicherweise nicht in Kategorieausgaben angezeigt. Benutzer sollten die Prüfung für eine umfassende Analyse auf Artikelebene verwenden, bei der eine vollständige Abdeckung erforderlich ist. Dies ist besonders wichtig bei Untersuchungen mit hohen Auswirkungen.
  • Betriebs- und Kapazitätsgrenzen: Untersuchungs- und Featuregrenzwerte gelten, einschließlich Der Grenzwerte für die Gesamtanzahl von Dokumenten, die Gesamtgröße der Dateien pro Untersuchung und die Grenzwerte für Überwachungssuch- und Bereinigungsworkflows. Diese Einschränkungen können sich darauf auswirken, wie Teams arbeiten und große Untersuchungen abfolgen. Benutzer sollten den Umfang und die Verarbeitungsstrategie um veröffentlichte Grenzwerte herum planen, um Verzögerungen zu vermeiden. Kapazitätsorientierte Planung verbessert sowohl die Kostenkontrolle als auch die Ermittlungskontinuität.
  • Nicht für nicht unterstützte Szenarien oder verbotene Verwendung vorgesehen: Untersuchungen zur Datensicherheit ist für die Untersuchung und Entschärfung von Datensicherheitsvorfällen vorgesehen. Die Verwendung als alleinige Entscheidungsträger, externe Governance- und Sicherheitsworkflows oder auf eine Weise, die durch Bedingungen und Verhaltensregeln verboten ist, kann sicherheits- und compliancerisiken darstellen. Organisationen sollten das Tool innerhalb der vorgesehenen Betriebsgrenzen halten und mehrstufige Steuerelemente anwenden. Dies schließt rechtliche und richtlinienbezogene Überprüfungen vor Maßnahmen mit hohen Folgen ein.

Bewertungen

Leistungs- und Sicherheitsbewertungen bewerten, ob KI-Anwendungen zuverlässig und sicher funktionieren, indem Faktoren wie Grundhaftigkeit, Relevanz und Kohärenz untersucht und gleichzeitig die Risiken der Generierung schädlicher Inhalte identifiziert werden. Die folgenden Bewertungen wurden mit bereits vorhandenen Sicherheitskomponenten durchgeführt, die ebenfalls in 9 beschrieben sind. Sicherheitskomponenten und Entschärfungen.

Leistungs- und Qualitätsbewertungen

Leistungs- und Qualitätsbewertungen für KI-Features in Microsoft Purview Untersuchungen zur Datensicherheit konzentrieren sich auf praktische Untersuchungsergebnisse, einschließlich Vektorsuchrelevanz, Kategorisierungsgenauigkeit und Nützlichkeit der Untersuchungsergebnisse. Basierend auf der Produktdokumentation umfassen Evaluierungsaktivitäten Vorabtests und szenariobasierte Validierungen, um zu bewerten, ob KI-gestützte Ermittlungs-, Priorisierungs- und Analysefeatures den Ermittlern dabei helfen, auf identifizierte Risiken zu reagieren.

Bei aktuellen KI-Erfahrungen ist text die primäre ausgewertete Modalität. Ideale Ergebnisse sind genaue, relevante Ergebnisse, die Analysten dabei helfen, risikoreiche Elemente schnell zu identifizieren und fundierte Ermittlungsmaßnahmen zu ergreifen. Zu den suboptimalen Ergebnissen gehören Ergebnisse, die unvollständig, irrelevant sind oder eine erhebliche zusätzliche Analyse und Validierung erfordern.

Risiko- und Sicherheitsbewertungen

Unsere Auswertungsdaten wurden speziell entwickelt, um die Leistung von KI-Anwendungen in wichtigen Bereichen der Sicherheit und Qualität zu bewerten und reale Szenarien und Risiken zu simulieren. Wir beginnen mit der Identifizierung relevanter Bewertungsaspekte, die auf multidisziplinären Forschungen und Experteneinschätzungen basieren. Diese Bedenken werden in gezielte Bewertungsziele und Die Formulierung von Auswertungsmetriken übersetzt. Aus Sicherheitsgründen erstellen wir angreiferische Eingabeaufforderungen, um unerwünschte Oder Fallreaktionen auszusprechen, die dann mit KI-gestützten Annotatoren bewertet werden, die zur Bewertung der Übereinstimmung mit den Sicherheitsstandards von Microsoft trainiert wurden. Aus Qualitätsgründen erstellen wir rubrikenbasierte Aufforderungen, die für Szenarien relevant sind, einschließlich der Auswertung von Rag-Anwendungen (Retrieval-Augmented Generation) und Agents. Datasets werden aus verschiedenen Quellen zusammengestellt, einschließlich synthetischer und öffentlicher Datasets, um reale Benutzerszenarien zu simulieren. Mithilfe der kuratierten Datasets werden beide Auswertungen iterativer Verfeinerung und menschlicher Ausrichtung unterzogen, um die Effizienz und Zuverlässigkeit von Metriken zu verbessern. Diese Methodik bildet die Grundlage für wiederholbare, strenge Bewertungen, die widerspiegeln, wie Kunden Bewertungen verwenden, um eine bessere und sicherere KI zu erstellen.

Benutzerdefinierte Auswertungen

Untersuchungen zur Datensicherheit wurde anhand mehrerer Qualitäts- und Zuverlässigkeitsindikatoren bewertet, einschließlich KI-Genauigkeit, Ergebnis relevanz und Ausgabeklarheit. Basierend auf dokumentierten Praktiken verwenden Bewertungen eine Kombination aus manuellem Red Teaming und menschlicher Bewertung, um zu testen, ob KI-gestützte Ausgaben für Workflows zur Untersuchung von Vorfällen nützlich und zuverlässig sind. Die primäre ausgewertete Modalität für aktuelle KI-Erfahrungen ist Text.

Zu den Auswertungsszenarien gehören semantische Abrufe, Kategorisierungsrelevanz und Untersuchungsausgaben, die zur Priorisierung und Minimierung von Risiken verwendet werden. Ideale Ergebnisse sind kontextrelevante Ergebnisse, die Analysten dabei unterstützen, risikoreiche Elemente schnell zu identifizieren und informierte nächste Maßnahmen zu ergreifen. Zu den suboptimalen Ergebnissen gehören unvollständige, unklare oder weniger relevante Ausgaben, die eine zusätzliche Iteration und Validierung durch Prüfer erfordern.

Betriebsfeedback wird auch verwendet, um die Leistung im Laufe der Zeit zu verbessern. Das Produkt sammelt ausgewählte qualitätsorientierte Metriken zu KI-Eingaben und -Ausgaben, um die Relevanz und Nützlichkeit zu optimieren, während dokumentierte Datenschutzsteuerelemente beschreiben, welche Inhalte erfasst werden und welche nicht. Diese fortlaufende Schleife unterstützt fortlaufende Qualitätsverbesserungen nach der Veröffentlichung.

Sicherheitskomponenten & Entschärfungen

  • Rollenbasierte Zugriffssteuerung: Untersuchungen zur Datensicherheit verwendet dedizierte Rollengruppen (Administratoren, Prüfer, Prüfer) zum Steuern des Featurezugriffs und der Zuständigkeiten. Dies hilft dabei, zu begrenzen, wer vertrauliche Aktivitäten wie Bereinigen und Administrative Konfiguration ausführen kann. Eine klare Aufgabentrennung verringert das Missbrauchsrisiko und stärkt die Verantwortlichkeit in Untersuchungsworkflows.
  • Entscheidungsfindung durch Menschen in der Schleife: KI-Ausgaben dienen dazu, Analysten zu unterstützen und nicht die Beurteilung der Ermittler zu ersetzen. Es wird erwartet, dass Teams ergebnisse mit hohen Auswirkungen und Empfehlungen zur Entschärfung überprüfen, bevor sie folgerichtige Maßnahmen ergreifen. Dies verringert die Überzulässigkeit und verringert die Wahrscheinlichkeit, auf unvollständige KI-Ausgaben zu reagieren.
  • Bereichseinschränkung und Ausschlusssteuerelemente: Ermittler können den Untersuchungsbereich iterativ einschränken und irrelevante Elemente vor der erweiterten KI-Analyse ausschließen. Dies verbessert die Relevanz, reduziert das Rauschen und verringert die Gefährdung durch unnötige Inhaltsverarbeitung. Die fokussierte Bereichsverwaltung unterstützt auch die Kostenkontrolle und schnellere Reaktion auf Vorfälle.
  • Überwachungsprotokollierung und Nachweisbarkeit: Untersuchungsbezogene Aktivitäten werden durch integrierte Überwachungsworkflows protokolliert. Die Protokollierung unterstützt forensische Nachverfolgbarkeit, betriebsbezogene Überprüfung und Compliance-Verantwortlichkeit. Dies ist eine wichtige Entschärfung für Governance- und Post-Incident-Validierungsanforderungen.
  • Sicherheitsmaßnahmen für Datenschutz und Datenverarbeitung: Dokumentierte Kontrollen beschreiben mandantenisolierten Untersuchungsspeicher und Datenschutzschutz für die KI-Verarbeitung. Datenfreigabe-, Protokollierungs- und Überprüfungssteuerelemente in integrierten Verarbeitungspfaden werden für bestimmte Copilot-Verarbeitungskontexte standardmäßig als deaktiviert dokumentiert. Diese Sicherheitsvorkehrungen tragen dazu bei, das Datenschutzrisiko zu reduzieren und die Complianceerwartungen des Unternehmens zu unterstützen.

Bewährte Methoden für die Bereitstellung und Einführung von Microsoft Purview Untersuchungen zur Datensicherheit

Verantwortungsvolle KI ist eine gemeinsame Verpflichtung von Microsoft und seinen Kunden. Während Microsoft KI-Anwendungen mit Sicherheit, Fairness und Transparenz im Kern erstellt, spielen Kunden eine wichtige Rolle bei der Bereitstellung und Verwendung dieser Technologien in ihren eigenen Kontexten. Um diese Partnerschaft zu unterstützen, bieten wir die folgenden bewährten Methoden für Bereitstellungen und Endbenutzer an, um Kunden bei der effektiven Implementierung verantwortungsvoller KI zu unterstützen. Bereitsteller und Endbenutzer (Administratoren) sollten:

  • Seien Sie vorsichtig, und bewerten Sie die Ergebnisse, wenn Sie Microsoft Purview Untersuchungen zur Datensicherheit für Folgeentscheidungen oder in sensiblen Bereichen verwenden: Folgeentscheidungen können rechtliche oder erhebliche Auswirkungen auf den Zugang einer Person zu Bildung, Beschäftigung, Finanzplattformen, staatlichen Leistungen, Gesundheitsleistungen, Wohnungen, Versicherungen, juristischen Plattformen haben oder dass kann zu körperlichen, psychischen oder finanziellen Schäden führen. Sensible Bereiche wie Finanzplattformen, Gesundheitswesen und Wohnungswesen erfordern aufgrund der möglichen unverhältnismäßigen Auswirkungen auf verschiedene Personengruppen besondere Sorgfalt. Wenn Sie KI für Entscheidungen in diesen Bereichen verwenden, stellen Sie sicher, dass betroffene Beteiligte verstehen, wie Entscheidungen getroffen werden, Beschwerdeentscheidungen treffen und alle relevanten Eingabedaten aktualisieren können.
  • Bewerten von rechtlichen und regulatorischen Überlegungen: Kunden müssen potenzielle spezifische rechtliche und regulatorische Verpflichtungen bewerten, wenn sie KI-Plattformen und -Lösungen verwenden, die möglicherweise nicht für die Verwendung in allen Branchen oder Szenarios geeignet sind. Darüber hinaus sind KI-Plattformen oder -Lösungen nicht für und dürfen nicht in einer Weise verwendet werden, die in den geltenden Nutzungsbedingungen und relevanten Verhaltenskodizes verboten ist.
  • Planen von Untersuchungen für iterative Analysen: Untersuchungen zur Datensicherheit Workflows sind absichtlich iterativ, insbesondere für Suchoptimierung, Bereichsoptimierung und KI-gestützte Selektierung. Teams sollten wiederholbare Prüfpunkte für den Zeitpunkt der Vektorsuche, -kategorisierung und -prüfung definieren. Dies verbessert die Konsistenz, reduziert unnötige Computenutzung und verbessert die Untersuchungsqualität.
  • Frühzeitige Koordinierung funktionsübergreifender Reaktionen: Sicherheitsvorfälle betreffen häufig Sicherheits-, IT-, Rechts-, Compliance- und Geschäftsinhaber. Bringen Sie diese Beteiligten in den Untersuchungsprozess, sobald Ergebnisse mit hohem Risiko identifiziert werden. Eine frühzeitige Koordination verbessert die Eindämmungsgeschwindigkeit und reduziert nachgelagerte Korrekturreibungen.

Endbenutzer sollten:

  • Verwenden Sie klare und fokussierte Untersuchungsaufforderungen: Für die Vektorsuche und die Suche mit KI (Vorschau) sollten Eingabeaufforderungen Kontext, Betreff und Absicht enthalten (z. B. Anmeldeinformationen in einem benannten Projekt oder Zugriffsrisikoinhalte für einen bestimmten Incident). Klare Eingabeaufforderungen führen zu einer relevanteren Abrufaktion und reduzieren den Ermittlungsrauschen. Benutzer sollten Ausgaben durchlaufen und vergleichen, bevor sie Schlussfolgerungen ziehen.
  • Überprüfen Sie KI-Ergebnisse mit unterstützenden Beweisen: Überprüfen Sie Zitate, Elementdetails und Aktivitätskontext, bevor Sie eskalieren oder verringern. KI-Ausgaben können die Selektierung beschleunigen, können jedoch Edgefälle übersehen oder Ergebnisse mit geringerer Zuverlässigkeit enthalten. Die Kreuzüberprüfung mit Such-, Bereichsansichten und Stakeholdereingaben reduziert das Fehlerrisiko.
  • Menschliche Aufsicht ausüben, wenn dies angebracht ist: Die menschliche Aufsicht ist eine wichtige Sicherheit bei der Interaktion mit KI-Anwendungen. Während wir unsere KI-Anwendungen kontinuierlich verbessern, kann ki dennoch Fehler machen. Die generierten Ausgaben können ungenau, unvollständig, voreingenommen, falsch ausgerichtet oder irrelevant für Ihre beabsichtigten Ziele sein. Dies kann verschiedene Gründe haben, z. B. Mehrdeutigkeit in den Eingaben oder Einschränkungen der zugrunde liegenden Modelle. Daher sollten Benutzer die von Microsoft Purview Untersuchungen zur Datensicherheit generierten Antworten überprüfen und überprüfen, ob sie ihren Erwartungen und Anforderungen entsprechen.
  • Seien Sie sich des Risikos einer Überzulässigkeit bewusst: Überzulässigkeit bei KI tritt auf, wenn Benutzer falsche oder unvollständige KI-Ausgaben akzeptieren, hauptsächlich weil Fehler in KI-Ausgaben möglicherweise schwer zu erkennen sind. Für den Endbenutzer kann eine Überzuverlässigkeit unter anderem zu verminderter Produktivität, Vertrauensverlust, Anwendungsabbruch, finanziellem Verlust, psychischen Schäden, körperlichen Schäden führen. (z. B. ein Arzt akzeptiert eine falsche KI-Ausgabe).
  • Vorsicht beim Entwerfen von agentischer KI in sensiblen Domänen: Benutzer sollten beim Entwerfen und/oder Bereitstellen von agentischen KI-Anwendungen in sensiblen Domänen, in denen Agent-Aktionen unumkehrbar oder äußerst folgerichtig sind, Vorsicht walten lassen.
  • Zusätzliche Vorsichtsmaßnahmen sollten auch beim Erstellen autonomer agentischer KI getroffen werden, wie weiter im Microsoft Enterprise AI Services Code of Conduct (für Organisationen) oder im Abschnitt Code Conduct des Microsoft-Servicevertrags (für Einzelpersonen) beschrieben.

Deployer sollten:

  • Konfigurieren von Berechtigungen und Besitzmodellen im Voraus: Weisen Sie Untersuchungen zur Datensicherheit Rollengruppen zu, die auf den geringsten Berechtigungen und der betriebsbezogenen Verantwortung basieren, bevor Vorfälle auftreten. Schließen Sie Sicherungsadministratoren und klare Rollenabdeckung ein, um Antwortverzögerungen zu vermeiden. Dies reduziert das Risiko durch überbrochenen Zugriff und stärkt die Kontinuität bei aktiven Vorfällen.
  • Entwurf für Grenzwerte, Kosten und Durchsatz: Untersuchungs-, Überwachungs- und Bereinigungsgrenzwerte sollten dazu dienen, wie Teams große Vorfälle segmentieren. Teams sollten auch die Kapazitätsnutzung überwachen und die KI-Verarbeitung inszenieren, um die Dringlichkeit und das Budget zu berücksichtigen. Dadurch werden Engpässe vermieden und eine vorhersagbare Antwortleistung unterstützt.
  • Testen von Entschärfungsworkflows und Eskalationspfaden: Führen Sie Tabellen- oder Pilotuntersuchungen mit repräsentativen Daten aus, um Abfragemuster, Kategorisierungsstrategie und Risikominderungs-Übergaben zu überprüfen. Vorab getestete Workflows reduzieren Verwirrung bei realen Vorfällen und verbessern die Zeit bis zum Handeln. Schließen Sie Überprüfungen auf rechtliche und Compliance-Benachrichtigungsanforderungen als Teil dieser Tests ein.

Weitere Informationen zu Microsoft Purview Untersuchungen zur Datensicherheit

Weitere Anleitungen oder informationen zur verantwortungsvollen Verwendung von Microsoft Purview Untersuchungen zur Datensicherheit finden Sie in der folgenden Dokumentation:

Weitere Informationen zu verantwortungsvoller KI

  • Last updated on