Bewährte Methoden für azure AI-Sicherheit

Dieser Artikel enthält bewährte Methoden zum Sichern von AI-Workloads (Künstliche Intelligenz) speziell in Azure. Da Organisationen KI-Funktionen in einer beispiellosen Rate einführen, müssen Sicherheitsteams proaktiv Einblicke in die KI-Nutzung gewinnen und geeignete Kontrollen implementieren, um Risiken zu mindern.

Dieser Artikel konzentriert sich auf Azure-spezifische KI-Sicherheitsaspekte. Für umfassende, plattformunabhängige KI-Sicherheitsrichtlinien, einschließlich Organisationsstrategie, Governance-Rahmenwerke und des gesamten KI-Sicherheitslebenszyklus, siehe Security for AI in der Microsoft Security-Dokumentation.

Dieser Artikel ist ein Begleiter zum KI-Shared-Responsibility-Modell und dem KI-Agenten-Shared-Responsibility-Modell, die die Aufteilung der Sicherheitsverantwortung zwischen Ihnen und Microsoft für KI-Workloads und autonome Agenten erklären. Informationen zu präscriptiven Sicherheitskontrollen mit der Durchsetzung von Azure-Richtlinien finden Sie unter Microsoft Cloud Security Benchmark v2 – Artificial Intelligence Security.

Ermöglichen der Sichtbarkeit von KI-Workloads und -Nutzung

Bevor Sie KI-Workloads sichern können, benötigen Sie Einen Einblick in die Verwendung und den Aufbau von KI-Anwendungen in Ihrer Organisation.

  • Nutzen Sie Microsoft Defender for Cloud, um KI-Workloads in Ihrer Azure-Umgebung zu entdecken. Der Defender Cloud Security Posture Management (CSPM)-Plan bietet Funktionen zur Verwaltung des KI-Sicherheitsstatus, einschließlich der Erkennung der Bill of Materials (BOM) für generative KI, integrierter Sicherheitsempfehlungen und Angriffspfadanalysen. Weitere Informationen finden Sie unter KI-Sicherheitsstatusverwaltung mit Defender for Cloud.

  • Nutzen Sie Microsoft Defender for Cloud Apps, um SaaS-KI-Anwendungen zu entdecken. Der Defender for Cloud Apps-Katalog umfasst mehr als tausend generative KI-Apps. Sie können Risikobewertungen anzeigen, Apps sanktionieren oder blockieren und Richtlinien erstellen, um neue KI-Apps zu erkennen. Weitere Informationen finden Sie unter Verwalten entdeckter Apps.

  • Verfolgen Sie KI-Agentenidentitäten mit der Microsoft Entra-Agent-ID. Microsoft Entra-Agent-ID bietet ein einheitliches Verzeichnis von Agentenidentitäten, die in Microsoft Copilot Studio und Azure AI Foundry erstellt werden und Ihnen helfen, den Agentenlebenszyklus und die Berechtigungen zu verwalten.

Sichere Azure OpenAI Service-Bereitstellungen

Azure OpenAI Service bietet REST-API-Zugriff auf leistungsstarke Sprachmodelle. Die Sicherung dieser Bereitstellungen ist für den Schutz Ihrer Daten und die Verhinderung von Missbrauch von entscheidender Bedeutung.

  • Nutze private Endpunkte für die Netzwerkisolation. Konfigurieren Sie den Azure OpenAI Service so, dass er private Endpunkte verwendet, wodurch der öffentliche Endpunkt entfernt wird und der Zugriff auf Ihr virtuelles Netzwerk eingeschränkt wird. Weitere Informationen finden Sie unter Netzwerk- und Zugriffskonfiguration für Azure OpenAI.

  • Verwenden Sie eine verwaltete Identität zur Authentifizierung. Konfigurieren Sie Anwendungen so, dass sie sich authentifizieren, indem Sie Microsoft Entra verwaltete Identitäten anstelle von API-Schlüsseln verwenden, wodurch die Notwendigkeit, Geheimnisse zu verwalten und zu rotieren, entfällt. Weitere Informationen finden Sie unter Konfigurieren des Azure OpenAI-Diensts mit der Microsoft Entra ID-Authentifizierung.

  • Implementiere mehrschichtige Inhaltsfilterung. Setze Inhaltsfilterung in mehreren Phasen ein, um Defense in Depth zu schaffen:

    • Eingabefilterung: Verwenden Sie Azure KI Inhaltssicherheit, um Prompts auf bösartige Inhalte zu analysieren, einschließlich Prompt-Injection-Versuchen und Jailbreak-Angriffen.
    • Output-Filterung: Konfigurieren Sie Azure OpenAI-Inhaltsfilterung so, dass schädliche Antworten vor der Auslieferung blockiert werden.
    • API-Gateway-Steuerungen: Verwenden Sie Azure API Management, um Rate-Limiting und Schema-Validierung durchzusetzen.

Weitere Informationen finden Sie unter Inhaltsfilterung und Azure KI Inhaltssicherheit.

  • Verwenden Sie Sicherheits-Meta-Prompts, um das Verhalten der Modelle zu steuern. Entwerfen Sie Prompts für das Designsystem, die die Rolle des Modells klar definieren, explizite Anweisungen zur Ablehnung schädlicher Eingaben enthalten und das Modell anweisen, Systemanweisungen Vorrang vor Benutzereingaben zu geben. Verwenden Sie Spotlighting-Techniken, um nicht vertrauenswürdige Daten in Eingabeaufforderungen zu isolieren und Prompt Shields zu integrieren, um Jailbreak-Versuche zu erkennen.

  • Überwachen Sie die Nutzung mit Diagnoseprotokollen. Aktivieren Sie diagnostische Protokollierung, um API-Anfragen, Tokennutzung, Inhaltsfilterergebnisse und Fehler nachzuverfolgen. Senden Von Protokollen an Azure Monitor zur Analyse und Warnung. Weitere Informationen finden Sie unter Überwachen von Azure OpenAI.

Sichere Azure AI Foundry und Azure Machine Learning

Azure AI Foundry und Azure Machine Learning bieten Plattformen zum Erstellen und Bereitstellen von KI-Anwendungen. Die Sicherung dieser Umgebungen erfordert Aufmerksamkeit auf die Netzwerkisolation, die Zugriffssteuerung und die Modellgovernance.

  • Nutze eine verwaltete Netzwerkisolation. Schaffen Sie Azure AI Foundry -Hubs und Azure Machine Learning-Arbeitsbereiche mit verwalteten virtuellen Netzwerken, die private Endpunkte für abhängige Dienste und ausgehende Verkehrssteuerung bereitstellen. Weitere Informationen finden Sie unter Verwaltete Netzwerkisolation für Azure AI Foundry und Konfigurieren eines privaten Endpunkts für Azure Machine Learning.

  • Implementieren Sie eine Zugriffskontrolle nach dem Minimalprinzip. Konfigurieren Sie RBAC durch integrierte Rollen und weisen Sie Berechtigungen auf Projekt- oder Arbeitsbereichsebene zu. Verwenden Sie die Microsoft Entra-Agent-ID für die KI-Agent-Identitätsverwaltung, indem Sie bereichsbezogene, kurzlebige Token für den Agent-Funktionszugriff anwenden. Weitere Informationen finden Sie unter Rollenbasierte Zugriffssteuerung für Microsoft Foundry.

  • Setze nur genehmigte KI-Modelle ein. Verwenden Sie das Azure Machine Learning Model Registry, um die Herkunft, den Verifizierungsstatus und die Genehmigungshistorie des Modells zu verfolgen. Konfigurieren Sie die automatisierte Überprüfung, um die Modellintegrität zu überprüfen und vor der Bereitstellung gegen adversariale Eingaben zu testen. Stellen Sie die Azure-Richtlinie "[Vorschau]: Azure Machine Learning-Bereitstellungen sollten nur genehmigte Registrierungsmodelle verwenden" bereit, um die Governance zu erzwingen. Weitere Informationen finden Sie unter Modellverwaltung und Bereitstellung.

  • Sichern sie Computeressourcen. Konfigurieren Sie Recheninstanzen ohne öffentliche IPs, verwenden Sie verwaltete Identitätsauthentifizierung, aktivieren Sie Benutzerisolation für gemeinsame Cluster und verschlüsseln Sie Festplatten mit kundenverwalteten Schlüsseln. Weitere Informationen finden Sie unter Sichern einer Azure Machine Learning-Schulungsumgebung.

Implementieren von KI-spezifischem Bedrohungsschutz

KI-Arbeitsauslastungen stellen sich eindeutigen Bedrohungen gegenüber, darunter ein promptes Einspritzen, Jailbreak-Angriffe und Modellmanipulation. Implementieren Sie Bedrohungserkennung und kontinuierliche Tests, die speziell für Künstliche Intelligenz entwickelt wurden.

Integrieren Sie Red Teaming in CI/CD-Pipelines, um die Sicherheit noch vor der Bereitstellung zu überprüfen. Testen Sie mit bekannten Angriffsmustern aus MITRE ATLAS, den OWASP Top 10 für LLM-Anwendungen und den OWASP Top 10 für Agentic AI.

  • Implementieren Sie für kritische Vorgänge ein Human-in-the-Loop-Verfahren. Für risikoreiche KI-Operationen wie externe Datenübertragungen oder Systemkonfigurationsänderungen verwenden Sie Azure Logic Apps oder Power Automate, um Workflows zu entwerfen, die vor der Ausführung für menschliche Überprüfung und Genehmigung pausieren.

  • Überwachen Sie riskante KI-Nutzungsmuster. Verwenden Sie Microsoft Purview Insider Risk Management mit der Vorlage für die Risiko-KI-Nutzungsrichtlinie, um Risikoaktivitäten im Zusammenhang mit KI zu erkennen und zu untersuchen. Weitere Informationen finden Sie unter Vorlagen für Insider-Risikomanagementrichtlinien.

Schützen vertraulicher Daten in KI-Interaktionen

KI-Anwendungen interagieren häufig mit vertraulichen Daten. Implementieren Sie Datenschutzkontrollen, um Datenverluste zu verhindern und Compliance sicherzustellen.

  • Verwenden Sie Microsoft Purview Datensicherheitstatus-Management (DSPM) für KI. DSPM für KI liefert Einblicke in KI-Aktivitäten, praxisbereite Richtlinien zum Schutz von Daten in Prompts und Datenrisikobewertungen für mögliche Überverteilung. Weitere Informationen finden Sie unter Data Security Posture Management für KI.

  • Wende Sensitivitätsetiketten und DLP-Richtlinien an. Erweitern Sie Microsoft Purview-Sensitivitätslabels auf Daten, auf die von KI-Anwendungen zugegriffen werden, und konfigurieren Sie DLP-Richtlinien, um sensible Daten in KI-Prompts zu erkennen und zu blockieren. Weitere Informationen finden Sie unter Einstieg in die Verwendung von Sensitivitätslabels.

KI für Compliance steuern

KI-Anwendungen müssen gesetzlichen Anforderungen und Organisationsrichtlinien entsprechen.

  • Implementiere verantwortungsvolle KI-Steuerungen. Befolgen Sie Microsofts Grundsätze für verantwortungsvolle KI in Bezug auf Fairness, Transparenz, Datenschutz und Rechenschaftspflicht. Weitere Informationen finden Sie unter Microsoft Responsible AI Standard.

  • Audit-Protokolle beibehalten. Aktivieren Sie Auditing für KI-Dienste: Microsoft Purview Audit erfasst Copilot-Interaktionen, Azure Monitor verfolgt die Nutzung von Azure-KI-Diensten, und Defender for Cloud Apps überwacht SaaS-KI-Aktivitäten. Weitere Informationen finden Sie unter Überwachungsprotokollaktivitäten.

Nächste Schritte

  • Last updated on