Künstliche Intelligenz (KI) Modell für gemeinsame Verantwortung

Wenn Sie KI-gestützte Integration in Betracht ziehen und bewerten, ist es entscheidend, das Modell der geteilten Verantwortung zu verstehen und welche Aufgaben die KI-Plattform oder der Anwendungsanbieter übernimmt und welche Sie übernehmen. Die Aufgabenverteilung variiert je nachdem, ob die KI-Integration auf Software as a Service (SaaS), Platform as a Service (PaaS) oder Infrastructure as a Service (IaaS) basiert.

Dieser Artikel erweitert die geteilte Verantwortung im Cloud-Modell auf generative KI-Workloads. Für autonome, werkzeuganwendbare KI-Agenten siehe das KI-Agenten-Shared-Responsibility-Modell.

Aufteilung der Verantwortung

Wie bei Cloud-Diensten gibt es mehrere Möglichkeiten, wenn Sie KI-Fähigkeiten für Ihre Organisation implementieren. Je nachdem, welche Option Sie auswählen, übernehmen Sie die Verantwortung für verschiedene Teile der erforderlichen Vorgänge und Richtlinien, die für die sichere Verwendung von KI erforderlich sind.

Im folgenden Diagramm werden die Zuständigkeitsbereiche zwischen Ihnen und Microsoft entsprechend der Art der Bereitstellung veranschaulicht.

Übersicht über KI-Ebene

Eine KI-gestützte Anwendung besteht aus drei Funktionsebenen, die Aufgaben zusammenfassen, die Sie oder ein KI-Anbieter ausführen. Die Sicherheitsverantwortung liegt in der Regel bei der Partei, die die Aufgaben ausführt, aber ein KI-Anbieter könnte sich entscheiden, Ihnen Sicherheits- oder andere Kontrollen als Konfigurationsoption zur Verfügung zu stellen, falls es angemessen ist. Zu diesen drei Ebenen gehören:

Plattform für künstliche Intelligenz

Die KI-Plattformebene bietet die KI-Funktionen für die Anwendungen. Auf der Plattformebene müssen Sie die Infrastruktur aufbauen und schützen, die das KI-Modell ausführt, Trainingsdaten und spezifische Konfigurationen, die das Verhalten des Modells verändern, wie Gewichte und Verzerrungen. Diese Plattformschicht ermöglicht Zugang zu Funktionalitäten über APIs. Die APIs leiten Text, bekannt als Metaprompt , an das KI-Modell zur Verarbeitung und geben dann das generierte Ergebnis zurück, das als Prompt-Response bekannt ist.

Sicherheitsaspekte der KI-Plattform – Um die KI-Plattform vor bösartigen Eingaben zu schützen, muss ein Sicherheitssystem die potenziell schädlichen Anweisungen herausfiltern, die an das KI-Modell gesendet werden (Eingaben). Da KI-Modelle generativ sind, können sie auch schädliche Inhalte (Ausgaben) an den Nutzer generieren und zurückgeben. Jedes Sicherheitssystem muss zunächst vor potenziell schädlichen Ein- und Ausgängen vieler Klassifikationen schützen, darunter Hass, Jailbreaks und andere Schäden. Diese Schadensklassifikationen werden sich wahrscheinlich im Laufe der Zeit basierend auf Modellwissen, Standort und Branche weiterentwickeln.

Microsoft verfügt über integrierte Sicherheitssysteme für PaaS- und SaaS-Angebote:

• PaaS – Azure OpenAI-Dienst
• SaaS – Microsoft Security Copilot

KI-Anwendung

Die KI-Anwendung greift auf die KI-Funktionen zu und stellt den Dienst oder die Benutzeroberfläche bereit, die der Benutzer nutzt. Die Komponenten in dieser Ebene können je nach Anwendung von relativ einfach bis hoch komplex variieren. Die einfachsten eigenständigen KI-Anwendungen fungieren als Schnittstelle zu einer Reihe von APIs, die einen textbasierten Benutzerprompt nehmen und diese Daten an das Modell weiterleiten, um eine Antwort zu erhalten. Komplexere KI-Anwendungen umfassen die Möglichkeit, die Benutzereingabe mit zusätzlichem Kontext anzureichern, einschließlich einer Persistenzschicht, eines semantischen Index oder Plugins, die den Zugriff auf weitere Datenquellen ermöglichen. Erweiterte KI-Anwendungen können auch mit vorhandenen Anwendungen und Systemen kommunizieren. Bestehende Anwendungen und Systeme können Text, Audio und Bilder verarbeiten, um verschiedene Arten von Inhalten zu erzeugen.

Sicherheitsaspekte bei KI-Anwendungen – Bauen Sie ein Anwendungssicherheitssystem, um die KI-Anwendung vor böswilligen Aktivitäten zu schützen. Das Sicherheitssystem bietet eine gründliche Inspektion der Inhalte, die im Metaprompt an das KI-Modell gesendet werden. Das Sicherheitssystem überprüft außerdem die Interaktionen mit etwaigen Plugins, Datenverbindern und anderen KI-Anwendungen (bekannt als KI-Orchestrierung). Eine Möglichkeit, dies in Ihre eigene IaaS/PaaS-basierte KI-Anwendung zu integrieren, ist die Nutzung des Azure KI Inhaltssicherheit-Dienstes. Je nach Ihren Anforderungen stehen weitere Funktionen zur Verfügung.

KI-Nutzung

Die KI-Nutzungsebene beschreibt, wie die KI-Funktionen letztendlich verwendet und genutzt werden. Generative KI bietet eine neue Art von Benutzer-/Computeroberfläche, die sich grundlegend von anderen Computeroberflächen wie APIs, Eingabeaufforderungen und grafischen Benutzeroberflächen (GUIs) unterscheidet. Die generative KI-Schnittstelle ist sowohl interaktiv als auch dynamisch, sodass sich die Computerfunktionen an den Benutzer und ihre Absicht anpassen können. Die generative KI-Schnittstelle steht im Gegensatz zu früheren Schnittstellen, die in erster Linie die Benutzer dazu zwingen, das Systemdesign und die Systemfunktionalität zu erlernen und an sie anzupassen. Diese Interaktivität ermöglicht es den Nutzern und nicht den Anwendungsdesignern, einen hohen Einfluss auf die Systemausgabe zu haben, wodurch Sicherheitsleitplanken für den Schutz von Menschen, Daten und Geschäftsvermögen unerlässlich sind.

Sicherheitsüberlegungen zur KI-Nutzung – Der Schutz der KI-Nutzung ähnelt dem Schutz jedes Computersystems, da er auf Sicherheitsgarantien für Identitäts- und Zugriffskontrollen, Geräteschutz und -überwachung, Datenschutz und Governance, administrative Kontrollen und andere Kontrollen angewiesen ist.

Nutzerverhalten und Verantwortlichkeit erfordern mehr Gewicht, da Nutzer mehr Einfluss auf die Ergebnisse der Systeme ausüben. Es ist entscheidend, Nutzungsrichtlinien zu aktualisieren und die Nutzer über die Unterschiede zwischen Standard-IT-Anwendungen und KI-gestützten Anwendungen aufzuklären. Akzeptable Nutzungsrichtlinien sollten KI-spezifische Überlegungen in Bezug auf Sicherheit, Datenschutz und Ethik enthalten. Darüber hinaus sollten Sie Nutzer über KI-basierte Angriffe aufklären, die Angreifer nutzen können, um sie mit überzeugendem gefälschtem Text, Stimmen, Videos und mehr zu täuschen.

Die folgenden Ressourcen definieren KI-spezifische Angriffstypen:

• Die Einstufung der Schweregrade von Schwachstellen durch das Microsoft Security Response Center (MSRC) für KI-Systeme
• MITRE Bedrohungslandschaft für künstliche Intelligenzsysteme (ATLAS)
• OWASP Top 10 für LLM-Anwendungen (Large Language Model)
• OWASP Machine Learning (ML) Sicherheits-Top 10
• NIST KI-Risikomanagement-Framework

Konfigurieren Sie, bevor Sie anpassen

Microsoft empfiehlt Organisationen, mit SaaS-basierten Ansätzen wie dem Copilot-Modell für die erste Einführung von KI und für alle nachfolgenden KI-Workloads zu beginnen. Dieser Ansatz minimiert das Maß an Verantwortung und Fachwissen, das Ihre Organisation bieten muss, um diese hochkomplexen Fähigkeiten zu entwerfen, zu betreiben und zu sichern.

Wenn die aktuellen fertigen Funktionen die spezifischen Anforderungen einer Arbeitslast nicht erfüllen, können Sie ein PaaS-Modell mit KI-Diensten wie dem Azure OpenAI Service verwenden, um diese spezifischen Anforderungen zu erfüllen.

Nur Organisationen mit tiefgehender Expertise in Data Science sowie in Sicherheit, Datenschutz und ethischen Überlegungen von KI sollten maßgeschneiderte Modellentwicklung übernehmen.

Um KI in die Welt zu bringen, entwickelt Microsoft Copilot-Lösungen für jede der wichtigsten Produktivitätslösungen: von Bing und Windows bis hin zu GitHub und Microsoft 365. Microsoft entwickelt Full-Stack-Lösungen für alle Arten von Produktivitätsszenarien. Microsoft bietet diese Funktionen als SaaS-Lösungen an. Microsoft integriert diese Funktionen in die Benutzeroberfläche des Produkts, wo sie darauf abgestimmt werden, den Nutzer bei bestimmten Aufgaben zu unterstützen und so die Produktivität zu steigern.

Microsoft entwickelt jede Copilot-Lösung nach den starken Prinzipien von Microsoft für KI-Governance.

Nächste Schritte

Erfahren Sie mehr über bewährte Methoden für azure AI-Sicherheit.

Erfahren Sie mehr über die Produktentwicklungsanforderungen von Microsoft für die verantwortungsvolle KI im Microsoft-Standard für verantwortungsvolle KI.

Erfahren Sie mehr über Gemeinsame Verantwortung für das Cloud Computing.

Erfahren Sie mehr über das KI-Agenten-Shared-Responsibility-Modell für autonome, tool-nutzende KI-Systeme.

Lesen Sie über die besondere Natur der KI-Bedrohungstests in Microsoft AI Red Team baut die Zukunft sichererer KI auf.