Daten, Datenschutz und Sicherheit für die Verwendung von Modellen über den Modellkatalog

Dieser Artikel enthält Details dazu, wie Daten verarbeitet, verwendet und gespeichert werden, wenn Sie Modelle aus dem Modellkatalog bereitstellen. Siehe auch den Anhang zum Datenschutz für Microsoft-Produkte und -Dienste, der die Datenverarbeitung durch Azure-Dienste regelt.

Welche Daten werden für Modelle verarbeitet, die in Azure Machine Learning bereitgestellt werden?

Wenn Sie Modelle in Azure Machine Learning bereitstellen, verarbeitet der Dienst die folgenden Datentypen, um den Dienst bereitzustellen:

• Eingabeaufforderungen und generierte Inhalte. Sie übermitteln Eingabeaufforderungen, und das Modell generiert Inhalte (Ausgabe) über die unterstützten Vorgänge. Eingabeaufforderungen können Inhalte enthalten, die Sie über Retrieval-Augmented Generation (RAG), Metaprompts oder andere Funktionalitäten in einer Anwendung hinzufügen.

• Hochgeladene Daten. Bei Modellen, die die Feinabstimmung unterstützen, können Sie Ihre Daten in den Azure Machine Learning Datastore zur Verwendung in Feinabstimmung hochladen.

Generieren von Inferenz-Ausgaben mit verwalteten Rechenressourcen

Wenn Sie Modelle auf verwalteten Compute-Ressourcen bereitstellen, werden die Modellgewichtungen auf dedizierten virtuellen Maschinen implementiert und eine REST-API für Echtzeitrückschlüsse verfügbar gemacht. Weitere Informationen finden Sie unter Bereitstellen von Modellen aus dem Modellkatalog zur verwalteten Berechnung. Sie verwalten die Infrastruktur für diese verwalteten Computeressourcen, und die Daten-, Datenschutz- und Sicherheitsverpflichtungen von Azure gelten. Weitere Informationen finden Sie unter Azure Complianceangebote die für Azure Machine Learning gelten.

Container für "Modelle, die von Azure verkauft werden" werden zwar auf Sicherheitsrisiken überprüft, die Daten exfiltrieren könnten, aber nicht alle modelle, die über den Modellkatalog verfügbar sind, werden gescannt. Um das Risiko der Datenexfiltration zu verringern, können Sie Ihre Bereitstellung mithilfe virtueller Netzwerke schützen. Weitere Informationen finden Sie im Netzwerkisolationsmodellkatalog. Sie können auch Azure Policy verwenden, um die Modelle zu regulieren, die Ihre Benutzenden bereitstellen können.

Generieren von Ableitungsausgaben mit Standardbereitstellungen

Wenn Sie ein Modell aus dem Modellkatalog (Basis oder Feinabstimmung) als Standardbereitstellung für die Ableitung bereitstellen, erhalten Sie eine API, die Ihnen Zugriff auf das vom Azure Machine Learning-Dienst gehostete und verwaltete Modell ermöglicht. Weitere Informationen finden Sie unter Models-as-a-Service. Das Modell verarbeitet Ihre Eingabeaufforderungen und generiert Ausgaben basierend auf der Funktionalität des Modells, wie in den Modelldetails für das Modell beschrieben. Während das Modell vom Modellanbieter bereitgestellt wird und Ihre Verwendung des Modells (und der Verantwortlichkeit des Modellanbieters für das Modell und seine Ausgaben) den Lizenzbedingungen des Modells unterliegt, stellt Microsoft die Hostinginfrastruktur und den API-Endpunkt bereit und verwaltet diese. Die im Dienst „Models-as-a-Service“ gehosteten Modelle unterliegen den Daten-, Datenschutz- und Sicherheitsverpflichtungen von Azure. Weitere Informationen zu Azure Complianceangeboten für Azure Machine Learning finden Sie unter here.

Microsoft fungiert als Datenverarbeiter für Eingabeaufforderungen und Ausgaben, die von einem für die Standardbereitstellung bereitgestellten Modell gesendet und generiert werden. Microsoft gibt diese Eingabeaufforderungen und Ausgaben nicht für den Modellanbieter frei, und Microsoft verwendet diese Eingabeaufforderungen und Ausgaben nicht, um Modelle von Microsoft, von Modellanbietern oder anderen Drittanbietern zu trainieren oder zu verbessern. Modelle sind zustandslos, und es werden keine Eingabeaufforderungen oder Ausgaben im Modell gespeichert. Wenn die Inhaltsfilterung (Vorschau) aktiviert ist, überprüft der Azure KI Inhaltssicherheit-Dienst in Echtzeit sowohl Eingaben als auch Ausgaben auf bestimmte Kategorien schädlicher Inhalte. Weitere Informationen darüber, wie Azure KI Inhaltssicherheit Daten verarbeitet, finden Sie hier. Eingabeaufforderungen und Ausgaben werden innerhalb der während der Bereitstellung angegebenen Geografie verarbeitet, können jedoch aus betrieblichen Gründen (einschließlich Leistung und Kapazitätsverwaltung) zwischen Regionen innerhalb der Geografie verarbeitet werden.

Wie während des Bereitstellungsprozesses für Models-as-a-Service erläutert, können Microsoft Kundenkontaktinformationen und Transaktionsdetails (einschließlich des nutzungsvolumens, das dem Angebot zugeordnet ist) mit dem Modellherausgeber teilen, damit sie sich an Kunden bezüglich des Modells wenden können. Für weitere Informationen darüber, welche Daten Modellherausgebern zur Verfügung stehen, besuchen Sie diesen Link.

Optimieren eines Modells mit Standardbereitstellungen (Models-as-a-Service)

Wenn ein modell, das für die Standardbereitstellung zur Verfügung steht, eine Feinabstimmung unterstützt, können Sie Daten in einen Azure Machine Learning-Datenspeicher hochladen (oder bereits in einem Azure Machine Learning-Datenspeicher festlegen), um das Modell zu optimieren. Anschließend können Sie eine serverlose API-Bereitstellung für das optimierte Modell erstellen. Sie können das fein abgestimmte Modell nicht herunterladen, aber es:

• Es steht ausschließlich für Ihre Nutzung zur Verfügung;

• Es kann im Ruhezustand doppelt verschlüsselt werden (standardmäßig mit der AES-256-Verschlüsselung von Microsoft und optional mit einem vom Kunden verwalteten Schlüssel).

• Es kann jederzeit von Ihnen gelöscht werden.

Trainingsdaten, die zur Optimierung hochgeladen werden, werden nicht zum Trainieren, erneuten Trainieren oder Verbessern eines Microsoft-Modells oder Drittanbietermodells verwendet, es sei denn, Sie haben dies im Rahmen des Dienstes angewiesen.

Datenverarbeitung für heruntergeladene Modelle

Wenn Sie ein Modell aus dem Modellkatalog herunterladen, wählen Sie aus, wo das Modell bereitgestellt werden soll, und Sie sind dafür verantwortlich, wie Daten verarbeitet werden, wenn Sie das Modell verwenden.

Nächste Schritte

• Übersicht über den Modellkatalog