Grundsätze für verantwortungsvolle KI anwenden

Zu einem KI-System gehört nicht nur die Technologie, sondern auch die Menschen, die sie nutzen, die Menschen, die von ihr betroffen sind, und die Umgebung, in der sie bereitgestellt wird. Agenten müssen die Grundsätze für verantwortungsvolle KI einhalten, um Fairness, Verantwortlichkeit, Transparenz und ethisches Verhalten zu gewährleisten.

Gestalten Sie das KI-System so, dass alle Benutzenden fair behandelt werden, Entwicklungsfachkräfte und Benutzende für seine Leistung die Verantwortung tragen, der KI-Einsatz transparent ist und ethische Standards eingehalten werden.

Microsoft engagiert sich für die Weiterentwicklung von KI auf der Grundlage von Prinzipien, die den Menschen in den Mittelpunkt stellen. Generative Modelle haben erhebliche potenzielle Vorteile, doch ohne sorgfältiges Design und durchdachte Eindämmungsmaßnahmen können solche Modell potenziell falsche oder sogar schädliche Inhalte generieren. Microsoft hat erhebliche Investitionen getätigt, um sich vor Missbrauch und unbeabsichtigten Schäden zu schützen, darunter die Einbeziehung der Grundsätze von Microsoft für den verantwortungsvollen Einsatz von verantwortungsvollen Einsatz von KI, die Verabschiedung eines Verhaltenskodex, die Entwicklung von Inhaltsfiltern zur Unterstützung von Kunden und die Bereitstellung von verantwortungsvoller KI für Informatioen und Anleitung, die Kunden bei der Verwendung generativer KI berücksichtigen. sollten.

Copilot Studio und generative KI-Funktionen folgen einer Reihe grundlegender Sicherheitspraktiken und dem Microsoft Standard der verantwortungsvollen KI.

Erfahren Sie mehr:

Grundprinzipien verantwortungsvoller KI

Zu den Grundprinzipien einer verantwortungsvollen KI gehören Fairness, Verantwortlichkeit, Transparenz und Ethik. Damit ein mit Copilot Studio erstellter Agent diese Grundprinzipien einhält, sind mehrere zentrale Praktiken erforderlich:

  • Fairness: Verwenden Sie vielfältige und repräsentative Trainingsdaten, um Verzerrungen zu minimieren. Aktualisieren Sie Trainingsdaten regelmäßig und ziehen Sie Fachkräfte hinzu, die sie auf Fairness und Prinzipien der Gleichstellung überprüfen.
  • Verantwortlichkeit: Definieren Sie klare Rollen und Verantwortlichkeiten für die Teammitglieder, die an dem KI-Projekt beteiligt sind. Legen Sie ethische Standards, die Fairness und Verantwortlichkeit in den Vordergrund stellen, fest und halten Sie sie ein.
  • Transparenz und Vertrauen: Stellen Sie sicher, dass die Benutzer wissen, dass Sie einen Agent nutzen, der generative KI-Funktionen enthält. Kommunizieren Sie klar und deutlich, warum Sie sich für eine KI-Lösung entschieden haben, wie sie konzipiert wurde und wie sie überwacht und aktualisiert wird.
  • Ethik: Fördern Sie eine integrative Belegschaft und holen Sie frühzeitig im Entwicklungsprozess Input von verschiedenen Gemeinschaften ein. Bewerten und testen Sie Modelle regelmäßig auf ethische Bedenken und Leistungsunterschiede. Legen Sie einen Governance-Rahmen fest, zu dem auch regelmäßige Prüfungen gehören.

Integrieren Sie diese Praktiken in Ihre Entwicklungs- und Bereitstellungsprozesse, um Agenten zu erstellen, die die Grundprinzipien einer verantwortungsvollen KI einhalten.

Datenschutz und Sicherheit

Die Gewährleistung des Datenschutzes ist entscheidend, insbesondere da der Agent möglicherweise mit sensiblen Daten umgeht. Bei der Planung eines Agenten mit Copilot Studio ist es unerlässlich, mehrere Schlüssselrisiken anzugehen und wirksame Strategien zur Risikominderung umzusetzen.

  • Plattformfunktionen: Verstehen Sie native Steuerelemente und Plattformfunktionen, die Ihre Daten schützen. Lesen Sie die häufig gestellten Fragen zur verantwortungsvollen KI für Copilot Studio, um bestimmte KI-Systeme und -Funktionen, die Microsoft entwickelt, besser zu verstehen.
  • Datenverschlüsselung: Dienstseitige Technologien verschlüsseln Unternehmensinhalte sowohl im Ruhezustand als auch während der Übertragung und sorgen so für eine robuste Sicherheit. Verbindungen werden durch Transport Layer Security (TLS) geschützt, und Datenübertragungen zwischen Dynamics 365, Power Platform und Azure OpenAI erfolgen über das Microsoft-Backbone-Netzwerk, was sowohl Zuverlässigkeit als auch Sicherheit gewährleistet. Mehr erfahren über Verschlüsselung in der Microsoft Cloud.
  • Zugriffssteuerung: Die an einen Agent übermittelten Daten werden nur basierend auf der Zugriffsebene des aktuellen Benutzers bereitgestellt. Setzen Sie rollenbasierte Zugriffskontrolle (RBAC) mit Microsoft Entra ID um, um sicherzustellen, dass ausschließlich autorisierte Benutzer auf Daten zugreifen können. Wenden Sie das Prinzip der geringstmöglichen Berechtigungen an, um den Zugriff auf das Notwendige zu beschränken. Informieren Sie sich darüber, wie Sie Ihre Copilot Studio-Projekte schützen können und über die Kernkonzepte zu Sicherheit und Governance von Copilot Studio.
  • Überwachung und Auditierung: Erkennen und Reagieren auf potenzielle Sicherheitsvorfälle durch regelmäßige Überwachung des Zugriffs und der Nutzung des Agenten. Pflegen Sie detaillierte Überwachungsprotokolle, um Datenzugriffe und -Änderungen zu verfolgen.
  • Compliance und Governance: Stellen Sie die Einhaltung relevanter Datenschutzbestimmungen wie DSGVO (Datenschutz-Grundverordnung), HIPAA (Health Insurance Portability and Accountability Act) und CCPA (California Consumer Privacy Act) sicher. Implementieren Sie ethische KI-Praktiken, um bei den KI-Ergebnissen Verzerrungen zu vermeiden und Fairness zu gewährleisten.
  • Benutzerschulung und -ausbildung: Schulen Sie Benutzer hinsichtlich Best Practices für die Sicherheit und der Bedeutung des Datenschutzes. Halten Sie die Benutzenden über Aktualisierungen und Änderungen an Sicherheitsrichtlinien und -verfahren auf dem Laufenden.

Bewusstsein für Verzerrungen und Minderung

Erkennen Sie, wie wichtig es ist, Verzerrungen im System anzugehen, und sorgen Sie für Fairness, um Verzerrungen bei KI-Antworten zu vermeiden.

  • Vielfältige und repräsentative Daten: Stellen Sie sicher, dass die Trainingsdaten vielfältig und repräsentativ für verschiedene demografische Merkmale sind, um inhärente Verzerrungen zu minimieren. Prüfen Sie die Daten regelmäßig auf Verzerrungen und Ungleichgewichte und ergreifen Sie bei Bedarf Gegenmaßnahmen.
  • Tools zur Erkennung und Minderung von Verzerrungen: Verwenden Sie Tools und Techniken, um Verzerrungen in den KI-Modellen zu erkennen, z. B. statistische Analysen und Fairness-Metriken. Implementieren Sie Debiasing-Techniken, einschließlich Resampling, Reweighting oder Adversarial Debiasing, um Verzerrungen in den Modellen zu reduzieren.
  • Human-in-the-Loop: Integrieren Sie menschliche Überprüfungs- und Feedbackschleifen, um Verzerrungen zu identifizieren und zu korrigieren, die die KI möglicherweise einführt. Richten Sie einen Ethikausschuss oder ein Governance-Board ein, um die Entwicklung und den Einsatz von KI zu überwachen und sicherzustellen, dass ethische Standards eingehalten werden.
  • Transparenz und Vertrauen: Stellen Sie sicher, dass die Benutzer wissen, dass Sie einen Agent nutzen, der generative KI-Funktionen enthält. Kommunizieren Sie klar und deutlich, warum Sie sich für eine KI-Lösung entschieden haben, und stellen Sie Informationen dazu bereit, wie sie konzipiert wurde und wie sie überwacht und aktualisiert wird.
  • Kontinuierliche Überwachung und Verbesserung: Überwachen Sie das KI-System kontinuierlich auf Verzerrungen und Leistungsprobleme und aktualisieren Sie die Modelle nach Bedarf. Stellen Sie sicher, dass die Modelle fair und von Verzerrungen frei bleiben, indem Sie sie regelmäßig mit aktualisierten und vielfältigeren Daten neu trainieren.

Laufende Überwachung und Evaluierung

Arbeiten Sie kontinuierlich an der Verbesserung Ihres Agenten. Schaffen Sie einen Rahmen für die kontinuierliche Überwachung und Evaluierung und integrieren Sie das Feedback der Benutzenden und die sich weiterentwickelnden ethischen Standards in die Updates.

  • Feedbackschleifen: Richten Sie Feedback-Mechanismen ein, in denen Benutzer Ungenauigkeiten melden können, die dann zur Verfeinerung und Verbesserung der Modelle verwendet werden können.
  • Überwachung und Prüfung: Erkennen und reagieren Sie auf potenzielle Sicherheitsvorfälle, indem Sie den Zugriff und die Nutzung des KI-Systems regelmäßig überwachen. Pflegen Sie detaillierte Überwachungsprotokolle, um Datenzugriffe und -Änderungen zu verfolgen.

Nächster Schritt

Verwenden Sie die Übersichts-Checkliste, um zu prüfen, ob Ihr Projekt bereit für die Implementierung ist, und nutzen Sie Best-Practice-Hinweise, um Ihren Projektansatz vor dem Übergang in die Implementierungsphase zu optimieren.

Die Planungscheckliste überprüfen

  • Last updated on