Anwendungs-Karte: Microsoft Copilot (für Organisationen)

Was ist eine Anwendungs- oder Plattform-Karte?

Die Anwendungs- und Plattformkarten von Microsoft sollen Ihnen helfen zu verstehen, wie unsere KI-Technologie funktioniert, welche Entscheidungen Anwendungsbesitzer treffen können, die die Leistung und das Anwendungsverhalten beeinflussen, und wie wichtig es ist, die gesamte Anwendung zu berücksichtigen, einschließlich der Technologie, der Menschen und der Umwelt. Anwendungskarten werden für KI-Anwendungen erstellt, und Plattformkarten werden für KI-Plattformdienste erstellt. Diese Ressourcen können die Entwicklung oder Bereitstellung eigener Anwendungen unterstützen und für Benutzer oder Stakeholder, die von ihnen betroffen sind, freigegeben werden.

Im Rahmen seines Engagements für verantwortungsvolle KI hält sich Microsoft an sechs Grundprinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusivität, Transparenz und Verantwortlichkeit. Diese Prinzipien sind im Responsible AI Standard verankert, der Teams beim Entwerfen, Erstellen und Testen von KI-Anwendungen leitet. Anwendungs- und Plattformkarten spielen eine Schlüsselrolle bei der Operationalisierung dieser Prinzipien, indem sie Transparenz in Bezug auf Funktionen, Verwendungszwecke und Einschränkungen bieten. Für weitere Einblicke sollten sich die Leser den Transparenzbericht zu verantwortungsvoller KI von Microsoft und entweder die Verhaltensregeln für Microsoft Enterprise AI Services (für Organisationen) oder den Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) ansehen, die beide den verantwortungsvollen Umgang mit KI beschreiben.

Übersicht

Microsoft Copilot ist ein KI-gestütztes Produktivitätstool, das Ihnen hilft, Ihre Kreativität, Produktivität und Fähigkeiten zu verbessern, indem Sie große Sprachmodelle (LLMs) und Inhalte verwenden, auf die Sie Zugriff haben. Es bietet intelligente Unterstützung in Echtzeit, indem es mit beliebten Microsoft 365-Apps und -Diensten wie Word, Excel, PowerPoint, Outlook, Teams und mehr zusammenarbeitet.

Bei der Arbeit können Sie beispielsweise Microsoft Copilot eine verpasste Teams-Besprechung zusammenfassen lassen. Zu Hause können Sie mit Microsoft Copilot eine Bildschirmpräsentation mit Fotos aus Ihrem Familienurlaub erstellen.

Weitere Informationen für Organisationen finden Sie unter Übersicht über Microsoft Copilot und Microsoft Copilot Hub. Einzelpersonen finden Sie unter Microsoft Copilot Hilfe und Lernen.

Schlüsselbegriffe

Die folgende Tabelle enthält ein Glossar der wichtigsten Begriffe im Zusammenhang mit Microsoft Copilot.

Wichtige Features oder Funktionen

Die wichtigsten Features und Funktionen in der folgenden Tabelle beschreiben, wofür Microsoft Copilot entwickelt wurde und wie es bei unterstützten Aufgaben funktioniert.

Erweiterbarkeit und Anpassung

Das Agent-Builder-Feature in Microsoft Copilot und Copilot Studio sind Tools zum Erstellen sicherer, skalierbarer und intelligenter Agents, die in Microsoft 365 und Branchensystemen funktionieren. Beide Tools ermöglichen es Ihnen, Agenten zu erstellen, aber sie erfüllen unterschiedliche Anforderungen. Verwenden Sie den Agent-Generator, wenn Sie schnell einen Agent für sich selbst oder ein kleines Team erstellen möchten, indem Sie natürliche Sprache und vorhandene Inhalte verwenden. Wählen Sie Copilot Studio aus, wenn Sie einen Agent für eine breitere Zielgruppe benötigen oder wenn der Agent erweiterte Funktionen wie mehrstufige Workflows oder benutzerdefinierte Integrationen benötigt. Weitere Informationen finden Sie unter Wählen zwischen Microsoft Copilot und Copilot Studio zum Erstellen Ihres Agents und deklarativer Agents für Microsoft Copilot.

Für Entwickler bietet das Microsoft 365 Agents SDK die Tools zum Erstellen von Agents, die eng mit Microsoft 365-Apps und -Diensten zusammenarbeiten.

Verwendungszweck

Microsoft Copilot kann in mehreren Szenarien in einer Vielzahl von Branchen verwendet werden. Einige Beispiele für Anwendungsfälle sind:

• Interaktion und Erstellung von Chat und Unterhaltungen: Benutzer können mit Microsoft Copilot Chat interagieren und Antworten generieren, die aus vertrauenswürdigen Dokumenten wie internen Unternehmensdokumentationen oder Dokumentationen des technischen Supports erstellt wurden.
• Suche: Benutzer können vertrauenswürdige Quelldokumente wie interne Unternehmensdokumentationen durchsuchen.
• Zusammenfassung: Benutzer können Inhalte zur Zusammenfassung für vordefinierte, in die Anwendung integrierte Themen übermitteln. Beispiele sind die Zusammenfassung von Teams-Chats, E-Mails, Webseiten und Word-Dokumenten.
• Schreibhilfe zu bestimmten Themen: Benutzer können neue Inhalte erstellen oder vom Benutzer eingereichte Inhalte als Schreibhilfe für Geschäftsinhalte oder vordefinierte Themen umschreiben. Zum Beispiel das Verfassen von E-Mails in Microsoft Outlook oder das Schreiben von Inhalten in Microsoft Word.
• Untertitel oder Transkription: Benutzer können Audiodateien in Text transkribieren, um natürliche Sprache zu verstehen oder Analyseaufgaben wie die Zusammenfassung zu erfüllen. Beispiele sind Teams-Besprechungstranskripte und Videos im Microsoft Clipchamp-Videoplayer.

Microsoft stellt detaillierte Anleitungen bereit, die sich auf häufige Anwendungsfälle und Szenarien konzentrieren, um Kunden dabei zu helfen, die Einführung von Microsoft Copilot in ihren Organisationen zu beschleunigen. Weitere Informationen finden Sie unter Microsoft-Szenariobibliothek – Microsoft-Einführung.

Modelle und Trainingsdaten

Microsoft Copilot nutzt eine Vielzahl von KI-Modellen, um die Erfahrung für Benutzer zu verbessern, wie zum Beispiel die folgenden Beispiele:

• Von Microsoft bereitgestellte GPT-Modelle (Generative Pre-Trained Transformers) (Azure OpenAI Service)
• Modelle von Claude Opus und Claude Sonnet von Anthropic
• Von OpenAI bereitgestellte GPT-Modelle

Weitere Informationen zu den Daten, die zum Trainieren dieser Modelle hinter Microsoft Copilot verwendet werden, finden Sie in den folgenden Ressourcen:

• Transparenzhinweis für Azure OpenAI
• Anthropic: Modellsystemkarten
• OpenAI: Hub für Bereitstellungssicherheit

Microsoft Copilot verwendet eine Kombination von LLMs, um Inhalte zusammenzufassen, vorherzusagen und zu generieren, einschließlich Modellen, die von Microsoft (Azure OpenAI Service), Anthropic und OpenAI bereitgestellt werden. So können wir die spezifischen Anforderungen jedes Features – zum Beispiel Geschwindigkeit, Kreativität – an das richtige Modell anpassen, sodass Microsoft Copilot intelligente Unterstützung in Echtzeit bereitstellen kann, mit der Benutzer ihre Kreativität, Produktivität und Fähigkeiten verbessern können. Weitere Informationen zu den LLMs, die Microsoft von OpenAI zur Verfügung gestellt werden, finden Sie in der öffentlichen Dokumentation unter Modelle – OpenAI API.

Leistung

In vielen KI-Systemen wird die Leistung häufig in Bezug auf die Genauigkeit definiert, d. h. wie oft das KI-System eine korrekte Vorhersage oder Ausgabe liefert. Mit Microsoft Copilot können zwei verschiedene Benutzer dasselbe Ergebnis betrachten und unterschiedliche Meinungen darüber haben, wie nützlich oder relevant es ist, was bedeutet, dass die Leistung für diese Systeme flexibler definiert werden muss. Wir verstehen unter Leistung im allgemeinen, dass die Anwendung so funktioniert, wie es die Benutzer erwarten.

Funktionsweise von Microsoft Copilot

• Microsoft Copilot empfängt eine Eingabeaufforderung von einem Benutzer in einer App wie Word oder PowerPoint. Eine Liste der unterstützten Sprachen finden Sie unter Unterstützte Sprachen für Microsoft Copilot.
• Microsoft Copilot verarbeitet dann die Eingabeaufforderung, wodurch die Spezifität der Eingabeaufforderung verbessert wird, um dem Benutzer zu helfen, Antworten zu erhalten, die für seine spezifische Aufgabe relevant und umsetzbar sind. Die Eingabeaufforderung kann Text aus Eingabedateien oder andere Inhalte enthalten, die von Microsoft Copilot mithilfe von Microsoft Graph ermittelt wurden, und Microsoft Copilot sendet diese Eingabeaufforderung zur Verarbeitung an das LLM. Microsoft Copilot greift nur auf Daten zu, auf die ein einzelner Benutzer über vorhandenen Zugriff verfügt, beispielsweise basierend auf vorhandenen rollenbasierten Zugriffssteuerungen in Microsoft 365.
• Microsoft Copilot nimmt die Antwort aus dem LLM und verarbeitet sie nach. Diese Nachbearbeitung umfasst andere Grounding-Aufrufe von Microsoft Graph, verantwortungsvolle KI-Prüfungen wie Inhaltsklassifizierer, Sicherheits-, Compliance- und Datenschutzprüfungen sowie die Befehlsgenerierung.
• Microsoft Copilot gibt die Antwort an die App zurück, wo der Benutzer die Antwort überprüfen und bewerten kann.

Daten, die über Benutzerinteraktionen mit Microsoft Copilot gespeichert sind, sind verschlüsselt und werden nicht zum Trainieren von Basismodellen (einschließlich der von Microsoft Copilot verwendeten) von Modellanbietern wie Microsoft (Azure Open AI Service), Anthropic oder OpenAI verwendet. Weitere Informationen finden Sie unter Daten, Datenschutz und Sicherheit für Microsoft Copilot.

Wie Microsoft Copilot Antworten ohne Webinhalte oder Organisationsdaten generiert

Microsoft Copilot benötigt keine Webinhalte oder Organisationsdaten, um eine Antwort bereitzustellen, aber diese Informationen können dazu beitragen, die Qualität, Genauigkeit und Relevanz der Antwort zu verbessern. Wenn Sie ohne Web- oder Organisationsdaten antworten, verlässt sich Microsoft Copilot nur auf seine LLMs, um Eingabeaufforderungen zu verstehen und Antworten zu generieren. Der Prozess umfasst das Parsen der Eingabe, die Nutzung der internen Wissensdatenbank des Modells und das Verfeinern der Antwort, um sie kontextuell passend zu machen.

Begrenzungen

Das Verständnis der Einschränkungen von Microsoft Copilot ist entscheidend, um festzustellen, ob es innerhalb sicherer und effektiver Grenzen verwendet wird. Obwohl wir Kunden ermutigen, Microsoft Copilot in ihren innovativen Lösungen oder Anwendungen zu nutzen, ist es wichtig zu beachten, dass Microsoft Copilot nicht für jedes mögliche Szenario entwickelt wurde. Wir empfehlen Benutzern, bei der Auswahl eines Anwendungsfalls entweder auf die Verhaltensregeln von Microsoft Enterprise AI Services (für Organisationen) oder den Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) sowie auf die folgenden Überlegungen zu verweisen:

• Kompatibilität: Obwohl Microsoft Copilot für die nahtlose Zusammenarbeit mit Microsoft 365-Anwendungen konzipiert ist, kann es in bestimmten Umgebungen Einschränkungen oder Probleme mit der Kompatibilität geben, insbesondere mit Apps von Drittanbietern (nicht Microsoft) und benutzerdefinierten oder nicht standardmäßigen Konfigurationen.

• Anpassung und Flexibilität: Microsoft Copilot kann zwar angepasst werden, es gibt jedoch Einschränkungen hinsichtlich der Anpassung an bestimmte organisatorische Anforderungen oder Workflows. Für Organisationen sind bestimmte Features oder Reaktionen möglicherweise starr oder nicht vollständig auf die organisatorischen Anforderungen abgestimmt.

• Abhängigkeit von Internetverbindungen: Microsoft Copilot ist auf Internetkonnektivität angewiesen, um zu funktionieren. Jede Unterbrechung der Konnektivität kann sich auf die Verfügbarkeit und Leistung des Diensts auswirken.

• Benutzerschulung und Einführung: Für eine effektive Nutzung von Microsoft Copilot müssen die Benutzer die Funktionen und Einschränkungen kennen. Möglicherweise gibt es eine Lernkurve, und die Benutzer müssen geschult werden, um effektiv mit dem Dienst zu interagieren und davon zu profitieren.

• Ressourcenintensität: Das Ausführen erweiterter KI-Modelle erfordert erhebliche Rechenressourcen, was sich insbesondere in Umgebungen mit eingeschränkten Ressourcen auf die Leistung auswirken kann. Bei Benutzern können während der Spitzennutzungszeiten Latenz- oder Leistungsprobleme auftreten.

• Vorurteile, Stereotypisierung und nicht fundierte Inhalte: Trotz intensiver Schulungen durch OpenAI und Anthropic und der Implementierung verantwortungsvoller KI-Kontrollen durch Microsoft sowohl für Benutzereingabeaufforderungen als auch für LLM-Ausgaben sind KI-Dienste fehlbar und probabilistisch. Dies macht es schwierig, alle unangemessenen Inhalte umfassend zu blockieren, was zu potenziellen Vorurteilen, Stereotypen oder Unbegründetheit in KI-generierten Inhalten führt. Weitere Informationen zu den bekannten Einschränkungen von KI-generierten Inhalten finden Sie in den folgenden Ressourcen:

  • Transparenzhinweis für Azure OpenAI
  • Anthropic: Modellsystemkarten
  • OpenAI: Hub für Bereitstellungssicherheit

• Unterstützte Sprachen: Derzeit unterstützt Microsoft Copilot weniger Sprachen als Microsoft 365. Wenn die Sprache, die Sie in Ihrem Prompt verwenden oder anfordern, derzeit nicht unterstützt wird, erhalten Sie eine Fehlermeldung. Weitere Informationen finden Sie unter Unterstützte Sprachen für Microsoft Copilot.

• Potenziell erhebliche physische oder psychische Verletzungen einer Person. Vermeiden Sie die Verwendung oder den Missbrauch des Systems, der zu erheblichen physischen oder psychischen Verletzungen einer Person führen könnte. Beispielsweise können Szenarien, in denen Patienten diagnostiziert oder Medikamente verschrieben werden, erheblichen Schaden anrichten.

• Daraus resultierende Auswirkungen auf Lebenschancen oder rechtlichen Status. Vermeiden Sie die Verwendung oder den Missbrauch des Systems, der sich auf die Lebenschancen oder den rechtlichen Status auswirken könnte. Beispiele hierfür sind Szenarien, in denen das KI-System den rechtlichen Status, die gesetzlichen Rechte oder den Zugang einer Person zu Krediten, Bildung, Beschäftigung, Gesundheitsversorgung, Wohnung, Versicherungen, Sozialleistungen, Dienstleistungen, Chancen oder die Bedingungen, zu denen sie bereitgestellt werden, beeinflussen könnte.

• Domänen oder Branchen mit hohem Einsatz. Prüfen Sie sorgfältig Anwendungsfälle in Domänen oder Branchen mit hohem Risiko. Beispiele hierfür sind unter anderem medizinische oder finanzielle Themen.

Auswertungen

Bei Leistungs- und Sicherheitsbewertungen wird bewertet, ob KI-Anwendungen zuverlässig und sicher funktionieren, indem Faktoren wie Bodenständigkeit, Relevanz und Kohärenz untersucht und gleichzeitig die Risiken der Generierung schädlicher Inhalte identifiziert werden. Die folgenden Bewertungen wurden mit bereits vorhandenen Sicherheitskomponenten durchgeführt, die auch unter Sicherheitskomponenten und Risikominderungen beschrieben sind.

Leistungs- und Qualitätsbewertungen

Leistungsbewertungen für KI-Anwendungen sind unerlässlich, um ihre Zuverlässigkeit in realen Anwendungen zu verbessern. Metriken wie Antwortrelevanz, Genauigkeit und Groundedness helfen dabei, die Genauigkeit und Konsistenz von KI-generierten Ausgaben zu bewerten, damit sie in fundierten Inhaltsszenarien sachlich unterstützt, kontextbezogen angemessen und logisch strukturiert sind. Für Microsoft Copilot führen wir regelmäßig strenge Qualitätsbewertungen anhand mehrerer Metriken wie Relevanz, Genauigkeit und Groundedness durch.

Methoden zur Leistungs- und Qualitätsbewertung

Microsoft Copilot wurde mithilfe von text- und bildbasierten Szenarien bewertet, die die Funktionsweise von Benutzern in Microsoft 365-Apps widerspiegeln. Bei der Bewertung von Metriken wie Groundedness, Antwortqualität und Zitierrelevanz wurden etablierte LLM-as-Judge-Methoden verwendet. Die Offline-Testsätze umfassten sachliche Abfragen, das Verständnis mehrerer Dokumente, Zusammenfassungen und repräsentative Unternehmensszenarien. Die Evaluatoren bewerteten, ob die Antworten sachlich gestützt, kontextuell angemessen und logisch strukturiert waren. Ideale Ergebnisse spiegeln genaue Grundlagen, klare Argumentation und konsistente Leistung über Variationen derselben Aufgabe hinweg wider. Zu den suboptimalen Ergebnissen gehören nicht belegte Behauptungen, fehlende oder irrelevante Zitate oder inkonsistente Ausgaben unter ähnlichen Eingabeaufforderungen.

Risiko- und Sicherheitsbewertungen

Die Bewertung potenzieller Risiken im Zusammenhang mit KI-generierten Inhalten ist für den Schutz vor Inhaltsrisiken mit unterschiedlichem Schweregrad unerlässlich. Dazu gehört die Bewertung der Veranlagung eines KI-Systems zur Generierung schädlicher Inhalte oder das Testen auf Schwachstellen für Jailbreak-Angriffe. Für Microsoft Copilot haben wir unter anderem die folgenden Risiko- und Sicherheitsbewertungen durchgeführt:

• Hass und Ungerechtigkeit
• Sexuell
• Gewalt
• Selbstverletzung
• Geschütztes Material
• Indirekter Jailbreak
• Direkter Jailbreak
• Code-Sicherheitsrisiko
• Nicht fundierte Attribute

Methoden zur Risikobewertung und Sicherheitsbewertung

Risiko- und Sicherheitsbewertungen verwendeten textbasierte kontradiktorische Eingabeaufforderungen und automatisierte Klassifikatoren, um potenzielle Schäden zu bewerten, einschließlich Hass, sexuelle Inhalte, Gewalt, Selbstverletzung, Leckagen von geschütztem Material, Jailbreak-Versuche und nicht geerdete Attribute. Die Tests kombinierten LLM-Richterbewertungen mit klassifikatorbasierter Erkennung und manuellen Tests, wo erforderlich. Ideale Ergebnisse leiten unsichere Anforderungen um oder lehnen sie ab und sorgen für eine konsistente Grenzeinhaltung über Promptvariationen hinweg. Zu den suboptimalen Ergebnissen gehören die Produktion schädlicher Inhalte, die inkonsistente Reaktion auf gegnerische Eingaben oder die Anfälligkeit für Jailbreak-Techniken.

Sicherheitskomponenten und Risikominderungen

Da wir potenzielle Risiken und Missbrauch mithilfe von Prozessen wie Red-Teamtests identifiziert und gemessen haben, haben wir Abhilfemaßnahmen entwickelt, um das Schadenspotenzial zu verringern. In der folgenden Liste werden einige dieser Risikominderungen beschrieben. Wir werden weiterhin die Microsoft Copilot-Erfahrungen auswerten, um die Produktleistung und Risikominderungen zu verbessern.

• Stufenweise Freigabe, kontinuierliche Evaluation. Wir sind bestrebt, unseren verantwortungsvollen KI-Ansatz kontinuierlich zu erlernen und zu verbessern, während sich unsere Technologien und unser Benutzerverhalten weiterentwickeln. Wir nehmen regelmäßig Änderungen an Microsoft Copilot vor, um die Produktleistung zu verbessern, vorhandene Risikominderungen zu verbessern und neue Risikominderungen als Reaktion auf unsere Erkenntnisse zu implementieren.

• Grounding in Geschäftsdaten. Ein bekanntes Risiko bei großen Sprachmodellen ist ihre Fähigkeit, nicht fundierte Inhalte zu generieren, die korrekt erscheinen, aber in den Quellmaterialien nicht vorhanden sind. Eine wichtige Abhilfemaßnahme in Microsoft Copilot besteht darin, KI-generierte Inhalte in relevanten Geschäftsdaten zu verankern, auf die der Benutzer basierend auf seinen Berechtigungen Zugriff hat. Basierend auf der Eingabeaufforderung werden Microsoft Copilot beispielsweise relevante Geschäftsdokumente bereitgestellt, um seine Antwort auf diese Dokumente zu stützen. Beim Zusammenfassen von Inhalten aus verschiedenen Quellen kann Microsoft Copilot jedoch Informationen in die Antwort aufnehmen, die in den Eingabequellen nicht vorhanden sind. Mit anderen Worten, es kann zu ungeerdeten Ergebnissen führen. Benutzer sollten immer vorsichtig sein und ihr bestes Urteilsvermögen verwenden, wenn sie Ausgaben von Microsoft Copilot verwenden. Wir haben mehrere Maßnahmen ergriffen, um das Risiko zu verringern, dass sich Benutzer zu sehr auf nicht fundierte, KI-generierte Inhalte verlassen. Wenn möglich, enthalten Antworten in Microsoft Copilot, die auf Geschäftsdokumenten basieren, Verweise auf die Quellen, damit Benutzer die Antwort überprüfen und mehr erfahren können. Benutzer werden außerdem ausdrücklich darauf hingewiesen, dass sie mit einem KI-System interagieren, und aufgefordert, die Quellmaterialien zu überprüfen, damit sie ihr bestes Urteilsvermögen nutzen können.

• KI-basierte Klassifizierer und Metaprompting zur Minimierung potenzieller Risiken oder Missbrauch. Die Verwendung von LLMs kann problematische Inhalte produzieren, die zu Schäden führen können. Beispiele hierfür sind Ausgaben im Zusammenhang mit Selbstverletzung, Gewalt, grafischen Inhalten, Problemen mit der Biosicherheit, geschütztem Material, ungenauen Informationen, hasserfüllten Äußerungen oder Text, der sich auf illegale Aktivitäten beziehen könnte. Klassifizierer wie die in Azure KI verfügbaren Inhaltssicherheit und Metaprompting sind zwei Beispiele für Risikominderungen, die in Microsoft Copilot implementiert wurden, um das Risiko dieser Art von Inhalten zu verringern. Klassifizierer klassifizieren Text, um verschiedene Arten potenziell schädlicher Inhalte in Eingabeaufforderungen oder generierten Antworten zu kennzeichnen. Microsoft Copilot verwendet KI-basierte Klassifizierer und Inhaltsfilter. Flags führen zu potenziellen Gegenmaßnahmen, z. B. dass keine generierten Inhalte an den Benutzer zurückgegeben werden oder der Benutzer zu einem anderen Thema weitergeleitet wird. Microsoft bietet Administratoren und Benutzern bestimmte Inhaltsfilterungssteuerelemente, bei denen das Filtern potenziell schädlicher oder sensibler Inhalte in Microsoft Copilot Chat nicht ihren Anforderungen entspricht. Beim Metaprompting geht es darum, dem Modell Anweisungen zu geben, um sein Verhalten zu steuern, unter anderem, damit sich das System in Übereinstimmung mit den KI-Prinzipien von Microsoft und den Benutzererwartungen verhält. Der Metaprompt kann beispielsweise eine Zeile wie "Kommunikation in der Sprache der Wahl des Benutzers" enthalten.

• Prompte Anreicherung. In einigen Fällen kann die Eingabeaufforderung eines Benutzers mehrdeutig sein. In diesem Fall kann Microsoft Copilot das LLM verwenden, um weitere Details in der Eingabeaufforderung zu erstellen und sicherzustellen, dass Benutzer die gewünschte Antwort erhalten. Eine solche prompte Anreicherung beruht nicht auf dem Wissen des Benutzers oder seinen vorherigen Suchvorgängen, sondern auf dem LLM.

• Benutzerzentriertes Design und Eingriffe in die Benutzererfahrung. Benutzerzentriertes Design und Benutzererfahrungen sind ein wesentlicher Aspekt des Ansatzes von Microsoft für verantwortungsvolle KI. Ziel ist es, das Produktdesign in den Bedürfnissen und Erwartungen der Nutzer zu verankern. Wenn Benutzer zum ersten Mal mit Microsoft Copilot interagieren, bieten wir verschiedene Berührungspunkte an, die ihnen helfen sollen, die Funktionen des Systems zu verstehen, ihnen mitzuteilen, dass Microsoft Copilot auf KI basiert, und Einschränkungen zu kommunizieren.

• KI-Offenlegung. Microsoft Copilot bietet mehrere Berührungspunkte für eine aussagekräftige KI-Offenlegung, bei der Benutzer benachrichtigt werden, dass sie mit einem KI-System interagieren, sowie Möglichkeiten, mehr über Microsoft Copilot zu erfahren. Wenn Sie beispielsweise Microsoft Copilot in der Word-App verwenden, werden KI-generierte Inhalte zusammen mit dem Hinweis angezeigt, dass KI-generierte Inhalte Fehler enthalten können. Die Unterstützung von Benutzern mit diesem Wissen kann ihnen helfen, sich nicht übermäßig auf KI-generierte Ausgaben zu verlassen und mehr über die Stärken und Einschränkungen des Systems zu erfahren.

• Medienherkunft. Für alle Bilder, die mit den Bearbeitungsfunktionen von Designer in Microsoft Copilot erstellt wurden, haben wir Inhaltsanmeldeinformationen implementiert, die auf dem C2PA-Standard basieren, damit Benutzer erkennen können, ob Bilder bearbeitet oder mit KI generiert wurden. Provenienzmetadaten können auf der Website mit den Inhaltsanmeldeinformationen angezeigt werden.

• Feedback und laufende Bewertung. Die Erfahrung von Microsoft Copilot baut auf vorhandenen Tools auf, mit denen Benutzer Feedback zu unseren Produkten übermitteln können. Benutzer können Feedback zu Inhalten übermitteln, die von Microsoft Copilot generiert werden, indem sie den Bereich verwenden, der nach dem Auswählen der Schaltflächen "Daumen hoch" oder "Daumen runter" in Antworten angezeigt wird. Feedback von Benutzern wird verwendet, um unsere Angebote im Rahmen unseres Engagements zur Verbesserung der Produktleistung zu verbessern. Kundenadministratoren können Feedback überprüfen, das im Microsoft 365 Admin Center eingereicht wurde. Wir verbessern und testen auch kontinuierlich die Leistung von Microsoft Copilot und spezifische Risikominderungen im Rahmen unserer laufenden Bewertung und Verbesserung des Dienstes. Weitere Informationen finden Sie unter Feedback zu Microsoft Copilot mit Microsoft 365 Apps.

Unser Ansatz zur Kartierung, Messung und Verwaltung von Risiken wird sich weiterentwickeln, wenn wir mehr erfahren, und wir nehmen bereits Verbesserungen auf der Grundlage des Feedbacks vor, das wir von Kunden erhalten haben.

Bewährte Methoden für die Bereitstellung und Einführung von Microsoft Copilot

Verantwortungsvolle KI ist eine gemeinsame Verpflichtung von Microsoft und seinen Kunden. Während Microsoft KI-Systeme entwickelt, bei denen Sicherheit, Fairness und Transparenz im Mittelpunkt stehen, spielen Kunden eine entscheidende Rolle bei der verantwortungsvollen Bereitstellung und Nutzung dieser Technologien in ihrem eigenen Kontext. Um diese Partnerschaft zu unterstützen, bieten wir die folgenden bewährten Methoden für Bereitsteller und Endbenutzer an, um Kunden bei der effektiven Implementierung verantwortungsvoller KI zu unterstützen.

Bereitsteller und Endbenutzer sollten:

• Seien Sie vorsichtig und bewerten Sie die Ergebnisse, wenn Sie Microsoft Copilot für Folgeentscheidungen oder in sensiblen Bereichen verwenden: Folgeentscheidungen sind solche, die rechtliche oder erhebliche Auswirkungen auf den Zugang einer Person zu Bildung, Beschäftigung, Finanzdienstleistungen, staatlichen Leistungen, Gesundheitsversorgung, Wohnraum, Versicherungen, Rechtsdienstleistungen haben oder zu physischen, psychischen oder finanziellen Schäden führen können. Sensible Bereiche wie Finanzdienstleistungen, Gesundheitswesen und Wohnen erfordern besondere Pflege, da sie unverhältnismäßige Auswirkungen auf verschiedene Personengruppen haben können. Wenn Sie KI für Entscheidungen in diesen Bereichen einsetzen, stellen Sie sicher, dass die betroffenen Projektbeteiligten verstehen können, wie Entscheidungen getroffen werden, Entscheidungen anfechten und alle relevanten Eingabedaten aktualisieren können.

• Bewerten rechtlicher und regulatorischer Überlegungen: Kunden müssen potenzielle spezifische rechtliche und regulatorische Verpflichtungen bewerten, wenn sie KI-Dienste und -Lösungen verwenden, die möglicherweise nicht für den Einsatz in jeder Branche oder jedem Szenario geeignet sind. Darüber hinaus sind KI-Dienste oder -Lösungen nicht für eine Weise konzipiert und dürfen nicht auf eine Weise verwendet werden, die in den geltenden Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.

• Verweise auf Webinhalte zulassen. Wenn Sie Microsoft Copilot erlauben, auf Webinhalte zu verweisen, können Sie die Qualität, Genauigkeit und Relevanz von Microsoft Copilot-Antworten verbessern, bei denen eine Antwort von aktuellen, öffentlichen Informationen aus dem Web profitieren würde. Beachten Sie jedoch, dass Microsoft Copilot, wenn es auf Webinhalte verweist, dies über den Bing-Suche-Dienst tut und dass sich die Datenverarbeitungspraktiken für Bing-Suche-Abfragen von der Art und Weise unterscheiden, wie Daten von Microsoft Copilot verarbeitet werden. Die Verwendung von Bing ist durch den Microsoft-Servicevertrag zwischen jedem Benutzer und Microsoft sowie durch die Microsoft-Datenschutzerklärung abgedeckt.

• Erweitern Sie die Erdung in Microsoft Graph. Microsoft Copilot verwendet Daten aus Microsoft Graph, um Antworten in organization-spezifischen Daten wie E-Mails, Chats, Dateien und Kalendern zu verankern. Durch die Erweiterung von Microsoft Graph mit Organisationsdaten aus Quellen wie CRM-Systemen oder externen Dateirepositorys können Organisationen zusätzliche kontextspezifische, relevante Informationen einbeziehen, die den Umfang und die Genauigkeit der Microsoft Copilot-Antworten weiter verbessern.

Endbenutzer sollten:

Um die Leistung in Bezug auf die Genauigkeit der Microsoft Copilot-Ausgabe zu verbessern, empfehlen wir Organisationen, Folgendes zu berücksichtigen:

• Schreiben Sie gute Eingabeaufforderungen. Das Schreiben guter Eingabeaufforderungen ist der Schlüssel, um bessere Ergebnisse mit Microsoft Copilot zu erzielen. Genau wie es Techniken gibt, die Menschen helfen, effektiv mit einem Menschen zu kommunizieren, gibt es Richtlinien, die Benutzern helfen können, bessere Ergebnisse mit Microsoft Copilot beim Schreiben von Eingabeaufforderungen zu erzielen. Beispiel: Fügen Sie Details ein, strukturieren Sie Eingabeaufforderungen, geben Sie positive Anweisungen, wiederholen und regenerieren Sie und überprüfen und verifizieren Sie immer KI-generierte Antworten. Weitere Informationen finden Sie unter Bessere Ergebnisse mit Copilot-Eingabeaufforderung.

• Üben Sie gegebenenfalls menschliche Aufsicht aus: Menschliche Aufsicht ist ein wichtiger Schutz bei der Interaktion mit KI-Systemen. Obwohl wir unsere KI-Systeme kontinuierlich verbessern, kann KI immer noch Fehler machen. Die generierten Ergebnisse können ungenau, unvollständig, verzerrt, falsch ausgerichtet oder irrelevant für Ihre beabsichtigten Ziele sein. Dies kann aus verschiedenen Gründen geschehen, z. B. Mehrdeutigkeit in den Eingaben oder Einschränkungen der zugrunde liegenden Modelle. Daher sollten Benutzer die von Microsoft Copilot generierten Antworten überprüfen und überprüfen, ob sie ihren Erwartungen und Anforderungen entsprechen.

• Seien Sie sich des Risikos einer übermäßigen Abhängigkeit bewusst: Eine übermäßige Abhängigkeit von KI tritt auf, wenn Benutzer falsche oder unvollständige KI-Ausgaben akzeptieren, hauptsächlich weil Fehler in KI-Ausgaben schwer zu erkennen sind. Für den Endbenutzer kann übermäßiges Vertrauen unter anderem zu einer verminderten Produktivität, Vertrauensverlust, Produktabbruch, finanziellen Verlusten, psychischen Schäden und körperlichen Schäden führen. (Ein Arzt akzeptiert z. B. eine falsche KI-Ausgabe). Für Microsoft Copilot tragen wir dazu bei, dieses Risiko zu mindern, indem wir Haftungsausschlüsse zu unseren Produkten hinzufügen. Benutzer sollten jedoch weiterhin sicherstellen, dass die Antworten korrekt sind.

• Seien Sie vorsichtig beim Entwerfen von agentischer KI in sensiblen Bereichen: Benutzer sollten Vorsicht walten lassen, wenn sie agentische KI-Systeme in sensiblen Bereichen entwerfen und/oder bereitstellen, in denen die Aktionen von Agenten irreversibel oder mit hoher Tragweite sind. Zusätzliche Vorsichtsmaßnahmen sollten auch beim Erstellen autonomer agentischer KI getroffen werden, wie entweder im Abschnitt "Microsoft Enterprise AI Services Rules of Conduct " (für Organisationen) oder im Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) näher beschrieben.

Bereitstellende sollten:

Microsoft stellt Tools wie das Microsoft Copilot-Dashboard für Microsoft 365-Kunden und Berichte im Microsoft 365 Admin Center bereit. Diese Tools sollen Organisationen dabei helfen, die Nutzung, Akzeptanz und Auswirkung von Microsoft Copilot zu messen. Zum Beispiel:

• Mit dem Microsoft Copilot-Nutzungsbericht können Administratoren eine Zusammenfassung der Einstellungen zur Akzeptanz, Aufbewahrung und Interaktion der Benutzer mit Microsoft Copilot anzeigen, um Lizenzen zu verwalten und zu optimieren. Weitere Informationen finden Sie unter Verwendung von Microsoft Copilot.
• Das Microsoft Copilot-Dashboard bietet Führungskräften, Analysten und Stellvertretungen Zugriff auf vorgefertigte Berichte über die organisationsweite Nutzung von Microsoft Copilot und Copilot Chat, um die Einführung und Auswirkungen zu messen. Weitere Informationen finden Sie unter Herstellen einer Verbindung mit dem Microsoft Copilot-Dashboard für Microsoft 365-Kunden.
• Copilot Business Impact ist in Viva verfügbar Insights ermöglicht es Analysten, die Verwendung von Microsoft Copilot mit Geschäftsmetriken zu vergleichen, um den Geschäftswert zu verstehen. Weitere Informationen finden Sie unter Copilot-Bericht über die Auswirkungen auf das Geschäft.

Weitere Informationen zu Microsoft Copilot

Weitere Hinweise zur verantwortungsvollen Verwendung von Microsoft Copilot finden Sie in der folgenden Dokumentation:

• Übersicht über Microsoft Copilot
• Daten, Datenschutz und Sicherheit für Microsoft Copilot
• Erweiterbarkeit von Microsoft Copilot

Weitere Informationen zu verantwortungsvoller KI

• Microsoft AI-Grundsätze
• Microsoft Responsible AI-Ressourcen
• Microsoft Azure Learning-Kurse zu verantwortungsvoller KI