Verbessern Sie KI-Antworten mithilfe von Retrieval Augmented Generation (RAG)

Retrieval Augmented Generation (RAG) in Microsoft Copilot Studio kombiniert die Schlussfolgerungsfähigkeiten von Sprachmodellen mit vertrauenswürdigem, organisationsspezifischem Wissen. Sie ermöglicht es Agents, präzise, kontextuelle und untermauerte Antworten auf Grundlage der Unternehmensinhalte zu geben, anstatt sich ausschließlich auf das Modellgedächtnis zu verlassen.

In diesem Artikel erfahren Sie, wie Sie Folgendes tun:

• Verstehen Sie, wie RAG die Zuverlässigkeit und Bodenständigkeit der KI verbessert.
• Beschreiben Sie, wie Copilot Studio Wissen abruft und synthetisiert.
• Identifizieren Sie die unterstützten Wissensquellen und deren Einschränkungen.
• Erkennen Sie Governance-, Compliance- und KI-Sicherheitsaspekte.
• Wenden Sie RAG-Konzepte beim Entwerfen von Agents in Unternehmensumgebungen an.

Einführung in RAG

RAG ist ein Designmuster, das die Genauigkeit der KI verbessert, indem es zwei Fähigkeiten kombiniert:

• Informationsabruf: Durchsuchen von Unternehmensdatenquellen.
• Textgenerierung: Synthese der abgerufenen Informationen mithilfe eines Sprachmodells.

Dieser Ansatz reduziert Fehlinformationen, erhöht das Vertrauen und liefert Antworten, die auf echten organisatorischen Inhalten basieren.

RAG-Architektur in Copilot Studio

Die RAG-Pipeline von Copilot Studio basiert auf Azure KI-Diensten und ist eng in Microsofts Vertrauens-, Compliance- und Sicherheitsrichtlinien integriert.

Kernkomponenten:

• Copilot Studio Laufzeitumgebung: Verwaltet die dialogorientierte Pipeline
• Abfrageoptimierungs-Engine: Schreibt Abfragen um und interpretiert sie
• Suchanbieter: Bing, SharePoint, Graph, Dataverse, Azure KI-Suche
• Zusammenfassungs-Engine: Erstellt fundierte, zitierte Antworten
• Moderationsschichten: Validiert Nachrichten und Zusammenfassungen
• State Store: Kurzzeitgedächtnis (weniger als 30 Tage; nicht für die Ausbildung genutzt)
• Telemetrie- und Feedback-Stores: Bietet Erkenntnis und Aufsicht

Wie RAG in Copilot Studio funktioniert

RAG im Copilot Studio folgt einem vierstufigen Prozess:

1. Abfrageumschreibung
2. Inhaltsabruf
3. Zusammenfassung und Antwortgenerierung
4. Sicherheits- und Governance-Validierung

1. Umschreiben von Abfragen

Copilot Studio optimiert die Nutzerfrage, bevor die Suche beginnt:

• Klärt Bedeutung
• Fügt kontextbezogene Signale hinzu (letzte 10 Dialogrunden)
• Verbessert den Schlüsselwortabgleich
• Generiert suchoptimierte Suchanfragen

Dieser Prozess erhöht die Abrufqualität und reduziert irrelevante Ergebnisse.

2. Inhaltsabruf

Nachdem die Abfrage neu formuliert wurde, führt das System sie bei allen von dir eingerichteten Wissensquellen aus. Copilot Studio erhält die drei besten Ergebnisse aus jeder Quelle und gleicht dabei Relevanz und Leistung aus. Das Verhalten jeder Wissensquelle hängt von Faktoren wie Authentifizierung, Indexierung, Dateiformaten und Speicherbeschränkungen ab.

Die folgende Tabelle fasst alle unterstützten Wissensquellen sowie deren Fähigkeiten, Einschränkungen und Authentifizierungsanforderungen zusammen:

3. Zusammenfassung und Antwortgenerierung

• KI synthetisiert abgerufene Inhalte
• Wendet benutzerdefinierte Anweisungen für Ton, Formatierung, Sicherheit oder Kürze an
• Erzeugt Quellenangaben zu den zugrunde liegenden Daten
• Personalisiert Antworten mithilfe des Benutzerkontexts (wie Sprache, Abteilung oder Region)

4. Sicherheits- und Governance-Prüfung

Jede Antwort durchläuft automatisierte Validierungsebenen:

• Moderation von schädlichen, bösartigen, nicht konformen oder urheberrechtlich geschützten Antworten
• Grounding-Validierung und Entfernung falscher Informationen

Kundendaten werden nicht zum Trainieren von Sprachmodellen verwendet.

Schlüsselaspekte bei der Nutzung von RAG

RAG eignet sich am besten für sachliche Fragen und Antworten, nicht für detaillierte Dokumentenanalyse.

RAG ist ideal für:

• Beantworten von Fragen aus Wissensdatenbanken
• Zusammenfassung von Richtlinien, FAQs und Verfahrensinhalten
• Abruf spezifischer Fakten aus Dateien oder internen Systemen

RAG ist nicht gedacht für:

• Voller Vergleich von Dokumenten
• Bewertung der Einhaltung von Richtlinien
• Komplexe Schlussfolgerungen anhand langer, unstrukturierter Dokumente

Sicherheits- und Compliance-Aspekte generativer KI

Die generativen KI-Funktionen in Microsoft Copilot Studio sind darauf ausgelegt, leistungsstarke Konversations- und Schlussfolgerungsfähigkeiten bereitzustellen und gleichzeitig strenge Sicherheits-, Datenschutz- und Compliance-Kontrollen einzuhalten.

Foundation-Modelle und Hosting

• Copilot Studio basiert auf Grundlagenmodellen, die von OpenAI trainiert werden.
• Copilot Studio verwendet eines der neuesten OpenAI-Modelle für generative Antworten.
• Die Modelle laufen vollständig auf internen Azure KI Foundry-Diensten, die der Microsoft Services Trust Boundary entsprechen.
• Die Nutzung aller Modelle entspricht den Microsoft Responsible AI Prinzipien und Richtlinien.

Benutzerdefinierte Anweisungen

Ersteller können individuelle Anweisungen bereitstellen, um das Verhalten des Modells zu gestalten, den Ton zu beeinflussen oder Formatierungsregeln hinzuzufügen. Diese Anweisungen ermöglichen es, die generativen Antworten auf die Bedürfnisse der Organisation zuzuschneiden und dabei weiterhin Sicherheitsfilter und Compliance-Richtlinien zu berücksichtigen.

Datenspeicherung und -verarbeitung

• Datenspeicherung und -verarbeitung in Copilot Studio könnte Daten über regionale Grenzen hinweg bewegen, wenn kein lokales Modellhosting verfügbar ist.
• Wenn diese Datenübertragung nicht erlaubt ist, können Administratoren Umgebungseinstellungen verwenden, um bestimmte Funktionen wie Azure-Sprachmodelle oder Bing-Suche zu deaktivieren.
• Copilot Studio sammelt oder nutzt keine Kundendaten, um Sprachmodelle zu trainieren.

Operationelle Datenverarbeitung

• Während des Betriebs werden Gespräche vorübergehend in einem gesicherten, von Microsoft betriebenen Speicher gespeichert.
• Der Zugriff autorisierter Microsoft-Mitarbeiter ist über Secure Access Workstations (SAWs) mit Just-In-Time (JIT) Kontrollen eingeschränkt.
• Organisationen können den Zugriff zusätzlich über Customer Lockbox steuern, wobei eine ausdrückliche Freigabe erforderlich ist, bevor Microsoft-Supportmitarbeiter Daten einsehen können.

Telemetrie-Fehlerbehebung

• Generative KI-Funktionen erzeugen zusätzliche Telemetriedaten zur Fehlerbehebung, jedoch nur für vom Ersteller initiierte Aktionen im Testbereich, insbesondere wenn der Ersteller einer Antwort einen Daumen hoch oder einen Daumen runter gibt.
• Außerhalb dieses expliziten Feedbackprozesses werden keine zusätzlichen Kundendaten protokolliert.

Missbrauchsüberwachung und Sicherheit

Da mehrere Sicherheitsschichten bereits generative KI-Funktionen schützen, deaktiviert die generative KI von Copilot Studio die Überwachung von Azure-KI-Missbrauch, um weitere Protokollierung von Kundendaten zu vermeiden.