Zwiększ skuteczność odpowiedzi AI za pomocą generowania wzbogaconego o wyszukiwanie

Retrieval Augmented Generation (RAG) w Microsoft Copilot Studio łączy zdolności rozumowania modeli językowych z zaufaną, specyficzną dla organizacji wiedzą. Pozwala agentom generować dokładne, kontekstowe i ugruntowane odpowiedzi oparte na treści przedsiębiorstwa, zamiast polegać wyłącznie na pamięci modelu.

Z tego artykułu dowiesz się, jak wykonywać następujące czynności:

  • Interpretacja, jak RAG zwiększa niezawodność i uzasadnianie AI.
  • Opisz, jak Copilot Studio pozyskuje i syntetyzuje wiedzę.
  • Zidentyfikuj wspierane źródła wiedzy i ich ograniczenia.
  • Rozpoznaj kwestie nadzoru, zgodności i bezpieczeństwa AI.
  • Stosuj koncepcje RAG podczas projektowania agentów w środowiskach przedsiębiorstw.

Wprowadzenie do RAG

RAG jest wzorcem projektowym, który poprawia dokładność AI poprzez połączenie dwóch funkcjonalności:

  • Pozyskiwanie informacji: Przeszukiwanie źródeł danych w przedsiębiorstwie.
  • Generowanie tekstu: Synteza odzyskanych informacji za pomocą modelu językowego.

To podejście zmniejsza liczbę błędnych informacji, wzmacnia zaufanie i generuje odpowiedzi zakorzenione w rzeczywistych danych organizacji.

Architektura RAG w Copilot Studio

Potok RAG programu Copilot Studio jest oparty na usługach Azure AI Services i ściśle integruje się z granicami zaufania, zgodności i zabezpieczeń firmy Microsoft.

Podstawowe składniki:

  • Środowisko uruchomieniowe Copilot Studio: Zarządza przepływem konwersacyjnym
  • Silnik optymalizacji zapytań: Przepisuje i interpretuje zapytania
  • Dostawcy wyszukiwania: Bing, SharePoint, Graph, Dataverse, Wyszukiwanie AI platformy Azure
  • Silnik streszczania: Tworzy odpowiedzi oparte na danych źródłowych i opatrzone cytatami
  • Warstwy moderacji: Weryfikują wiadomości i podsumowania
  • Magazyn stanu: pamięć krótkotrwała (mniej niż 30 dni; niewykorzystywana do szkolenia)
  • Telemetria i magazyny informacji zwrotnej: Dostarczają wglądu i nadzoru

Diagram przepływu pracy Copilot Studio RAG przedstawiający etapy moderacji wiadomości, optymalizacji zapytań, wyszukiwania, streszczania i walidacji.

Jak RAG działa w funkcji Copilot Studio

RAG w Copilot Studio przebiega według czteroetapowego procesu.

  1. Przepisywanie zapytań
  2. Pobieranie treści
  3. Podsumowanie i generowanie odpowiedzi
  4. Sprawdzanie poprawności bezpieczeństwa i nadzoru

1. Przepisywanie zapytań

Copilot Studio optymalizuje zapytanie użytkownika przed wyszukiwaniem:

  • Uściśla znaczenie
  • Dodaje sygnały kontekstowe (ostatnie 10 interakcji)
  • Poprawia dopasowanie słów kluczowych
  • Generuje zapytania zoptymalizowane pod kątem wyszukiwania

Proces ten poprawia jakość wyników wyszukiwania i ogranicza liczbę nieistotnych rezultatów.

2. Pozyskiwanie treści

Po przepisaniu zapytania system przeprowadza je na wszystkich skonfigurowanych przez Ciebie źródłach wiedzy. Copilot Studio otrzymuje trzy najlepsze wyniki z każdego źródła, równoważąc trafność z wydajnością. Zachowanie każdego źródła wiedzy różni się w zależności od czynników takich jak uwierzytelnianie, indeksowanie, formaty plików oraz ograniczenia dotyczące przechowywania danych.

Poniższa tabela podsumowuje wszystkie obsługiwane źródła wiedzy oraz ich możliwości, ograniczenia i wymagania uwierzytelniania:

Źródło wiedzy Podpis Uwierzytelnianie Kluczowe możliwości, limity i ograniczenia
Dane publiczne (strony internetowe) Strony internetowe indeksowane przez Bing Brak
  • Strony internetowe muszą być indeksowane przez Bing.
  • Bing nie może być ograniczony do regionu.
  • Potwierdzenie własności strony internetowej prowadzi do lepszych rezultatów.
  • Publiczne strony internetowe: maksymalnie dwie podstrony głębokie (/en/help/), żadnych bezpośrednich stron.
  • Własne wyszukiwanie w Bing: Jeden identyfikator konfiguracji, ale można go ustawić według formuły, koszty Azure pokrywa Microsoft, do 400 adresów URL, opcje pozycjonowania niestandardowego, maksymalnie dwie głębokości podstron (/en/help/), obsługuje strony bezpośrednie.
SharePoint / OneDrive Wewnętrzne treści przedsiębiorstwa (tylko wewnętrzne) Uwierzytelnianie delegowane Microsoft Entra ID
  • Wymaga, aby użytkownik był uwierzytelniony za pomocą Microsoft Entra ID, aby móc wykonywać połączenia delegowane.
  • Pliki spełniające kryteria (maksymalnie 15 MB) są pobierane w celu uzyskania szczegółowych fragmentów do podsumowania.
  • Ograniczenie dostępu: zwrócone wyniki zawierają tylko treści, do których użytkownik ma uprawnienia do odczytu.
  • Funkcja Premium „Rozszerzone wyniki wyszukiwania” wykorzystuje uzasadnienie dzierżawcy Microsoft Graph w komunikatach, co poprawia jakość uzyskiwanych wyników i dozwolony maksymalny rozmiar pliku (200 MB).
Przesłane pliki Pliki przesłane do magazynu Dataverse Brak
  • Pliki (maksymalnie 512 MB) są przechowywane w magazynie plików Dataverse, z maksymalną liczbą 500 plików na agenta.
  • Pliki są indeksowane w wyszukiwaniu Dataverse i mają możliwość rozpoznawania obrazów oraz tabel w plikach PDF.
  • Domyślnie cytowania nie zawierają łącza do pliku, ale łącze ten można dodać dzięki dostosowaniom.
Tabele Dataverse Ustrukturyzowane rekordy biznesowe (tylko wewnętrzne) Uwierzytelnianie delegowane Microsoft Entra ID
  • Tabele Dataverse (maksymalnie 15) mogą być konfigurowane z synonimami i glosariuszem, aby poprawić wyszukiwanie.
  • Zapytania w języku naturalnym są przekształcane w analityczne zapytania nad danymi strukturalnymi.
Łączniki programu Graph Aplikacje korporacyjne indeksowane w Microsoft Graph (tylko do użytku wewnętrznego) Uwierzytelnianie delegowane Microsoft Entra ID
  • Wymaga uwierzytelnienia użytkownika przy użyciu Microsoft Entra ID do wykonywania wywołań delegowanych.
  • Połącz się z innymi źródłami wiedzy przedsiębiorstwa zindeksowanymi w Microsoft Graph, takimi jak ServiceNow KB, Confluence, dane ze specjalnych witryn firmowych i inne.
  • Funkcja premium „Rozszerzone wyniki wyszukiwania” korzysta z uzasadnienia Microsoft Graph dla dzierżawy.
Obsługiwane łączniki czasu rzeczywistego Dane w czasie rzeczywistym z systemów takich jak Salesforce, Zendesk, SQL (tylko wewnętrzne) Użytkownik musi być zalogowany
  • Łączniki Copilot pobierają dane strukturalne z Salesforce, ServiceNow, Zendesk, Azure SQL.
  • Zalogowany użytkownik musi utworzyć połączenia z docelowymi systemami.
Wyszukiwanie Azure AI Wektorowe wyszukiwanie semantyczne Skonfigurowane punkty końcowe
  • Zwraca wyniki z połączonego, wektoryzowanego indeksu Wyszukiwanie AI platformy Azure.
  • Połączenie nie jest delegowane: brak przycinania zabezpieczeń, brak wymogu uwierzytelniania dla użytkownika.
Niestandardowe dane Dane dostarczane przez interfejsy API, przepływy pracy lub niestandardową logikę Brak
  • Wymaga wcześniejszego kroku polegającego na zapytaniu źródła (na przykład przy użyciu przepływów w chmurze, łączników lub żądań HTTP).
  • Wyniki są przekazywane jako dane wejściowe do odpowiedzi generatywnych w celu podsumowania odpowiedzi na zapytanie.
  • Dane wejściowe muszą być w formacie tabeli i zawierać trzy właściwości: Content (zazwyczaj fragmenty odpowiednich treści), ContentLocation (opcjonalnie, zazwyczaj adres URL) oraz Title (opcjonalnie).

3. Streszczanie i generowanie odpowiedzi

  • AI syntetyzuje pobrane treści
  • Stosuje dostosowane instrukcje dotyczące tonu, formatowania, bezpieczeństwa lub zwięzłości
  • Generuje cytowania do danych źródłowych
  • Personalizuje odpowiedzi na podstawie kontekstu użytkownika (takiego jak język, dział lub region)

4. Sprawdzanie poprawności bezpieczeństwa i nadzoru

Każda odpowiedź przechodzi przez kolejne warstwy automatycznej sprawdzania poprawności:

  • Moderacja szkodliwych, złośliwych, niezgodnych lub chronionych prawem autorskim odpowiedzi
  • Weryfikacja uzasadnienia i usuwanie nieprawidłowych informacji

Dane klientów nie są wykorzystywane do trenowania modeli językowych.

Kluczowe uwagi dotyczące korzystania z RAG

RAG najlepiej sprawdza się w przypadku pytań i odpowiedzi opartych na faktach, a nie przy szczegółowej analizie dokumentów.

RAG jest idealny do:

  • Odpowiadanie na pytania z baz wiedzy
  • Podsumowywanie polityk, FAQ i treści proceduralnych
  • Pozyskiwanie konkretnych informacji z plików lub systemów wewnętrznych

RAG nie jest przeznaczone dla:

  • Pełnego porównanie dokumentów
  • Ocena zgodności z polityką
  • Złożone rozumowanie nad długimi, nieustrukturyzowanymi dokumentami

Aspekty bezpieczeństwa i zgodności generatywnej AI

Funkcje generatywnej AI w Microsoft Copilot Studio zostały zaprojektowane tak, aby zapewniać zaawansowane możliwości konwersacyjne i rozumowania, jednocześnie utrzymując silne mechanizmy bezpieczeństwa, prywatności i kontroli zgodności.

Modele bazowe i hosting

  • Copilot Studio opiera się na modelach bazowych, które szkoli OpenAI.
  • Copilot Studio wykorzystuje jeden z najnowszych modeli OpenAI do odpowiedzi generatywnych.
  • Modele działają całkowicie na wewnętrznych usługach Azure AI Foundry, zgodnych z granicą Microsoft Services Trust.
  • Wszystkie modele są zgodne z zasadami i politykami Microsoft Responsible AI.

Instrukcje niestandardowe

Twórcy mogą udostępniać niestandardowe instrukcje do kształtowania zachowania modelu, wpływania na ton lub dodawania reguł formatowania. Instrukcje te pomagają dostosować generowane odpowiedzi do potrzeb organizacji, jednocześnie przestrzegając filtrów bezpieczeństwa i mechanizmów zgodności.

Magazynowanie i przetwarzanie danych

  • Przechowywanie i przetwarzanie danych w Copilot Studio może przenosić dane między regionami, gdy lokalny hosting modeli nie jest dostępny.
  • Gdy taki ruch danych nie jest dozwolony, administratorzy mogą użyć ustawień środowiska, aby wyłączyć określone funkcje, takie jak modele językowe Azure lub wyszukiwanie Bing.
  • Copilot Studio nie zbiera ani nie wykorzystuje żadnych danych klientów do trenowania modeli językowych.

Obsługa danych operacyjnych

  • Podczas działania system tymczasowo przechowuje rozmowy w zabezpieczonym repozytorium obsługiwanym przez Microsoft.
  • Dostęp autoryzowanego personelu Microsoft jest ograniczony za pomocą Secure Access Workstations (SAWs) z kontrolami Just-In-Time (JIT).
  • Organizacje mogą dodatkowo kontrolować dostęp za pomocą Skrytka klienta, wymagając wyraźnej zgody przed uzyskaniem dostępu do danych przez inżynierów wsparcia Microsoft.

Rozwiązywanie problemów z telemetrią

  • Funkcje generatywnej AI generują dodatkowe dane dotyczące rozwiązywania problemów, ale tylko dla działań inicjowanych przez twórcę w oknie testowym, szczególnie gdy twórca daje kciuk w górę lub dół odpowiedzi.
  • Nie rejestruje się dodatkowych danych klientów poza tą wyraźną pętlą opinii.

Monitorowanie nadużyć i bezpieczeństwo

Ze względu na liczne warstwy bezpieczeństwa chroniące funkcje generatywnej AI, generatywna AI Copilot Studio wyłącza monitorowanie nadużyć Azure AI, aby uniknąć dalszego rejestrowania danych klientów.