Często zadawane pytania dotyczące odpowiedzi generatywnych

Te często zadawane pytania opisują wpływ sztucznej inteligencji funkcji odpowiedzi generowania w aplikacji Copilot Studio.

Czym są generatywne odpowiedzi?

Odpowiedzi generatywne sprawiają, że agent jest wartościowy od razu po zainstalowaniu, i zwiększają liczbę tematów, w których agent prowadzi konwersację, bez konieczności ręcznego tworzenia drzewa sesji dialogowych.

Jakie są możliwości funkcji generatywnych odpowiedzi?

Gdy użytkownik zada agentowi pytanie, które nie powoduje wyzwolenia skonfigurowanego tematu, agent może opcjonalnie wyszukać odpowiednią zawartość z wybranego źródła. To wyszukiwanie obejmuje publiczne witryny internetowe, SharePoint lub własne niestandardowe źródła danych, w tym elementy nietekstowe w przesłanych plikach, takie jak obrazy, dane tabelaryczne i diagramy. Agent używa generatywnej AI do podsumowania tych informacji w odpowiedzi zwróconej użytkownikowi agenta.

Jakie jest zamierzone zastosowanie dla generatywnych odpowiedzi?

Agenci mogą używać odpowiedzi generatywnych jako podstawowych źródeł informacji lub jako rozwiązania awaryjnego, gdy opracowane tematy nie są w stanie obsłużyć zapytania użytkownika.

W jaki sposób oceniano odpowiedzi generatywne i jakie wskaźniki służą do pomiaru ich wydajności?

Możliwości są stale oceniane na podstawie zbioru ręcznie aktualizowanych zestawów danych dotyczących pytań i odpowiedzi, które obejmują wiele branż. Proces oceny obejmuje również niestandardowe zestawy danych związane z obraźliwymi i złośliwymi poleceniami oraz odpowiedziami. Zarówno automatyczne, jak i dedykowane sesje ręczne są używane do rozszerzania zestawu testów.

Jakie są ograniczenia odpowiedzi generatywnych?

  • Dla każdego agenta należy włączyć opcję odpowiedzi generatywnych.

  • Zobacz Wsparcie językowe, aby zapoznać się z listą języków obsługiwanych przez tę funkcję i ich odpowiednim etapem. Możesz używać innych języków, ale wygenerowane odpowiedzi mogą być niespójne, a agent może nie odpowiadać poprawnie lub zgodnie z oczekiwaniami.

  • Ta funkcja może podlegać limitom użycia lub ograniczeniom wydajności.

  • Odpowiedzi wygenerowane przez funkcję generowania odpowiedzi nie zawsze są zawsze doskonałe i mogą zawierać błędy.

    System został opracowany z myślą o wyszukiwaniu informacji z wybranej witryny internetowej oraz przedstawieniu istotnych wyników w formie łatwej do zrozumienia odpowiedzi. Należy jednak pamiętać o cechach AI, które mogą powodować nieoczekiwane odpowiedzi:

    • Odpowiedzi z modeli językowych nie są deterministyczne. Powtarzanie semantycznie (w pobliżu) identycznych pytań może przynieść różne odpowiedzi, nawet w nowych czatach. Proces odpowiadania na pytania obejmuje poprzedni kontekst czatu, dzięki czemu powtarzanie zapytania w ramach sesji czatu niemal gwarantuje różne odpowiedzi. To zachowanie oznacza, że powtarzanie stałych zapytań w testach regresji lub automatycznych kontroli kondycji może spowodować różne odpowiedzi i fałszywie dodatnie raporty o błędach.

    • Copilot Studio umożliwia wybranie różnych modeli jako podstawowego modelu odpowiedzi na potrzeby generowania odpowiedzi. Pamiętaj o dacie odcięcia danych uwzględnionych w wybranym modelu.
      Istnieją ograniczenia uniemożliwiające modelowi używanie korpusu szkoleniowego jako źródła odpowiedzi, jednak możliwe jest, że odpowiedzi będą zawierać treści z witryn internetowych innych niż wybrana.

    • System nie przeprowadza weryfikacji poprawności, więc jeśli wybrane źródło danych zawiera nieprawidłowe informacje, może to zostać pokazane użytkownikom Twojego agenta. Wdrożyliśmy środki zaradcze, aby odfiltrować nieistotne i obraźliwe odpowiedzi, a funkcja została zaprojektowana tak, aby nie reagować po wykryciu obraźliwego języka. Te filtry i środki ograniczenia ryzyka nie są niezawodne.

    Note

    Zawsze należy przetestować i przejrzeć swoich agentów przed ich opublikowaniem, a także rozważyć zebranie opinii od użytkowników agenta. Administrator może wyłączyć możliwość publikowania agentów z odpowiedziami generatywnymi dla dzierżawy w centrum administracyjnym platformy Power Platform.

Jakie dane zbiera ta funkcja? Jak dane są używane?

Jeśli klient jawnie wyrazi zgodę na rejestrowanie swojej konwersacji z agentem, funkcja zbiera monity użytkownika, odpowiedzi zwracane przez system oraz wszelkie przekazane opinie.

Użyjemy tych danych, by ocenić i poprawić jakość możliwości.

Jakie czynniki operacyjne i ustawienia pozwalają na skuteczne i odpowiedzialne korzystanie z generatywnych odpowiedzi?

Odpowiedzi generowania najlepiej sprawdzają się podczas wyznaczania zaufanego i prawidłowego źródła, z którego mają być wykonywane zapytania dotyczące zawartości. To źródło może być witryną firmową, na przykład www.microsoft.com. Wszystkie strony internetowe należące do tej domeny są wyszukiwane pod kątem dopasowania do pytania użytkownika.

Wykorzystujemy przekazane informacje zwrotne na temat zadowolenia z wygenerowanych odpowiedzi w celu poprawy jakości systemu. Opinie można przekazać, wybierając ikonę kciuka w górę lub kciuka w dół dla wygenerowanych odpowiedzi. Więcej opinii można także dołączyć do bezpłatnego tekstu.

Jakie zabezpieczenia są stosowane w Copilot Studio w celu odpowiedzialnego wykorzystania AI?

Odpowiedzi generatywne obejmują różne zabezpieczenia, aby zapewnić administratorom, twórcom i użytkownikom bezpieczne i zgodne środowisko. Administratorzy mają pełną kontrolę nad funkcjami w swojej dzierżawie i zawsze mogą wyłączyć możliwość publikowania agentów z odpowiedziami generatywnymi w swojej organizacji. Twórcy mogą dodawać niestandardowe instrukcje, aby wpływać na typy odpowiedzi zwracanych przez ich agentów. Aby uzyskać więcej informacji na temat najlepszych praktyk dotyczących pisania niestandardowych instrukcji, zobacz Użyj modyfikacji monitów, aby dostarczyć agentowi niestandardowe instrukcje.

Twórcy mogą również ograniczyć źródła wiedzy, których agenci mogą używać do odpowiadania na pytania. Aby umożliwić agentom odpowiadanie na pytania poza zakresem skonfigurowanych źródeł wiedzy, twórcy mogą włączyć funkcję Zezwalaj na odpowiedzi bez uprawnień . Aby ograniczyć agentów tylko do odpowiadania na pytania w zakresie skonfigurowanych źródeł wiedzy, twórcy powinni wyłączyć tę funkcję.

Copilot Studio stosuje również zasady moderowania treści we wszystkich żądaniach generatywnej sztucznej inteligencji, aby chronić administratorów, twórców i użytkowników przed obraźliwymi lub szkodliwymi treściami. Te zasady moderowania zawartości obejmują również złośliwe próby łamania zabezpieczeń, wstrzykiwania komend, wyprowadzania danych i naruszania praw autorskich. Cała zawartość jest sprawdzana dwukrotnie: po raz pierwszy podczas wprowadzania danych przez użytkownika i ponownie, gdy agent ma zamiar odpowiedzieć. Jeśli system znajdzie szkodliwą, obraźliwą lub złośliwą zawartość, uniemożliwi agentowi udzielenie odpowiedzi.

Na koniec najlepszym rozwiązaniem jest komunikowanie się użytkownikom z użyciem sztucznej inteligencji przez agenta, więc następujący komunikat domyślny informuje użytkowników: "Po prostu wiesz, że czasami używam sztucznej inteligencji do odpowiadania na pytania".

  • Ostatnia aktualizacja o