Zastosowanie możliwości orkiestracji generatywnej

Dotyczy tylko:Standardowa uprząż

Orkiestracja generatywna to ewolucja rozwoju agentów konwersacyjnych w Copilot Studio. Wprowadza warstwę planowania napędzaną przez duży model językowy (LLM), która interpretuje intencje użytkownika, rozkłada złożone żądania, wybiera odpowiednie narzędzia i wiedzę oraz realizuje plany wieloetapowe, wykorzystując zabezpieczenia dla bezpieczeństwa i zgodności. Zamiast polegać wyłącznie na ręcznie przygotowanych tematach rozmów, generatywna orkiestracja komponuje wielokrotnego użytku elementy budulcowe—działania, tematy, źródła wiedzy, agentów potomnych i autonomiczne wyzwalacze—w inteligentne procesy pracy.

W programie Copilot Studio włączenie generatywnej orkiestracji zapewnia lepsze odpowiedzi przy mniejszym zapotrzebowaniu na ręczne tworzenie skryptów. W tym artykule poznasz architekturę generatywnej orkiestracji oraz jak tworzyć skuteczne instrukcje i testować oraz dostosowywać swoich agentów orkiestrowanych.

Dlaczego generatywna orkiestracja ma znaczenie?

Tradycyjne projekty oparte na tematach wymagają wielu ręcznie tworzonych tematów, sztywnego rozgałęzienia oraz ręcznej logiki wypełniania slotów. Takie podejście może prowadzić do:

• Duże inwentarze tematów z nakładającą się logiką.
• Trudności w radzeniu sobie z niejednoznacznymi lub wielointencyjnymi wypowiedziami.
• Niespójne doświadczenia, gdy użytkownicy inaczej formułują pytania.
• Wysokie koszty utrzymania przy zmianie API lub zasad biznesowych.

Orkiestracja generatywna rozwiązuje te wyzwania przez:

• Zmniejszenie rozrostu tematów poprzez tworzenie klocków konstrukcyjnych wielokrotnego użytku.
• Automatyzacja wypełniania slotów na podstawie definicji wejściowych.
• Dynamiczne dostosowywanie stylu odpowiedzi i struktury planu.
• Poprawa znaczenia poprzez przywoływanie wiedzy semantycznej.
• Możliwość proaktywnych sugestii dotyczących kolejnych kroków.

Architektura i składniki

Ogólnie rzecz biorąc, agent działający w oparciu o standardowy szkielet składa się z kilku kluczowych elementów, które ze sobą współpracują:

• Standardowa uprząż (planer): Mózg agenta sterowany przez LLM, który przekształca dane dane wejściowe, takie jak wiadomość użytkownika lub zdarzenie, w ustrukturyzowany plan. Mechanizm identyfikuje intencje, wybiera narzędzia, obszary tematyczne lub agentów do wywołania na każdym etapie oraz określa kolejność i przepływ danych między poszczególnymi krokami. Generuje uporządkowaną listę kroków ("plan"), które wykonuje środowisko wykonawcze, i zapewnia, że każdy krok spełnia zasady polityki. Na przykład zabiega o zgodę na wrażliwe działania.

• Warstwa wiedzy: Zestaw źródeł wyszukiwania, takich jak wewnętrzne bazy wiedzy, dokumenty, bazy danych i inne, które agent może zapytać, aby ugruntować swoje odpowiedzi. Uprząż wykorzystuje tę warstwę do pobierania informacji faktycznych lub wskazówek. Wyniki często zawierają cytowania i metadane, które agent może włączyć do odpowiedzi dla przejrzystości. Warstwa wiedzy jest tylko do odczytu i dostarcza dowodów lub kontekstu.

• Narzędzia i łączniki: Działania zewnętrzne, API lub przepływy automatyzacji, które agent może wywołać jako część planu. Każde narzędzie ma zdefiniowany interfejs: parametry wejściowe (z oczekiwanymi typami), zmienne wyjściowe oraz ewentualnie warunki błędu. To w zasadzie "umiejętności" agenta do wykonywania operacji, takich jak wyszukiwanie zamówienia, wysyłanie maila czy uruchamianie skryptu. Należy dokładnie przetestować narzędzia i upewnić się, że zachowują się deterministycznie przy tych samych wejściach, ponieważ uprząż traktuje je jako niezawodne funkcje.

• Tematy i agenci inline: Tematy rozmów lub mini-dialogi wielokrotnego użytku, które zawierają określoną logikę. W generatywnej orkiestracji planista może wywoływać tematy nie tylko za pomocą fraz wyzwalających, ale także wtedy, gdy opisany cel odpowiada potrzebom użytkownika. Agenci inline odnoszą się do małych, skoncentrowanych tematów lub rutyn stosowanych jako podetapy w ramach większego planu. Działają one w kontekście głównego agenta i obsługują pojedyncze zadania, dzięki czemu harness nie musi wprost skryptować tych szczegółów.

• Wyzwalacze zdarzeń (autonomia): Mechanizmy uruchamiające uprzęż bez komunikatu użytkownika. Mechanizmy te mogą być zaplanowanymi lub zdarzowymi wyzwalaczami, jak aktualizacja rekordu bazy danych, które powodują, że agent automatycznie uruchamia plan. Każdy wyzwalacz może mieć własne warunki i instrukcje. Autonomiczne wyzwalacze pozwalają agentowi działać proaktywnie, inicjując przepływy pracy po spełnieniu określonych warunków, zamiast reagować wyłącznie na dane wejściowe z czatu użytkownika.

Warstwy kontrolne i granice decyzyjne

W agencie klasy produkcyjnej nie pozostawiaj każdej decyzji AI. Zazwyczaj istnieją trzy warstwy kontroli:

• Warstwa deterministyczna: Ta warstwa wykorzystuje tradycyjną, opartą na regułach logikę, którą nadal egzekwujesz dla działań krytycznych lub nieodwracalnych. Na przykład, podczas przetwarzania płatności lub usuwania rekordu, użyj ściśle autorskiego tematu lub przepływu, który wykonuje się krok po kroku bez interpretacji AI. Ta warstwa może również obejmować jawne kontrole lub weryfikacje danych wrażliwych. Jeśli coś musi się wydarzyć dokładnie tak, jak określono, należy to rozwiązać deterministycznie. Skonfiguruj harness tak, aby nie zastępował ani nie zmieniał tych przepływów. W praktyce możesz albo nie przedstawiać takich działań planerowi AI, albo zawsze oplatać je tematem wymagającym potwierdzenia przez użytkownika.

• Warstwa hybrydowa (przechwytująca): Ta warstwa dodaje pewną elastyczność AI dla głównie deterministycznych struktur. Pozwalasz systemowi działać w określonych granicach, z możliwością interwencji człowieka lub na podstawie reguł. Na przykład agent może automatycznie sporządzić odpowiedź lub wykonać jakąś akcję, ale możesz wstawić krok zatwierdzenia, aby menedżer ją przejrzał. Albo agent może wykonać zadanie do określonego limitu, a potem musi eskalować. Warstwa hybrydowa wcześniej określa punkty, w których plan autonomicznego AI jest przerywany w celu weryfikacji. Stosuj takie podejście do procesów o średnim ryzyku: pozwól AI wykonać ciężką pracę, ale trzymaj człowieka w pętli nadzoru.

• Warstwa integracyjna AI: Ta warstwa jest w pełni generatywna. Planista LLM ma swobodę (w ramach wyznaczonych ograniczeń) w tworzeniu i realizacji planów na zapytania o niższym poziomie ryzyka. Większość interakcji pytań i odpowiedzi, wyszukiwań informacji czy prostych wieloetapowych zapytań należy do tej kategorii. W przypadku większości pytań użytkowników agent może autonomicznie zdecydować, jak je rozwiązać i podjąć działania. Ta warstwa zapewnia elastyczność i moc generatywnej AI. Jest związana polityką. Na przykład AI może wiedzieć, że nie wolno jej wywoływać niektórych narzędzi administracyjnych ani ujawniać określonych informacji. Agent nie musi się zatrzymywać i prosić o pozwolenie na rutynowe zadania.

Mając te warstwy, wyraźnie definiuj granice decyzyjne. Spójrz na to, jakie działania i tematy:

• Można je wykonać bez potwierdzenia (AI może je po prostu wykonać)
• Wymagaj potwierdzenia użytkownika w rozmowie (na przykład: "Czy na pewno chcesz usunąć wszystkie rekordy?")
• Wymagaj zatwierdzenia offline (na przykład administrator musi potwierdzić to w procesie zatwierdzania)

Egzekwuj te granice dzięki projektowaniu tematów, na przykład dodając element potwierdzający, poprzez funkcje zatwierdzania na platformie lub logikę w wyzwalaczach. Nakładając kontrolę, zapewniasz, że agent działa bezpiecznie — AI zajmuje się tym, w czym jest dobra, podczas gdy ludzie lub surowe zasady odpowiadają tym, czego AI nie powinna decydować samodzielnie.

Najlepsze praktyki dotyczące instrukcji dla agentów

Prawidłowo napisane instrukcje agenta wpływają na jakość generowania planów.

• Znaczenie kontekstowe

  • Upewnij się, że instrukcje odnoszą się wyłącznie do narzędzi i wiedzy dostępnej agentowi.
  • Używaj dokładnych nazw narzędzi, zmiennych oraz identyfikatorów Power Fx.

• Wytyczne dotyczące rozmowy

  • Określ format odpowiedzi (listy, tabele, pogrubienie).
  • Zapewnij wskazówki stylistyczne ("zwięzłe", "uwzględnij cytowania", "proponuj kolejne kroki").
  • Unikaj bezpośredniego wymieniania konkretnych źródeł wiedzy. Opisz je zamiast tego.

• Określenie, kiedy używać narzędzi lub wiedzy

  • Wolę używać nazw narzędzi. Imiona mają większą wagę niż opisy.
  • Opisuj możliwości wiedzy ogólnie, aby uniknąć błędnych informacji.

• Instrukcje wykonania autonomicznego

  • Zdefiniuj oczekiwaną kolejność działań dla wieloetapowych przepływów pracy.
  • Połącz instrukcje procesu z konkretnymi promptami.

Dowiedz się więcej w Konfiguruj wysokiej jakości instrukcje dla generatywnej orkiestracji.

Projektowanie wejść i wyjść dla tematów

Tworząc tematy, zwracaj szczególną uwagę na ich parametry wejściowe i wyjściowe w trybie generatywnej orkiestracji:

• Zdefiniuj jasne parametry wejściowe z opisami: Jeśli temat lub działanie wymaga określonych informacji (np. "Nazwa użytkownika" dla tematu resetowania hasła), stwórz dla niego wejścia i nadaj mu opisową nazwę oraz przykład. Mechanizm używa tych nazw i opisów, aby automatycznie pytać użytkownika, jeśli brakuje wartości. Użycie listy akceptowanych wartości lub formuły walidacyjnej Power Fx dla danych wejściowych może pomóc upewnić się, że bot zbiera poprawne dane (na przykład ograniczając kod kraju do dwóch liter).

• Korzystaj z automatycznych promptów: W trybie generatywnym agent generuje pytania samodzielnie, zamiast wymagać ręcznego dodawania węzłów pytań, które wyzwalają wyszukiwanie brakujących informacji. To podejście to ogromna zmiana w stosunku do klasycznych botów. Kluczowe jest, aby nazwy danych wejściowych były przyjazne dla człowieka (na przykład "data rozpoczęcia", "adres e-mail"), aby AI mogła naturalnie zadać pytanie. Wygenerowane pytanie może pojawić się, zanim zostanie wyświetlona skonfigurowana treść monitu wejściowego narzędzia. Jeśli pytanie automatycznie generowane przez AI nie jest sformułowane idealnie, rozważ doprecyzowanie opisu lub nazwy wejścia. Gdy użytkownik musi otrzymać ściśle określone sformułowanie, użyj autorskiego węzła Question, aby zebrać dane od użytkownika, zanim temat lub narzędzie zostaną uruchomione. Ta funkcja znacznie usprawnia dialogi, ale opiera się na dobrze określonych wejściach.

• Określ wyniki dla tematów, gdzie to stosowne: Temat może generować zmienne wyjściowe, które wiązka wykorzystuje do kompilacji ostatecznej odpowiedzi. Na przykład temat "Store Finder" może wydać NearestStoreLocation. Wysyłając informacje zamiast bezpośrednio wysyłać wiadomość do użytkownika, pozwalasz uprzężowi na płynne połączenie tych informacji z innymi krokami. Jeśli treść danego tematu jest wykorzystywana w bardziej rozbudowanej odpowiedzi, zapisz ją jako zmienną wyjściową i pozwól mechanizmowi harness obsłużyć końcowy komunikat. Dowiedz się więcej w Orkiestracja zachowania agenta z wykorzystaniem sztucznej inteligencji generatywnej.

• Unikaj "podwójnego obsługiwania" danych w promptach: Jeśli konfigurujesz wyjścia, nie wprowadzaj ich również do LLM jako otwartego kontekstu. Na przykład, jeśli akcja zwraca tekst podsumowujący, przekaż to podsumowanie jako ustrukturyzowany wynik i pozwól, by harness je zawierał, zamiast zapisywać instrukcję typu "Wynik akcji mówi {summary}." Takie podejście zapobiega nadmiernemu generowaniu lub powtarzaniu treści przez model. Wyniki powinny być ostatecznymi punktami danych, gdy tylko to możliwe.

Łączenie działań, tematów i wiedzy

Ponieważ uprząż może wykorzystać wiele funkcji w jednym obrócie, projektuj z myślą o kompozycyjności:

• Nadaj wszystkim intuicyjne nazwy i opisy: Planista w dużej mierze decyduje się o użyciu narzędzia lub tematu na podstawie tego, jak dobrze jego nazwa i opis odpowiadają żądaniu użytkownika. Używaj aktywnych zwrotów, które są zgodne z intencjami użytkowników. Na przykład narzędzie o nazwie "TranslateText" z opisem "Translates text to a defined language" jest bardziej prawdopodobne, że zostanie wybrane podczas pytania użytkownika o tłumaczenie, w przeciwieństwie do ogólnej nazwy "Flow1". Imiona są ważniejsze niż cokolwiek innego. Unikaj zagadkowych nazw. Jeśli agent wybierze niewłaściwy temat, warto wrócić do tych nazwisk i opisów.

• Zapewnij bogaty "zestaw narzędzi", ale dostosuj go: połącz wszystkie przydatne działania, których może potrzebować Twój scenariusz (API, przepływy itd.), i twórz tematy dla ważnych przepływów. Takie podejście daje AI więcej możliwości rozwiązywania zapytań. Jednak usuń lub wyłącz narzędzia i tematy, które wiesz, że są nieistotne lub ryzykowne dla agenta, aby nie wprowadzały planisty w błąd. Mniejszy zestaw wysokiej jakości wyborów jest lepszy niż wyczerpujący zestaw z nakładającymi się elementami. Nakładające się opisy mogą sprawić, że agent będzie próbował wielu rzeczy jednocześnie, co może być niepożądane.

• Zaufaj planerowi, w rozsądnych granicach: Gdy komponenty są dobrze zdefiniowane, pozwól frameworkowi dowolnie je łączyć i dopasowywać. Na przykład, jeśli użytkownik zapyta o coś, co można rozwiązać artykułem wiedzy lub interfejsem API danych na żywo, planista może wybrać oba te rozwiązania — pobieranie wiedzy jako kontekstu i wywoływanie API dla aktualnych informacji. Takie podejście może dać lepszą odpowiedź. Zaakceptuj tę autonomię, ale od początku obserwuj, by mieć pewność, że podejmowane są dobre decyzje.

• Obsługa wielu intencji: Jeśli zapytanie użytkownika z natury wymaga dwóch oddzielnych rzeczy (np. "otwórz nowe konto i prześlij mi szczegóły"), generatywny planer próbuje zrealizować obie, wywołując odpowiednie sekwencje na kolejno. Nie musisz ręcznie pisać skryptów do rozgałęzień dla wielu intencji. Twoim zadaniem jako programisty jest zapewnienie, że każde podzadanie (otwarcie konta, przesyłanie szczegółów) jest pokryte jakimś narzędziem lub tematem, a ich wyniki i wejścia są połączone, jeśli jest to potrzebne.

• Niech wiedza uzupełnia zagadnienia i narzędzia: Framework może proaktywnie wywoływać wyszukiwanie wiedzy, a nie tylko jako rozwiązanie awaryjne. Jeśli masz skonfigurowaną bogatą bazę wiedzy, agent może odpowiedzieć na część zapytania fragmentem artykułu wiedzy, nawet jeśli akcja obejmuje inną część. Jest to zamierzone działanie. Utrzymuj swoją bazę wiedzy na bieżąco, dostarczając informacje, które nie są łatwo dostępne za pomocą narzędzi.

• Pamiętaj o zakresie wykorzystania wiedzy: Obecnie nie możesz zmusić agenta do korzystania z konkretnego artykułu wiedzy na żądanie. AI wybiera odpowiednie artykuły na podstawie zapytania. Zwróć też uwagę na ograniczenia. Na przykład tematy systemowe takie jak "Wiele tematów dopasowanych" nie są używane w trybie generatywnym, ponieważ planer inaczej obsługuje rozstrzyganie. Dowiedz się więcej o innych znanych ograniczeniach generatywnej orkiestracji.

Testowanie i dostosowanie agenta orkiestrowanego

Orkiestracja generatywna przesuwa część logiki z jawnego projektu do "mózgu" AI. Testowanie iteracyjne zapewnia, że zachowuje się zgodnie z zamierzeniem. Oto najlepsze praktyki testowania i ulepszania agenta orkiestracyjnego:

• Korzystaj z mapy aktywności: Copilot Studio udostępnia mapę aktywności podczas testów, która pokazuje kroki wybrane przez uprzęż. Po zadaniu agentowi skomplikowanego pytania, sprawdź plan: Jakie tematy lub działania zostały w nim podejmowane? W jakiej kolejności? Czy zadano odpowiednie pytanie uzupełniające? Jeśli agent wybrał zły temat lub przeoczył narzędzie, możesz potrzebować dopracować opisy komponentów lub dostosować instrukcje.

• Przeglądaj transkrypcje: Po publikacji agenta przeglądaj regularnie transkrypcje rozmów lub logi. Szukaj halucynacji lub nieścisłości w odpowiedziach. Jeśli użytkownicy udzielają informacji zwrotnej typu "to nie jest poprawne", sprawdź, dlaczego agent tak uznał. Rozwiązuj problemy, dodając brakujące fakty do bazy wiedzy, doprecyzowując instrukcje lub, w niektórych przypadkach, dodając nowy temat, aby zapełnić lukę. Dowiedz się więcej w Extract and analyze transkrypty rozmów agentów (architektura referencyjna).

• Iteruj drobnymi zmianami: Często możesz ulepszyć czynnik generatywny, wprowadzając subtelne zmiany. Na przykład, jeśli wyjście agenta jest zbyt rozwlekłe lub nie w pożądanym formacie, zmodyfikuj instrukcje dotyczące stylu i formatu i przetestuj ponownie. Jeśli za każdym razem wywołuje niepotrzebne narzędzie, może opis narzędzia jest zbyt szeroki i można je doprecyzować, by było wywoływane tylko wtedy, gdy jest to stosowne. Wprowadzaj zmiany po kolei i zauważaj wpływ na decyzje agenta.

• Dostarczaj przykładowe wypowiedzi (ostrożnie): Możesz zauważyć, że dodanie kilku przykładowych zapytań użytkownika do opisu tematu pomoże LLM zrozumieć, kiedy użyć danego tematu. Na przykład: "Cel: Zresetuj hasło użytkownika. Np. użytkownik może powiedzieć 'Zapomniałem hasła' albo 'zresetuj dostęp do konta Contoso.'" Te przykłady dają modelowi dodatkowe wskazówki. Nie przesadzaj i staraj się, aby opisy były zwięzłe i skoncentrowane. Model ma już dużo kontekstu — po prostu upewnij się, że metadane są jasne.

• Monitoruj wskaźniki wydajności: W miarę wzrostu wykorzystania obserwuj kluczowe wskaźniki, takie jak wskaźnik sukcesu (czy agent faktycznie rozwiązał żądanie użytkownika?), wskaźnik rezerwowy (jak często pojawił się komunikat "Przepraszam, nie mogę pomóc") oraz satysfakcja użytkownika, jeśli jest dostępna. Nawet podczas testów proste liczenie częstotliwości używania każdego tematu i narzędzia może wskazywać na potrzebne korekty. Na przykład, jeśli zbyt często pojawia się błahy temat do small talk, który powoduje szum, wyłącz go lub zawęź jego opis. Przejrzyj wskazówki, jak testować wyniki swoich agentów.

Systemy generatywne uczą się pośrednio na podstawie twoich konfiguracji i poprawek. Każda poprawa instrukcji lub metadanych sprawia, że kolejna decyzja AI jest lepsza. Z czasem Twój zorkiestrowany agent staje się dokładniejszy i bardziej efektywny w obsłudze zapytań.

Niestandardowe wyzwalacze w generatywnej orkiestracji

Wyzwalacze tematyczne są dostępne specjalnie do generatywnej orkiestracji. Dzięki tym wyzwalaczom możesz podłączyć się do cyklu życia agenta i wprowadzać własną logikę w kluczowych momentach procesu orkiestracji. Dostępne są trzy główne wyzwalacze:

Bardziej generatywne możliwości orkiestracji

Pogłębij wiedzę na temat modelu aranżacji programu Copilot Studio dzięki zaawansowanym funkcjom, które rozszerzają sposób planowania, działania i współpracy agentów:

• Projektuj autonomiczne możliwości agentów: Buduj agentów działających proaktywnie, wykorzystując wyzwalacze, granice decyzyjne i bariery zabezpieczające.
• Poznaj wzorce orkiestracji wieloagentowej: Dowiedz się, jak wielu agentów koordynuje zadania, deleguje zadania i wymienia kontekst, aby rozwiązać złożone procesy pracy.
• Zarządzaj kontekstem w standardowym zakresie: Rozumiej, jak rozprowadzany jest kontekst, projektuj tak, aby unikać duplikatów wiadomości i nieudanych odpowiedzi, zarządzaj kontekstem między subagentami oraz rozwiązuj problemy.
• Łączenie z niestandardowymi źródłami wiedzy: użyj OnKnowledgeRequested wyzwalacza, aby zintegrować własne interfejsy API wyszukiwania i źródła danych z procesem pobierania wiedzy agenta.

Informacje pokrewne

• Używanie orkiestracji generatywnej AI — często zadawane pytania
• Orkiestracja zachowania agenta za pomocą generatywnej AI
• Konfiguruj wysokiej jakości instrukcje do generatywnej orkiestracji