Najlepsze praktyki w zakresie poprawy wydajności agentów konwersacyjnych

Unikaj problemów z wydajnością agentów konwersacyjnych, rozumiejąc typowe punkty awarii i stosując się do najlepszych praktyk.

Normy i limity

Zrozum przydziały i limity, takie jak RPM (żądania na minutę, gdzie żądanie to wiadomość wysyłana do agenta) oraz liczbę żądań Power Platform dozwolonych w ciągu 24 godzin.

Limity kwot mają zastosowanie do agentów wraz z ograniczeniami pojemności, które towarzyszą planowi Microsoft Copilot Studio.

Optymalizuj swojego agenta pod kątem wydajności

Aby zoptymalizować wydajność swojego agenta, zastosuj się do następujących najlepszych praktyk:

• Umieszczaj strategicznie wywołania API i wywołania łącznika w swoich przepływach konwersacji, aby nie zmuszać użytkowników do czekania na wielokrotne ukończenia.
• Tam, gdzie to możliwe, korzystaj z pamięci podręcznej, aby przechowywać pobrane informacje za pomocą zmiennych, zamiast wykonywać wiele wywołań API lub sekcji procesów.
• Przepływy w chmurze wywoływane z agentów programu Copilot Studio mogą wprowadzać opóźnienia. Rozważ użycie bezpośrednich wywołań łączników lub węzła Wyślij żądanie HTTP.
• Zapoznaj się z kompromisem wydajności i złożoności klasycznym NLU i orkiestracją generatywną w programie Copilot Studio. Modele rozumienia języka naturalnego (NLU) dobrze radzą sobie z konkretnymi intencjami, ale mają trudności ze złożonymi zapytaniami. Modele generatywnej AI obsługują szerszy zakres wejść, ale mogą wprowadzać opóźnienia.
• Włącz tryb ekspresowy.

Optymalizuj swój przepływ w chmurze pod kątem wydajności

Jeśli agent wywołuje przepływ Power Automate, upewnij się, że przepływy w chmurze są zoptymalizowane.

• Upewnij się, że znasz limity dławienia i pojemności w Power Automate i Power Platform. Przestrzeganie tych ograniczeń poprawia skalowalność przepływu i wydajność.

• Dowiedz się więcej o rozwiązywaniu problemów z wolno działającymi przepływami.