Co to jest optymalizator agenta? (wersja zapoznawcza)

Optymalizator agentów w usłudze Foundry Agent Service automatycznie ulepsza agentów opartych na promptach i agentów hostowanych, oceniając ich działanie i generując lepsze konfiguracje. W zależności od typu agenta te konfiguracje mogą obejmować ulepszone instrukcje, umiejętności, opisy narzędzi i wybór modelu.

Tworzenie efektywnych agentów sztucznej inteligencji wymaga rozbudowanej inżynierii monitów. Agent jest wdrażany za pomocą ręcznie wykonanych instrukcji, testowania go w rzeczywistych scenariuszach, identyfikowania słabych stron, poprawiania monitu i powtarzania. Ten proces jest powolny, subiektywny i nie skaluje się. Optymalizator agenta automatyzuje ten cykl, aby skoncentrować się na podstawowej logice agenta.

Obsługiwane typy agentów

Optymalizator używa tej samej pętli poprawy opartej na ocenie dla obu typów agentów, ale konfiguracja, cele optymalizacji i środowisko wdrażania różnią się.

Pobudzaj agentów

W przypadku agenta monitu optymalizator ocenia wybraną wersję agenta i generuje alternatywne instrukcje. Może również ulepszać opisy narzędzi do wywoływania funkcji i porównywać prompt w wielu kandydujących wdrożeniach modeli.

Narzędzia prompt-agent do wywoływania funkcji działają po stronie klienta. Optymalizator może ulepszyć opisy narzędzi i parametrów, które sterują wywołaniami funkcji przez model, ale nie może ocenić wykonania narzędzia podczas optymalizacji opisów narzędzi.

Uruchom kreatora optymalizacji z karty Optymalizacja agenta w portalu Foundry. Kreator prowadzi Cię przez wybór wersji agenta, zestawu danych, kryteriów oceny i modeli optymalizacji, zanim prześlesz uruchomienie. Możesz wygenerować zestaw danych na podstawie śladów agenta, wybrać istniejący zestaw danych Foundry lub przesłać zestaw danych w kreatorze.

Po zakończeniu uruchomienia porównaj zmiany wyników, przejrzyj prompt w wersji przed i po zmianach oraz sprawdź wyniki dla poszczególnych ewaluatorów. Następnie można promować wybranego kandydata do nowej wersji agenta promptu utworzonej w ramach przebiegu optymalizacji.

Aby zapoznać się z pełnym procesem w portalu, zobacz Skrócony przewodnik: optymalizowanie agenta opartego na promptach.

Hostowani agenci

W przypadku agenta hostowanego optymalizator optymalizuje konfigurację, którą kod ładuje w czasie wykonywania. Agent potrzebuje pakietu optymalizacji i konfiguracji punktu odniesienia, która uwidacznia instrukcje i, opcjonalnie, umiejętności i definicje narzędzi wywołujących funkcje. Zestaw narzędzi Foundry Toolkit może automatycznie utworzyć szkielet tej integracji. W przepływie pracy Azure Developer CLI dodaj integrację przed uruchomieniem optymalizatora. Optymalizator może następnie generować i oceniać konfiguracje kandydatów bez zmiany podstawowej logiki agenta.

Optymalizacja agenta hostowanego obsługuje lokalne zestawy danych JSONL oraz zestawy danych zarejestrowane w projekcie Foundry, w tym zestawy danych do oceny wygenerowane na podstawie śladów. Po uruchomieniu zastosuj wybranego kandydata do konfiguracji lokalnej, przejrzyj zmiany i ponownie wdróż agenta.

Aby poznać kompleksowy proces korzystania z hostowanego agenta, zobacz Szybki start: Optymalizacja hostowanego agenta.

Proces optymalizacji

Oba typy agentów podążają tą samą ogólną ścieżką:

1. Wybierz bazową wartość agenta. Wybierz wersję prompt-agent lub konfigurację agenta hostowanego, względem której porównujesz kandydatów.
2. Wybierz zestaw danych oceny. Użyj reprezentatywnych zadań z istniejącego lub przekazanego zestawu danych. Można również użyć zarejestrowanego zestawu danych wygenerowanego na podstawie śladów agenta.
3. Wybierz kryteria oceny. Wybierz wbudowane lub niestandardowe ewaluatory, które mierzą zachowania, które chcesz ulepszyć.
4. Uruchom optymalizator. Wybierz dostępne cele i modele optymalizacji, a następnie wygeneruj i oceń kandydatów. W przypadku agentów opartych na promptach przed wysłaniem uruchomienia sprawdź w portalu szacunek kosztów.
5. Przejrzyj wyniki. Porównaj wyniki kandydatów z punktem odniesienia, a następnie wybierz najlepszego kandydata. Jeśli jest dostępna, zapoznaj się z użyciem mierzonego tokenu po uruchomieniu. Zobacz Omówienie wyników optymalizacji.
6. Zastosuj wybranego kandydata. Awansuj kandydata agenta promptu do nowej wersji agenta lub zastosuj konfigurację agenta hostowanego i wdroż go ponownie.

Hostowani agenci wymagają integracji kodu gotowego do optymalizacji. Zestaw narzędzi Foundry automatycznie tworzy szkielet tej integracji po rozpoczęciu optymalizacji. W przypadku przepływu pracy w Azure Developer CLI przed rozpoczęciem dodaj pakiet optymalizacji i konfigurację bazową. Zobacz Przygotuj agenta do współpracy z optymalizatorem. Agenci promptów nie wymagają tej integracji z kodem.

Jak działa optymalizator agenta

Optymalizator agenta uruchamia zamknięty cykl oceny i doskonalenia:

1. Oceń poziom bazowy. Optymalizator uruchamia Twojego agenta na zbiorze zadań i ocenia każdą odpowiedź według określonych przez Ciebie kryteriów lub wbudowanego zestawu domyślnych kryteriów. Wartość bazowa to wynik Twojego agenta przed wprowadzeniem jakichkolwiek zmian.
2. Generowanie kandydatów. Optymalizator tworzy alternatywne konfiguracje nazywane kandydatami, takie jak instrukcje przepisane, odnalezione umiejętności, ulepszone opisy narzędzi lub różne wybory modelu. Dostępne typy kandydatów zależą od typu agenta.
3. Oceń kandydatów. Optymalizator testuje każdego kandydata na ten sam zestaw danych.
4. Klasyfikacja i rekomendacja. Optymalizator klasyfikuje wyniki według wyniku złożonego, czyli wartości z zakresu od 0,0 do 1,0, która reprezentuje zagregowaną wydajność, i oznacza najlepszy kandydat z wartością ★ . Następnie wdrażasz zwycięski wariant.

Cały proces odbywa się w chmurze. Czas wykonywania zależy od rozmiaru zestawu danych, liczby kandydatów i wybranych modeli.

W przypadku hostowanych agentów, gdy przygotujesz agenta do działania z optymalizatorem, między kolejnymi uruchomieniami nie są potrzebne żadne dalsze zmiany w kodzie. load_config() normalnie zwraca konfigurację bazową i podczas działania dostarcza zoptymalizowaną konfigurację bez flag funkcji ani logiki warunkowej.

Cele optymalizacji

Element docelowy optymalizacji to konkretny aspekt konfiguracji agenta, który może poprawić optymalizator. Dostępne cele zależą od typu agenta. W przypadku hostowanych agentów optymalizator automatycznie aktywuje odpowiednie cele na podstawie konfiguracji punktu odniesienia i ustawień eval.yaml.

Informacje o bazowych danych wejściowych hostowanego agenta można znaleźć w artykule Przygotuj agenta do współpracy z optymalizatorem. Aby uruchomić i skonfigurować cele hostowanego agenta, zobacz Optymalizowanie instrukcji agenta, umiejętności, narzędzi i modeli.

Modele

Optymalizator agenta używa dwóch modeli podczas uruchamiania optymalizacji. Oba muszą zostać wdrożone w projekcie Foundry.

Model oceny jest uruchamiany raz dla każdego ewaluatora, zadania i oceny kandydata. Odczytuje odpowiedź agenta i każde kryterium, a następnie zwraca wynik binarny. Model optymalizacji analizuje wyniki bazowe i generuje ulepszone warianty dla skonfigurowanych elementów docelowych, w tym instrukcji, umiejętności, narzędzi i modeli. Ponieważ analizuje cały zbiór danych, bardziej zaawansowany model optymalizacyjny zwykle generuje lepsze rozwiązania.

W przypadku agentów monitów wybierz model oceny i modele kandydatów w kreatorze optymalizacji. W przypadku hostowanych agentów określ modele w elemencie eval.yaml lub za pomocą flag CLI. Ustawienie optimization_model jest wymagane w przypadku uruchamiania agenta hostowanego. Aby uzyskać instrukcje konfiguracji, zobacz Wybieranie modeli oceny i optymalizacji.

Omówienie wyników optymalizacji

W tej sekcji opisano tabelę wyników, sposób obliczania wyniku złożonego oraz sposób interpretowania ulepszeń.

W przypadku agentów monitów ukończony przebieg przedstawia wyniki punktu odniesienia i kandydata, porównanie przed i po wyświetleniu monitu, modelu i narzędzi oraz oceny poszczególnych ewaluatorów.

W przypadku hostowanych agentów interfejs wiersza polecenia wyświetla również tabelę wyników:

Results:
  Candidate              Score  Eval  Strategy
  ──────────────────── ───────  ────  ────────
  baseline                0.93  View
  candidate_1             0.90  View  skill_policy-reviewer
  candidate_2 ★           0.94  View  skill_policy-reviewer, tools
  candidate_3             0.94  View  skill_policy-reviewer, system_prompt, tools
  candidate_4             0.93  View  skill_policy-reviewer, tools

  Candidate IDs:
      baseline             cand_a8a951...
      candidate_1          cand_8d5c85...
    ★ candidate_2          cand_a0ea2e...
      candidate_3          cand_2ae7bb...
      candidate_4          cand_0f6485...

  Apply the best candidate locally, then deploy:
    azd ai agent optimize apply --candidate cand_a0ea2e...
    azd deploy

Kolumny tabeli wyników

Oznacza ★ kandydata z najwyższym wynikiem złożonym. To jest zalecana wersja do wdrożenia.

Jak są obliczane wyniki

Każdy ewaluator w zestawie danych generuje nieprzetworzone wyniki odpowiedzi agenta. Optymalizator przetwarza te wyniki w celu wygenerowania złożonego wyniku pokazanego w wynikach:

• Przeskalowanie: surowy wynik każdego oceniającego jest przeskalowywany do zakresu 0–1.
• Przerzuć w razie potrzeby: jeśli ewaluator jest skonfigurowany tak, aby niższy był lepszy, wynik jest przerzucany tak, aby wszyscy ewaluatorzy używali semantyki "wyższe jest lepsze".
• Średnia: Wyniki przeskalowane ponownie we wszystkich ewaluatorach i zadaniach są uśredniane w celu wygenerowania złożonego wyniku.

Wynik łączny: Średnia wszystkich przeskalowanych wyników ewaluatora we wszystkich zadaniach.

Interpretuj ulepszenia wyniku

Kompromisy związane z tokenami

Zoptymalizowane instrukcje są często dłuższe i bardziej szczegółowe, co może zwiększyć użycie tokenu odpowiedzi. Rozważ następujące czynniki:

• Czy wzrost tokenu jest proporcjonalny do poprawy oceny
• Czy wzrost kosztów pasuje do budżetu
• Czy odpowiedzi są niepotrzebnie rozwlekłe, czy też ich większa długość wnosi wartość

Aby uzyskać szczegółowe informacje na temat zakresu kosztów przed uruchomieniem i zmierzonego użycia po uruchomieniu, zobacz Szacunkowe koszty i użycie tokenów w optymalizatorze agentów.

Ograniczenia i dostępność

• Optymalizator agentów obsługuje agentów opartych na promptach i agentów hostowanych w wersji zapoznawczej.
• Uruchomienia optymalizacji promptu agenta rozpoczynają się w portalu Foundry. Możesz awansować wybranego kandydata na nową wersję agenta na podstawie ukończonego uruchomienia.
• Optymalizacja hostowanego agenta jest dostępna we wszystkich regionach, w których są dostępni hostowani agenci, z wyjątkiem Norwegii Wschodniej.
• Optymalizacja hostowanego agenta wymaga protokołu Responses.

Treści powiązane

• Szybki start: tworzenie agenta monitu
• Szybki start: optymalizowanie agenta monitu
• Szybki start: optymalizowanie hostowanego agenta
• Szacowanie kosztów i użycia tokenów optymalizatora agenta
• Przygotuj swojego agenta do współpracy z optymalizatorem
• Tworzenie zestawu danych oceny i ewaluatorów
• Optymalizowanie instrukcji agenta, umiejętności, narzędzi i modeli
• Konwertuj ślady agenta na zestawy danych do oceny
• Przeprowadzanie ocen agentów za pomocą narzędzia wiersza polecenia azd