Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Aktualnie wyświetlane:
Wersja - Przełączanie do wersji dla nowego portalu Foundry
Większość firm nie chce tylko czatbotów. Chcą, aby automatyzacja stała się szybsza i zawiera mniej błędów. To pragnienie może oznaczać podsumowanie dokumentów, przetwarzanie faktur, zarządzanie biletami pomocy technicznej lub publikowanie wpisów w blogu. We wszystkich przypadkach celem jest to samo: zwalnianie osób i zasobów w celu skupienia się na pracy o wyższej wartości poprzez odciążanie powtarzających się i przewidywalnych zadań.
Duże modele językowe (LLM) przedstawiają nowy typ automatyzacji z systemami, które mogą zrozumieć dane bez struktury, podejmować decyzje i generować zawartość. W praktyce firmy mogą mieć trudności z przejściem poza pokazy i do produkcji. LLM-y mogą dryfować, być niepoprawne i brakują odpowiedzialności. Bez widoczności, wymuszania zasad i orkiestracji te modele są trudne do zaufania w rzeczywistych przepływach pracy biznesowych.
Microsoft Foundry ma to zmienić. Jest to platforma łącząca modele, narzędzia, struktury i ład w ujednolicony system do tworzenia inteligentnych agentów. W centrum tego systemu znajduje się usługa agenta programu Foundry, która umożliwia działanie agentów między programowaniem, wdrażaniem i produkcją.
Usługa agenta łączy podstawowe elementy narzędzia Foundry, takie jak modele, narzędzia i struktury, w jednym środowisku uruchomieniowym. Zarządza konwersacjami, organizuje wywołania narzędzi, wymusza bezpieczeństwo zawartości i integruje się z systemami tożsamości, sieci i możliwości obserwacji. Te możliwości ułatwiają tworzenie agentów, którzy są bezpieczni, skalowalni i gotowi do produkcji.
Abstrahując złożoność infrastruktury i zapewniając zaufanie i bezpieczeństwo przez zaprojektowanie, usługa agenta może pomóc w przejściu z prototypu do środowiska produkcyjnego z pełnym zaufaniem.
Wymagania wstępne
- Subskrypcja Azure z uprawnieniami do tworzenia zasobów usługi Foundry i zarządzania nimi.
- Projekt Foundry. Jeśli jeszcze go nie utworzono, zacznij od konfiguracji środowiska.
- Wdrożony model, którego może używać agent. Dostępność modelu i regionu może się różnić; zobacz modele, które informują agentów.
Dostępność, regiony i limity
Możliwości usługi agenta mogą się różnić w zależności od korzystanego środowiska Foundry oraz wybranego modelu i regionu.
- Aby zapoznać się z zagadnieniami dotyczącymi limitów usług, przydziałów i ograniczeń, zobacz Limity i przydziały dla usługi Agent Service.
- Aby uzyskać pomoc techniczną dotyczącą modelu i regionu, zobacz modele, które informują agentów.
Jeśli tworzysz pierwszego agenta, zacznij od linków szybkiego startu w artykule Rozpocznij korzystanie z usługi agenta Foundry, aby upewnić się, że jesteś na właściwej ścieżce API odpowiedniej dla twojego doświadczenia z Foundry.
Co to jest agent sztucznej inteligencji?
Agenci podejmują decyzje, wywołują narzędzia i uczestniczą w przepływach pracy. Wykonują te zadania czasami niezależnie, a czasami we współpracy z innymi agentami lub ludźmi. Są one podstawą prawdziwej automatyzacji procesów.
Agenci tworzony za pomocą rozwiązania Foundry nie są monolitami. Są to jednostki komponowalne. Każdy agent ma określoną rolę, jest obsługiwany przez odpowiedni model i jest wyposażony w odpowiednie narzędzia. Każdy agent jest wdrażany w bezpiecznym, obserwowalnym i zarządzalnym środowisku uruchomieniowym.
Agent ma trzy podstawowe składniki:
- Model (LLM): umożliwia rozumowanie i rozumienie języka.
-
Instrukcje: Definiowanie celów, zachowania i ograniczeń agenta. Mogą mieć następujące typy:
- Deklaracyjne:
- Oparte na monitach: deklaratywnie zdefiniowany pojedynczy agent, który łączy konfigurację modelu, instrukcje, narzędzia i monity języka naturalnego w kierowanie zachowaniem.
- Przepływ pracy: agentowy przepływ pracy, który można wyrazić jako kod YAML lub inny kod w celu koordynowania wielu agentów razem lub wyzwalania akcji na podstawie określonych kryteriów.
- Hostowane: konteneryzowani agenci, którzy są tworzeni i wdrażani w kodzie i są hostowani przez usługę Foundry.
- Deklaracyjne:
- Narzędzia: pozwól agentowi pobrać wiedzę lub podjąć działania.
Agenci otrzymują nieustrukturyzowane dane wejściowe, takie jak monity użytkownika, alerty lub komunikaty od innych agentów. Tworzą dane wyjściowe w postaci wyników lub komunikatów narzędzia. Po drodze mogą wywoływać narzędzia do wykonywania odzyskiwania danych lub wykonywania akcji.
Jak działają agenci w narzędziu Foundry?
Pomyśl o Foundry jako linii montażowej dla inteligentnych agentów. Podobnie jak każda nowoczesna fabryka, Foundry łączy wyspecjalizowane stacje, które są odpowiedzialne za kształtowanie części produktu końcowego. Zamiast maszyn i przenośników taśmowych fabryka agentów używa modeli, narzędzi, zasad i aranżacji do tworzenia agentów, które są bezpieczne, testowalne i gotowe do produkcji. Oto jak działa fabryka krok po kroku:
1. Modele
Linia montażowa zaczyna się po wybraniu modelu, który nadaje agentowi inteligencję. Wybierz spośród rosnącego katalogu dużych modeli językowych (LLMs), w tym GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) i innych, takich jak Llama. Model jest podstawą rozumowania agenta, który informuje o jego decyzjach.
2. Możliwość dostosowywania
Kształtowanie modelu w celu dopasowania go do przypadku użycia. Dostosuj agenta za pomocą dostrajania, destylowania lub monitów specyficznych dla domeny. Zakoduj zachowanie agenta, wiedzę specyficzną dla roli i wzorce z wcześniejszej wydajności przy użyciu danych przechwyconych z rzeczywistej zawartości konwersacji i wyników narzędzi.
3. Wiedza i narzędzia
Wyposażyć agenta w narzędzia. Te narzędzia umożliwiają agentowi uzyskiwanie dostępu do wiedzy przedsiębiorstwa (np. Bing, SharePoint i Wyszukiwanie AI platformy Azure) oraz wykonywanie rzeczywistych akcji (za pośrednictwem Azure Logic Apps, Azure Functions, interfejsu OpenAPI i nie tylko). Ten krok zwiększa zdolność agenta do rozszerzania jego możliwości.
4. Orkiestracja
Agent potrzebuje koordynacji. Agenci połączeni organizuje pełny cykl życia, taki jak obsługa wywołań narzędzi, aktualizowanie stanu konwersacji, zarządzanie ponownymi próbami i rejestrowanie danych wyjściowych.
5. Obserwacja
Testowanie i monitorowanie agentów. Narzędzie Foundry może przechwytywać dzienniki, ślady oraz oceny na każdym etapie. Dzięki pełnej widoczności na poziomie konwersacji i integracji usługi Application Insights zespoły mogą sprawdzać każdą decyzję i stale ulepszać agentów w czasie.
6. Zaufanie
Upewnij się, że agenci są odpowiedni i niezawodni dla obciążenia, do którego są przypisani. Usługa Foundry stosuje funkcje zaufania klasy korporacyjnej, w tym tożsamość za pośrednictwem Microsoft Entra, kontroli dostępu opartej na rolach (RBAC), filtrów zawartości, szyfrowania i izolacji sieci. Wybierasz, w jaki sposób i gdzie uruchamiać swoich agentów przy użyciu infrastruktury zarządzanej przez platformę lub własnej infrastruktury.
Wynikiem jest agent gotowy do produkcji: niezawodny, rozszerzalny i bezpieczny do wdrożenia w przepływach pracy.
Dlaczego warto używać usługi agenta Foundry?
Agent Service zapewnia gotową do wdrożenia podstawę do wdrażania inteligentnych agentów w środowiskach korporacyjnych. Oto jak porównuje ona kluczowe możliwości:
| Możliwości | Usługa agenta |
|---|---|
| Wgląd w konwersacje | Pełny dostęp do konwersacji strukturalnych, w tym wiadomości między użytkownikiem a agentem oraz agentem a agentem. Idealne rozwiązanie do obsługi interfejsów użytkownika, debugowania i trenowania. |
| Koordynacja wielu agentów | Wbudowana obsługa obsługi komunikatów między agentami. |
| Orkiestracja narzędzi | Wykonywanie po stronie serwera i ponawianie prób wywołań narzędzi za pomocą rejestrowania strukturalnego. Nie jest wymagana ręczna aranżacja. |
| Zaufanie i bezpieczeństwo | Zintegrowane filtry treści ułatwiające zapobieganie niewłaściwemu używaniu i łagodzenie zagrożeń związanych z wstrzykiwaniem monitów, w tym atakach polegających na krzyżowym wstrzykiwaniu monitów (XPIA). Wszystkie dane wyjściowe podlegają zasadom. |
| Integracja dla przedsiębiorstw | Możliwość korzystania z własnej pamięci masowej, indeksu Wyszukiwanie AI platformy Azure i sieci wirtualnej w celu spełnienia wymagań dotyczących zgodności. |
| Obserwowanie i debugowanie | Pełna możliwość śledzenia konwersacji, wywołań narzędzi i śladów wiadomości; Integracja usługi Application Insights z danymi użycia. |
| Kontrola tożsamości i zasad | Zbudowana na Microsoft Entra z pełną obsługą RBAC (kontrola dostępu oparta na rolach), dzienników inspekcji oraz warunkowego dostępu dla przedsiębiorstw. |
Zabezpieczenia, prywatność i zgodność
Usługa agenta jest przeznaczona dla obciążeń przedsiębiorstwa, w których potrzebne są silne mechanizmy kontroli nad tożsamościami, sieciami, obsługą danych i bezpieczeństwem.
- Mechanizmy kontroli bezpieczeństwa: użyj zintegrowanych filtrów zawartości , aby zmniejszyć niebezpieczne dane wyjściowe i ograniczyć ryzyko związane z wstrzyknięciem monitów, w tym atakami polegającymi na wstrzyknięciu wielu monitów (XPIA).
- Izolacja sieci i kontrola lokalizacji danych: korzystaj z sieci wirtualnych i własnych zasobów, aby spełnić wymagania.
- Przynieś własne zasoby: Użyj własnych zasobów Azure (na przykład magazynu, Wyszukiwanie AI platformy Azure i Azure Cosmos DB do stanu konwersacji), aby spełnić wymagania dotyczące zgodności i potrzeb operacyjnych. Zobacz Korzystanie z własnych zasobów.
- Responsible AI guidance: Aby uzyskać bardziej rozbudowany zestaw zaleceń i zasobów zarządzania, zobacz Responsible AI for Microsoft Foundry.
Rozpocznij pracę z usługą Foundry Agent
Aby rozpocząć pracę z usługą agenta, utwórz projekt Foundry w subskrypcji Azure.
Jeśli tworzysz kod, zobacz zestawy SDK Microsoft Foundry aby uzyskać wskazówki i opcje zestawu SDK.
Jeśli używasz usługi po raz pierwszy, zacznij od przewodnika Szybki start i konfiguracji środowiska.
Utwórz projekt z wymaganymi zasobami. Po utworzeniu projektu wdróż zgodny model, taki jak GPT-4o. Po wdrożeniu modelu możesz rozpocząć wykonywanie wywołań interfejsu API do usługi agenta przy użyciu zestawów SDK.
BCDR dla agentów
Aby zapewnić odporność usług, usługa agenta opiera się na aprowizowanych przez klienta kontach Azure Cosmos DB na potrzeby ciągłości działania i odzyskiwania po awarii (BCDR). Takie podejście pomaga zapewnić, że można zachować i odzyskać stan agenta w przypadku awarii regionalnej.
Jako klient Azure Standard samodzielnie konfigurujesz swoje jednodzierżawowe konto Azure Cosmos DB i zarządzasz nim. Na tym koncie przechowujesz wszystkie stany agenta. Kontrolujesz tworzenie kopii zapasowych i odzyskiwanie za pomocą natywnych funkcji w Azure Cosmos DB.
Jeśli region podstawowy stanie się niedostępny, agent automatycznie łączy się z tym samym kontem Azure Cosmos DB w regionie pomocniczym. Ponieważ usługa Cosmos DB zachowuje całą historię, agent może kontynuować operację z minimalnymi zakłóceniami.
Aprowizacja i obsługa konta Azure Cosmos DB oraz konfigurowanie odpowiednich zasad tworzenia kopii zapasowych i odzyskiwania. Ten wysiłek pomaga zapewnić bezproblemową ciągłość, jeśli region podstawowy stanie się niedostępny.
Aby uzyskać wskazówki dotyczące konfiguracji, zobacz Korzystanie z własnych zasobów i sieci wirtualnych.
Koszty
Korzystanie z usługi agenta może wiązać się z kosztami związanymi z wdrażanym modelem oraz zasobami platformy Azure używanymi dla projektu (na przykład logowania i wszelkich połączonych zasobów zarządzanych przez klienta).
Aby zrozumieć czynniki kosztów i zarządzać nimi, zobacz Planowanie kosztów i zarządzanie nimi.
Rozwiązywanie problemów
Jeśli zablokowano rozpoczęcie pracy, zapoznaj się z następującymi typowymi problemami:
- Model nie jest dostępny w Twoim regionie: zobacz modele dostarczające informacji agentom.
- Żądania są ograniczane lub kończą się niepowodzeniem z powodu limitu przydziału: zobacz Limity przydziału i limity dla usługi agenta.
- Nie można uzyskać dostępu do zasobów lub wdrożeń: Potwierdź przypisania ról i postępuj zgodnie z konfiguracją środowiska.
- Musisz debugować wywołania narzędzi lub zachowanie agenta: zacznij od agentów śledzenia za pomocą zestawu SDK i metryk.