Uwaga dotycząca przezroczystości dla usługi agenta programu Foundry

Co to jest notatka dotycząca przezroczystości?

System sztucznej inteligencji obejmuje nie tylko technologię, ale także osoby, które będą jej używać, osoby, których to dotyczy, oraz środowisko, w którym jest wdrażana. Utworzenie systemu dopasowanego do zamierzonego celu wymaga zrozumienia, jak działa technologia, jakie są jej możliwości i ograniczenia oraz jak osiągnąć najlepszą wydajność. Microsoft Uwagi dotyczące przejrzystości są zaprojektowane, aby pomóc zrozumieć, jak działa nasza technologia sztucznej inteligencji, jak wybory właścicieli systemu mogą wpływać na wydajność i zachowanie systemu oraz jak ważne jest myślenie o całym systemie, w tym o technologii, ludziach i środowisku. Możesz użyć notatek przezroczystości podczas tworzenia lub wdrażania własnego systemu lub udostępniania ich osobom, które będą korzystać z systemu lub mają na nie wpływ.

Microsoft Uwagi dotyczące przejrzystości są częścią szerszego wysiłku Microsoft, aby w praktyce wprowadzić nasze zasady sztucznej inteligencji. Aby dowiedzieć się więcej, zobacz Microsoft zasady sztucznej inteligencji.

Podstawy usługi agenta Foundry

Wprowadzenie

Usługa Foundry Agent to w pełni zarządzana platforma, zaprojektowana w celu umożliwienia deweloperom bezpiecznego tworzenia, wdrażania i skalowania wysokiej jakości oraz elastycznych agentów sztucznej inteligencji, bez konieczności zarządzania bazowymi zasobami obliczeniowymi i przechowywania. Usługa agenta zapewnia zintegrowany dostęp do modeli, narzędzi i technologii i umożliwia rozszerzanie funkcjonalności agentów dzięki wiedzy pochodzącej z połączonych źródeł (takich jak wyszukiwarka Bing, SharePoint, Fabric, Azure Blob Storage i licencjonowane dane) oraz akcje korzystające z narzędzi, takich jak Azure Logic Apps, Azure Functions, określone narzędzia OpenAPI 3.0 i interpreter kodu. Dowiedz się więcej.

Ogólne zastrzeżenie dotyczące agentów

Systemy agentowe sztucznej inteligencji są zaprojektowane do używania możliwości agentowych w celu osiągnięcia celu na wysokim poziomie określonego przez użytkownika. Systemy powinny być zaprojektowane tak, aby umożliwić użytkownikom włączenie nadzoru człowieka odpowiednio do zapewnienia, że system wykonuje działania i zadania zgodnie z oczekiwaniami. Jeśli agent wykazuje niezamierzone lub niepożądane zachowania, użytkownicy powinni mieć możliwość interweniowania i podejmowania odpowiednich środków w celu ograniczenia potencjalnych zagrożeń.

Zastrzeżenie dotyczące agentów w domenach poufnych

Użytkownicy powinni zachować ostrożność podczas projektowania i wdrażania agentowych systemów sztucznej inteligencji w poufnych domenach, w których działania agentów są nieodwracalne lub wysoce znaczące. Takie domeny obejmują, ale nie są ograniczone do finansowania i ubezpieczenia, opieki zdrowotnej, prawa i mieszkalnictwa. Należy również podjąć dodatkowe środki ostrożności podczas tworzenia autonomicznej sztucznej inteligencji, zgodnie z opisem w naszym Kodeksie postępowania. Użytkownik jest odpowiedzialny za przestrzeganie wszystkich obowiązujących przepisów i standardów bezpieczeństwa istotnych dla agentów tworzonych przy użyciu dowolnych narzędzi i rozwiązań usługi Foundry, w tym katalogu agentów, podstawowych przykładów kodu oraz podobnych zasobów i informacji (zobacz poniższe zagadnienia dotyczące wybierania przypadku użycia).

Kluczowe terminy

Poniżej przedstawiono kluczowe składniki pakietu SDK usługi agenta oraz portal Microsoft Foundry obsługiwany przez niego.

Istotne pojęcia dotyczące możliwości

Możliwości

Zachowanie systemu

Usługa agenta zapewnia integrację z bezpiecznie zarządzanymi danymi, wbudowanymi narzędziami i automatycznymi wywołaniami narzędzi, które umożliwiają deweloperom tworzenie agentów, którzy mogą mieć możliwość rozumowania, planowania i wykonywania zadań z celu wysokiego poziomu określonego przez użytkownika. Usługa Agent Service umożliwia szybkie tworzenie agentów dzięki wbudowanemu zarządzaniu pamięcią oraz zaawansowanemu interfejsowi, który zapewnia łatwą integrację z popularnymi platformami obliczeniowymi, łącząc możliwości LLM z działaniami o ogólnym i programowalnym charakterze.

Najważniejsze funkcje usługi agenta obejmują:

1. Szybkie opracowywanie i automatyzowanie procesów: Agenci muszą bezproblemowo integrować się z odpowiednimi narzędziami, systemami i interfejsami API w celu wykonywania deterministycznych lub niedeterministycznych akcji.
2. Integracja z rozbudowanymi łącznikami pamięci i wiedzy: Agenci muszą zarządzać stanem konwersacji i łączyć się z wewnętrznymi i zewnętrznymi źródłami wiedzy, aby mieć odpowiedni kontekst w celu ukończenia procesu.
3. Wybór elastycznego modelu: Agenci skompilowani przy użyciu odpowiedniego modelu do swoich zadań mogą umożliwić lepszą integrację informacji z wielu typów danych, osiągnąć lepsze wyniki dla scenariuszy specyficznych dla zadań i poprawić efektywność kosztową we wdrożeniach na większą skalę.
4. Wbudowana gotowość przedsiębiorstwa: Agenci muszą mieć możliwość obsługi unikatowych potrzeb organizacji dotyczących prywatności i zgodności danych, skalowania zgodnie z potrzebami organizacji oraz niezawodnego wykonywania zadań i wysokiej jakości.

Możliwości rozszerzalności

Możliwości rozszerzalności usługi agenta umożliwiają agentom interakcję ze źródłami wiedzy, systemami i platformami w celu uziemienia i ulepszania funkcjonalności agenta. Specjalnie:

Zabezpieczanie uziemienia danych wyjściowych agenta przy użyciu bogatego ekosystemu źródeł wiedzy

Deweloperzy mogą skonfigurować bogaty ekosystem źródeł wiedzy, aby umożliwić agentowi uzyskiwanie dostępu do danych z wielu źródeł i przetwarzanie ich, zwiększając dokładność odpowiedzi i danych wyjściowych. Łączniki do tych źródeł danych działają w wyznaczonych parametrach sieciowych. Narzędzia wiedzy wbudowane w usługę agenta obejmują:

• File Search (wbudowane narzędzie do pobierania rozszerzonej generacji (RAG) do przetwarzania i wyszukiwania danych prywatnych w plikach Wyszukiwanie AI platformy Azure, Azure Blob Storage i lokalnych)
• Podstawy z wyszukiwaniem Bing (narzędzie do przeszukiwania internetu, które używa wyszukiwania Bing do wyodrębniania informacji z internetu)
• SharePoint (wbudowane narzędzia łączące dokumenty wewnętrzne organizacji w SharePoint do udzielania solidnych odpowiedzi)
• Fabric Data Agent (wbudowane narzędzie do rozmowy z danymi strukturalnymi na Microsoft Fabric przy użyciu generatywnej sztucznej inteligencji)
• Przynieś licencjonowane dane (narzędzie, które umożliwia zakotwiczenie przy użyciu zastrzeżonych danych uzyskiwanych przy użyciu licencjonowanego klucza interfejsu API uzyskanego przez dewelopera od dostawcy danych, na przykład TripAdvisor)

Agenci upraszczają bezpieczny dostęp do danych w SharePoint i funkcji Fabric AI Skills poprzez uwierzytelnianie on-behalf-of (OBO), umożliwiając agentowi dostęp tylko do plików SharePoint lub Fabric, do których użytkownik ma uprawnienia.

Umożliwienie działań autonomicznych z lub bez danych wejściowych człowieka za pomocą narzędzi działań

Deweloperzy mogą łączyć agenta z systemami zewnętrznymi, interfejsami API i usługami za pomocą narzędzi akcji, umożliwiając agentowi wykonywanie zadań i wykonywanie akcji w imieniu użytkowników. Narzędzia akcji wbudowane w usługę agenta obejmują:

• Code Interpreter (narzędzie, które może pisać i uruchamiać kod Python w bezpiecznym środowisku, obsługiwać różne formaty danych i generować pliki z danymi i wizualizacjami)
• Azure Logic Apps (oparte na chmurze narzędzie PaaS, które umożliwia zautomatyzowane przepływy pracy przy użyciu 1400+ wbudowanych łączników)
• Azure Functions (narzędzie, które umożliwia agentowi wykonywanie bezserwerowego kodu synchronicznego, asynchronicznego, długotrwałego i sterowanego zdarzeniami)
• Określone narzędzia interfejsu OpenAPI 3.0 (funkcja niestandardowa zdefiniowana ze specyfikacją interfejsu OpenAPI 3.0 w celu bezpiecznego łączenia agenta z zewnętrznymi interfejsami API opartymi na protokole OpenAPI)
• Narzędzia Model Context Protocol (usługa niestandardowa połączona przez Model Context Protocol poprzez istniejący zdalny serwer MCP do agenta).
• Narzędzie Deep Research: (narzędzie, które umożliwia wieloetapowe badania internetowe za pomocą modelu o3-deep-research i uzasadniania przy użyciu wyszukiwania Bing).
• Korzystanie z komputera: (narzędzie do wykonywania zadań przez interakcję z systemami komputerowymi i aplikacjami za pośrednictwem interfejsów użytkownika)
• Narzędzie do automatyzacji przeglądarki (narzędzie, które umożliwia wykonywanie rzeczywistych zadań przeglądarki za pośrednictwem monitów języka naturalnego, włączanie zautomatyzowanych działań przeglądania bez interwencji człowieka w środku)
• Generowanie obrazów (narzędzie do generowania i edytowania obrazów)
• Agent2Agent (usługa niestandardowa połączona przy użyciu protokołu agent-do-agenta za pośrednictwem istniejącego punktu końcowego agenta do agenta Foundry).

Organizowanie systemów z wieloma agentami

Systemy wieloagentowe korzystające z Agent Service można zaprojektować w celu uzyskania wydajnych autonomicznych przepływów pracy dla określonych scenariuszy. W systemach wieloagentowych, liczne autonomiczne agenty świadome kontekstu, niezależnie od tego, czy są to ludzie, czy systemy sztucznej inteligencji, współdziałają lub współpracują, aby osiągnąć cele indywidualne lub zbiorowe określone przez użytkownika. Usługa agenta działa bezpośrednio z ramami orkiestracji wieloagentowej, które są kompatybilne z przewodowym interfejsem API odpowiedzi, takimi jak Microsoft Agent Framework, zestaw SDK typu open source i środowisko uruchomieniowe zaprojektowane do łatwego tworzenia, wdrażania i zarządzania zaawansowanymi systemami wieloagentowymi.

Podczas tworzenia nowego rozwiązania z wieloma agentami zacznij od utworzenia pojedynczych agentów za pomocą usługi agenta, aby uzyskać najbardziej niezawodnych, skalowalnych i bezpiecznych agentów. Następnie można organizować tych agentów razem przy użyciu obsługiwanych struktur orkiestracji. Microsoft Agent Framework stale się rozwija, aby znaleźć skuteczne wzorce współpracy dla agentów (i ludzi). Funkcje, które pokazują wartość produkcyjną z platformą Microsoft Agent Framework, można następnie przenieść do usługi Microsoft Agent Service, jeśli szukasz pomocy technicznej w środowisku produkcyjnym i niełamujących się zmian.

Zobacz często zadawane pytania dotyczące przezroczystości platformy Agent Framework aby dowiedzieć się więcej o dodatkowych zagadnieniach i czynnikach ryzyka podczas tworzenia aranżacji wielu agentów przy użyciu platformy Microsoft Agent Framework.

Przepływy pracy Foundry rozszerzają orkiestrację wieloagentową, udostępniając projektant wizualny i konfigurację opartą na języku YAML na potrzeby tworzenia, testowania i wdrażania procesów agentycznych. Każdy przepływ pracy może koordynować wielu agentów, umożliwiając automatyzację modułową i możliwość śledzenia. Projektant przepływu pracy obsługuje przechowywanie wersji, dzienniki zmian i monitorowanie wizualne, co ułatwia zarządzanie złożoną logiką i zapewnianie przejrzystości.

¹Kompatybilne z Wireline oznacza, że interfejs API może komunikować się i wymieniać dane w sposób w pełni zgodny z istniejącym protokołem, istniejącymi formatami danych i standardami komunikacyjnymi, w tym przypadku z protokołem API Responses. Oznacza to, że dwa systemy mogą bezproblemowo współpracować bez konieczności wprowadzania zmian w ich podstawowej implementacji.

Przypadki użycia

Zamierzone zastosowania

Usługa agenta jest elastyczna i niezależna od przypadków użycia. Przedstawia to wiele możliwości automatyzowania rutynowych zadań i odblokowania nowych możliwości pracy merytorycznej — niezależnie od tego, czy jest to osobisti agenci zwiększający produktywność, którzy wysyłają wiadomości e-mail i planują spotkania, badają trendy rynkowe i automatyzują tworzenie raportów, agenci sprzedaży, którzy mogą badać potencjalnych klientów i automatycznie je kwalifikować, agenci obsługi klienta, którzy aktywnie śledzą spersonalizowane wiadomości, lub agentów deweloperów, którzy mogą uaktualnić bazę kodu lub interaktywnie rozwijać repozytorium kodu. Oto przykłady zamierzonych zastosowań agentów opracowanych przy użyciu usługi agenta:

• Opieka zdrowotna: usprawniona orientacja personelu i podstawowe wsparcie administracyjne: Asystent administracyjny szpitala stosuje agenta do zebrania standardowych procedur operacyjnych, katalogów pracowników i zasad dotyczących zmian w zwięzłe pakiety orientacyjne dla nowych pielęgniarek; ostateczne materiały są przeglądane i zatwierdzane przez HR, co zmniejsza powtarzalność pracy bez uszczerbku dla jakości zawartości.
• Sprzedaż detaliczna: Spersonalizowane wskazówki dotyczące zakupów: Lokalny właściciel butiku może wdrożyć agenta, który zaleca opcje prezentów na podstawie określonych potrzeb klienta i wcześniejszych zakupów, kierując kupujących odpowiedzialnie za pośrednictwem złożonych katalogów produktów bez wypychania stronniczych lub wprowadzających w błąd informacji.
• Rząd: Segregacja wniosków obywatelskich i koordynacja wydarzeń społeczności: Urzędnik miejski używa agenta do kategoryzowania wpływających wniosków o usługę (na przykład napraw wybojów), przypisywania ich do odpowiednich działów i tworzenia prostych aktualizacji statusu; urzędnicy przeglądają i finalizują komunikację, aby zapewnić przejrzystość i dokładność.
• Edukacja: Pomoc w badaniach i zbieraniu informacji referencyjnych: Nauczyciel opiera się na agencie, aby zebrać odpowiednie artykuły i zasoby ze znanych źródeł na lekcję nauki planetarnej; nauczyciel weryfikuje materiały pod kątem dokładności faktów i dostosowuje je do programu nauczania, zapewniając uczniom wiarygodne treści.
• Produkcja: Nadzór zapasów i planowanie zadań: Kierownik fabryki wdraża agenta w celu monitorowania poziomów zapasów, planowania uzupełniania zapasów, gdy są niskie, i optymalizowania składów zmian; kierownictwo potwierdza sugestie agenta i zachowuje ostateczną decyzję.
• Deep Research Tool: Dowiedz się więcej o zamierzonych zastosowaniach, możliwościach, ograniczeniach, ryzykach i zagadnieniach dotyczących wyboru modelu przypadków użycia z technologią głębokiego badania w uwadze dotyczącej przejrzystości Azure OpenAI.
• Korzystanie z komputera: Narzędzie to związane jest z dodatkowymi istotnymi zagrożeniami dla bezpieczeństwa i prywatności, w tym z atakami polegającymi na wstrzykiwaniu monitu. Dowiedz się więcej o zamierzonych zastosowaniach, możliwościach, ograniczeniach, ryzyku i zagadnieniach podczas wybierania scenariusza użycia w notatce przejrzystości Azure OpenAI.
• Narzędzie generowania obrazów: narzędzie generowania obrazów jest obsługiwane przez model gpt-image-1. Dowiedz się więcej o zamierzonych zastosowaniach, możliwościach, ograniczeniach, ryzyku i zagadnieniach dotyczących wybierania modelu przypadków użycia w notatce przejrzystości Azure OpenAI.

Zagadnienia dotyczące wybierania przypadku użycia

Zachęcamy klientów do korzystania z usługi Agent Service w swoich innowacyjnych rozwiązaniach lub aplikacjach. Poniżej przedstawiono jednak kilka kwestii, które należy wziąć pod uwagę podczas wybierania przypadku użycia:

• Unikaj scenariuszy, w których użycie lub niewłaściwe użycie systemu może spowodować znaczne uszkodzenie fizyczne lub psychiczne osoby. Na przykład scenariusze, które diagnozują pacjentów lub przepisują leki, mogą spowodować znaczne szkody.
• Unikaj scenariuszy, w których użycie lub niewłaściwe użycie systemu może mieć wpływ na możliwości życia lub status prawny. Przykłady obejmują scenariusze, w których system sztucznej inteligencji lub agent może mieć wpływ na status prawny, prawa prawne lub ich dostęp do kredytów, edukacji, zatrudnienia, opieki zdrowotnej, mieszkalnictwa, ubezpieczenia, świadczeń socjalnych, usług, możliwości lub warunków, na które są one udostępniane.
• Unikaj scenariuszy o wysokich stawkach, które mogą powodować szkodę. Model używany w agencie może odzwierciedlać pewne poglądy społeczne, uprzedzenia i inne niepożądane treści obecne w danych treningowych czy przykładach zawartych w zadaniu. W rezultacie ostrzegamy przed używaniem agentów w scenariuszach o wysokich stawkach, w których niesprawiedliwe, zawodne lub obraźliwe zachowanie może być niezwykle kosztowne lub prowadzić do szkody.
• Starannie rozważ przypadki użycia w obszarach o wysokiej stawce lub w branży, w których działania agenta są nieodwracalne lub wysoce istotne. Takie branże obejmują, ale nie są ograniczone do opieki zdrowotnej, medycyny, finansów lub domen prawnych. Na przykład: możliwość dokonywania transakcji finansowych lub udzielania porad finansowych, możliwość bezpośredniej interakcji z usługami zewnętrznymi, możliwość administrowania lekami lub udzielania porad związanych z zdrowiem, możliwość publicznego udostępniania poufnych informacji lub możliwość udzielania dostępu do systemów krytycznych.
• Zagadnienia prawne i regulacyjne. Microsoft poważnie traktuje bezpieczeństwo i zgodność z zobowiązaniami prawnymi i regulacyjnymi. Zawsze staramy się przestrzegać obowiązujących przepisów, przepisów i standardów w zakresie opracowywania i wdrażania technologii sztucznej inteligencji, w tym Microsoft Standard odpowiedzialnej sztucznej inteligencji. Twoja organizacja jest odpowiedzialna za ocenę implikacji bezpieczeństwa oraz potencjalnych specyficznych zobowiązań prawnych i regulacyjnych podczas korzystania z jakichkolwiek narzędzi i rozwiązań Foundry, w tym agentów oraz próbki agentów bazowych. Odpowiedzi sztucznej inteligencji mogą być niedokładne, a działania sztucznej inteligencji powinny być odpowiednio monitorowane z nadzorem człowieka. Niektóre zastosowania i oferty mogą podlegać wymaganiom prawnym i prawnym, mogą wymagać licencji lub nie mogą być odpowiednie dla wszystkich branż, scenariuszy lub przypadków użycia. Ponadto agenci i podstawowe przykłady Agentów nie mogą być używane w sposób zabroniony przez obowiązujące przepisy, warunki świadczenia usługi lub odpowiednie kodeksy postępowania.
• Microsoft nie utworzyła, przetestowała ani zweryfikowała żadnych systemów, interfejsów API, serwerów, agentów i usług innych firm, do których możesz się zdecydować połączyć. Po nawiązaniu połączenia z systemem innej firmy (innym niż Microsoft), interfejsem API, serwerem, agentem lub usługą niektóre dane będą udostępniane tej usłudze, a aplikacja lub agent może odbierać dane w zamian. Zalecamy zapoznanie się z danymi, które będą udostępniane i poznawanie praktyk innych firm w zakresie przechowywania i lokalizacji danych. Należy dokładnie rozważyć i zarządzać tym, czy dane będą przekazywane poza zgodnością i granicami geograficznymi organizacji oraz wszelkimi związanymi z tym implikacjami. Microsoft nie ponosi odpowiedzialności wobec ciebie lub innych za korzystanie z jakichkolwiek systemów zdalnych, interfejsów API, serwerów, narzędzi, agentów lub usług. Korzystanie z tych usług podlega umowie z dostawcą. Ponosisz odpowiedzialność za wszelkie użycie i powiązane koszty.
• Narzędzie Do automatyzacji przeglądarki niesie ze sobą znaczne zagrożenia bezpieczeństwa i odpowiedzialność użytkownika. Narzędzie do automatyzacji przeglądarki ma znaczne zagrożenie bezpieczeństwa. Zarówno błędy w ocenie sztucznej inteligencji, jak i obecność złośliwych lub mylących instrukcji na stronach internetowych, które napotyka sztuczna inteligencja, mogą spowodować wykonanie poleceń, których użytkownik lub inne osoby nie zamierza, co może naruszyć bezpieczeństwo przeglądarek, komputerów i kont, do których przeglądarka lub sztuczna inteligencja ma dostęp, w tym systemy osobiste, finansowe lub korporacyjne. Korzystając z narzędzia do automatyzacji przeglądarki, uznajesz, że ponosisz odpowiedzialność za korzystanie z niego i wszelkie wynikające z niego agenci, w tym w odniesieniu do innych użytkowników, którym udostępniasz funkcje narzędzia automatyzacji przeglądarki, w tym za pośrednictwem wynikowych agentów. 

Ograniczenia

Ograniczenia techniczne, czynniki operacyjne i zakresy

• Ograniczenia modelu generowania sztucznej inteligencji: Ponieważ usługa agenta współpracuje z różnymi modelami, ogólny system dziedziczy ograniczenia specyficzne dla tych modeli. Przed wybraniem modelu do uwzględnienia w agencie należy dokładnie ocenić model, aby zrozumieć jego ograniczenia. Zapoznaj się z Uwaga o przejrzystości Azure OpenAI, aby uzyskać dodatkowe informacje o ograniczeniach generatywnej sztucznej inteligencji, które mogą być również istotne dla systemu, i przejrzyj inne najlepsze praktyki dotyczące wdrażania generatywnej sztucznej inteligencji w aplikacji agenta.
• Złożoność orkiestracji narzędzi: Agenci sztucznej inteligencji zależą od wielu zintegrowanych narzędzi i łączników danych (takich jak wyszukiwanie Bing, SharePoint i Azure Logic Apps). Jeśli którykolwiek z tych narzędzi jest nieprawidłowo skonfigurowany, niedostępny lub zwraca niespójne wyniki lub skonfigurowano dużą liczbę narzędzi dla jednego agenta, wskazówki agenta mogą stać się fragmentowane, nieaktualne lub mylące.
• Nierówna reprezentacja i obsługa: W przypadku obsługi różnych grup użytkowników agenci sztucznej inteligencji mogą wykazywać nierówną wydajność, jeśli odmiany języka, dane regionalne lub wyspecjalizowane domeny wiedzy są niedostatecznie reprezentowane. Na przykład agent detaliczny może oferować mniej niezawodne rekomendacje dotyczące produktów klientom, którzy mówią w niedostatecznie reprezentowanych językach.
• Nieprzezroczyste procesy podejmowania decyzji: Ponieważ agenci łączą duże modele językowe z systemami zewnętrznymi, śledzenie "dlaczego" za ich decyzjami może stać się trudne. Użytkownik korzystający z takiego agenta może trudno zrozumieć, dlaczego niektóre narzędzia lub kombinacje narzędzi zostały wybrane do odpowiadania na zapytanie, komplikując zaufanie i weryfikację danych wyjściowych lub akcji agenta.
• Zmieniające się najlepsze rozwiązania i standardy: Agenci to nowa technologia, a wskazówki dotyczące bezpiecznej integracji, przejrzystego użycia narzędzi i odpowiedzialnego wdrażania nadal ewoluują. Utrzymanie najnowszych najlepszych rozwiązań i procedur inspekcji ma kluczowe znaczenie, a nawet dobrze intencjonaliwne zastosowania mogą stać się ryzykowne bez ciągłego przeglądu i uściślenia.

Wydajność systemu

Najlepsze rozwiązania dotyczące poprawy wydajności systemu

• Ocena wydajności agenta: ocenianie agentów pod kątem niezawodności identyfikowania żądań użytkowników, wybierania odpowiednich narzędzi i procesów oraz przestrzegania przypisanych zadań. Użyj następujących ewaluatorów Microsoft Azure AI Evaluation SDK:
  • Rozwiązanie intencji: mierzy, jak dobrze agent identyfikuje żądanie użytkownika, w tym zakres intencji użytkownika, zadaje wyjaśnienia pytań i przypomina użytkownikom końcowym o zakresie jego możliwości.
  • Dokładność wywołań narzędzi: ocenia zdolność agenta do wybierania odpowiednich narzędzi i przetwarza poprawne parametry z poprzednich kroków.
  • Przestrzeganie zadania: Mierzy, jak dobrze ostateczna odpowiedź agenta jest zgodna z przypisanymi zadaniami, zgodnie z komunikatem systemowym i wcześniejszymi krokami.
• Podaj zaufane dane: Pobieranie lub przekazywanie niezaufanych danych do systemów może naruszyć bezpieczeństwo systemów lub aplikacji. Aby ograniczyć te zagrożenia w aplikacjach przy użyciu usługi Agent Service, zalecamy rejestrowanie i monitorowanie interakcji LLM (danych wejściowych/wyjściowych) w celu wykrywania i analizowania potencjalnych wstrzyknięć zapytań, wyraźne wyodrębnienie danych wejściowych użytkownika w celu zminimalizowania ryzyka wstrzyknięcia zapytania, ograniczenie dostępu LLM do poufnych zasobów, ograniczenie możliwości do niezbędnego minimum i odizolowanie go od krytycznych systemów i zasobów. Dowiedz się więcej o dodatkowych podejściach zaradczych w temacie Wskazówki dotyczące zabezpieczeń dla dużych modeli językowych.
• Wybierz i zintegruj narzędzia przemyślane: Wybierz narzędzia, które są stabilne, dobrze udokumentowane i dostosowane do zamierzonych zastosowań i celów agenta. Na przykład użyj niezawodnego łącznika bazy danych do wyszukiwania faktów lub dobrze przetestowanego interfejsu API do wykonywania określonych akcji. Ogranicz liczbę narzędzi do tych, które naprawdę zwiększają funkcjonalność i określają, jak i kiedy agent powinien ich używać.
• Zapewnianie proaktywnych mechanizmów kontroli użytkownika dla granic systemu: Rozważ utworzenie mechanizmów kontroli użytkownika, aby zapewnić użytkownikom działającym agentowi sztucznej inteligencji możliwość aktywnego ustawiania granic w zakresie dozwolonych akcji lub narzędzi oraz domen, w których może działać agent.
• Ustanów nadzór w czasie rzeczywistym i procesy z udziałem człowieka: Rozważ zapewnienie użytkownikom odpowiednich mechanizmów kontroli czasu rzeczywistego, aby autoryzować, weryfikować, przeglądać i zatwierdzać zachowanie systemu agenta, w tym działania, planowane zadania, środowiska operacyjne lub granice domeny oraz dostęp do narzędzi wiedzy lub działań. Szczególnie w przypadku zadań o krytycznych lub wysokich stawkach należy rozważyć włączenie obowiązkowych kroków przeglądu i zatwierdzania przez użytkownika. Upewnij się, że użytkownik lub operator ludzki może łatwo interweniować, poprawiać lub zastępować decyzje agenta, zwłaszcza gdy decyzje te mają wpływ na bezpieczeństwo lub skutki prawne. Aby uzyskać więcej informacji, zobacz Nadmierne poleganie na sztucznej inteligencji.
• Zapewnianie czytelności i możliwości śledzenia podejmowania decyzji przez człowieka: udostępnianie użytkownikom informacji przed, podczas i po podjęciu działań, aby pomóc im zrozumieć uzasadnienia decyzji, określić, gdzie interweniować, i rozwiązać problemy. Uwzględnij instrumentację lub rejestrowanie w systemie, takie jak ślady OpenTelemetry z usługi agenta, w celu śledzenia danych wyjściowych, w tym monitów, kroków modelu i wywołań narzędzi. Umożliwia to rekonstrukcję procesu rozumowania agenta, izolację problemów, dostrajanie monitów, uściślenie integracji narzędzi i weryfikację przestrzegania wytycznych. Aby uzyskać więcej informacji, zobacz Śledzenie przy użyciu usługi Application Insights.
• Instrukcje i wskazówki dotyczące agenta warstwy: Podziel złożone zadania na kroki lub instrukcje podrzędne w wierszu polecenia systemu. Może to pomóc agentowi w bardziej efektywnym rozwiązywaniu problemów z rozumowaniem wieloetapowym, co zmniejsza liczbę błędów i poprawia przejrzystość końcowych danych wyjściowych.
• Rozpoznawanie progów złożoności skalowania: Gdy komunikat systemowy pojedynczego agenta często zmaga się z obsługą złożoności, zakresu lub głębokości zadania — takich jak częste generowanie niekompletnych wyników, napotykanie wąskich gardeł lub wymaganie obszernej wiedzy specyficznej dla domeny — system może skorzystać z przejścia do architektury wieloagentowej. Najlepszym rozwiązaniem jest monitorowanie wskaźników wydajności, takich jak dokładność odpowiedzi, opóźnienie i częstotliwość błędów. Jeśli dopracowanie polecenia pojedynczego agenta nie przyniesie już lepszych wyników, rozważ rozdzielenie obciążenia na wyspecjalizowane podzadania, z których każde jest zarządzane przez własnego agenta. Segmentując złożone zadania (na przykład dzieląc badania zasad i interpretację zasad na oddzielnych agentów), można zachować modułowość, efektywniej korzystać ze specjalistycznej wiedzy o domenie i zmniejszyć przeciążenie poznawcze dowolnego pojedynczego agenta.

Ocena i integracja usługi Agenta dla Twojego użytku

• Mapuj czynniki ryzyka i wpływ agenta. Przed opracowaniem lub wdrożeniem aplikacji agentowej należy dokładnie rozważyć wpływ zamierzonych działań oraz konsekwencje działań lub użycia narzędzi, które nie funkcjonują zgodnie z zamierzeniami — takie jak generowanie lub podejmowanie działań na podstawie niedokładnych informacji lub spowodowanie stronniczych lub niesprawiedliwych wyników — na różnych etapach.
• Zapewnienie odpowiedniego nadzoru i kontroli człowieka. Rozważ uwzględnienie mechanizmów kontrolnych, które ułatwią użytkownikom weryfikację, przeglądanie i/lub zatwierdzanie działań w odpowiednim czasie. Może to obejmować przegląd zaplanowanych zadań lub wywołań do zewnętrznych źródeł danych, na przykład w sposób odpowiedni dla Twojego systemu. Rozważ uwzględnienie mechanizmów kontroli w celu odpowiedniego korygowania awarii systemu, szczególnie w scenariuszach wysokiego ryzyka i przypadkach użycia. Na przykład narzędzie MCP umożliwia przekazywanie niestandardowych nagłówków, takich jak klucze uwierzytelniania lub schemat, co może być wymagane przez zdalny serwer MCP. W takich przypadkach zalecamy przejrzenie wszystkich danych udostępnianych serwerom zdalnym i opcjonalne rejestrowanie ich do celów inspekcji. Bądź świadomy praktyk innych firm w zakresie przechowywania i lokalizacji danych.
• Jasno zdefiniuj akcje i skojarzone wymagania. Jasne określenie, które działania są dozwolone (granice akcji), zabronione lub wymagają wyraźnej autoryzacji może pomóc systemowi agentów działać zgodnie z oczekiwaniami i z odpowiednim poziomem nadzoru człowieka.
• Jasno zdefiniuj zamierzone środowiska operacyjne. Jasno zdefiniuj zamierzone środowiska operacyjne (granice domeny), w których agent jest przeznaczony do efektywnego działania.
• Zapewnij odpowiednią zrozumiałość w podejmowaniu decyzji. Udostępnianie użytkownikom informacji przed podjęciem i/lub po wykonaniu akcji i/lub narzędzi może pomóc im zrozumieć uzasadnienie działania lub dlaczego niektóre działania zostały podjęte lub aplikacja zachowuje się w określony sposób, gdzie interweniować i jak rozwiązywać problemy.

• Postępuj zgodnie z dodatkowymi najlepszymi praktykami generatywnej sztucznej inteligencji odpowiednimi dla twojego systemu, w tym zaleceniami w Azure Notatka dotycząca przejrzystości OpenAI.

Dowiedz się więcej o odpowiedzialnej sztucznej inteligencji

• Microsoft zasady sztucznej inteligencji
• Microsoft zasoby odpowiedzialnej sztucznej inteligencji
• Microsoft Azure Kursy szkoleniowe dotyczące odpowiedzialnej sztucznej inteligencji

Dowiedz się więcej o usłudze agenta Foundry

• Omówienie usługi agenta programu Foundry
• Szybki start usługi Foundry Agent