Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Note
W tym artykule opisano funkcje używane w agentach lub przepływach agentów obsługiwanych przez standardowe środowisko uruchomieniowe.
W przypadku korzystania z nadzoru ludzkiego agent korzystający z komputera przekazuje sprawę do osoby skonfigurowanej w ustawieniach nadzoru człowieka, gdy potrzebuje potwierdzenia lub dalszych informacji.
Note
Agenci korzystający z komputera mogą napotkać ataki polegające na wstrzyknięciu monitów, gdzie ukryte instrukcje na zrzutach ekranu, stronach internetowych lub innych danych wejściowych próbują wpływać na akcje w niezamierzony sposób. Aby zminimalizować to ryzyko, należy obsługiwać tych agentów w zaufanych, izolowanych środowiskach i stosować niezawodne kontrole poprawności przed wykonaniem jakichkolwiek instrukcji.
Obsługa funkcji zależna od modelu
Poniższa tabela przedstawia, które modele wspierają funkcję nadzoru człowieka.
| Dostawca modeli | Version | Status | Wspiera nadzór człowieka |
|---|---|---|---|
| Azure OpenAI | Komputer OpenAI z użyciem agenta V1 | Emerytowany | Yes |
| Azure OpenAI | Agent używający komputera | Aktywne | Yes |
| Anthropic | Claude Sonnet 4.5 | Aktywne | Yes |
Przegląd działania agenta i aktywności związanych z użytkowaniem komputera
Podczas wykonywania, gdy agent korzystający z komputera potrzebuje potwierdzenia lub dodatkowych informacji, może wysłać żądanie przeglądu do skonfigurowanego ludzkiego recenzenta za pośrednictwem e-maila Outlook. Może także wyświetlać wbudowaną kartę przeglądu w zaawansowanym panelu aktywności związanej z korzystaniem z komputera.
Probabilistyczne zachowanie modelu AI powoduje prośby o weryfikację przez człowieka. Takie zachowanie oznacza, że model może nie wywoływać tych żądań w każdej sytuacji, gdy ktoś chciałby pauzy, a może też wywołać te żądania, gdy pauza nie jest konieczna. Nie polegaj na weryfikacji przez człowieka ani na prośbach o wyjaśnienie jako na mechanizmie zabezpieczającym lub gwarancji, że system zawsze zwróci się o udział człowieka przed kontynuowaniem działania.
Note
- Tylko twórca narzędzia do korzystania z komputera otrzymuje prośby o weryfikację przez człowieka i ma dostęp do szczegółowych dzienników w zaawansowanym panelu aktywności związanej z korzystaniem z komputera. Jeśli wybierzesz poświadczenia użytkownika końcowego w ustawieniach maszyny, osoba, która pierwotnie uruchomiła połączenie, otrzymuje te żądania, ale tylko wtedy, gdy jest również uwzględniona jako jeden z wyznaczonych ludzkich recenzentów.
- Aby przejrzeć żądania przeglądu przez człowieka w panelu bocznym działania obsługi komputera na mapie aktywności agenta, należy włączyć funkcję Działania zaawansowanej obsługi komputera w danym środowisku. Jeśli środowisko działania zaawansowanej obsługi komputera nie jest wyświetlane na mapie działań, administrator mógł wyłączyć tę funkcję dla danego środowiska.
W poniższej tabeli przedstawiono główne informacje zawarte w żądaniu o przeprowadzenie przeglądu przez człowieka za pomocą wiadomości e-mail.
| Pole | Description |
|---|---|
| Agent korzystający z narzędzia | Nazwa agenta programu Copilot Studio. |
| Narzędzie do obsługi komputera | Nazwa narzędzia do obsługi komputera, które wyzwoliło żądanie. |
| Rozmowa | Łącze bezpośrednie do działania agenta, w którym jest aktualnie uruchomione narzędzie do obsługi komputera. |
| Przekroczono limit czasu żądania | Data i godzina przekroczenia limitu czasu żądania |
| Żądane przez | Twórca (właściciel połączenia) narzędzia do obsługi komputera. |
| Podaj brakujące informacje | Pole tekstowe do wprowadzenia odpowiedzi w narzędziu obsługiwanym przez komputer. |
| Prześlij | Przycisk do przesłania wpisanej odpowiedzi tekstowej. Aby uzyskać prośbę o potwierdzenie, wpisz Tak , aby potwierdzić, lub Nie , aby odrzucić. |
Odpowiadanie na żądania recenzji przez człowieka
Aby odpowiedzieć na prośby o przegląd przez człowieka, możesz odpowiedzieć pocztą e-mail lub bezpośrednio przy użyciu panelu aktywności użytkowania komputera w mapie aktywności agenta. Odpowiedzi inline wymagają włączenia w środowisku zaawansowanego rejestrowania użycia komputera. W obu przypadkach, jeśli nie podasz odpowiedzi, przepływ pracy pozostanie wstrzymany i automatycznie zatrzymuje się po osiągnięciu limitu czasu określonego w wiadomości e-mail.
Ważna
System nadzoru ludzkiego opiera się na probabilistycznym zachowaniu modelu sztucznej inteligencji. Chociaż system zawiera monit systemowy i być może inne ograniczenia, może czasami generować żądania wyjaśnienia, które są niepotrzebne. Może nie dojść do uruchomienia, kiedy jest ono oczekiwane, lub może zażądać informacji, które nie powinny być udostępniane w danym kontekście, w tym informacji potencjalnie poufnych.
W związku z tym recenzenci powinni stosować rozsądek przy odpowiadaniu na prośby o nadzór ludzki i nie przesyłać wrażliwych informacji, takich jak nazwy użytkowników, hasła, PIN-y, dane karty kredytowej czy numery ubezpieczenia społecznego. W zależności od konfiguracji organizacji, odpowiedzi na żądania przeglądu przez ludzi mogą pozostawać w środowisku Dataverse lub logach audytu Purview i być widoczne dla upoważnionych użytkowników w Twojej organizacji.
Odpowiadanie za pośrednictwem poczty e-mail
Wiadomość e-mail z żądaniem przeglądu przez człowieka zawiera szczegółowe informacje o agencie, narzędziu i konwersacji wraz z określonymi informacjami lub żądanymi wyjaśnieniami. Uważnie przejrzyj żądanie, aby ustalić, czy masz wystarczające informacje, aby odpowiedzieć. W razie potrzeby wprowadź odpowiedź w wyznaczonym polu tekstowym i wybierz pozycję Prześlij.
Odpowiedz w treści
- Wybierz link Konwersacja w wiadomości e-mail żądania przeglądu przez człowieka, aby zobaczyć mapę aktywności agenta.
- Znajdź akcję użycia komputera zgodną ze skonfigurowanym narzędziem do użycia komputera i otwórz panel boczny.
- W sekcji Działanie panelu bocznego przejrzyj listę działań. Działania oczekujące na przegląd człowieka są oznaczone wskaźnikiem oczekiwania obok odpowiedzi modelu.
- Dokładnie przejrzyj żądanie i ustal, czy masz wystarczające informacje, aby odpowiedzieć. W razie potrzeby wprowadź odpowiedź w wyznaczonym polu tekstowym i wybierz pozycję Prześlij.
Wyłącz ludzki nadzór
Ważna
Wyłączenie ludzkiego nadzoru nie czyni agenta korzystającego z komputera całkowicie autonomicznym. Agent nadal robi pauzę, gdy potrzebuje potwierdzenia lub wyjaśnienia. Jeśli nie skonfigurowano żadnych recenzentów, te żądania nie mają gdzie zostać przekierowane, więc sesja kończy się niepowodzeniem, gdy agent zatrzymuje przerwę. Skonfiguruj przynajmniej jednego recenzenta.
Aby wyłączyć nadzór człowieka, przejdź do sekcji nadzoru człowieka w narzędziu do obsługi komputera i usuń wszystkich recenzentów z listy Przypisz żądania do.
Informacje pokrewne
Często zadawane pytania dotyczące narzędzia do obsługi komputera