Menselijk toezicht op computergebruik

Note

Dit artikel beschrijft functies die worden gebruikt in agenten of agentstromen die gebruikmaken van het standard harness.

Wanneer je menselijke supervisie gebruikt, escaleert de computergebruikende agent naar de persoon die je configureert in de Human Supervision-instellingen wanneer er bevestiging of meer informatie nodig is.

Note

Computergebruikende agenten kunnen te maken krijgen met promptinjectie-aanvallen, waarbij verborgen instructies in schermopnamen, webpagina's of andere invoer proberen om acties op onbedoelde manieren te beïnvloeden. U kunt dit risico minimaliseren door deze agenten in vertrouwde, geïsoleerde omgevingen te gebruiken en robuuste validatiecontroles toe te passen voordat u instructies uitvoert.

Feature-ondersteuning per model

De volgende tabel geeft weer welke modellen de menselijke supervisiefunctie ondersteunen.

Modelaanbieder Version Status Ondersteunt menselijke supervisie
OpenAI OpenAI-computer met Agent v1 Gepensioneerd Yes
OpenAI GPT-6 Sol Actief Yes
OpenAI Computergebruiker-Agent (CGA) Actief Yes
Anthropic Claude Sonnet 4.5 Actief Yes

Activiteiten van agenten en computergebruik controleren

Tijdens de uitvoering, wanneer de computergebruikende agent bevestiging of meer informatie nodig heeft, stuurt hij een reviewverzoek naar de geconfigureerde menselijke reviewer via Outlook-e-mail. Ook wordt een inline reviewkaart weergegeven in het paneel voor geavanceerde computergebruiksactiviteiten.

Waarschijnlijk AI-modelgedrag triggert menselijke reviewverzoeken. Dit gedrag betekent dat het model deze verzoeken niet in elke situatie activeert waarin iemand een pauze wil, en het kan deze verzoeken ook activeren wanneer een pauze niet nodig is. Vertrouw niet op menselijke beoordelings- of verduidelijkingsverzoeken als failsafe of als garantie dat het systeem altijd menselijke input vraagt voordat het verder gaat.

Note

  • Alleen de ontwikkelaar van de tool voor computergebruik ontvangt verzoeken om menselijke beoordeling en heeft toegang tot gedetailleerde logboeken via het geavanceerde activiteitenpaneel voor computergebruik. Als je onder machineinstellingen Eindgebruikersgegevens selecteert , ontvangt de persoon die oorspronkelijk de verbinding heeft ingesteld deze verzoeken, maar alleen als hij ook als een van de aangewezen menselijke beoordelaars is opgenomen.
  • Om de menselijke beoordelingsverzoeken te bekijken die direct in het computer-gebruikende agentactiviteitspaneel binnen de activiteitskaart van de agent staan, moet je geavanceerde computergebruikslogging in je omgeving inschakelen. Als de geavanceerde activiteitservaring voor computergebruik niet wordt weergegeven in het activiteitenoverzicht, heeft uw beheerder deze functie mogelijk uitgeschakeld voor uw omgeving.

In de volgende tabel ziet u de belangrijkste informatie die is opgenomen in een e-mailaanvraag voor menselijke beoordeling:

Veld Description
Agent die het hulpprogramma gebruikt De naam van de Copilot Studio-agent.
Hulpprogramma voor computergebruik De naam van het hulpprogramma voor computergebruik dat de aanvraag heeft geactiveerd.
Gesprek De dieplink naar de agentactiviteit waarin het hulpprogramma voor computergebruik momenteel wordt uitgevoerd.
Time-out van aanvraag De datum en tijd van de time-out van het verzoek
Aangevraagd door De maker (eigenaar van de verbinding) van het hulpprogramma voor computergebruik.
Ontbrekende informatie opgeven Het tekstvak voor het antwoord dat moet worden verzonden naar het hulpprogramma voor computergebruik.
Verzenden De knop om het ingevoerde tekstantwoord in te dienen. Voor een bevestigingsverzoek kun je Ja typen om te bevestigen of Nee om te weigeren.

Reageren op aanvragen voor menselijke beoordeling

Om te reageren op menselijke beoordelingsverzoeken kun je per e-mail of inline reageren via het computergebruik-activiteitspaneel in de activiteitenkaart van de agent. Inline antwoorden vereisen dat logregistratie van geavanceerd computergebruik in de omgeving is ingeschakeld. Als u in beide gevallen geen antwoord opgeeft, blijft de werkstroom onderbroken en stopt deze automatisch wanneer de time-out die is opgegeven in het e-mailbericht wordt bereikt.

Important

Het menselijke supervisiesysteem is gebaseerd op probabilistisch AI-modelgedrag. Hoewel het systeem een systeemprompt en andere beperkingen bevat, kan het af en toe verduidelijkingsverzoeken genereren die niet nodig zijn. Het kan niet worden geactiveerd wanneer er een wordt verwacht, of het kan vragen om informatie die niet in de opgegeven context moet worden opgegeven, inclusief mogelijk gevoelige informatie.

Daarom moeten beoordelaars oordeel hanteren bij het beantwoorden van verzoeken om menselijke supervisie en geen gevoelige informatie zoals gebruikersnamen, wachtwoorden, pincodes, creditcardgegevens of sofinummers indienen. Afhankelijk van de configuratie van uw organisatie kunnen antwoorden op menselijke reviewverzoeken blijven bestaan in uw Dataverse-omgeving of Purview-auditlogs en zichtbaar zijn voor gemachtigde gebruikers binnen uw organisatie.

Reageren via e-mail

De e-mail van de menselijke beoordelingsaanvraag bevat details over de agent, het hulpprogramma en het gesprek, samen met de specifieke informatie of verduidelijking die wordt aangevraagd. Controleer de aanvraag zorgvuldig om te bepalen of u voldoende informatie hebt om te reageren. Voer, indien van toepassing, uw antwoord in het aangewezen tekstveld in en selecteer Verzenden.

Inline reageren

  1. Selecteer de koppeling Gesprek in de e-mail van de menselijke beoordelingsaanvraag om het activiteitenoverzicht van de agent te openen.
  2. Zoek de computergebruiksactie die overeenkomt met het geconfigureerde hulpprogramma voor computergebruik en open het zijpaneel.
  3. Bekijk de lijst met activiteiten in de sectie Activiteit van het zijpaneel. Activiteiten die wachten op menselijke beoordeling worden gemarkeerd met een wachtindicator naast het modelantwoord.
  4. Controleer de aanvraag zorgvuldig en bepaal of u voldoende informatie hebt om te reageren. Voer, indien van toepassing, uw antwoord in het aangewezen tekstveld in en selecteer Verzenden.

Schakel menselijke supervisie uit

Important

Het uitschakelen van menselijke supervisie maakt de computergebruikende agent niet volledig autonoom. De medewerker pauzeert nog steeds als hij bevestiging of verduidelijking nodig heeft. Als je de reviewers niet configureert, kunnen deze verzoeken nergens naartoe worden gestuurd, waardoor de sessie mislukt wanneer de agent pauzeert. Configureer minstens één reviewer.

Om menselijke supervisie uit te schakelen, ga je naar de sectie Menselijke supervisie van de tool voor computergebruik en verwijder je alle beoordelaars uit de lijst Verzoeken toewijzen aan.

Veelgestelde vragen over het hulpprogramma voor computergebruik

  • Laatst bijgewerkt om