Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Note
Questo articolo descrive le caratteristiche utilizzate negli agenti o nei flussi di agenti alimentati dall'imbracatura standard.
Quando si utilizza la supervisione umana, l'agente che opera tramite computer inoltra la richiesta alla persona configurata nelle impostazioni di supervisione, quando necessita di conferma o ulteriori informazioni.
Note
Gli agenti informatici potrebbero riscontrare attacchi di inserimento di prompt, in cui istruzioni nascoste in screenshot, pagine web o altri input tentano di influenzare le azioni in modi non previsti. Per ridurre al minimo questo rischio, gestisci questi agenti all'interno di ambienti isolati attendibili e applica controlli di convalida affidabili prima di eseguire istruzioni.
Supporto delle funzionalità per modello
La tabella seguente elenca quali modelli supportano la funzione di supervisione umana.
| Fornitore di modelli | Versione | Condizione | Supporta la supervisione umana |
|---|---|---|---|
| Azure OpenAI | Computer OpenAI che utilizza l'Agent v1 | Pensionati | Sì |
| Azure OpenAI | Agente che Utilizza il Computer (CUA) | Active | Sì |
| Anthropic | Claude Sonnetto 4.5 | Active | Sì |
Esaminare l'attività di utilizzo dell'agente software e del computer
Durante l'esecuzione, quando l'agente che utilizza il computer necessita di conferme o informazioni aggiuntive, può inviare una richiesta di revisione al revisore umano configurato tramite email di Outlook. Può anche visualizzare una scheda di revisione in linea nel pannello di attività avanzato per l'uso computerizzato.
Il comportamento dei modelli di IA probabilistica attiva richieste di revisione umana. Questo comportamento significa che il modello potrebbe non attivare queste richieste in ogni situazione in cui una persona vorrebbe una pausa, e potrebbe anche attivare queste richieste quando una pausa non è necessaria. Non affidarti alle richieste di revisione o chiarimenti umani come misura di sicurezza o come garanzia che il sistema richieda sempre l'input umano prima di procedere.
Note
- Solo il produttore dello strumento per l'uso del computer riceve richieste di revisione umana e ha accesso a log dettagliati tramite il pannello di attività avanzato per l'uso del computer. Se selezioni Credenziali utente finale nelle impostazioni macchina, la persona che ha configurato la connessione riceve queste richieste, ma solo se è inclusa anche come uno dei revisori umani designati.
- Per esaminare direttamente le richieste di revisione umana nel pannello laterale delle attività del computer-using agent, nella mappa delle attività dell'agente, devi attivare la registrazione avanzata dell'uso del computer nel tuo ambiente. Se l'esperienza avanzata dell'attività di utilizzo del computer non viene visualizzata nella mappa attività, l'amministratore potrebbe aver disattivato questa funzionalità per l'ambiente in uso.
La tabella seguente mostra le informazioni principali incluse in una richiesta tramite e-mail di revisione umana:
| Campo | Description |
|---|---|
| Agente che usa lo strumento | Nome dell'agente di Copilot Studio. |
| Strumento di uso del computer | Nome dello strumento di utilizzo del computer che ha attivato la richiesta. |
| Conversazione | Collegamento diretto all'attività dell'agente in cui è in esecuzione lo strumento di utilizzo del computer. |
| Timeout richiesta | Data e ora del timeout della richiesta |
| Richiesto da | Autore (proprietario della connessione) dello strumento di utilizzo del computer. |
| Fornire informazioni mancanti | Casella di testo per la risposta da inviare allo strumento di utilizzo del computer. |
| Invia | Il pulsante per inviare la risposta al testo inserito. Per una richiesta di conferma, digita Sì per confermare oppure No per rifiutare. |
Rispondere alle richieste di revisione umana
Per rispondere alle richieste di revisione umana, è possibile rispondere tramite posta elettronica o inline usando il pannello attività di utilizzo del computer nella mappa delle attività dell'agente. Le risposte in linea richiedono l'attivazione della registrazione avanzata dell'utilizzo del computer nell'ambiente. In entrambi i casi, se non si fornisce una risposta, il flusso di lavoro rimane sospeso e si arresta automaticamente quando viene raggiunto il timeout specificato nel messaggio di posta elettronica.
Importante
Il sistema di supervisione umana si basa sul comportamento probabilistico del modello di intelligenza artificiale. Anche se il sistema include una richiesta di sistema e forse altri vincoli, può talvolta generare richieste di chiarimento non necessarie. Potrebbe non riuscire ad attivarsi quando si prevede o potrebbe richiedere informazioni che non devono essere fornite nel contesto specificato, incluse informazioni potenzialmente riservate.
Di conseguenza, i revisori dovrebbero adottare giudizio quando rispondono a richieste di supervisione umana e non dovrebbero fornire informazioni sensibili come nomi utente, password, PIN, dati di carte di credito o numeri di previdenza sociale. A seconda della configurazione della tua organizzazione, le risposte alle richieste di revisione umana potrebbero persistere nell'ambiente Dataverse o nei log di audit Purview e potrebbero essere visibili agli utenti autorizzati all'interno della tua organizzazione.
Rispondere tramite posta elettronica
Il messaggio di posta elettronica della richiesta di revisione umana include dettagli sull'agente, sullo strumento e sulla conversazione, insieme alle informazioni o chiarimenti specifici richiesti. Esaminare attentamente la richiesta per determinare se si dispone di informazioni sufficienti per rispondere. Se appropriato, immettere la risposta nel campo di testo designato e selezionare Invia.
Rispondi inline
- Selezionare il collegamento Conversazione nel messaggio di posta elettronica della richiesta di revisione umana per aprire la mappa delle attività dell'agente.
- Trovare l'azione di utilizzo del computer corrispondente allo strumento di utilizzo del computer configurato e aprire il relativo pannello laterale.
- Nella sezione Attività del pannello laterale esamina l'elenco delle attività. Le attività in attesa della revisione umana sono contrassegnate con un indicatore di attesa accanto alla risposta del modello.
- Esaminare attentamente la richiesta e determinare se si dispone di informazioni sufficienti per rispondere. Se appropriato, immettere la risposta nel campo di testo designato e selezionare Invia.
Disattiva la supervisione umana
Importante
Disattivare la supervisione umana non rende l'agente che usa il computer completamente autonomo. L'agente si ferma comunque quando ha bisogno di conferma o chiarimento. Se non sono configurati revisori, queste richieste non hanno dove essere instradate, quindi la sessione fallisce quando l'agente si mette in pausa. Configura almeno un revisore.
Per disattivare la supervisione umana, vai alla sezione Supervisione umana dello strumento di utilizzo del computer e rimuovi tutti i revisori dall'elenco Assegna richieste a.