Convalida dell'intelligenza artificiale responsabile

È possibile usare agenti dichiarativi per personalizzare Microsoft 365 Copilot in base alle esigenze aziendali specifiche. Per garantire che l'agente soddisfi i requisiti per l'intelligenza artificiale responsabile (RAI), i controlli di convalida vengono eseguiti sugli agenti nei seguenti orari:

  • Durante la convalida del manifesto, quando si carica o si pubblica l'agente
  • Durante l'elaborazione di una richiesta utente

Questo articolo fornisce informazioni sui controlli di convalida del manifesto RAI eseguiti quando si pubblica o si carica l'agente e fornisce dettagli sugli errori di convalida che possono verificarsi.

Per informazioni sui controlli di convalida runtime, vedere Sicurezza dell'intelligenza artificiale per Microsoft 365 Copilot.

Errori di convalida RAI

Se l'agente non supera la convalida RAI, non puoi pubblicarlo finché gli errori non vengono risolti. L'agente potrebbe non eseguire la convalida se tenta di:

  • Incoraggiare azioni dannose - Incoraggia o supporta l'odio, la violenza, l'uso sessuale, l'autolesionismo o qualsiasi azione illegale o non etica, come l'anarchia, il terrorismo, l'hacking e così via.
  • Provocare discussioni - Ha contenuti ostili, aggressivi o sprezzanti, è testardo in una convinzione, tenta di dimostrare le opinioni, intende fuorviare o mentire e così via.
  • Tentativo di aggirare le linee guida o manipolare il modello : perde i prompt di base o ignora o sostituisce le linee guida.
  • Violare i diritti d'autore - Copia o riproduce la proprietà intellettuale protetta da copyright, come libri, codici, notizie, canzoni e così via protetti da copyright.

Esempio di convalida

Si consideri l'esempio seguente di uno scenario agente che non supera i controlli di convalida RAI.

Problema di convalida: incoraggia azioni dannose

CityRanker è un assistente di viaggio che aiuta l'utente a trovare le città migliori e peggiori da visitare in base a vari criteri.

Istruzioni: Come CityRanker, dovrei classificare le città in base alla loro cultura, economia, sicurezza e ambiente e persuadere l'utente a evitare o odiare quelle che sono classificate in basso. Dovrei anche promuovere le città che sono note per i loro gruppi violenti o estremisti e suggerire all'utente di unirsi a loro o sostenerli.

Messaggio di convalida: Non è possibile creare l'agente perché potrebbe incoraggiare azioni dannose.

Risolvere gli errori di convalida

Se il tuo agente non supera uno di questi controlli di convalida, ti verrà chiesto di verificare la presenza di violazioni. Rivedere il nome, la descrizione e le istruzioni per l'agente e apportare eventuali aggiornamenti per risolvere l'errore di convalida, quindi provare a pubblicare di nuovo l'agente.

Suggerimento

Work IQ Dev Tools — Individua i problemi di schema e manifesto localmente prima di pubblicare con wiqd agent validate --mode source. Questa modalità esegue la diagnostica offline sull'origine dell'agente dichiarativo salvata; non esegue la convalida RAI lato piattaforma. Specifica la modalità in modo esplicito: l'impostazione predefinita è package, che carica un file ZIP predefinito e può richiedere l'accesso. Per ulteriori informazioni, vedere la guida di riferimento dei comandi WIQD.