Migliorare le risposte dell'IA con RAG (Retrieval Augmented Generation)

Retrieval Augmented Generation (RAG) in Microsoft Copilot Studio combina le capacità di ragionamento dei modelli linguistici con conoscenze affidabili e specifiche per l'organizzazione. Consente agli agenti di produrre risposte accurate, contestuali e fondate basate sui contenuti dell'azienda, invece di affidarsi esclusivamente alla memoria del modello.

In questo articolo vengono illustrate le operazioni seguenti:

• Comprendi come RAG migliora l'affidabilità e la stabilità dell'IA.
• Descrivi come Copilot Studio recupera e sintetizza conoscenza.
• Identifica le fonti delle informazioni supportate e i loro vincoli.
• Riconosci le considerazioni relative alla governance, alla conformità e alla sicurezza dell'intelligenza artificiale.
• Applica i concetti di RAG quando progetti agenti in ambienti aziendali.

Introduzione a RAG

RAG è uno schema progettuale che migliora la precisione dell'IA combinando due capacità:

• Recupero delle informazioni: ricerca nelle origini dati aziendali.
• Generazione di testo: sintetizza le informazioni recuperate utilizzando un modello linguistico.

Questo approccio riduce le informazioni errate, aumenta la fiducia e genera risposte basate su contenuti organizzativi reali.

Architettura RAG in Copilot Studio

La pipeline RAG di Copilot Studio si basa sui servizi Azure AI e si integra strettamente con gli ambiti di fiducia, conformità e sicurezza di Microsoft.

Componenti principali:

• Runtime di Copilot Studio: gestisce la pipeline conversazionale
• Motore di ottimizzazione delle query: riscrive e interpreta le query
• Provider di ricerca: Bing, SharePoint, Graph, Dataverse, Azure AI Search
• Motore di riepilogo: crea risposte fondate e citate
• Livelli di moderazione: convalida messaggi e riepiloghi
• Archivio dello stato: memoria a breve termine (meno di 30 giorni; non utilizzato per il training)
• Archivi di telemetria e feedback: forniscono informazioni dettagliate e supervisione

In che modo RAG funziona in Copilot Studio

RAG in Copilot Studio segue un processo in quattro passaggi:

1. Riscrittura delle query
2. Recupero dei contenuti
3. Riepilogo e generazione di risposte
4. Convalida della sicurezza e della governance

1. Riscrittura delle query

Copilot Studio ottimizza la domanda dell'utente prima di cercare:

• Chiarisce il significato
• Aggiunge segnali contestuali (ultimi 10 turni)
• Migliora la corrispondenza delle parole chiave
• Genera query ottimizzate per la ricerca

Questo processo migliora la qualità del recupero delle informazioni e riduce la presenza di risultati irrilevanti.

2. Recupero dei contenuti

Dopo aver riscritto la query, il sistema la esegue su tutte le fonti delle informazioni che hai configurato. Copilot Studio recupera i primi tre risultati da ciascuna fonte, bilanciando rilevanza con prestazioni. Il comportamento di ogni fonte delle informazioni varia in base a fattori come autenticazione, indicizzazione, formati dei file e vincoli di archiviazione.

La tabella seguente riassume tutte le fonti delle informazioni supportate e le loro capacità, vincoli e requisiti di autenticazione.

3. Riepilogo e generazione delle risposte

• L'IA sintetizza i contenuti recuperati
• Applica istruzioni personalizzate per tono, formattazione, sicurezza o brevità
• Genera citazioni ai dati sottostanti
• Personalizza le risposte utilizzando il contesto dell'utente (come lingua, reparto o area geografica)

4. Convalida della sicurezza e della governance

Ogni risposta passa attraverso livelli di convalida automatici:

• Moderazione di risposte dannose, malevoli, non conformi o protette da copyright
• Convalida del grounding e rimozione di informazioni errate

Nessun dato dei clienti esegue il training dei modelli linguistici.

Considerazioni chiave sull'utilizzo di RAG

RAG funziona meglio per domande e risposte fattuali, non per analisi approfondite di documenti.

RAG è ideale per:

• Rispondere a domande dalle Knowledge Base
• Riepilogare i criteri, le domande frequenti e i contenuti procedurali
• Recuperare fatti specifici da file o sistemi interni

RAG non è destinato a:

• Confronto dei documenti completi
• Valutazione della conformità ai criteri
• Effettuare ragionamenti complessi su lunghi documenti non strutturati

Considerazioni sulla sicurezza e conformità dell'IA generativa

Le funzionalità di IA generativa in Microsoft Copilot Studio sono progettate per offrire potenti capacità conversazionali e di ragionamento, mantenendo al contempo solidi controlli di sicurezza, privacy e conformità.

Modelli di fondazione e hosting

• Copilot Studio si basa su modelli fondamentali su cui è stata effettuata l'esecuzione del training da parte di OpenAI.
• Copilot Studio utilizza uno dei più recenti modelli di OpenAI per le risposte generative.
• I modelli vengono eseguiti interamente sui servizi interni Azure AI Foundry, allineati ai limiti di Microsoft Services Trust.
• Tutto l'utilizzo dei modelli aderisce ai principi di intelligenza artificiale responsabile Microsoft e ai relativi criteri.

Istruzioni personalizzate

Gli autori possono fornire istruzioni personalizzate per modellare il comportamento del modello, influenzare il tono o aggiungere regole di formattazione. Tali istruzioni permettono di personalizzare le risposte generative in base alle necessità dell'organizzazione, pur rispettando i filtri di sicurezza e i controlli di conformità.

Elaborazione ed archiviazione dati

• L'archiviazione dei dati ed elaborazione in Copilot Studio potrebbe spostare i dati attraverso i confini regionali quando l'hosting del modello locale non è disponibile.
• Quando il trasferimento dei dati non è consentito, gli amministratori possono utilizzare le impostazioni dell'ambiente per disattivare funzionalità specifiche come i modelli linguistici di Azure o Ricerca Bing.
• Copilot Studio non raccoglie né utilizza dati dei clienti per il training di modelli linguistici.

Gestione operativa dei dati

• Durante il funzionamento, il sistema memorizza temporaneamente le conversazioni in un archivio sicuro gestito da Microsoft.
• L'accesso da parte del personale Microsoft autorizzato è limitato tramite Secure Access Workstations (SAWs) con controlli Just-In-Time (JIT).
• Le organizzazioni possono ulteriormente controllare l'accesso tramite Customer Lockbox, richiedendo un'approvazione esplicita prima che gli ingegneri di supporto Microsoft possano visualizzare i dati.

Telemetria per la risoluzione dei problemi

• Le funzionalità di IA generativa generano dati aggiuntivi di risoluzione dei problemi, ma solo per azioni avviate dall'autore nel riquadro di test, specificamente quando l'autore assegna un Mi piace o un Non mi piace a una risposta.
• Non vengono registrati dati aggiuntivi dei clienti al di fuori di questo esplicito ciclo di feedback.

Monitoraggio degli abusi e sicurezza

Poiché molteplici livelli di sicurezza già proteggono le funzionalità di IA generativa, l'IA generativa di Copilot Studio disabilita il monitoraggio degli abusi di Azure AI per evitare ulteriori registrazioni dei dati dei clienti.