Sistemi di base IA

Il Grounding è il processo di collegamento delle risposte di un sistema di intelligenza artificiale ai dati verificati del mondo reale anziché fondarsi esclusivamente sulla conoscenza generale dell'addestramento del modello. Senza fondamenti, i modelli generativi di intelligenza artificiale derivano esclusivamente dagli schemi appresi durante il training, che potrebbero essere obsoleti, incompleti o non corretti per un caso d'uso specifico. La messa a terra è sia un controllo di qualità che un controllo di sicurezza.

Perché le basi sono importanti per la sicurezza

Dal punto di vista della sicurezza, i sistemi di IA senza basi solide rappresentano diversi rischi:

• Output creati: un modello non fondato genererà più probabilmente informazioni formulate con sicurezza ma di fatto errate, sulle quali gli utenti potrebbero agire senza verificarle
• Informazioni obsolete: I modelli addestrati sui dati di mesi o anni fa possono fornire indicazioni obsolete, particolarmente pericoloso per consigli sulla sicurezza, requisiti di conformità o documentazione del prodotto
• Ambito senza restrizioni: senza punti di riferimento, un modello potrebbe rispondere a domande su qualsiasi argomento, incluse le aree in cui manca una conoscenza sufficiente per essere affidabile

Il grounding vincola il modello a utilizzare fonti di dati specifiche e verificate, riducendo la superficie di attacco per i rischi legati a output alterati e contribuendo a far rispettare i limiti definiti nel prompt di sistema.

Tecniche di messa a terra

Diverse tecniche vengono comunemente usate per basare i sistemi di intelligenza artificiale nei dati verificati:

Generazione aumentata di recupero (RAG)

RAG è la tecnica di messa a terra più diffusa. Funziona tramite

1. Recupero di documenti o dati pertinenti da una knowledge base, un database o un indice di ricerca in base alla query dell'utente
2. Aumento della richiesta con queste informazioni recuperate
3. Generazione di una risposta informata dalle funzionalità del modello e dai dati recuperati specifici

RAG consente all'intelligenza artificiale di fornire risposte attuali e pertinenti al contesto senza richiedere il ricondizionamento del modello. Ad esempio, un assistente di intelligenza artificiale con RAG può rispondere a domande sulle politiche interne di un'organizzazione recuperando i documenti di politiche più recenti al momento della query.

Le considerazioni sulla sicurezza per le implementazioni rag includono:

• Controllo di accesso sui dati di origine: assicurarsi che il sistema di recupero rispetti gli stessi controlli di accesso dell'utente. L'intelligenza artificiale non deve recuperare i documenti che l'utente non è autorizzato a visualizzare.
• Integrità dei dati di origine: proteggere la Knowledge Base da manomissioni. Se un utente malintenzionato può modificare i dati di base, può influenzare le risposte dell'intelligenza artificiale, una forma di manipolazione indiretta.
• Citazione e tracciabilità: configurare il sistema in modo da citare le origini che hanno informato ogni risposta, rendendo possibile verificare l'accuratezza e rilevare quando il modello si allontana dai dati di base.

Progettazione dei prompt per il grounding

Le tecniche avanzate di progettazione dei prompt integrano RAG indicando al modello come usare i dati di base:

• Includere istruzioni esplicite per basare le risposte solo sul contesto fornito
• Definire il modo in cui il modello deve rispondere quando i dati di base non contengono la risposta ("In base alle informazioni disponibili, non ho una risposta a tale domanda")
• Impostare regole per la modalità di gestione delle informazioni in conflitto tra le origini

Rilevamento della fondatezza

Alcune piattaforme di IA garantiscono il rilevamento del livello di base come funzionalità integrata. Questa funzionalità valuta le attestazioni del modello rispetto ai materiali di origine forniti, contrassegnando le risposte che contengono informazioni non supportate dai dati di base. Il rilevamento del livello di base di fondatezza ha la funzione di controllare la sicurezza post-generazione, intercettando output creati che hanno superato gli altri controlli.

Procedure consigliate per il grounding

Quando si implementa il grounding nei sistemi di IA:

• Mantenere aggiornati i dati di base: stabilire processi per aggiornare regolarmente la Knowledge Base. I dati di base non aggiornati possono essere tanto problematici quanto la mancanza di dati di base.
• Convalidare la qualità della fonte: usare solo fonti autorevoli e verificate per il fondamento. L'utilizzo di dati non affidabili si riflette nell'inaffidabilità delle risposte fornite dall'IA.
• Monitorare le metriche di fondatezza: tenere traccia della frequenza con cui le risposte del modello sono fondate rispetto a non fondate. Un aumento delle risposte non fondate può indicare un problema con la pipeline di recupero o con i dati di ancoraggio stessi.
• Combinare con filtri per contenuti: uso del rilevamento della fondatezza in combinazione con filtri per contenuti e istruzioni relative ai metaprompt per un approccio difensivo a più livelli.