Protezione runtime dell'agente di intelligenza artificiale con Microsoft Defender per endpoint (anteprima)

Gli agenti di intelligenza artificiale locali, inclusi gli assistenti di codifica, gli strumenti dell'interfaccia della riga di comando, le app desktop per intelligenza artificiale e le piattaforme degli agenti autonomi, vengono eseguiti con privilegi utente sugli endpoint. Questi agenti agiscono su testo proveniente da prompt, file, contenuti web e output degli strumenti. Non possono separare in modo affidabile contenuti attendibili da istruzioni nascoste. Una singola istruzione inserita può usare in modo improprio l'accesso dell'agente per esfiltrare dati, modificare il codice o eseguire comandi dannosi.

Microsoft Defender fornisce protezione in runtime degli agenti AI ispezionando i punti critici del ciclo dell'agente dove il contenuto entra o esce dal ragionamento dell'agente. Questo aiuta a rilevare prompt dannosi e le azioni dannose degli agenti che tali prompt possono causare, auditarli e bloccare le azioni prima che vengano eseguite quando il metodo di ispezione lo consente. Defender utilizza due approcci di ispezione: ispezione di eventi agent-native per agenti che espongono interfacce di eventi supportate dal fornitore, e ispezione di rete per i percorsi di rete coperti. Per informazioni su come la protezione runtime controlla e blocca gli attacchi, consultare Cosa rileva la protezione in runtime e Come funziona.

Scopri cosa blocca la protezione a runtime, come funziona e come indagare sulle rilevazioni.

Cosa rileva la protezione di runtime

La protezione a runtime aiuta a proteggere dagli attacchi che coinvolgono prompt dannosi e dalla conseguente compromissione del comportamento degli agenti. Defender ispeziona i punti critici del ciclo dell'agente dove il contenuto entra o esce dal ragionamento dell'agente e rileva attacchi indipendentemente da dove provenga il contenuto, che si tratti di un file, una pagina web, un repository o l'output di uno strumento.

Ad esempio, un agente di codifica recupera la documentazione di un progetto per rispondere a una domanda e la pagina contiene testo nascosto che indica all'agente di leggere il file con estensione env locale e di pubblicarne il contenuto in un URL esterno. L'agente tratta l'istruzione come parte della pagina e sta per eseguirla, ma Defender rileva l'iniezione di prompt nella risposta dello strumento e blocca l'azione prima che qualsiasi dato lasci il dispositivo.

Come funziona

La protezione a runtime utilizza due approcci per ispezionare l'attività dell'agente: ispezione degli eventi agent-native e ispezione di rete.

Ispezione degli eventi nativa dell'agente

L'ispezione nativa degli eventi dell'agente utilizza interfacce per eventi supportate dal fornitore ed esposte dall'agente. Agent come Claude Code, Codex CLI e GitHub Copilot CLI espongono queste interfacce, e Defender le utilizza per ispezionare l'attività degli agenti e applicare decisioni di audit o blocco nei momenti critici del flusso di lavoro degli agenti.

Defender analizza l'attività degli agenti disponibile alla ricerca di prompt dannosi e azioni ad alto rischio. A seconda delle interfacce degli eventi supportate dall'agente, Defender può impedire che contenuti dannosi continuino attraverso il ciclo dell'agente o impedire l'esecuzione di un'azione dannosa dello strumento.

Ogni scansione è un controllo rapido e inline piuttosto che un monitoraggio continuo del processo agente, quindi la latenza aggiuntiva è minima.

Ispezione di rete

L'ispezione di rete estende la protezione in fase di esecuzione agli agenti che non espongono interfacce per eventi native dell'agente. Invece di basarsi sugli eventi strutturati dell'agente, Defender ispeziona i flussi di rete tra l'agente e il modello di linguaggio di grandi dimensioni (LLM) della matrice supportata per rilevare l'inserimento di prompt in transito.

Usare l'ispezione di rete quando si vogliono proteggere gli agenti che comunicano con i servizi LLM in rete, ma non espongono un'interfaccia evento supportata dal fornitore. Questo approccio aiuta a colmare il divario di copertura per agenti che altrimenti non avrebbero protezione in fase di esecuzione prima o durante l'interazione con il modello.

Cosa accade quando si abilita la protezione di runtime

Una volta abilitato su un dispositivo, Defender ispeziona l'attività degli agenti nei punti di ispezione disponibili, senza cambiare il modo in cui gli utenti utilizzano l'agente. Ciò che accade dopo un rilevamento dipende dalla modalità configurata:

• Blocco: Defender blocca la minaccia e segue le regole di notifica configurate per il dispositivo. Defender notifica all'utente sia nell'interfaccia utente dell'agente che tramite una notifica popup di Windows. Il rilevamento viene registrato nella cronologia di protezione di Defender nel dispositivo e viene inviato un avviso di sicurezza a Defender, correlato agli eventi imprevisti che il SOC deve analizzare.
• Revisione: Defender consente all'azione di continuare e registra il rilevamento. Un avviso di sicurezza continua a essere generato in Defender per l'indagine.
• Disabilitato: La protezione di runtime è disattivata. Defender non analizza l'attività degli agenti e gli agenti vengono eseguiti senza rilevamento né blocco delle iniezioni di prompt.

Microsoft consiglia di iniziare in modalità di controllo per osservare i rilevamenti e convalidare l'accuratezza prima di passare alla modalità di blocco per l'imposizione attiva. L'impostazione di protezione del runtime è protetta dalla protezione da manomissioni, che impedisce modifiche non autorizzate e funziona insieme ai controlli di Defender esistenti.

Per le opzioni di configurazione locali di PowerShell e Microsoft Intune a livello organizzativo, vedi Configura la protezione di runtime degli agenti AI con Microsoft Defender per endpoint.

Indagine

Quando la protezione in fase di esecuzione rileva un'iniezione di prompt, Defender genera l'avviso Sospetta iniezione di prompt di intelligenza artificiale e correla le attività correlate in incidenti per l'analisi.

Per il flusso di lavoro di analisi completo, incluse le esperienze utente e SOC, vedere Esaminare e analizzare i rilevamenti.

Agenti supportati

Per la copertura per agente, modalità, metodo di ispezione, versione minima e documentazione sugli hook del fornitore, consulta la matrice di supporto degli agenti AI di Microsoft Defender per endpoint.

Funzionalità di sicurezza di intelligenza artificiale più ampie

Le funzionalità di protezione del runtime di Defender fanno parte di un approccio completo alla sicurezza dell'intelligenza artificiale. Defender offre altre funzionalità nell'ecosistema dell'IA della tua organizzazione:

• Scopri gli agenti AI locali: Rileva gli agenti AI locali e i loro server MCP configurati sui tuoi dispositivi dopo che Defender ha osservato l'attività degli agenti. Per altre informazioni, vedere Individuazione dell'agente di intelligenza artificiale locale con Microsoft Defender per endpoint.
• Individuare gli agenti cloud e della piattaforma: trovare gli agenti creati con Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock e Google Cloud Platform (GCP) Vertex AI.
• Valutare il comportamento di sicurezza: valutare le configurazioni degli agenti, identificare i rischi, ottenere raccomandazioni con priorità e percorsi di attacco di superficie.
• Rileva e indaga sulle minacce: correla gli avvisi e indaga sui comportamenti sospetti degli agenti nella tua infrastruttura di sicurezza.

Per informazioni dettagliate su queste funzionalità e su come applicarle, vedere Proteggere gli asset di intelligenza artificiale da minacce e vulnerabilità emergenti usando Microsoft Defender.

Contenuti correlati

• Configurare la protezione runtime dell'agente di intelligenza artificiale con Microsoft Defender per endpoint
• Individuazione dell'agente di intelligenza artificiale locale con Microsoft Defender per endpoint