Proteção do runtime do agente de IA com Microsoft Defender para Ponto de Extremidade (Preview)

Os agentes de IA locais, incluindo assistentes de codificação, ferramentas da CLI, aplicações de IA de ambiente de trabalho e plataformas de agentes autónomos, são executados com privilégios de utilizador em pontos finais. Esses agentes agem sobre textos de prompts, arquivos, conteúdo da web e saída de ferramentas, e não conseguem distinguir com confiabilidade conteúdo confiável de instruções ocultas. Uma única instrução injetada pode utilizar indevidamente o acesso do agente para exfiltrar dados, modificar código ou executar comandos prejudiciais.

Microsoft Defender fornece proteção de runtime do agente de IA inspecionando pontos-chave no loop do agente: solicitações de usuário, solicitações de ferramenta antes da execução e respostas de ferramenta após a execução. Isso ajuda a detectar injeção de prompt e ações de agentes de alto risco, auditá-las e bloquear ações compatíveis antes que sejam executadas. O Defender oferece suporte a duas abordagens de inspeção: inspeção de eventos nativa do agente para agentes que expõem interfaces de eventos suportadas pelo fornecedor e inspeção de rede para agentes que se comunicam por caminhos de rede compatíveis. Para saber mais sobre como a proteção em tempo de execução audita e bloqueia a injeção de prompt, consulte O que a proteção em tempo de execução detecta e Como funciona.

Este artigo explica o que a proteção em tempo de execução impede, como ela funciona e como investigar detecções.

O que a proteção em tempo de execução detecta

A proteção em tempo de execução visa a principal ameaça aos agentes locais de IA: a injeção de prompt, que envolve instruções maliciosas ocultas em um conteúdo que, de outra forma, é legítimo e que um agente lê e depois age com base nele. O Defender inspeciona os três pontos em que o conteúdo entra ou sai do raciocínio do agente: o prompt do usuário, as chamadas de ferramenta que o agente está prestes a fazer e as respostas que essas ferramentas retornam. Esta abordagem captura a injeção independentemente da origem do conteúdo, seja um ficheiro, uma página Web, um repositório ou o resultado de uma ferramenta.

Por exemplo, um agente de codificação obtém a documentação de um projeto para responder a uma pergunta e a página contém texto oculto que indica ao agente para ler o ficheiro .env local e publicar os respetivos conteúdos num URL externo. O agente trata a instrução como parte da página e está prestes a executá-la, mas o Defender detecta a injeção de prompt na resposta da ferramenta e bloqueia a ação antes que quaisquer dados saiam do dispositivo.

Como funciona

A proteção em tempo de execução usa duas abordagens para inspecionar as atividades do agente:

Inspeção de eventos nativa do agente

A inspeção de eventos nativa do agente usa interfaces de eventos compatíveis com o fornecedor, expostas pelo agente. Essas interfaces fornecem pontos de verificação estruturados no fluxo de trabalho do agente, como quando um usuário envia um prompt, quando o agente solicita o uso de uma ferramenta ou depois que uma ferramenta retorna uma resposta. Agentes como Claude Code, CLI do Codex e CLI de GitHub Copilot expõem essas interfaces de evento e Defender as usa para inspecionar a atividade do agente e aplicar decisões de auditoria ou bloqueio quando houver suporte

Quando um agente expõe uma interface de eventos compatível com o fornecedor, o Defender recebe payloads em estágios-chave do loop do agente:

• Pedido do utilizador: o pedido submetido ao agente.
• Chamada pré-ferramenta: o pedido de invocação da ferramenta antes da execução.
• Resposta pós-ferramenta: a resposta da ferramenta após a conclusão da execução.

O Defender examina esses payloads em busca de injeção de prompt e atividades de agentes de alto risco. O Defender pode auditar ou bloquear atividades em cada ponto de evento compatível. Dependendo do tipo de evento, o bloqueio pode impedir que o prompt seja processado, impedir que uma ação de ferramenta solicitada seja executada ou impedir que uma resposta de ferramenta continue no loop do agente.

Cada varredura é uma verificação rápida, em linha, em um desses pontos de evento, em vez de um monitoramento contínuo do processo do agente; portanto, a latência adicionada é mínima.

Para obter a documentação dos fornecedores sobre essas interfaces de eventos de agente, consulte a documentação do Claude Code, a documentação da CLI do Codex e a documentação do GitHub Copilot.

Inspeção de rede

A inspeção de rede estende a proteção em tempo de execução a agentes que não expõem interfaces nativas de eventos do agente. Em vez de depender de eventos estruturados do agente, o Defender inspeciona fluxos de rede compatíveis de agente para Modelo de Linguagem Grande (LLM) para detectar injeção de prompt em trânsito.

Use a inspeção de rede quando quiser proteger agentes que se comunicam com os serviços LLM pela rede, mas não expõem uma interface de evento com suporte do fornecedor. Isso ajuda a fechar a lacuna de cobertura para agentes que, de outra forma, não teriam proteção de runtime antes ou durante a interação com o modelo.

O que acontece quando ativa a proteção de runtime

Depois de ativado num dispositivo, o Defender inspeciona os agentes suportados nos respetivos pontos de hook à medida que os utilizadores trabalham, sem alterar a forma como executam o agente. O que acontece após uma deteção depende do modo configurado:

• Bloco: O Defender bloqueia a ameaça e segue as regras de notificação configuradas para o dispositivo. O Defender notifica o usuário tanto na interface do agente quanto por meio de uma notificação pop-up do Windows. A detecção é registrada no histórico de proteção do Defender no dispositivo, e um alerta de segurança é enviado ao Defender, correlacionado a incidentes para o SOC investigar.
• Auditoria: O Defender permite que a ação continue e regista a deteção. Continua a ser gerado um alerta de segurança no Defender para investigação.
• Desativado: A proteção do runtime está desativada. O Defender não inspeciona a atividade do agente, e os agentes são executados sem detecção ou bloqueio de injeção de prompts.

A Microsoft recomenda que comece no modo de auditoria para observar as deteções e validar a precisão antes de mudar para o modo de bloqueio para a imposição ativa. A definição de proteção do runtime está protegida pela proteção contra adulteração, que impede alterações não autorizadas e funciona juntamente com os controlos do Defender existentes.

Para obter os passos de configuração, veja Ativar a proteção do runtime.

Investigação

Quando a proteção em tempo de execução detecta injeção de prompts, o Defender gera um alerta de Injeção de prompt de IA suspeita e correlaciona a atividade relacionada em incidentes para investigação.

Para conhecer o fluxo de investigação completo, incluindo as experiências do usuário e do SOC, consulte Analisar e investigar detecções.

Agentes suportados

A tabela a seguir lista os agentes locais de IA aos quais o Defender oferece suporte para proteção em tempo de execução por meio da inspeção de eventos nativos do agente.

Capacidades de segurança de IA mais amplas

As capacidades de proteção de runtime do Defender fazem parte de uma abordagem abrangente de segurança de IA. O Defender fornece outras capacidades no ecossistema de IA da sua organização:

• Detetar agentes de IA locais: detete automaticamente os agentes de IA locais suportados e as configurações do servidor MCP nos seus dispositivos. Para obter mais informações, consulte Descoberta local de agentes de IA com o Microsoft Defender para Ponto de Extremidade.
• Descubra agentes da cloud e da plataforma: encontre agentes criados com Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock e Google Cloud Platform (GCP) Vertex AI.
• Avaliar a postura de segurança: avalie as configurações do agente, identifique riscos, obtenha recomendações priorizadas e revele caminhos de ataque.
• Detetar e investigar ameaças: correlacione alertas e investigue o comportamento suspeito do agente na infraestrutura de segurança.

Para obter detalhes sobre estas capacidades e como aplicá-las, veja Proteger recursos de IA contra ameaças e vulnerabilidades emergentes através de Microsoft Defender.

Próximas etapas

• Configurar a proteção em tempo de execução do agente de IA com o Microsoft Defender para Ponto de Extremidade
• Descoberta local de agentes de IA com o Microsoft Defender para Ponto de Extremidade