Proteção do runtime do agente de IA com Microsoft Defender para Endpoint (Pré-visualização)

Os agentes de IA locais, incluindo assistentes de codificação, ferramentas da CLI, aplicações de IA de ambiente de trabalho e plataformas de agentes autónomos, são executados com privilégios de utilizador em pontos finais. Estes agentes agem sobre texto proveniente de instruções, ficheiros, conteúdo da web e saída de ferramentas, e não conseguem separar, de forma fiável, o conteúdo fidedigno de instruções ocultas. Uma única instrução injetada pode utilizar indevidamente o acesso do agente para exfiltrar dados, modificar código ou executar comandos prejudiciais.

O Microsoft Defender fornece proteção em tempo de execução de agentes de IA ao inspecionar pontos-chave no ciclo do agente: pedidos de utilizador, pedidos de ferramentas antes da execução e respostas de ferramentas após a execução. Isto ajuda a detetar injeção rápida e ações de agentes de alto risco, auditá-las e bloquear ações suportadas antes de serem executadas. O Defender suporta duas abordagens de inspeção: inspeção de eventos nativa do agente para agentes que expõem interfaces de eventos suportadas pelo fornecedor e inspeção de rede para agentes que comunicam por percursos de rede suportados. Para saber mais sobre como a proteção em tempo de execução audita e bloqueia a injeção de prompts, consulte O que a proteção em tempo de execução deteta e Como funciona.

Este artigo explica o que a proteção em tempo de execução impede, como funciona e como investigar deteções.

O que a proteção em tempo de execução deteta

A proteção em tempo de execução visa a principal ameaça aos agentes de IA locais: a injeção de prompts, que envolve instruções maliciosas ocultas em conteúdo aparentemente legítimo que um agente lê e com base no qual age. O Defender inspeciona os três pontos pelos quais o conteúdo entra ou sai do raciocínio do agente: o pedido do utilizador, as chamadas a ferramentas que o agente está prestes a fazer e as respostas que essas ferramentas devolvem. Esta abordagem captura a injeção independentemente da origem do conteúdo, seja um ficheiro, uma página Web, um repositório ou o resultado de uma ferramenta.

Por exemplo, um agente de codificação obtém a documentação de um projeto para responder a uma pergunta e a página contém texto oculto que indica ao agente para ler o ficheiro .env local e publicar os respetivos conteúdos num URL externo. O agente trata a instrução como parte da página e está prestes a segui-la, mas o Defender deteta a injeção de prompts na resposta da ferramenta e bloqueia a ação antes de quaisquer dados saírem do dispositivo.

Como funciona

A proteção em tempo de execução utiliza duas abordagens para inspecionar a atividade do agente:

Inspeção de eventos por agente nativo

A inspeção de eventos nativa do agente utiliza interfaces de eventos suportadas pelo fornecedor, expostas pelo agente. Estas interfaces fornecem checkpoints estruturados no fluxo de trabalho do agente, como quando um utilizador envia um prompt, quando o agente solicita a utilização de uma ferramenta ou depois de uma ferramenta devolver uma resposta. Agentes como Claude Code, Codex CLI e GitHub Copilot CLI expõem estas interfaces de eventos, e o Defender utiliza-as para inspecionar a atividade dos agentes e aplicar decisões de auditoria ou bloqueio quando suportado

Quando um agente expõe uma interface de eventos do agente suportada pelo fornecedor, o Defender recebe payloads nas etapas principais do ciclo agêntico:

• Pedido do utilizador: o pedido submetido ao agente.
• Chamada pré-ferramenta: o pedido de invocação da ferramenta antes da execução.
• Resposta pós-ferramenta: a resposta da ferramenta após a conclusão da execução.

O Defender analisa estas cargas úteis para injeção rápida e atividade de agentes de alto risco. O Defender pode auditar ou bloquear atividade em cada ponto de evento suportado. Dependendo do tipo de evento, o bloqueio pode impedir que o prompt seja processado, impedir que uma ação solicitada da ferramenta seja executada ou impedir que uma resposta da ferramenta continue no ciclo do agente.

Cada análise é uma verificação rápida e integrada num destes pontos de evento, em vez de uma monitorização contínua do processo do agente, pelo que a latência adicional é mínima.

Para documentação de fornecedores sobre estas interfaces de eventos de agentes, consulte documentação Claude Code, documentação Codex CLI e documentação GitHub Copilot.

Inspeção da rede

A inspeção de rede estende a proteção em tempo de execução a agentes que não expõem interfaces de eventos nativas do agente. Em vez de depender de eventos estruturados de agentes, o Defender inspeciona os fluxos de rede suportados entre o agente e o Modelo de Linguagem de Grande Dimensão (LLM) para detetar injeção de prompts em trânsito.

Use inspeção de rede quando quiser proteger agentes que comunicam com serviços LLM através da rede, mas não expõem uma interface de eventos suportada por fornecedores. Isto ajuda a fechar a lacuna de cobertura para agentes que, de outra forma, não teriam proteção em tempo de execução antes ou durante a interação com o modelo.

O que acontece quando ativa a proteção de runtime

Depois de ativado num dispositivo, o Defender inspeciona os agentes suportados nos respetivos pontos de hook à medida que os utilizadores trabalham, sem alterar a forma como executam o agente. O que acontece após uma deteção depende do modo configurado:

• Bloco: O Defender bloqueia a ameaça e segue as regras de notificação configuradas para o dispositivo. O Defender notifica o utilizador tanto na interface do agente como através de uma notificação de pop-up do Windows. A deteção é registada no histórico de proteção do Defender no dispositivo e é enviado um alerta de segurança para o Defender, correlacionado com incidentes para o SOC investigar.
• Auditoria: O Defender permite que a ação continue e regista a deteção. Continua a ser gerado um alerta de segurança no Defender para investigação.
• Desativado: A proteção do runtime está desativada. O Defender não inspeciona a atividade do agente e os agentes funcionam sem a deteção de injeção de prompts nem bloqueio.

A Microsoft recomenda que comece no modo de auditoria para observar as deteções e validar a precisão antes de mudar para o modo de bloqueio para a imposição ativa. A definição de proteção do runtime está protegida pela proteção contra adulteração, que impede alterações não autorizadas e funciona juntamente com os controlos do Defender existentes.

Para obter os passos de configuração, veja Ativar a proteção do runtime.

Investigação

Quando a proteção em tempo de execução deteta uma injeção de prompts, o Defender gera um alerta de Injeção suspeita de prompts de IA e correlaciona a atividade relacionada em incidentes para investigação.

Para consultar todo o fluxo de trabalho de investigação, incluindo as experiências do utilizador e do SOC, consulte Analisar e investigar deteções.

Agentes suportados

A tabela seguinte lista os agentes de IA locais que o Defender suporta para proteção em tempo de execução através da inspeção de eventos nativos do agente.

Capacidades de segurança de IA mais amplas

As capacidades de proteção de runtime do Defender fazem parte de uma abordagem abrangente de segurança de IA. O Defender fornece outras capacidades no ecossistema de IA da sua organização:

• Detetar agentes de IA locais: detete automaticamente os agentes de IA locais suportados e as configurações do servidor MCP nos seus dispositivos. Para obter mais informações, veja Local AI agent discovery with Microsoft Defender para Endpoint (Deteção de agentes de IA local com Microsoft Defender para Endpoint).
• Descubra agentes da cloud e da plataforma: encontre agentes criados com Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock e Google Cloud Platform (GCP) Vertex AI.
• Avaliar a postura de segurança: avalie as configurações do agente, identifique riscos, obtenha recomendações priorizadas e revele os percursos de ataque.
• Detetar e investigar ameaças: correlacione alertas e investigue o comportamento suspeito do agente na infraestrutura de segurança.

Para obter detalhes sobre estas capacidades e como aplicá-las, veja Proteger recursos de IA contra ameaças e vulnerabilidades emergentes através de Microsoft Defender.

Passos seguintes

• Configurar a proteção do runtime do agente de IA com Microsoft Defender para Endpoint
• Deteção do agente de IA local com Microsoft Defender para Endpoint