Proteção do runtime do agente de IA com Microsoft Defender para Endpoint (Pré-visualização)

Os agentes de IA locais, incluindo assistentes de codificação, ferramentas da CLI, aplicações de IA de ambiente de trabalho e plataformas de agentes autónomos, são executados com privilégios de utilizador em pontos finais. Estes agentes atuam com base em texto proveniente de prompts, ficheiros, conteúdos web e saídas de ferramentas. Não conseguem separar de forma fiável conteúdos confiáveis de instruções ocultas. Uma única instrução injetada pode utilizar indevidamente o acesso do agente para exfiltrar dados, modificar código ou executar comandos prejudiciais.

O Microsoft Defender fornece proteção em tempo de execução de agentes de IA ao inspecionar pontos críticos no ciclo de agentes onde o conteúdo entra ou sai do raciocínio do agente. Isto ajuda a detetar prompts maliciosos e as ações nocivas do agente que estes podem causar, auditá-las e bloquear ações antes de serem executadas quando o método de inspeção o permite. O Defender utiliza duas abordagens de inspeção: inspeção de eventos nativa de agentes para agentes que expõem interfaces de eventos suportadas pelo fornecedor, e inspeção de rede para caminhos de rede cobertos. Para saber mais sobre como a proteção em tempo de execução audita e bloqueia ataques, veja O que a proteção em tempo de execução deteta e Como funciona.

Aprenda o que a proteção em tempo de execução impede, como funciona e como investigar deteções.

O que a proteção em tempo de execução deteta

A proteção em tempo de execução ajuda a proteger contra ataques que envolvam prompts maliciosos e o consequente comprometimento do comportamento do agente. O Defender inspeciona pontos críticos no loop do agente onde o conteúdo entra ou sai do raciocínio do agente e detém ataques independentemente de onde o conteúdo se originou, seja um ficheiro, uma página web, um repositório ou a saída de uma ferramenta.

Por exemplo, um agente de codificação obtém a documentação de um projeto para responder a uma pergunta e a página contém texto oculto que indica ao agente para ler o ficheiro .env local e publicar os respetivos conteúdos num URL externo. O agente trata a instrução como parte da página e está prestes a segui-la, mas o Defender deteta a injeção de prompts na resposta da ferramenta e bloqueia a ação antes de quaisquer dados saírem do dispositivo.

Como funciona

A proteção em tempo de execução utiliza duas abordagens para inspecionar a atividade dos agentes: inspeção de eventos nativos do agente e inspeção de rede.

Inspeção de eventos por agente nativo

A inspeção de eventos nativa do agente utiliza interfaces de eventos suportadas pelo fornecedor, expostas pelo agente. Agentes como Claude Code, Codex CLI e GitHub Copilot CLI expõem estas interfaces, e o Defender utiliza-as para inspecionar a atividade dos agentes e aplicar decisões de auditoria ou bloqueio em pontos críticos do fluxo de trabalho do agente.

O Defender analisa a atividade disponível dos agentes à procura de prompts maliciosos e ações de alto risco. Dependendo das interfaces de eventos que o agente suporta, o Defender pode impedir que conteúdos maliciosos continuem através do ciclo do agente ou impedir que uma ação de ferramenta prejudicial seja executada.

Cada análise é uma verificação rápida e inline, em vez de monitorização contínua do processo do agente, pelo que a latência adicional é mínima.

Inspeção da rede

A inspeção de rede estende a proteção em tempo de execução a agentes que não expõem interfaces de eventos nativas do agente. Em vez de depender de eventos estruturados do agente, o Defender inspeciona os fluxos de rede agent-to-Large Language Model (LLM) cobertos pela matriz de suporte para detetar a injeção de prompts durante o trânsito.

Use inspeção de rede quando quiser proteger agentes que comunicam com serviços LLM através da rede, mas não expõem uma interface de eventos suportada por fornecedores. Esta abordagem ajuda a fechar a lacuna de cobertura para agentes que, de outra forma, não teriam proteção em tempo de execução antes ou durante a interação com o modelo.

O que acontece quando ativa a proteção de runtime

Uma vez ativado num dispositivo, o Defender inspeciona a atividade do agente nos pontos de inspeção disponíveis, sem alterar a forma como os utilizadores executam o agente. O que acontece após uma deteção depende do modo configurado:

• Bloco: O Defender bloqueia a ameaça e segue as regras de notificação configuradas para o dispositivo. O Defender notifica o utilizador tanto na interface do agente como através de uma notificação de pop-up do Windows. A deteção é registada no histórico de proteção do Defender no dispositivo e é enviado um alerta de segurança para o Defender, correlacionado com incidentes para o SOC investigar.
• Auditoria: O Defender permite que a ação continue e regista a deteção. Continua a ser gerado um alerta de segurança no Defender para investigação.
• Desativado: A proteção do runtime está desativada. O Defender não inspeciona a atividade do agente e os agentes funcionam sem a deteção de injeção de prompts nem bloqueio.

A Microsoft recomenda que comece no modo de auditoria para observar as deteções e validar a precisão antes de mudar para o modo de bloqueio para a imposição ativa. A definição de proteção do runtime está protegida pela proteção contra adulteração, que impede alterações não autorizadas e funciona juntamente com os controlos do Defender existentes.

Para opções de configuração local do PowerShell e do Microsoft Intune em toda a organização, consulte Configurar proteção em tempo de execução de agentes de IA com Microsoft Defender para Endpoint.

Investigação

Quando a proteção em tempo de execução deteta uma injeção de prompts, o Defender gera um alerta de Injeção suspeita de prompts de IA e correlaciona a atividade relacionada em incidentes para investigação.

Para consultar todo o fluxo de trabalho de investigação, incluindo as experiências do utilizador e do SOC, consulte Analisar e investigar deteções.

Agentes suportados

Para a documentação de cobertura por agente, modo, método de inspeção, versão mínima e ganchos do fornecedor, consulte a matriz de suporte a agentes de IA do Microsoft Defender para Endpoint.

Capacidades de segurança de IA mais amplas

As capacidades de proteção de runtime do Defender fazem parte de uma abordagem abrangente de segurança de IA. O Defender oferece outras capacidades no ecossistema de IA da sua organização:

• Descubra agentes de IA locais: Deteta agentes de IA locais e os seus servidores MCP configurados nos seus dispositivos depois de o Defender observar a atividade dos agentes. Para obter mais informações, veja Local AI agent discovery with Microsoft Defender para Endpoint (Deteção de agentes de IA local com Microsoft Defender para Endpoint).
• Descubra agentes da cloud e da plataforma: encontre agentes criados com Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock e Google Cloud Platform (GCP) Vertex AI.
• Avaliar a postura de segurança: avalie as configurações do agente, identifique riscos, obtenha recomendações priorizadas e revele os percursos de ataque.
• Detetar e investigar ameaças: Correlacione alertas e investigue comportamentos suspeitos de agentes na sua infraestrutura de segurança.

Para obter detalhes sobre estas capacidades e como aplicá-las, veja Proteger recursos de IA contra ameaças e vulnerabilidades emergentes através de Microsoft Defender.

Conteúdo relacionado

• Configurar a proteção do runtime do agente de IA com Microsoft Defender para Endpoint
• Deteção do agente de IA local com Microsoft Defender para Endpoint