Detectar e investigar ameaças a agentes de IA usando Microsoft Defender (versão prévia)

Os agentes de IA implantados operam de forma autônoma, invocando ferramentas, acessando dados e tomando ações em sistemas conectados em resposta à entrada em linguagem natural. Isso torna a detecção e a investigação contínuas críticas. Microsoft Defender detecta comportamento de agente suspeito e mal-intencionado, fornece alertas quase em tempo real e permite que as equipes de segurança investiguem incidentes e rastreiem a causa raiz completa e o raio da explosão.

Microsoft Defender detecta e permite que as equipes de segurança investiguem ameaças a agentes de IA gerenciados por meio do agente Microsoft 365, incluindo os recursos de detecção estendida disponíveis para plataformas de agente com suporte. Para bloquear ações de agente não seguros durante o runtime, consulte Proteger agentes de IA em tempo real usando Microsoft Defender.

Pré-requisitos

• Habilite a proteção para agentes de IA, incluindo o conector do aplicativo Microsoft 365 para coletar dados de observabilidade do Agent 365 sobre ações de agentes de IA. Consulte Habilitar segurança para agentes de IA usando Microsoft Defender.
• Verifique se o agente de IA emite dados de observabilidade para Microsoft 365:
  • Os agentes criados com Microsoft Copilot Studio, Microsoft Foundry e agentes declarativos criados com o Construtor de Agente Microsoft 365 Copilot enviam dados de observabilidade para Microsoft 365 por padrão.
  • Para agentes de IA criados noutras plataformas, ative a observabilidade com o SDK Microsoft Agent 365, conforme descrito na documentação do ciclo de vida de desenvolvimento Agent 365.
• Para detectar ameaças a agentes de IA locais executados nos endpoints, configure a proteção do runtime do agente de IA no Microsoft Defender para Ponto de Extremidade. Microsoft Defender para Ponto de Extremidade deve ser executado no modo ativo. Os agentes locais são integrados separadamente dos agentes de nuvem.
• (Opcional) Para incluir, como evidência nos alertas, os trechos do prompt que acionaram uma detecção, habilite a coleta de evidências do prompt. Essa configuração é habilitada por padrão.

Detetar ameaças do agente de IA em tempo quase real

O Microsoft Defender monitora continuamente a atividade dos agentes de IA e detecta comportamentos suspeitos e maliciosos para todos os agentes gerenciados pelo Agent 365. O Defender analisa a telemetria do agente, uso de ferramentas e padrões de execução para identificar ameaças como tentativas de jailbreak, tentativas de injeção indireta de prompt (XPIA), propagação de conteúdo malicioso, vazamento de segredos e credenciais, técnicas de evasão, reconhecimento de grandes modelos de linguagem (LLM) e acesso suspeito de usuários ou IP.

O Microsoft Defender apresenta detecções como alertas quase em tempo real no portal do Defender e permite que as equipes de segurança as investiguem usando fluxos de trabalho de operações de segurança já conhecidos, incluindo triagem de alertas, correlação de incidentes e Caça Avançada.

Para obter mais informações, veja Incidentes e alertas no portal do Microsoft Defender.

As deteções quase em tempo real dependem de dados de observabilidade Agent 365, que também fornecem contexto valioso para investigar incidentes e investigação de ameaças. Microsoft Defender analisa estes dados para identificar o comportamento suspeito do agente e gerar alertas.

Para enriquecer a investigação de alertas com os trechos de texto que acionaram uma detecção, habilite a coleta de evidências de texto. Para obter mais informações, consulte Controlar evidências de texto em alertas.

Investigue ameaças de agentes de IA e identifique riscos usando a Busca Avançada

Microsoft Defender correlaciona os alertas do agente de IA em incidentes e apresenta o contexto relacionado para que as equipas de segurança possam avaliar rapidamente o impacto e priorizar a resposta. A Busca Avançada permite que os analistas consultem os dados de observabilidade do Agente 365 usando a KQL (Linguagem de Consulta Kusto) para investigar incidentes e procurar riscos em todo o ambiente.

Investigar incidentes e alertas

O Microsoft Defender correlaciona alertas de agentes de IA de detecções em tempo quase real em incidentes. Os eventos de auditoria e de bloqueio da proteção em tempo real são registrados como comportamentos na tabela BehaviorInfo, e podem ser correlacionados com alertas durante a investigação.

Os analistas de segurança podem utilizar o gráfico de incidentes e a experiência de investigação para compreender o contexto completo de um potencial ataque, incluindo relações entre entidades envolvidas e o raio de explosão de ameaças do agente de IA. Para obter mais informações, veja Incidentes e alertas no portal do Microsoft Defender.

Correlacionar alertas e dados de observabilidade do Agent 365 e investigar riscos usando a Busca Avançada

A Busca Avançada no Microsoft Defender permite que as equipes de segurança consultem os dados de observabilidade do Agent 365 juntamente com outros dados de segurança usando a Linguagem de Consulta Kusto (KQL). Isso dá suporte à busca proativa de ameaças, à investigação de incidentes e à análise de causa raiz para agentes, aplicativos, identidades e dispositivos.

Por exemplo, use a Caça Avançada para:

• Rastrear invocações de ferramentas de agente específicas e correlacioná-las com alertas relacionados ou bloquear eventos

• Investigar a causa e o âmbito de uma ameaça de agente de IA detetada

• Identificar padrões de execução anômalos ou comportamento de agente arriscado em todos os ambientes

• Criar regras de deteção personalizadas com base em sinais de atividade do agente

Tabelas de busca avançada para investigação de agentes de IA

As tabelas de Busca Avançada a seguir fornecem visibilidade da configuração do agente de IA, alertas e atividades. Pode consultar estas tabelas individualmente ou correlacioná-las para investigar incidentes e investigar riscos relacionados com o agente.

Próximas etapas

• Proteger agentes de IA em tempo real usando Microsoft Defender

• Detetar agentes de IA e avaliar a postura de segurança com Microsoft Defender

• Proteger os recursos de IA contra ameaças e vulnerabilidades emergentes com Microsoft Defender