Detectar e investigar ameaças a agentes de IA usando Microsoft Defender (versão prévia)

Os agentes de IA implantados operam de forma autônoma, invocando ferramentas, acessando dados e tomando ações em sistemas conectados em resposta à entrada em linguagem natural. Isso torna a detecção e a investigação contínuas críticas. Microsoft Defender detecta comportamento de agente suspeito e mal-intencionado, fornece alertas quase em tempo real e permite que as equipes de segurança investiguem incidentes e rastreiem a causa raiz completa e o raio da explosão.

Microsoft Defender detecta e permite que as equipes de segurança investiguem ameaças a agentes de IA gerenciados por meio do agente Microsoft 365, incluindo os recursos de detecção estendida disponíveis para plataformas de agente com suporte. Para bloquear ações de agente não seguros durante o runtime, consulte Proteger agentes de IA em tempo real usando Microsoft Defender.

Pré-requisitos

• Habilite a proteção para agentes de IA, incluindo o conector do aplicativo Microsoft 365 para coletar dados de observabilidade do Agent 365 sobre ações de agentes de IA. Consulte Habilitar segurança para agentes de IA usando Microsoft Defender.

• Certifique-se de que seu agente de IA emita dados de observabilidade para o Microsoft 365:

  • Agentes construídos com Microsoft Copilot Studio, Microsoft Foundry e agentes declarativos construídos com o Microsoft Copilot Agent Builder enviam dados de observabilidade para o Microsoft 365 por padrão.
  • Para agentes de IA criados em outras plataformas, habilite a observabilidade usando o SDK do Microsoft Agent 365, conforme descrito na documentação do ciclo de vida de desenvolvimento do Agent 365.

    Observação

    A detecção de ameaças é suportada apenas para agentes publicados da Microsoft Foundry. Agentes não publicados, incluindo agentes usados apenas em ambiente de playground, não são suportados. Para mais informações, veja Publicar agentes para Microsoft Copilot e Microsoft Teams no portal Foundry

• Para detectar ameaças a agentes de IA locais executados nos endpoints, configure a proteção do runtime do agente de IA no Microsoft Defender para Ponto de Extremidade. Microsoft Defender para Ponto de Extremidade deve ser executado no modo ativo. Os agentes locais são integrados separadamente dos agentes de nuvem.

• (Opcional) Para incluir, como evidência nos alertas, os trechos do prompt que acionaram uma detecção, habilite a coleta de evidências do prompt. Essa configuração é habilitada por padrão.

Detecte ameaças de agentes de IA quase em tempo real

O Microsoft Defender monitora continuamente a atividade dos agentes de IA e detecta comportamentos suspeitos e maliciosos para todos os agentes gerenciados pelo Agent 365. O Defender analisa a telemetria do agente, uso de ferramentas e padrões de execução para identificar ameaças como tentativas de jailbreak, tentativas de injeção indireta de prompt (XPIA), propagação de conteúdo malicioso, vazamento de segredos e credenciais, técnicas de evasão, reconhecimento de grandes modelos de linguagem (LLM) e acesso suspeito de usuários ou IP.

O Microsoft Defender revela as detecções como alertas quase em tempo real no portal do Defender e permite que as equipes de segurança as investiguem usando fluxos de trabalho de operações de segurança familiares, incluindo triagem de alertas, correlação de incidentes e Busca Avançada.

Para obter mais informações, consulte Incidentes e alertas no portal do Microsoft Defender.

As detecções quase em tempo real dependem dos dados de observabilidade do Agent 365, que também fornecem um contexto valioso para investigar incidentes e buscar ameaças. O Microsoft Defender analisa esses dados para identificar comportamentos suspeitos de agentes e gerar alertas.

Para enriquecer a investigação de alertas com os trechos de texto que acionaram uma detecção, habilite a coleta de evidências de texto. Para obter mais informações, consulte Controlar evidências de texto em alertas.

Investigue ameaças de agentes de IA e busque riscos usando a Busca Avançada de Ameaças

O Microsoft Defender correlaciona os alertas do agente de IA em incidentes e revela o contexto relacionado para que as equipes de segurança possam avaliar rapidamente o impacto e priorizar a resposta. A Busca Avançada permite que os analistas consultem os dados de observabilidade do Agente 365 usando a KQL (Linguagem de Consulta Kusto) para investigar incidentes e procurar riscos em todo o ambiente.

Investigar incidentes e alertas

O Microsoft Defender correlaciona alertas de agentes de IA de detecções em tempo quase real em incidentes. Os eventos de auditoria e de bloqueio da proteção em tempo real são registrados como comportamentos na tabela BehaviorInfo, e podem ser correlacionados com alertas durante a investigação.

Os analistas de segurança podem usar o grafo de incidentes e a experiência de investigação para entender o contexto completo de um possível ataque, incluindo as relações entre as entidades envolvidas e o raio de explosão das ameaças de agentes de IA. Para obter mais informações, consulte Incidentes e alertas no portal do Microsoft Defender.

Correlacione alertas e dados de observabilidade do Agent 365 e busque riscos usando a busca avançada

A busca avançada no Microsoft Defender permite que as equipes de segurança consultem os dados de observabilidade do Agent 365 junto com outros dados de segurança usando a Linguagem de Consulta Kusto (KQL). Isso dá suporte à busca proativa de ameaças, à investigação de incidentes e à análise de causa raiz para agentes, aplicativos, identidades e dispositivos.

Por exemplo, use a Busca avançada para:

• Rastrear invocações de ferramentas de agente específicas e correlacioná-las com alertas relacionados ou eventos de bloqueio

• Investigar a causa raiz e o escopo de uma ameaça de agente de IA detectada

• Identificar padrões de execução anômalos ou comportamento de agente arriscado em todos os ambientes

• Criar regras de detecção personalizadas com base nos sinais de atividade do agente

Tabelas de busca avançada para investigação de agentes de IA

As tabelas de Busca Avançada a seguir fornecem visibilidade da configuração, dos alertas e da atividade do agente de IA. Você pode consultar essas tabelas individualmente ou correlacioná-las para investigar incidentes e buscar riscos relacionados ao agente.

Próximas etapas

• Proteger agentes de IA em tempo real usando Microsoft Defender

• Descubra agentes de IA e avalie a postura de segurança usando o Microsoft Defender

• Proteja os ativos de IA contra ameaças e vulnerabilidades emergentes usando o Microsoft Defender