Detetar e investigar ameaças a agentes de IA usando o Microsoft Defender (Pré-visualização)

Os agentes de IA implementados operam de forma autónoma, invocando ferramentas, acedendo a dados e tomando ações em sistemas conectados em resposta a entradas em linguagem natural. Isto torna a deteção e investigação contínuas críticas. O Microsoft Defender deteta comportamentos suspeitos e maliciosos de agentes, fornece alertas quase em tempo real e permite às equipas de segurança investigar incidentes e rastrear a causa raiz completa e o raio da explosão.

O Microsoft Defender deteta e permite que as equipas de segurança investiguem ameaças a agentes de IA geridas através do Microsoft Agent 365, incluindo as capacidades de deteção alargadas disponíveis para plataformas de agentes suportadas. Para bloquear ações de agentes inseguros durante a execução, veja Proteger agentes de IA em tempo real usando Microsoft Defender.

Pré-requisitos

• Ativar a segurança para agentes de IA, incluindo o conector da aplicação Microsoft 365 para recolher dados de observabilidade do Agent 365 relativos às ações dos agentes de IA. Veja Ativar segurança para agentes de IA usando Microsoft Defender.
• Certifique-se de que o seu agente de IA emite dados de observabilidade para o Microsoft 365:
  • Agentes construídos com Microsoft Copilot Studio, Microsoft Foundry e agentes declarativos construídos com o Microsoft 365 Copilot Agent Builder enviam dados de observabilidade para o Microsoft 365 por defeito.
  • Para agentes de IA criados noutras plataformas, ative a observabilidade com o SDK Microsoft Agent 365, conforme descrito na documentação do ciclo de vida de desenvolvimento Agent 365.
• Para detetar ameaças a agentes de IA locais que correm em endpoints, configure proteção de runtime de agentes de IA no Microsoft Defender para Endpoint. O Microsoft Defender para Endpoint deve funcionar em modo ativo. Os agentes locais são integrados separadamente dos agentes cloud.
• (Opcional) Para incluir os excertos de prompt que desencadearam uma deteção como evidência nos alertas, permita a recolha rápida de provas. Esta definição está ativada por predefinição.

Detetar ameaças do agente de IA em tempo quase real

O Microsoft Defender monitoriza continuamente a atividade dos agentes de IA e deteta comportamentos suspeitos e maliciosos em todos os agentes geridos pelo Agent 365. O Defender analisa a telemetria do agente, o uso de ferramentas e os padrões de execução para identificar ameaças como tentativas de jailbreak, tentativas de injeção indireta de prompt (XPIA), propagação de conteúdo malicioso, fuga de segredos e credenciais, técnicas de evasão, reconhecimento de grandes modelos de linguagem (LLM) e acesso suspeito de utilizadores ou IP.

O Microsoft Defender apresenta deteções sob a forma de alertas quase em tempo real no portal do Defender e permite que as equipas de segurança as investiguem com fluxos de trabalho de operações de segurança já familiares, incluindo triagem de alertas, correlação de incidentes e Advanced Hunting.

Para obter mais informações, veja Incidentes e alertas no portal do Microsoft Defender.

As deteções quase em tempo real dependem de dados de observabilidade Agent 365, que também fornecem contexto valioso para investigar incidentes e investigação de ameaças. Microsoft Defender analisa estes dados para identificar o comportamento suspeito do agente e gerar alertas.

Para enriquecer a investigação de alerta com os excertos que desencadearam uma deteção, permita a recolha rápida de provas. Para mais informações, consulte a evidência de prompt do Controlo nos alertas.

Investigue ameaças de agentes de IA e procure riscos com o Advanced Hunting

Microsoft Defender correlaciona os alertas do agente de IA em incidentes e apresenta o contexto relacionado para que as equipas de segurança possam avaliar rapidamente o impacto e priorizar a resposta. O Advanced Hunting permite então que os analistas consultem dados de observabilidade do Agente 365 utilizando a Linguagem de Consulta Kusto (KQL) para investigar incidentes e procurar riscos em todo o seu ambiente.

Investigar incidentes e alertas

O Microsoft Defender correlaciona alertas de agentes de IA provenientes de deteções quase em tempo real em incidentes. A auditoria da proteção em tempo real e os eventos de bloqueio são registados como comportamentos na tabela BehaviorInfo, que pode correlacionar com os alertas durante a investigação.

Os analistas de segurança podem utilizar o gráfico de incidentes e a experiência de investigação para compreender o contexto completo de um potencial ataque, incluindo relações entre entidades envolvidas e o raio de explosão de ameaças do agente de IA. Para obter mais informações, veja Incidentes e alertas no portal do Microsoft Defender.

Correlacionar alertas e dados de observabilidade do Agent 365 e procurar riscos utilizando a Pesquisa Avançada

A Pesquisa Avançada no Microsoft Defender permite que as equipas de segurança consultem os dados de observabilidade do Agent 365 a par de outros dados de segurança, utilizando a Linguagem de Pesquisa Kusto (KQL). Isto suporta a caça proativa de ameaças, a investigação de incidentes e a análise da causa raiz para agentes, aplicações, identidades e dispositivos.

Por exemplo, utilize a Investigação Avançada para:

• Rastrear invocações de ferramentas de agente específicas e correlacioná-las com alertas relacionados ou bloquear eventos

• Investigar a causa e o âmbito de uma ameaça de agente de IA detetada

• Identificar padrões anómalos de execução ou comportamentos de risco de agentes em ambientes

• Criar regras de deteção personalizadas com base em sinais de atividade do agente

Tabelas de pesquisa avançada para a investigação de agentes de IA

As seguintes tabelas de Investigação Avançada proporcionam visibilidade sobre a configuração do agente de IA, os alertas e a atividade. Pode consultar estas tabelas individualmente ou correlacioná-las para investigar incidentes e investigar riscos relacionados com o agente.

Passos seguintes

• Proteja os agentes de IA em tempo real usando o Microsoft Defender

• Detetar agentes de IA e avaliar a postura de segurança com Microsoft Defender

• Proteger os recursos de IA contra ameaças e vulnerabilidades emergentes com Microsoft Defender