Guia de planejamento de desenvolvimento de agente do Security Copilot

O Microsoft Security Copilot (Security Copilot) é uma solução de segurança generativa baseada em IA que ajuda a aumentar a eficiência e os recursos dos defensores para melhorar os resultados de segurança na velocidade e escala do computador. Os agentes do Security Copilot usam a IA para concluir tarefas rotineiras e coletar insights com algum nível de autonomia para que você possa se concentrar no trabalho de alto valor. Você pode criar agentes que personalizam e aprimoram a experiência do Security Copilot para atender às necessidades de negócios exclusivas da sua organização.

O planejamento é uma primeira etapa importante na concepção e construção de seus agentes de segurança. Projetar agentes eficazes do Security Copilot requer planejamento cuidadoso, desenvolvimento iterativo e um forte alinhamento com os princípios de IA responsável. Este guia serve para estruturar seu processo de planejamento para criar agentes que entendam seu contexto de negócios exclusivo.

Esteja você projetando vários cenários de ponta a ponta, como resposta a incidentes, busca de ameaças, coleta de inteligência, gerenciamento de postura e muito mais, aqui estão os princípios básicos para orientar seu processo:

Defina um objetivo claro

Comece articulando o propósito do agente:

• Declaração do problema: Que desafio operacional ou de segurança específico o agente está resolvendo? Por exemplo, um agente que monitora alertas de endpoint e os enriquece automaticamente com inteligência de ameaças para reduzir a carga de trabalho do analista.
• Usuários-alvo: são analistas de SOC (centro de operações de segurança), administradores de TI, administradores de conformidade ou desenvolvedores? Para obter mais informações, consulte Personas do Security Copilot.
• Métricas de sucesso: defina resultados mensuráveis, por exemplo, tempo de triagem reduzido, precisão de detecção aprimorada ou correção automatizada.

Para obter orientações detalhadas sobre como escolher a experiência que melhor atende aos requisitos do agente, consulte Agentes personalizados.

Identificar as funcionalidades necessárias

Divida as ferramentas de que seu agente precisa para ter sucesso:

• Cognitivo: Classifique alertas, resuma incidentes, correlacione sinais.
• Conversacional: interprete solicitações do usuário, gere explicações claras. Para fluxos de trabalho que exigem que os analistas interajam com um agente, consulte Criar agentes interativos.
• Operacional: dispare fluxos de trabalho, chame APIs, recupere logs ou documentos.

Use a ferramenta Security Copilot (skill) para definir esses recursos. As ferramentas podem ser reutilizadas ou compostas em agentes usando o manifesto YAML. Para carregar uma ferramenta ou um plug-in, consulte Manifesto do agente de compilação.

Entenda seu contexto e ecossistema exclusivos

Os agentes do Security Copilot operam em um ambiente seguro e extensível, adaptado às necessidades específicas da sua organização:

• Fontes de dados: identifique os sistemas, alertas ou APIs que o agente precisa acessar (por exemplo, Microsoft Defender, Microsoft Sentinel, Microsoft Graph). Para integrações com essas fontes, consulte Plug-ins.
• Segurança e conformidade: determine o acesso dos usuários à plataforma do Security Copilot por meio do RBAC (Controle de Acesso Baseado em Função), autenticação em nome de e sobreponha sua cobertura de segurança com políticas de acesso condicional. Para obter mais informações, consulte RBAC.
• Gerenciamento de estado: aplique comentários do agente por meio de memórias para manter informações relevantes entre sessões.

Priorize a IA ética e responsável

Os agentes do Security Copilot devem aderir aos princípios de IA responsáveis nas seguintes dimensões:

1. Transparência:

   • Permitir que os usuários verifiquem as fontes de informações.
   • Comunique claramente quais dados são armazenados na memória e como eles são usados.
   • Entenda as limitações e as funcionalidades do agente.
   • Mostre como as decisões foram tomadas (por exemplo, qual ferramenta foi usada, quais dados foram recuperados).

2. Expectativas apropriadas:

   • Forneça uma justificativa clara para as ações tomadas pelo agente.
   • Defina o escopo das habilidades de raciocínio do agente.

3. Evite o excesso de confiança:

   • Certifique-se de que os usuários possam identificar erros na saída do agente.
   • Incentive os usuários a validar os resultados para precisão.
   • Opção para rejeitar resultados incorretos ou saídas enganosas.

4. Segurança e privacidade:

   • Mascare dados confidenciais e respeite os limites do locatário.
   • Garanta que os agentes operem alinhados com as políticas organizacionais, preservando a integridade dos dados.
   • Impor o acesso com privilégios mínimos aos sistemas de back-end.

5. Governança e Conformidade:

   • Use convenções de nomenclatura e isenções de responsabilidade para garantir clareza e conformidade.

6. Comentários:

   • Permita que os usuários forneçam comentários sobre a saída gerada.
   • Use comentários para identificar problemas e melhorar continuamente o desempenho e a confiabilidade do agente.

Próximas etapas

• Entender os casos de uso

Confira também

• IA responsável
• Dependência excessiva da IA