Application card: Investigações de Segurança de Dados do Microsoft Purview

O que é um Cartão de Aplicativo ou Plataforma?

Os cartões de aplicativo e plataforma da Microsoft têm como objetivo ajudá-lo a entender como nossa tecnologia de IA funciona, as escolhas que os proprietários de aplicativos podem fazer que influenciam o desempenho e o comportamento do aplicativo e a importância de considerar todo o aplicativo, incluindo a tecnologia, as pessoas e o ambiente. Os cartões de aplicativo são criados para aplicativos de IA e os cartões de plataforma são criados para serviços de plataforma de IA. Esses recursos podem dar suporte ao desenvolvimento ou à implantação de seus próprios aplicativos e podem ser compartilhados com usuários ou partes interessadas afetadas por eles.

Como parte de seu compromisso com a IA responsável, a Microsoft adere a seis princípios fundamentais: imparcialidade, confiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilidade. Esses princípios estão incorporados no Responsible AI Standard, que orienta as equipes no projeto, na criação e no teste de aplicativos de IA. Os cartões de aplicativo e plataforma desempenham um papel fundamental na operacionalização desses princípios, oferecendo transparência em torno dos recursos, usos pretendidos e limitações. Para obter mais informações, os leitores são incentivados a explorar o Relatório de Transparência de IA Responsável e o Código de Conduta da Microsoft, que descrevem como clientes corporativos e indivíduos podem interagir com a IA de maneira responsável.

Visão Geral

Investigações de Segurança de Dados do Microsoft Purview é um aplicativo de investigação habilitado para IA para equipes de segurança cibernética e segurança de dados. Ele ajuda as organizações a analisar dados associados a possíveis violações, incidentes internos e eventos de exfiltração, combinando pesquisa, análise de IA e planejamento de mitigação em um fluxo de trabalho. O aplicativo usa IA generativa para identificar riscos de conteúdo confidencial, priorizar itens de alto impacto e produzir recomendações que dão suporte à contenção e correção.

O aplicativo foi projetado para reduzir o tempo e a complexidade em investigações pós-violação e de alto risco. Em vez de revisar manualmente conjuntos muito grandes de arquivos, e-mails e mensagens, os analistas podem usar ferramentas de pesquisa, categorização e exame vetoriais para se concentrar primeiro no conteúdo mais relevante e arriscado. Isso melhora a eficiência da triagem, dá suporte à coordenação entre equipes e ajuda as organizações a tomar ações oportunas, como planejamento de mitigação orientado por investigação e operações de limpeza.

As Investigações de Segurança de Dados destinam-se a clientes corporativos e usuários downstream, como analistas de segurança, respondentes a incidentes, investigadores de ameaças e equipes de proteção de dados. A documentação principal inclui: Saiba mais sobre as Investigações de Segurança de Dados e Saiba mais sobre a análise de IA em Investigações de Segurança de Dados.

Principais termos

A lista a seguir fornece um glossário dos principais termos relacionados às Investigações de Segurança de Dados do Microsoft Purview:

  • Categorização: um recurso de IA que agrupa o conteúdo de investigação com escopo em categorias padrão, personalizadas ou sugeridas por IA para acelerar a priorização. As opções de processamento Standard e Advanced ajudam os analistas a passar de uma triagem ampla para um clustering mais profundo no nível do tópico.
  • Exame: um modo de análise de IA que executa revisão focada no nível do item para áreas como credenciais, risco e orientação de mitigação. Os resultados do exame ajudam os investigadores a entender a gravidade e as próximas ações recomendadas.
  • Escopo da investigação: o conjunto de itens de conteúdo selecionados para revisão e análise em uma investigação.
  • Plano de mitigação: um conjunto estruturado de ações para itens identificados como de alta prioridade durante a investigação. Ele ajuda os analistas a rastrear e executar tarefas de correção e redução de riscos.
  • Limpar (soft/hard): uma ação de mitigação para remover itens de risco identificados em uma investigação. A limpeza suave move itens para locais recuperáveis, enquanto a limpeza forçada exclui permanentemente os itens.
  • Pontuação de risco: uma pontuação gerada durante o exame que ajuda os analistas a priorizar o conteúdo com base no possível impacto na segurança. Ele dá suporte a decisões de triagem e escalonamento.
  • Pesquisa de IA (versão prévia): uma experiência de pesquisa aumentada por recuperação que combina recuperação semântica com resumos e citações gerados por IA. Isso ajuda os analistas a avaliar se os resultados da pesquisa correspondem à intenção investigativa.
  • Pesquisa vetorial: um método de pesquisa semântica que usa incorporações para recuperar conteúdo contextualmente relevante, mesmo quando as palavras-chave exatas estão ausentes. Ele dá suporte a consultas com reconhecimento de intenção e classificação baseada em relevância.

Principais recursos ou capacidades

Os principais recursos e funcionalidades descritos aqui descrevem o que as Investigações de Segurança de Segurança de Dados do Microsoft Purview foram projetadas para fazer e como elas são executadas em tarefas com suporte.

  • Fluxo de trabalho integrado de incidente para investigação: o aplicativo dá suporte à criação de investigação a partir de incidentes Microsoft Defender XDR, casos de Gerenciamento de Risco Interno, insights Gerenciamento da Postura de Segurança de Dados (versão prévia) ou modo de rascunho manual. Isso ajuda as equipes de segurança a passar de alertas para análise focada em dados sem alternar ferramentas. Também melhora a colaboração entre as equipes de segurança cibernética, conformidade e risco.
  • Recuperação semântica alimentada por IA: a pesquisa vetorial permite a recuperação com reconhecimento de intenção em conteúdo baseado em texto com escopo. Os analistas podem encontrar itens relevantes mesmo quando o conteúdo não contém termos de consulta exatos. Isso melhora o recall e reduz a tentativa e erro manual de palavra-chave.
  • Priorização assistida por IA por meio de categorização: a categorização organiza os dados em categorias padrão, personalizadas e sugeridas por IA para que os analistas possam se concentrar rapidamente em áreas de maior risco. A categorização avançada fornece uma organização adicional em nível de tópico para uma revisão mais profunda. Isso reduz o esforço de revisão em grandes investigações, revelando conteúdo priorizado em vez de exigir primeiro a revisão manual completa.
  • Exame direcionado de risco e credencial: as ferramentas de exame extraem credenciais, avaliam o risco do item e geram saídas orientadas à mitigação para o conteúdo selecionado. Os analistas obtêm uma compreensão mais rápida do que pode ser exposto e o que fazer a seguir. Isso permite uma contenção e correção mais rápidas em incidentes ativos.
  • Ações de mitigação e limpeza: os investigadores podem converter as descobertas em ações concretas por meio de planos de mitigação e fluxos de trabalho de limpeza. Isso vincula as saídas da análise diretamente à execução da redução de riscos. As equipes podem acompanhar o progresso e o status das decisões de mitigação dentro do ciclo de vida da investigação.
  • Integração de auditoria e ecossistema: a solução se integra aos fluxos de trabalho de auditoria do Microsoft Purview e às soluções de segurança da Microsoft, ajudando as equipes a preservar o contexto de evidências e alinhar as ações de resposta. Ele também oferece suporte ao registro de atividades de investigação no log de auditoria unificado para fortalecer a responsabilidade operacional.

Usos pretendidos

Investigações de Segurança de Dados do Microsoft Purview podem ser usadas em vários cenários. Alguns exemplos de casos de uso incluem:

  • Resposta de violação de um incidente do Defender XDR: um analista pode criar uma nova Investigação de Segurança de Dados diretamente de um incidente do Defender XDR para avaliar o raio de explosão de um usuário comprometido. O exame da plataforma AI revela credenciais, documentos confidenciais e comunicações que o invasor poderia ter acessado, priorizando primeiro os dados regulamentados e impactantes para o cliente. As ações de mitigação são tomadas dentro da mesma investigação, produzindo uma resposta documentada para auditoria e acompanhamento.
  • Rastreamento da exfiltração de dados de funcionários por meio do log de auditoria: quando um funcionário é suspeito de exfiltrar um grande volume de dados, um investigador consulta o Log de Auditoria Unificado por meio de Investigações de Segurança de Dados para rastrear arquivos baixados e acessados. A categorização de IA separa a atividade rotineira do conteúdo suspeito e concentra a atenção nos dados de maior risco. As descobertas enriquecidas com IA são entregues às equipes jurídica e de privacidade para ações adicionais.
  • Busca de dados confidenciais em um site do SharePoint superexposto: depois de saber que um site do SharePoint com conteúdo confidencial está amplamente compartilhado em excesso, um investigador analisa uma investigação para esse site e executa uma análise de IA para identificar o que realmente está em risco. A pesquisa e a categorização de vetores superam concentrações de conteúdo confidencial que seriam impraticáveis de revisar manualmente.
  • Analisar interações suspeitas de IA: um investigador analisa uma investigação de DSI para solicitações e respostas de IA que envolvem dados confidenciais, sejam do Microsoft Copilot ou de ferramentas de IA de terceiros. Os exames identificam onde o conteúdo regulamentado, as credenciais ou as PII apareceram nas interações, e a categorização destaca padrões recorrentes de uso arriscado. As descobertas informam tanto a correção imediata do conteúdo exposto quanto um acompanhamento mais amplo com os usuários e ferramentas envolvidos.

Modelos e dados de treinamento

As Investigações de Segurança de Dados do Microsoft Purview aproveitam uma variedade de modelos de IA para potencializar a experiência que os usuários veem. Alguns exemplos incluem modelos do Serviço OpenAI do Azure e recursos da plataforma Microsoft Security Copilot usados para inserções vetoriais, categorização e saídas de IA relacionadas a exames. Para saber mais sobre os dados usados para treinar os modelos básicos por trás das Investigações de Segurança de Dados do Microsoft Purview, consulte os cartões de modelo vinculados para localizar os cartões de dados relevantes.

Desempenho

As Investigações de Segurança de Segurança de Dados do Microsoft Purview foram projetadas para serem executadas de forma confiável em fluxos de trabalho corporativos de investigação de risco de dados e pós-violação, em que o escopo da investigação é definido corretamente e os usuários recebem os grupos de funções necessários. Nessas condições, os analistas podem refinar iterativamente os resultados da pesquisa, priorizar os dados por meio da categorização e examinar itens selecionados para dar suporte às decisões de mitigação.

As entradas pretendidas são principalmente conteúdo corporativo e prompts do investigador. As entradas incluem arquivos, emails e mensagens com escopo de fontes de dados compatíveis com o Microsoft 365; metadados e contexto vinculado à auditoria; e consultas em linguagem natural ou de palavra-chave usadas na pesquisa vetorial e na Pesquisa com IA (versão prévia). Os resultados esperados incluem resultados de pesquisa classificados por relevância, agrupamentos de categorias, resultados de exame de risco e credencial e recomendações orientadas para mitigação.

A principal modalidade de interação de IA avaliada e documentada é o texto. A vetorização e a recuperação semântica dependem do conteúdo do texto. Alguns tipos de conteúdo que não incluem texto utilizável são excluídos dos fluxos de trabalho de vetorização, portanto, os investigadores devem considerar isso durante o planejamento do escopo.

O desempenho e a utilidade são influenciados pela qualidade da configuração da investigação, incluindo precisão do escopo, seleção de categoria e revisão humana iterativa. Em grandes conjuntos de dados, a categorização retorna subconjuntos priorizados em vez de cobertura exaustiva para cada categoria. Para uma análise abrangente em nível de item, as equipes devem combinar a categorização com o exame e a validação do investigador.

Limitações

Compreender as Investigações de Segurança de Segurança de Dados do Microsoft Purview é crucial para determinar se ele é usado dentro de limites seguros e eficazes. Embora incentivemos os clientes a aproveitar as Investigações de Segurança de Dados do Microsoft Purview em suas soluções ou aplicativos inovadores, é importante observar que as Investigações de Segurança de Dados do Microsoft Purview não foi projetado para todos os cenários possíveis. Incentivamos os usuários a consultar o Código de Conduta dos Serviços de IA Corporativa da Microsoft (para organizações) ou a seção Código de Conduta do Contrato de Serviços Microsoft (para indivíduos), bem como as seguintes considerações ao escolher um caso de uso:

  • Restrições de confiabilidade de saída de IA: os resultados gerados pela IA generativa nem sempre são totalmente precisos ou completos. Essa limitação é importante porque, caso contrário, os investigadores podem superestimar a confiança e perder o contexto que altera a gravidade do incidente. Os usuários devem validar as descobertas críticas, especialmente antes de ações legais, de conformidade ou técnicas irreversíveis. O julgamento humano continua sendo necessário nas decisões finais.
  • Dependência de conteúdo de texto para ferramentas semânticas: a pesquisa vetorial e os fluxos de trabalho semânticos relacionados exigem conteúdo de texto. Determinados tipos de conteúdo, como itens somente de imagem ou conteúdo sem texto extraível, podem ser excluídos da vetorização e, portanto, de alguns fluxos de trabalho de recuperação assistidos por IA. As equipes devem avaliar se as principais evidências podem exigir métodos de revisão adicionais fora da pesquisa semântica. Isso ajuda a evitar falsas suposições sobre a cobertura completa.
  • Comportamento de categorização priorizado e não exaustivo: a categorização é otimizada para exibir conteúdo de alta relevância para categorias selecionadas, não para garantir a revisão completa de todos os itens no escopo por categoria. Em grandes conjuntos de dados, itens relevantes com pontuação mais baixa podem não aparecer nas saídas de categoria. Os usuários devem usar o exame para uma análise abrangente em nível de item, onde é necessária uma cobertura completa. Isso é especialmente importante em investigações de alto impacto.
  • Limites operacionais e limites de capacidade: os limites de investigação e recursos se aplicam, incluindo limites no total de documentos, tamanho total do arquivo por investigação e limites em fluxos de trabalho de pesquisa e limpeza de auditoria. Essas restrições podem afetar a forma como as equipes segmentam o trabalho e sequenciam grandes investigações. Os usuários devem planejar o escopo e a estratégia de processamento em torno dos limites publicados para evitar atrasos. O planejamento com reconhecimento de capacidade melhora o controle de custos e a continuidade da investigação.
  • Não se destina a cenários sem suporte ou uso proibido: as Investigações de Segurança de Dados destinam-se a contextos de investigação e mitigação de incidentes de segurança de dados. Usá-lo como um único tomador de decisões, fora dos fluxos de trabalho de governança e segurança ou de maneiras proibidas por termos e requisitos do código de conduta pode criar riscos de segurança e conformidade. As organizações devem manter a ferramenta dentro dos limites operacionais pretendidos e aplicar controles em camadas. Isso inclui revisão legal e de políticas antes de ações de alta consequência.

Avaliações

As avaliações de desempenho e segurança avaliam se os aplicativos de IA estão operando de forma confiável e segura, examinando fatores como fundamentação, relevância e coerência, enquanto identificam os riscos de geração de conteúdo prejudicial. As avaliações a seguir foram realizadas com componentes de segurança já implementados, que também são descritos em 9. Componentes de segurança e mitigações.

Avaliações de desempenho e qualidade

As avaliações de desempenho e qualidade dos recursos de IA nas Investigações de Segurança de Dados do Microsoft Purview se concentram nos resultados práticos da investigação, incluindo relevância da pesquisa vetorial, precisão da categorização e utilidade da saída do exame. Com base na documentação do produto, as atividades de avaliação incluem testes de pré-lançamento e validação baseada em cenário para avaliar se os recursos de descoberta, priorização e análise assistidos por IA ajudam os investigadores a agir sobre os riscos identificados.

Para experiências atuais de IA, a principal modalidade avaliada é o texto. Os resultados ideais são descobertas precisas e relevantes que ajudam os analistas a identificar rapidamente itens de alto risco e tomar ações investigativas informadas. Resultados abaixo do ideal incluem resultados incompletos, irrelevantes ou que requerem análise e validação adicionais substanciais.

Avaliações de risco e segurança

Nossos dados de avaliação são personalizados para avaliar o desempenho do aplicativo de IA nas principais áreas de segurança e qualidade, simulando cenários e riscos do mundo real. Começamos identificando aspectos relevantes de avaliação de preocupação com base em pesquisas multidisciplinares e contribuições de especialistas. Essas preocupações são traduzidas em objetivos de avaliação direcionados e orientam a formulação de métricas de avaliação. Por segurança, criamos prompts adversários para obter respostas indesejáveis ou de casos extremos, que são pontuados usando anotadores assistidos por IA treinados para avaliar o alinhamento com os padrões de segurança da Microsoft. Para qualidade, criamos prompts baseados em rubrica relevantes para cenários, incluindo a avaliação de aplicativos e agentes de geração aumentada por recuperação (RAG). Os conjuntos de dados são selecionados de diversas fontes, incluindo conjuntos de dados sintéticos e públicos, para simular cenários de usuário do mundo real. Usando os conjuntos de dados selecionados, ambas as avaliações passam por refinamento iterativo e alinhamento humano para melhorar a eficácia e a confiabilidade das métricas. Essa metodologia forma a base de avaliações rigorosas e repetíveis que refletem como os clientes usam avaliações para criar uma IA melhor e mais segura.

Avaliações personalizadas

As Investigações de Segurança de Dados foram avaliadas usando vários indicadores de qualidade e confiabilidade, incluindo precisão de IA, relevância do resultado e clareza de saída. Com base em práticas documentadas, as avaliações usam uma combinação de agrupamento vermelho manual e classificação humana para testar se as saídas assistidas por IA são úteis e confiáveis para fluxos de trabalho de investigação de incidentes. A principal modalidade avaliada para experiências atuais de IA é o texto.

Os cenários de avaliação incluem recuperação semântica, relevância de categorização e resultados de exame usados para priorizar e mitigar riscos. Os resultados ideais são descobertas contextualmente relevantes que ajudam os analistas a identificar rapidamente itens de alto risco e tomar as próximas ações informadas. Resultados abaixo do ideal incluem resultados incompletos, pouco claros ou menos relevantes que requerem iteração e validação adicionais pelos investigadores.

O feedback operacional também é usado para melhorar o desempenho ao longo do tempo. O produto coleta métricas selecionadas com foco na qualidade sobre entradas e saídas de IA para ajudar a ajustar a relevância e a utilidade, enquanto controles de privacidade documentados descrevem qual conteúdo é e qual não é coletado. Esse loop contínuo dá suporte a melhorias contínuas de qualidade após o lançamento.

Componentes de segurança & mitigações

  • Controles de acesso baseados em função: as Investigações de Segurança de Dados usam grupos de função dedicados (Administradores, Investigadores, Revisores) para controlar o acesso e as responsabilidades do recurso. Isso ajuda a limitar quem pode executar atividades confidenciais, como limpeza e configuração administrativa. A separação clara de tarefas reduz o risco de uso indevido e fortalece a responsabilidade nos fluxos de trabalho de investigação.
  • Tomada de decisão human-in-the-loop: os resultados de IA são projetados para ajudar os analistas, não substituir o julgamento do investigador. Espera-se que as equipes validem as descobertas de alto impacto e as recomendações de mitigação antes de tomar medidas consequentes. Isso reduz a dependência excessiva e reduz a chance de agir com a saída de IA incompleta.
  • Refinamento do escopo e controles de exclusão: os investigadores podem restringir iterativamente o escopo da investigação e excluir itens irrelevantes antes da análise avançada de IA. Isso melhora a relevância, reduz o ruído e diminui a exposição ao processamento desnecessário de conteúdo. O gerenciamento de escopo focado também oferece suporte ao controle de custos e à resposta mais rápida a incidentes.
  • Registro de auditoria e rastreabilidade de evidências: as atividades relacionadas à investigação são registradas por meio de fluxos de trabalho de auditoria integrados. O registro em log oferece suporte à rastreabilidade forense, revisão operacional e responsabilidade de conformidade. Essa é uma mitigação importante para os requisitos de governança e validação pós-incidente.
  • Proteções de privacidade e tratamento de dados: os controles documentados descrevem o armazenamento de investigação isolado do locatário e as proteções de privacidade para processamento de IA. Os controles de compartilhamento, registro e verificação de dados em caminhos de processamento integrados são documentados como desativados por padrão para contextos de processamento específicos do Copilot. Essas proteções ajudam a reduzir o risco de privacidade e dão suporte às expectativas de conformidade corporativa.

Práticas recomendadas para implantação e adoção de Investigações de Segurança de Dados do Microsoft Purview

A IA responsável é um compromisso compartilhado entre a Microsoft e seus clientes. Embora a Microsoft crie aplicativos de IA com segurança, justiça e transparência no núcleo, os clientes desempenham um papel fundamental na implantação e uso responsável dessas tecnologias em seus próprios contextos. Para dar suporte a essa parceria, oferecemos as seguintes práticas recomendadas para implantadores e usuários finais para ajudar os clientes a implementar a IA responsável de forma eficaz. Os implantadores e usuários finais (administradores) devem:

  • Tenha cuidado e avalie os resultados ao usar as Investigações de Segurança de Dados do Microsoft Purview para decisões consequentes ou em domínios confidenciais: Decisões consequentes são aquelas que podem ter um impacto legal ou significativo no acesso de uma pessoa à educação, emprego, plataformas financeiras, benefícios governamentais, saúde, moradia, seguro, jurídico ou que possam resultar em danos físicos, psicológicos ou financeiros. Domínios sensíveis - como plataformas financeiras, saúde e habitação - requerem cuidados especiais devido ao potencial de impacto desproporcional em diferentes grupos de pessoas. Ao usar a IA para decisões nessas áreas, certifique-se de que os stakeholders afetados possam entender como as decisões são tomadas, apelar das decisões e atualizar quaisquer dados de entrada relevantes.
  • Avalie as considerações legais e regulatórias: os clientes precisam avaliar possíveis obrigações legais e regulatórias específicas ao usar quaisquer plataformas e soluções de IA, que podem não ser apropriadas para uso em todos os setores ou cenários. Além disso, as plataformas ou soluções de IA não são projetadas e não podem ser usadas de maneiras proibidas nos termos de serviço aplicáveis e nos códigos de conduta relevantes.
  • Planejar investigações para análise iterativa: os fluxos de trabalho das Investigações de Segurança de Dados são intencionalmente iterativos, especialmente para refinamento de pesquisa, ajuste de escopo e triagem assistida por IA. As equipes devem definir pontos de verificação repetíveis para quando executar a pesquisa, categorização e exame de vetor. Isso melhora a consistência, reduz o uso desnecessário de computação e fortalece a qualidade da investigação.
  • Coordene a resposta multifuncional antecipadamente: os incidentes de segurança geralmente envolvem segurança, TI, jurídico, conformidade e proprietários de negócios. Traga essas partes interessadas para o processo de investigação assim que as descobertas de alto risco forem identificadas. A coordenação precoce melhora a velocidade de contenção e reduz o atrito de remediação a jusante.

Os usuários finais devem:

  • Use prompts de investigação claros e focados: para pesquisa vetorial e pesquisa com IA (versão prévia), os prompts devem incluir contexto, assunto e intenção (por exemplo, credenciais em um projeto nomeado ou conteúdo de risco de acesso para um incidente específico). Prompts claros produzem uma recuperação mais relevante e reduzem o ruído da investigação. Os usuários devem iterar e comparar os resultados antes de tirar conclusões.
  • Valide as descobertas de IA com evidências de apoio: revise citações, detalhes do item e contexto da atividade antes de escalar ou mitigar. As saídas de IA podem acelerar a triagem, mas podem perder casos extremos ou incluir resultados de menor confiança. A verificação cruzada com pesquisa, visualizações de escopo e entrada de stakeholders reduz o risco de erro.
  • Exerça a supervisão humana quando apropriado: a supervisão humana é uma proteção importante ao interagir com aplicativos de IA. Embora aprimoremos continuamente nossos aplicativos de IA, a IA ainda pode cometer erros. Os resultados gerados podem ser imprecisos, incompletos, tendenciosos, desalinhados ou irrelevantes para os objetivos pretendidos. Isso pode acontecer devido a vários motivos, como ambiguidade nas entradas ou limitações dos modelos subjacentes. Dessa forma, os usuários devem examinar as respostas geradas pelas Investigações de Segurança de Dados do Microsoft Purview e verificar se elas correspondem às suas expectativas e requisitos.
  • Esteja ciente do risco de dependência excessiva: a dependência excessiva da IA acontece quando os usuários aceitam saídas de IA incorretas ou incompletas, principalmente porque os erros nas saídas de IA podem ser difíceis de detectar. Para o usuário final, o excesso de confiança pode resultar em diminuição da produtividade, perda de confiança, abandono do aplicativo, perda financeira, danos psicológicos, danos físicos, entre outros. (por exemplo, um médico aceita uma saída de IA incorreta).
  • Tenha cuidado ao projetar IA agêntica em domínios sensíveis: os usuários devem ter cuidado ao projetar e/ou implantar aplicativos de IA agenciais em domínios sensíveis onde as ações do agente são irreversíveis ou altamente consequentes.
  • Precauções adicionais também devem ser tomadas ao criar IA agencial autônoma, conforme descrito mais detalhadamente no Código de Conduta dos Serviços de IA Corporativa da Microsoft (para organizações) ou na seção Código de Conduta do Contrato de Serviços da Microsoft (para indivíduos).

Os implantadores devem:

  • Configure as permissões e o modelo de propriedade antecipadamente: atribua grupos de funções de Investigações de Segurança de Dados com base no privilégio mínimo e na responsabilidade operacional antes que os incidentes ocorram. Inclua administradores de backup e uma cobertura clara de funções para evitar atrasos na resposta. Isso reduz o risco de acesso amplo e fortalece a continuidade durante incidentes ativos.
  • Design para limites, custos e taxa de transferência: investigação, pesquisa de auditoria e limpeza de limites devem informar como as equipes segmentam grandes incidentes. As equipes também devem monitorar o uso da capacidade e preparar o processamento de IA para se alinhar à urgência e ao orçamento. Isso evita gargalos e dá suporte ao desempenho previsível da resposta.
  • Teste fluxos de trabalho de mitigação e caminhos de escalonamento: execute investigações de tabela ou piloto usando dados representativos para validar padrões de consulta, estratégia de categorização e transferências de mitigação. Fluxos de trabalho pré-testados reduzem a confusão durante incidentes reais e melhoram o tempo de ação. Inclua verificações dos requisitos legais e de notificação de conformidade como parte desse teste.

Saiba mais sobre as Investigações de Segurança de Dados do Microsoft Purview

Para obter orientações adicionais ou para saber mais sobre o uso responsável das Investigações de Segurança de Dados do Microsoft Purview, recomendamos revisar a seguinte documentação:

Saiba mais sobre a IA responsável

  • Last updated on