Usar o Microsoft Purview para gerenciar a segurança de dados & a conformidade para outros aplicativos de IA

Descrição do serviço Microsoft Purview

Use as seções a seguir para identificar os recursos do Microsoft Purview com suporte para interações de IA que usam um navegador para sites de IA de terceiros e algumas recomendações de introdução para você gerenciar essas interações de IA para segurança e conformidade.

O gerenciamento dessas interações de IA com o Microsoft Purview exige que você habilite a cobrança paga conforme o uso em sua organização.

Recursos com suporte

Use a tabela a seguir para ver rapidamente os recursos do Microsoft Purview com suporte para sites de IA de terceiros, como ChatGPT, Google Gemini e DeepSeek.

A menos que anotado para soluções específicas, a lista de sites de IA com suporte é a mesma com suporte para DSPM para IA: Lista de sites de IA com suporte do Gerenciamento da Postura de Segurança de Dados do Microsoft Purview para IA.

Funcionalidade ou solução no Microsoft Purview Compatível com interações de IA
DSPM e DSPM para IA (clássico) ✓
Auditoria ✓
Classificação de dados ✓
Rótulos de confidencialidade ✕
Criptografia sem rótulos de confidencialidade ✕
Prevenção contra perda de dados ✓
Gerenciamento de Risco Interno ✓
Conformidade em comunicações ✓
Descoberta eletrônica ✓
Gerenciamento do Ciclo de Vida dos Cados ✓
Gerenciador de Conformidade ✓

A maioria das funcionalidades e soluções com suporte exigem a extensão do navegador Microsoft Purview e dispositivos integrados ao Microsoft Purview. As exceções são, com seus próprios pré-requisitos:

  • Segurança de dados de rede para detectar tipos de informações confidenciais na camada de rede, usando uma integração do Secure Access Service Edge ou do Perímetro de Serviço de Segurança.
  • Segurança de dados do navegador para detectar tipos de informações confidenciais na camada do navegador Edge, usando uma integração direta do Purview ao navegador Edge.

DSPM e DSPM para IA (clássico)

Use o Gerenciamento da Postura de Segurança de Dados ou o Gerenciamento da Postura de Segurança de Dados para IA (clássico) como seu front door para descobrir, proteger e aplicar controles de conformidade para o uso de IA em toda a sua empresa. Ambas as versões do DSPM usam controles existentes do Microsoft Purview, proteção de informações e gerenciamento de conformidade com ferramentas gráficas e relatórios fáceis de usar para obter rapidamente insights sobre o uso da IA em sua organização. Com recomendações personalizadas e políticas de um clique, você pode proteger seus dados e cumprir os requisitos regulamentares.

Informações específicas do aplicativo de IA:

  • A seção Introdução na página Visão geral contém as etapas e informações necessárias para instalar a extensão do navegador Microsoft Purview e o processo de integração de dispositivos.

  • Recomendação Obtenha assistência guiada para regulamentos de IA, que usam modelos regulatórios de mapeamento de controle do Gerenciador de Conformidade.

  • Políticas de um clique disponíveis:

    • DSPM para IA: detecte informações confidenciais adicionadas a sites de IA a partir da ação de recomendação ou correção Estenda seus insights para descoberta de dados
    • DSPM para AI - Detectar quando os usuários visitam sites de IA a partir da ação de recomendação ou correção Estenda seus insights para descoberta de dados
    • DSPM para IA - Detecte informações confidenciais compartilhadas em prompts de IA no Edge a partir da ação de recomendação ou correção Estenda seus insights para descoberta de dados
    • DSPM para IA - Detectar informações confidenciais compartilhadas com IA via rede a partir da ação de recomendação ou correção Estenda insights sobre dados confidenciais em interações de aplicativos de IA.

Auditoria e interações de IA

As soluções de Auditoria do Microsoft Purview fornecem ferramentas abrangentes para pesquisar e gerenciar registros de auditoria de atividades executadas em vários serviços Microsoft por usuários e administradores e ajudam as organizações a responder com eficácia a eventos de segurança, investigações forenses, investigações internas e obrigações de conformidade.

Assim como outras atividades, os prompts e as respostas são capturados no log de auditoria unificado. Os eventos incluem como e quando os usuários interagem com o aplicativo de IA e podem incluir em qual serviço do Microsoft 365 a atividade ocorreu e referências aos arquivos armazenados no Microsoft 365 que foram acessados durante a interação. Se esses arquivos tiverem um rótulo de confidencialidade aplicado, isso também será capturado.

Esses eventos fluem para o gerenciador de atividades na guia atividades de IA na versão atual do DSPM e no DSPM para IA, onde os dados de prompts e respostas podem ser exibidos. Você também pode usar a solução Auditoria do portal do Microsoft Purview para pesquisar e encontrar esses eventos de auditoria.

Para obter mais informações, confira Logs de auditoria para atividades do Copilot e de IA.

Informações específicas do aplicativo de IA:
  • Use a segurança de dados de rede para auditar prompts e respostas na camada de rede, usando uma integração do Secure Access Service Edge ou do Perímetro de Serviço de Segurança.

Classificação de dados e interações de IA

A classificação de dados do Microsoft Purview fornece uma estrutura abrangente para identificar e marcar dados confidenciais em vários serviços da Microsoft, incluindo o Office 365, o Dynamics 365 e o Azure. A classificação de dados geralmente é a primeira etapa para garantir a conformidade com os regulamentos de proteção de dados e proteger contra acesso, alteração ou destruição não autorizados. Você pode usar classificações de sistema integradas ou criar suas próprias.

Tipos de informações confidenciais e classificadores treináveis podem ser usados para localizar dados confidenciais em solicitações e respostas do usuário quando ele usa aplicativos de IA. As informações resultantes são exibidas na visão geral dos Relatórios do Microsoft Purview e no explorador de atividades no DSPM para IA e na guia atividades de IA no gerenciador de atividades da versão prévia do DSPM.

Informações específicas do aplicativo de IA:
  • Use a segurança de dados de rede para detectar tipos de informações confidenciais na camada de rede, usando uma integração do Secure Access Service Edge ou do Perímetro de Serviço de Segurança.
  • Use a segurança de dados do navegador para detectar tipos de informações confidenciais na camada do navegador Edge, usando uma integração direta do Purview ao navegador Edge.

Prevenção contra perda de dados e interações de IA

A Prevenção Contra Perda de Dados do Microsoft Purview (DLP) ajuda a identificar itens confidenciais nos serviços e pontos de extremidade do Microsoft 365, monitorá-los e ajuda a proteger contra o vazamento desses itens. Ele usa inspeção profunda de conteúdo e análise contextual para identificar itens confidenciais e aplica políticas para proteger dados confidenciais, como registros financeiros, informações de saúde ou propriedade intelectual.

Os computadores Windows integrados ao Microsoft Purview podem ser configurados para políticas DLP (prevenção contra perda de dados) de ponto de extremidade que avisam ou impedem que os usuários compartilhem informações confidenciais com sites de IA generativa de terceiros acessados por meio de um navegador. Por exemplo, um usuário é impedido de colar números de card de crédito no ChatGPT ou vê um aviso que pode substituir. Para obter mais informações sobre as ações de DLP com suporte e quais plataformas dão suporte a elas, consulte as duas primeiras linhas na tabela de atividades de Ponto de extremidade que você pode monitorar e executar.

Informações específicas do aplicativo de IA:
  • O Ponto de extremidade DLP dá suporte a uma opção para bloquear o upload de arquivos com base em um rótulo de confidencialidade especificado.

Gerenciamento de Risco Interno e interações de IA

Gerenciamento de Risco Interno do Microsoft Purview ajuda você a detectar, investigar e mitigar riscos internos, como roubo de IP, vazamento de dados e violações de segurança. Ele aproveita modelos de aprendizado de máquina e vários sinais do Microsoft 365 e indicadores de terceiros para identificar possíveis atividades internas mal-intencionadas ou inadvertidas. A solução inclui controles de privacidade, como pseudonimização e acesso baseado em função, garantindo a privacidade no nível do usuário e permitindo que os analistas de risco tomem as ações apropriadas.

Use o modelo de política de uso arriscado de IA para detectar o uso arriscado que inclui ataques de injeção imediata e acesso a materiais protegidos. Os insights desses sinais são integrados ao Microsoft Defender XDR para fornecer uma visão abrangente dos riscos relacionados à IA.

Informações específicas do aplicativo de IA:

Conformidades de comunicação e interações com IA

A Conformidade de Comunicações do Microsoft Purview fornece ferramentas para ajudar você a detectar e gerenciar a conformidade regulatória e violações de conduta comercial em vários canais de comunicação, que incluem solicitações de usuários e respostas para aplicativos de IA. Ele foi projetado com privacidade por padrão, pseudonimizando nomes de usuário e incorporando controles de acesso baseados em função. A solução ajuda a identificar e corrigir comunicações inadequadas, como compartilhamento de informações confidenciais, assédio, ameaças e conteúdo adulto.

Para saber mais sobre como usar políticas de conformidade de comunicação para aplicativos de IA, confira Configurar uma política de conformidade de comunicação para detectar interações de IA generativa.

Informações específicas do aplicativo de IA:

  • Suporte restrito ao navegador Edge, para ChatGPT, Microsoft Chat (versão para consumidor), Google Gemini e DeepSeek.

  • Para prompts e respostas, requer uma política de coleta que inclua a configuração para capturar conteúdo. Para obter mais informações, consulte Visão geral da solução Políticas de Coleção.

  • Use a segurança de dados de rede para analisar prompts e respostas na camada de rede, usando uma integração do Secure Access Service Edge ou do Perímetro de Serviço de Segurança.

Descoberta Eletrônica e interações de IA

A Descoberta Eletrônica do Microsoft Purview permite identificar e fornecer informações eletrônicas que podem ser usadas como prova em casos legais. As ferramentas de Descoberta Eletrônica no Microsoft Purview dão suporte à pesquisa de conteúdo nas equipes Exchange Online, OneDrive for Business, SharePoint Online, Microsoft Teams, Grupos do Microsoft 365 e Viva Engage. Em seguida, você pode impedir que as informações sejam excluídas e exportá-las.

Como as solicitações e respostas do usuário para aplicativos de IA são armazenadas na caixa de correio de um usuário, você pode criar uma ocorrência e usar a pesquisa quando a caixa de correio de um usuário é selecionada como a fonte para uma consulta de pesquisa. Por exemplo, selecione e recupere esses dados da caixa de correio de origem selecionando no construtor de consultas Adicionartipo> de condição>Contém qualquer uma das atividades de>Editar>Copilot. Essa condição de consulta inclui todas as atividades do Copilot e de outros aplicativos de IA.

Depois que a pesquisa for refinada, você poderá exportar os resultados ou adicioná-los a um conjunto de revisão. Você pode examinar e exportar informações diretamente do conjunto de revisão.

Para obter mais informações sobre como identificar e excluir dados de interação do usuário com IA, consulte Pesquisar e excluir dados do Copilot na descoberta eletrônica.

Informações específicas do aplicativo de IA:

  • Suporte restrito ao navegador Edge, para ChatGPT, Microsoft Chat (versão para consumidor), Google Gemini e DeepSeek.

  • Para prompts e respostas, requer uma política de coleta que inclua a configuração para capturar conteúdo. Para obter mais informações, consulte Visão geral da solução Políticas de Coleção.

  • Use a segurança de dados de rede para analisar prompts e respostas na camada de rede.

Gerenciamento do ciclo de vida de dados e interações de IA

O Gerenciamento do Ciclo de Vida de Dados do Microsoft Purview fornece ferramentas e recursos para gerenciar o ciclo de vida dos dados organizacionais, retendo o conteúdo necessário e excluindo o conteúdo desnecessário. Essas ferramentas garantem a conformidade com os requisitos comerciais, legais e regulamentares.

Use políticas de retenção para reter ou excluir automaticamente solicitações e respostas do usuário para aplicativos de IA. Para obter informações detalhadas sobre esse funcionamento de retenção, consulte Saiba mais sobre a retenção para aplicativos Copilot & IA.

Assim como acontece com todas as políticas e bloqueios de retenção, se mais de uma política para o mesmo local se aplicar a um usuário, os princípios de retenção resolverão quaisquer conflitos. Por exemplo, os dados são retidos pela maior duração de todas as políticas de retenção aplicadas ou bloqueios de Descoberta Eletrônica.

Informações específicas do aplicativo de IA:

  • Suporte restrito ao navegador Edge, para ChatGPT, Microsoft Chat (versão para consumidor), Google Gemini e DeepSeek.

  • Para políticas de retenção, selecione a opção Outros aplicativos de IA.

  • Para prompts e respostas, requer uma política de coleta que inclua a configuração para capturar conteúdo. Para obter mais informações, consulte Visão geral da solução Políticas de Coleção.

  • Use a segurança de dados de rede para reter prompts e respostas na camada de rede.

  • Use a segurança de dados do navegador para reter prompts e respostas na camada do navegador Edge.

Interações entre o Gerenciador de Conformidade e a IA

O Gerenciador de Conformidade do Microsoft Purview é uma solução que ajuda você a avaliar e gerenciar automaticamente a conformidade em seu ambiente multinuvem. O Gerenciador de Conformidade pode ajudá-lo durante todo o percurso de conformidade, incluindo desde fazer um inventário dos riscos de proteção de dados até gerenciar as complexidades de implementação de controles, mantendo-o atualizado quanto aos regulamentos e certificações e enviando relatórios para auditores.

Para ajudar você a manter a conformidade com os regulamentos de IA, o Gerenciador de Conformidade fornece modelos regulatórios para ajudar você a avaliar, implementar e fortalecer seus requisitos de conformidade para todos os aplicativos de IA generativa. Por exemplo, monitorar interações de IA e evitar a perda de dados em aplicativos de IA. Para obter mais informações, consulte Avaliações para regulamentos de IA.

Use as etapas a seguir para começar a gerenciar a segurança de dados & a conformidade para interações de IA que usam um navegador para sites de IA de terceiros.

Observação

Essas etapas se concentram no gerenciamento de um aplicativo ou agente de IA específico. Para uma cobertura mais ampla que usa objetivos de segurança com fluxos de trabalho guiados, use a versão atual do Gerenciamento da Postura de Segurança de Dados.

Como o Gerenciamento da Postura de Segurança de Dados para IA é seu front door para proteger e gerenciar interações de IA, as instruções a seguir usam essa solução:

  • Entre no portal> do Microsoft PurviewSoluções>DSPM para IA (clássico) com uma conta que tenha as permissões apropriadas. Por exemplo, uma conta que é membro da função de grupo Administrador de Conformidade do Microsoft Entra.

    Selecionando a solução Gerenciamento da Postura de Segurança de Dados do Microsoft Purview para IA no portal do Microsoft Purview.

Descubra possíveis riscos de segurança em interações com outros aplicativos de IA

  1. De Visão geral do DSPM para IA (clássico),> na seção Introdução, localize e execute ações nas seguintes etapas necessárias:

    • Instale a extensão do navegador Microsoft Purview
    • Dispositivos integrados ao Microsoft Purview
    • Amplie seus insights para a descoberta de dados

    Se precisar de mais informações sobre a extensão do navegador ou outros requisitos de integração, confira Pré-requisitos para Gerenciamento da Postura de Segurança de Dados para IA.

    Para obter mais informações sobre as políticas de um clique que são criadas automaticamente com a opção de estender seus insights para descoberta de dados, consulte Políticas padrão para descoberta de dados usando Gerenciamento da Postura de Segurança de Dados para IA e as políticas que têm a fonte de Estender seus insights para descoberta de dados.

  2. Aguarde pelo menos um dia pelos dados e navegue até a página Relatórios para exibir os resultados da sua política. Selecione Outros aplicativos de IA e exiba informações como:

    • Total de interações ao longo do tempo (outros aplicativos de IA)
    • Total de visitas (outros aplicativos de IA)
    • Interações confidenciais por aplicativo de IA
    • Severidade do risco interno
    • Severidade do risco interno por aplicativos de IA

  3. Selecione Exibir detalhes de cada um dos gráficos de relatório para exibir atividades detalhadas no explorador de atividades.

    Selecione os filtros disponíveis para ver os resultados das experiências do Copilot & agentes com base nos diferentes tipos de atividade, categoria de aplicativo de IA, aplicativo e escopo para unidades administrativas e muito mais. Em seguida, faça uma busca detalhada em cada atividade para exibir detalhes que incluem a exibição dos prompts e a resposta quando você é membro do grupo de funções Visualizador de Conteúdo do Microsoft Purview Content Explorer. Para obter mais informações sobre esse requisito, consulte Permissões para Gerenciamento da Postura de Segurança de Dados para IA.

Proteger dados confidenciais em interações com outros aplicativos de IA

  1. Na página de recomendações do DSPM para IA (clássico),> em Não iniciado, selecione Fortalecer a segurança dos dados para criar as seguintes políticas de um clique:

Aplicar controles de conformidade a interações com outros aplicativos de IA

Se você precisar garantir que as interações com outros aplicativos de IA com suporte sejam mantidas por motivos de conformidade:

  • No portal do Microsoft Purview, navegue atéPolíticas>de Gerenciamento do Ciclo de> Vidade Dados Políticas de Retenção e crie uma política de retenção para reter interações com outros aplicativos de IA selecionando o local Outros aplicativos de IA e especifique o período de retenção necessário. Para obter mais informações, consulte Criar e configurar políticas de retenção.

    Observação

    A retenção é compatível apenas com o navegador Edge e para ChatGPT, Microsoft Chat (versão para consumidor), Google Gemini e DeepSeek.

  • No portal do Microsoft Purview, navegue atéCasosde Descoberta Eletrônica>>Criar caso. No caso, crie uma pesquisa e use a propriedade ItemClass e o IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<AppName> valor para atividades de computador local ou o IPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID> valor para atividades baseadas no navegador para pesquisar essas interações em sua organização.

Examine rotineiramente os relatórios no DSPM para IA para determinar se você precisa fazer alterações e use o explorador de atividades e eventos para uma análise mais profunda de como os usuários estão interagindo com outros aplicativos de IA ao usar um navegador para sites de IA de terceiros.

  • Last updated on