Usar o Microsoft Purview para gerenciar a segurança & a conformidade de dados para Microsoft Copilot Studio

Descrição do serviço Microsoft Purview

Use as seções a seguir para identificar os recursos do Microsoft Purview com suporte para interações de IA com agentes criados no Microsoft Copilot Studio e algumas recomendações básicas para você gerenciar essas interações de IA para segurança e conformidade.

Gerenciar essas interações de IA para agentes do Copilot Studio publicadas em canais que não são da Microsoft exige que você habilite a cobrança paga conforme o uso em sua organização.

Recursos com suporte

Use a tabela a seguir para ver rapidamente os recursos do Microsoft Purview com suporte dos agentes criados no Copilot Studio.

DSPM e DSPM para IA (clássico)

Use o Gerenciamento da Postura de Segurança de Dados ou o Gerenciamento da Postura de Segurança de Dados para IA (clássico) como seu front door para descobrir, proteger e aplicar controles de conformidade para o uso de IA em toda a sua empresa. Ambas as versões do DSPM usam controles existentes do Microsoft Purview, proteção de informações e gerenciamento de conformidade com ferramentas gráficas e relatórios fáceis de usar para obter rapidamente insights sobre o uso da IA em sua organização. Com recomendações personalizadas e políticas de um clique, você pode proteger seus dados e cumprir os requisitos regulamentares.

Informações específicas do aplicativo de IA:

• Recomendação Obtenha assistência guiada para regulamentos de IA, que usam modelos regulatórios de mapeamento de controle do Gerenciador de Conformidade.

• Políticas de um clique disponíveis:

  • DSPM para IA – Detectar o uso arriscado de IA a partir da recomendação ou ação de correção Detecte interações arriscadas em aplicativos de IA.
  • DSPM para IA – Comportamento antiético em aplicativos de IA a partir da recomendação ou ação de correção Detectar comportamento antiético em aplicativos de IA
  • DSPM para IA - Detectar informações confidenciais compartilhadas com IA via rede a partir da ação de recomendação ou correção Estenda insights sobre dados confidenciais em interações de aplicativos de IA.

Auditoria e interações de IA

As soluções de Auditoria do Microsoft Purview fornecem ferramentas abrangentes para pesquisar e gerenciar registros de auditoria de atividades executadas em vários serviços Microsoft por usuários e administradores e ajudam as organizações a responder com eficácia a eventos de segurança, investigações forenses, investigações internas e obrigações de conformidade.

Assim como outras atividades, os prompts e as respostas são capturados no log de auditoria unificado. Os eventos incluem como e quando os usuários interagem com o aplicativo de IA e podem incluir em qual serviço do Microsoft 365 a atividade ocorreu e referências aos arquivos armazenados no Microsoft 365 que foram acessados durante a interação. Se esses arquivos tiverem um rótulo de confidencialidade aplicado, isso também será capturado.

Esses eventos fluem para o gerenciador de atividades na guia atividades de IA na versão atual do DSPM e no DSPM para IA, onde os dados de prompts e respostas podem ser exibidos. Você também pode usar a solução Auditoria do portal do Microsoft Purview para pesquisar e encontrar esses eventos de auditoria.

Para obter mais informações, confira Logs de auditoria para atividades do Copilot e de IA.

Classificação de dados e interações de IA

A classificação de dados do Microsoft Purview fornece uma estrutura abrangente para identificar e marcar dados confidenciais em vários serviços da Microsoft, incluindo o Office 365, o Dynamics 365 e o Azure. A classificação de dados geralmente é a primeira etapa para garantir a conformidade com os regulamentos de proteção de dados e proteger contra acesso, alteração ou destruição não autorizados. Você pode usar classificações de sistema integradas ou criar suas próprias.

Tipos de informações confidenciais e classificadores treináveis podem ser usados para localizar dados confidenciais em solicitações e respostas do usuário quando ele usa aplicativos de IA. As informações resultantes são exibidas na visão geral dos Relatórios do Microsoft Purview e no explorador de atividades no DSPM para IA e na guia atividades de IA no gerenciador de atividades da versão prévia do DSPM.

Rótulos de confidencialidade e interações de IA

Os aplicativos de IA compatíveis com o Microsoft Purview usam os controles existentes para garantir que os dados armazenados em seu locatário nunca sejam retornados ao usuário ou usados por um LLM (modelo de linguagem grande) se o usuário não tiver acesso a esses dados. Quando os dados têm rótulos de confidencialidade da sua organização aplicados ao conteúdo, há uma camada extra de proteção:

• Quando um arquivo é aberto no Word, Excel, PowerPoint ou similarmente, um email ou evento de calendário é aberto no Outlook, a confidencialidade dos dados é exibida para os usuários no aplicativo com o nome do rótulo e as marcações de conteúdo (como texto de cabeçalho ou rodapé) que foram configuradas para o rótulo. Os componentes e páginas do Loop também são compatíveis com os mesmos rótulos de confidencialidade.

• Quando o rótulo de confidencialidade aplica criptografia, os usuários devem ter o direito de uso EXTRAIR, bem como EXIBIR, para que os aplicativos de IA retornem os dados.

• Essa proteção se estende a dados armazenados fora do seu locatário do Microsoft 365 quando abertos em um aplicativo do Office (dados em uso). Por exemplo, armazenamento local, compartilhamentos de rede e armazenamento em nuvem.

Se você ainda não estiver usando rótulos de confidencialidade, consulte Introdução aos rótulos de confidencialidade.

Informações específicas do aplicativo de IA:

• Compatível quando a fonte de conhecimento é o SharePoint (inclui OneDrive) e Dataverse com políticas de rotulagem automática para o Mapa de Dados.
• A criptografia tem suporte apenas com rótulos de confidencialidade e somente para a fonte de conhecimento do SharePoint.
• Assim como os rótulos de confidencialidade no Microsoft 365 Chat, os agentes integrados no Copilot Studio exibem o rótulo de confidencialidade para os itens listados na resposta e nas citações. Usando o número de prioridade dos rótulos de confidencialidade definido no portal do Microsoft Purview, a resposta mais recente no Copilot exibe o rótulo de confidencialidade de prioridade mais alta dos dados usados para esse chat do Copilot.
• Assim como a herança do rótulo de confidencialidade para o Microsoft 365 Copilot, o conteúdo recém-criado do Word e do PowerPoint herda o rótulo de confidencialidade de prioridade mais alta.

Prevenção contra perda de dados e interações de IA

A Prevenção Contra Perda de Dados do Microsoft Purview (DLP) ajuda a identificar itens confidenciais nos serviços e pontos de extremidade do Microsoft 365, monitorá-los e ajuda a proteger contra o vazamento desses itens. Ele usa inspeção profunda de conteúdo e análise contextual para identificar itens confidenciais e aplica políticas para proteger dados confidenciais, como registros financeiros, informações de saúde ou propriedade intelectual.

Os computadores Windows integrados ao Microsoft Purview podem ser configurados para políticas DLP (prevenção contra perda de dados) de ponto de extremidade que avisam ou impedem que os usuários compartilhem informações confidenciais com sites de IA generativa de terceiros acessados por meio de um navegador. Por exemplo, um usuário é impedido de colar números de card de crédito no ChatGPT ou vê um aviso que pode substituir. Para obter mais informações sobre as ações de DLP com suporte e quais plataformas dão suporte a elas, consulte as duas primeiras linhas na tabela de atividades de Ponto de extremidade que você pode monitorar e executar.

Informações específicas do aplicativo de IA:

• O seguinte recurso DLP do Ponto de extremidade é suportado apenas:

  • Quando a fonte de conhecimento é o SharePoint, uma política de DLP com escopo para o local do Microsoft 365 Copilot pode impedir que os agentes criados no Copilot Studio para Microsoft Teams, SharePoint e Microsoft 365 Copilot processem conteúdo confidencial com base em um rótulo de confidencialidade especificado.

Gerenciamento de Risco Interno e interações de IA

Gerenciamento de Risco Interno do Microsoft Purview ajuda você a detectar, investigar e mitigar riscos internos, como roubo de IP, vazamento de dados e violações de segurança. Ele aproveita modelos de aprendizado de máquina e vários sinais do Microsoft 365 e indicadores de terceiros para identificar possíveis atividades internas mal-intencionadas ou inadvertidas. A solução inclui controles de privacidade, como pseudonimização e acesso baseado em função, garantindo a privacidade no nível do usuário e permitindo que os analistas de risco tomem as ações apropriadas.

Use o modelo de política de uso arriscado de IA para detectar o uso arriscado que inclui ataques de injeção imediata e acesso a materiais protegidos. Os insights desses sinais são integrados ao Microsoft Defender XDR para fornecer uma visão abrangente dos riscos relacionados à IA.

Conformidades de comunicação e interações com IA

A Conformidade de Comunicações do Microsoft Purview fornece ferramentas para ajudar você a detectar e gerenciar a conformidade regulatória e violações de conduta comercial em vários canais de comunicação, que incluem solicitações de usuários e respostas para aplicativos de IA. Ele foi projetado com privacidade por padrão, pseudonimizando nomes de usuário e incorporando controles de acesso baseados em função. A solução ajuda a identificar e corrigir comunicações inadequadas, como compartilhamento de informações confidenciais, assédio, ameaças e conteúdo adulto.

Para saber mais sobre como usar políticas de conformidade de comunicação para aplicativos de IA, confira Configurar uma política de conformidade de comunicação para detectar interações de IA generativa.

Descoberta Eletrônica e interações de IA

A Descoberta Eletrônica do Microsoft Purview permite identificar e fornecer informações eletrônicas que podem ser usadas como prova em casos legais. As ferramentas de Descoberta Eletrônica no Microsoft Purview dão suporte à pesquisa de conteúdo nas equipes Exchange Online, OneDrive for Business, SharePoint Online, Microsoft Teams, Grupos do Microsoft 365 e Viva Engage. Em seguida, você pode impedir que as informações sejam excluídas e exportá-las.

Como as solicitações e respostas do usuário para aplicativos de IA são armazenadas na caixa de correio de um usuário, você pode criar uma ocorrência e usar a pesquisa quando a caixa de correio de um usuário é selecionada como a fonte para uma consulta de pesquisa. Por exemplo, selecione e recupere esses dados da caixa de correio de origem selecionando no construtor de consultas Adicionartipo> de condição>Contém qualquer uma das atividades de>Editar>Copilot. Essa condição de consulta inclui todas as atividades do Copilot e de outros aplicativos de IA.

Depois que a pesquisa for refinada, você poderá exportar os resultados ou adicioná-los a um conjunto de revisão. Você pode examinar e exportar informações diretamente do conjunto de revisão.

Para obter mais informações sobre como identificar e excluir dados de interação do usuário com IA, consulte Pesquisar e excluir dados do Copilot na descoberta eletrônica.

Gerenciamento do ciclo de vida de dados e interações de IA

O Gerenciamento do Ciclo de Vida de Dados do Microsoft Purview fornece ferramentas e recursos para gerenciar o ciclo de vida dos dados organizacionais, retendo o conteúdo necessário e excluindo o conteúdo desnecessário. Essas ferramentas garantem a conformidade com os requisitos comerciais, legais e regulamentares.

Use políticas de retenção para reter ou excluir automaticamente solicitações e respostas do usuário para aplicativos de IA. Para obter informações detalhadas sobre esse funcionamento de retenção, consulte Saiba mais sobre a retenção para aplicativos Copilot & IA.

Assim como acontece com todas as políticas e bloqueios de retenção, se mais de uma política para o mesmo local se aplicar a um usuário, os princípios de retenção resolverão quaisquer conflitos. Por exemplo, os dados são retidos pela maior duração de todas as políticas de retenção aplicadas ou bloqueios de Descoberta Eletrônica.

Informações específicas do aplicativo de IA:

• Para políticas de retenção, selecione a opção Experiências do Microsoft Copilot.

Interações entre o Gerenciador de Conformidade e a IA

O Gerenciador de Conformidade do Microsoft Purview é uma solução que ajuda você a avaliar e gerenciar automaticamente a conformidade em seu ambiente multinuvem. O Gerenciador de Conformidade pode ajudá-lo durante todo o percurso de conformidade, incluindo desde fazer um inventário dos riscos de proteção de dados até gerenciar as complexidades de implementação de controles, mantendo-o atualizado quanto aos regulamentos e certificações e enviando relatórios para auditores.

Para ajudar você a manter a conformidade com os regulamentos de IA, o Gerenciador de Conformidade fornece modelos regulatórios para ajudar você a avaliar, implementar e fortalecer seus requisitos de conformidade para todos os aplicativos de IA generativa. Por exemplo, monitorar interações de IA e evitar a perda de dados em aplicativos de IA. Para obter mais informações, consulte Avaliações para regulamentos de IA.

Passos recomendados para introdução

Use as etapas a seguir para começar a gerenciar a segurança de dados & a conformidade para interações de agentes internos no Microsoft Copilot Studio.

Como Gerenciamento da Postura de Segurança de Dados para IA é sua porta de entrada para proteger e gerenciar interações de IA, a maioria das instruções a seguir usa essa solução:

• Entre no portal> do Microsoft PurviewSoluções>DSPM para IA (clássico) com uma conta que tenha as permissões apropriadas. Por exemplo, uma conta que é membro da função de grupo Administrador de Conformidade do Microsoft Entra.

  

Descubra possíveis riscos de segurança nas interações do Microsoft Copilot Studio

1. De Visão geral do DSPM para IA (clássico),> na seção Introdução, verifique se a auditoria está ativada para seu locatário. Caso contrário, selecione Ativar Auditoria do Microsoft Purview.

2. Na seção Recomendações , selecione Exibir todas as recomendações para levá-lo à página Recomendações . Se a recomendação a seguir tiver um status de Não iniciado, tome uma ação para criar uma política de um clique:

   • Detecte interações arriscadas em aplicativos de IA: essa recomendação cria uma política para ajudar a calcular o risco do usuário, detectando prompts e respostas arriscados no Microsoft 365 Copilot, agentes e outros aplicativos de IA generativa.

3. Aguarde pelo menos um dia pelos dados e navegue até a página Relatórios para exibir os resultados da sua política. Selecione experiências & agentes do Copilot e exiba informações como:

   • Total de interações ao longo do tempo (Microsoft Copilot e agentes)
   • Interações confidenciais por aplicativo de IA
   • Principais interações antiéticas com IA
   • Severidade do risco interno
   • Severidade do risco interno por aplicativo de IA
   • Possível uso arriscado de IA

4. Selecione Exibir detalhes de cada um dos gráficos de relatório para exibir atividades detalhadas no explorador de atividades.

   Nos filtros, selecione a categoria de aplicativo de IA de experiências & agentes do Copilot e use os outros filtros se precisar refinar ainda mais os dados exibidos. Em seguida, faça uma busca detalhada em cada atividade para exibir detalhes que incluem a exibição dos prompts e a resposta quando você é membro do grupo de funções Visualizador de Conteúdo do Microsoft Purview Content Explorer. Para obter mais informações sobre esse requisito, consulte Permissões para Gerenciamento da Postura de Segurança de Dados para IA.

Aplicar controles de conformidade ao Microsoft Copilot Studio

1. Na página de recomendações do DSPM para IA (clássico),> em Não iniciado, localize, selecione e execute ações na seguinte recomendação:

   • Detectar comportamento antiético na IA: essa recomendação cria uma política para detectar informações confidenciais em prompts e respostas em agentes criados no Copilot Studio e em outros aplicativos de IA generativa.

2. Se você precisar garantir que as interações de agentes criadas no Copilot Studio sejam mantidas por motivos de conformidade:

   No portal do Microsoft Purview, navegue atéPolíticas>de Gerenciamento do Ciclo de> Vidade Dados Políticas de Retenção e crie uma política de retenção para reter as interações do Microsoft Security Copilot selecionando o local Experiências do Microsoft Copilot e especifique o período de retenção necessário. Para obter mais informações, consulte Criar e configurar políticas de retenção.

3. Se você precisar preservar, coletar, analisar, revisar ou exportar as interações do Microsoft Copilot Studio:

   No portal do Microsoft Purview, navegue atéCasosde Descoberta Eletrônica>>Criar caso. No caso, crie uma pesquisa e use a propriedade ItemClass e o IPM.SkypeTeams.Message.Copilot.Studio.* valor para pesquisar essas interações em sua organização.

Examine rotineiramente os relatórios e as avaliações de risco de dados no DSPM para IA para determinar se você precisa fazer alterações e use o explorador de atividades e eventos para uma análise mais profunda de como os usuários estão interagindo com os agentes criados no Copilot Studio.