Usar o Microsoft Purview para gerenciar a segurança & a conformidade de dados do ChatGPT Enterprise

Descrição do serviço Microsoft Purview

Use as seções a seguir para identificar os recursos do Microsoft Purview com suporte para interações de IA com o ChatGPT Enterprise e algumas recomendações de introdução para você gerenciar essas interações de IA para segurança e conformidade.

Para obter informações de configuração e pré-requisitos, consulte Conectar-se e gerenciar interações de IA do ChatGPT Enterprise no Microsoft Purview. Você deve executar a verificação do conector antes que o Microsoft Purview possa gerenciar as interações de IA para o ChatGPT Enterprise.

O gerenciamento dessas interações de IA com o Microsoft Purview exige que você habilite a cobrança paga conforme o uso em sua organização.

Recursos com suporte

Use a tabela a seguir para ver rapidamente os recursos do Microsoft Purview com suporte para o ChatGPT Enterprise.

DSPM e DSPM para IA (clássico)

Use o Gerenciamento da Postura de Segurança de Dados ou o Gerenciamento da Postura de Segurança de Dados para IA (clássico) como seu front door para descobrir, proteger e aplicar controles de conformidade para o uso de IA em toda a sua empresa. Ambas as versões do DSPM usam controles existentes do Microsoft Purview, proteção de informações e gerenciamento de conformidade com ferramentas gráficas e relatórios fáceis de usar para obter rapidamente insights sobre o uso da IA em sua organização. Com recomendações personalizadas e políticas de um clique, você pode proteger seus dados e cumprir os requisitos regulamentares.

Informações específicas do aplicativo de IA:

• Recomendação Obtenha assistência guiada para regulamentos de IA, que usam modelos regulatórios de mapeamento de controle do Gerenciador de Conformidade.

• Políticas de um clique disponíveis:

  • DSPM para IA - Captura interações para aplicativos corporativos de IA a partir da recomendação ou ação de correção Interações seguras de aplicativos empresariais.
  • DSPM para IA - Detectar informações confidenciais compartilhadas com IA via rede a partir da ação de recomendação ou correção Estenda insights sobre dados confidenciais em interações de aplicativos de IA.

Auditoria e interações de IA

As soluções de Auditoria do Microsoft Purview fornecem ferramentas abrangentes para pesquisar e gerenciar registros de auditoria de atividades executadas em vários serviços Microsoft por usuários e administradores e ajudam as organizações a responder com eficácia a eventos de segurança, investigações forenses, investigações internas e obrigações de conformidade.

Assim como outras atividades, os prompts e as respostas são capturados no log de auditoria unificado. Os eventos incluem como e quando os usuários interagem com o aplicativo de IA e podem incluir em qual serviço do Microsoft 365 a atividade ocorreu e referências aos arquivos armazenados no Microsoft 365 que foram acessados durante a interação. Se esses arquivos tiverem um rótulo de confidencialidade aplicado, isso também será capturado.

Esses eventos fluem para o gerenciador de atividades na guia atividades de IA na versão atual do DSPM e no DSPM para IA, onde os dados de prompts e respostas podem ser exibidos. Você também pode usar a solução Auditoria do portal do Microsoft Purview para pesquisar e encontrar esses eventos de auditoria.

Para obter mais informações, confira Logs de auditoria para atividades do Copilot e de IA.

Classificação de dados e interações de IA

A classificação de dados do Microsoft Purview fornece uma estrutura abrangente para identificar e marcar dados confidenciais em vários serviços da Microsoft, incluindo o Office 365, o Dynamics 365 e o Azure. A classificação de dados geralmente é a primeira etapa para garantir a conformidade com os regulamentos de proteção de dados e proteger contra acesso, alteração ou destruição não autorizados. Você pode usar classificações de sistema integradas ou criar suas próprias.

Tipos de informações confidenciais e classificadores treináveis podem ser usados para localizar dados confidenciais em solicitações e respostas do usuário quando ele usa aplicativos de IA. As informações resultantes são exibidas na visão geral dos Relatórios do Microsoft Purview e no explorador de atividades no DSPM para IA e na guia atividades de IA no gerenciador de atividades da versão prévia do DSPM.

Gerenciamento de Risco Interno e interações de IA

Gerenciamento de Risco Interno do Microsoft Purview ajuda você a detectar, investigar e mitigar riscos internos, como roubo de IP, vazamento de dados e violações de segurança. Ele aproveita modelos de aprendizado de máquina e vários sinais do Microsoft 365 e indicadores de terceiros para identificar possíveis atividades internas mal-intencionadas ou inadvertidas. A solução inclui controles de privacidade, como pseudonimização e acesso baseado em função, garantindo a privacidade no nível do usuário e permitindo que os analistas de risco tomem as ações apropriadas.

Use o modelo de política de uso arriscado de IA para detectar o uso arriscado que inclui ataques de injeção imediata e acesso a materiais protegidos. Os insights desses sinais são integrados ao Microsoft Defender XDR para fornecer uma visão abrangente dos riscos relacionados à IA.

Informações específicas do aplicativo de IA:

• Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Captura interações para aplicativos de IA corporativos da recomendação do DSPM para IA Interações seguras de aplicativos empresariais.

Conformidades de comunicação e interações com IA

A Conformidade de Comunicações do Microsoft Purview fornece ferramentas para ajudar você a detectar e gerenciar a conformidade regulatória e violações de conduta comercial em vários canais de comunicação, que incluem solicitações de usuários e respostas para aplicativos de IA. Ele foi projetado com privacidade por padrão, pseudonimizando nomes de usuário e incorporando controles de acesso baseados em função. A solução ajuda a identificar e corrigir comunicações inadequadas, como compartilhamento de informações confidenciais, assédio, ameaças e conteúdo adulto.

Para saber mais sobre como usar políticas de conformidade de comunicação para aplicativos de IA, confira Configurar uma política de conformidade de comunicação para detectar interações de IA generativa.

Informações específicas do aplicativo de IA:

• Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Captura interações para aplicativos de IA corporativos da recomendação do DSPM para IA Interações seguras de aplicativos empresariais.

Descoberta Eletrônica e interações de IA

A Descoberta Eletrônica do Microsoft Purview permite identificar e fornecer informações eletrônicas que podem ser usadas como prova em casos legais. As ferramentas de Descoberta Eletrônica no Microsoft Purview dão suporte à pesquisa de conteúdo nas equipes Exchange Online, OneDrive for Business, SharePoint Online, Microsoft Teams, Grupos do Microsoft 365 e Viva Engage. Em seguida, você pode impedir que as informações sejam excluídas e exportá-las.

Como as solicitações e respostas do usuário para aplicativos de IA são armazenadas na caixa de correio de um usuário, você pode criar uma ocorrência e usar a pesquisa quando a caixa de correio de um usuário é selecionada como a fonte para uma consulta de pesquisa. Por exemplo, selecione e recupere esses dados da caixa de correio de origem selecionando no construtor de consultas Adicionartipo> de condição>Contém qualquer uma das atividades de>Editar>Copilot. Essa condição de consulta inclui todas as atividades do Copilot e de outros aplicativos de IA.

Depois que a pesquisa for refinada, você poderá exportar os resultados ou adicioná-los a um conjunto de revisão. Você pode examinar e exportar informações diretamente do conjunto de revisão.

Para obter mais informações sobre como identificar e excluir dados de interação do usuário com IA, consulte Pesquisar e excluir dados do Copilot na descoberta eletrônica.

Informações específicas do aplicativo de IA:

• Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Captura interações para aplicativos de IA corporativos da recomendação do DSPM para IA Interações seguras de aplicativos empresariais.

Gerenciamento do ciclo de vida de dados e interações de IA

O Gerenciamento do Ciclo de Vida de Dados do Microsoft Purview fornece ferramentas e recursos para gerenciar o ciclo de vida dos dados organizacionais, retendo o conteúdo necessário e excluindo o conteúdo desnecessário. Essas ferramentas garantem a conformidade com os requisitos comerciais, legais e regulamentares.

Use políticas de retenção para reter ou excluir automaticamente solicitações e respostas do usuário para aplicativos de IA. Para obter informações detalhadas sobre esse funcionamento de retenção, consulte Saiba mais sobre a retenção para aplicativos Copilot & IA.

Assim como acontece com todas as políticas e bloqueios de retenção, se mais de uma política para o mesmo local se aplicar a um usuário, os princípios de retenção resolverão quaisquer conflitos. Por exemplo, os dados são retidos pela maior duração de todas as políticas de retenção aplicadas ou bloqueios de Descoberta Eletrônica.

Informações específicas do aplicativo de IA:

• Para políticas de retenção, selecione a opção Aplicativos de IA empresariais.

• Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Captura interações para aplicativos de IA corporativos da recomendação do DSPM para IA Interações seguras de aplicativos empresariais.

Interações entre o Gerenciador de Conformidade e a IA

O Gerenciador de Conformidade do Microsoft Purview é uma solução que ajuda você a avaliar e gerenciar automaticamente a conformidade em seu ambiente multinuvem. O Gerenciador de Conformidade pode ajudá-lo durante todo o percurso de conformidade, incluindo desde fazer um inventário dos riscos de proteção de dados até gerenciar as complexidades de implementação de controles, mantendo-o atualizado quanto aos regulamentos e certificações e enviando relatórios para auditores.

Para ajudar você a manter a conformidade com os regulamentos de IA, o Gerenciador de Conformidade fornece modelos regulatórios para ajudar você a avaliar, implementar e fortalecer seus requisitos de conformidade para todos os aplicativos de IA generativa. Por exemplo, monitorar interações de IA e evitar a perda de dados em aplicativos de IA. Para obter mais informações, consulte Avaliações para regulamentos de IA.

Passos recomendados para introdução

Use as etapas a seguir para começar a gerenciar a segurança & a conformidade de dados para interações de IA que usam o ChatGPT Enterprise.

Como Gerenciamento da Postura de Segurança de Dados para IA é sua porta de entrada para proteger e gerenciar interações de IA, a maioria das instruções a seguir usa essa solução:

• Entre no portal> do Microsoft PurviewSoluções>DSPM para IA (clássico) com uma conta que tenha as permissões apropriadas. Por exemplo, uma conta que é membro da função de grupo Administrador de Conformidade do Microsoft Entra.

  

1. Na página de recomendações do DSPM para IA (clássico),> localize e selecione Descubra e controle as interações com o ChatGPT Enterprise AI, que configurou instruções para capturar prompts e respostas para aplicativos de IA que usam uma ou mais assinaturas de IA do Azure.

2. Também na lista de recomendações, selecione Interações seguras de aplicativos corporativos, que cria uma política de um clique para capturar prompts e respostas de aplicativos corporativos de IA.

3. Aguarde pelo menos um dia pelos dados e navegue até a página Relatórios para exibir os resultados da sua política. Selecione a categoria de aplicativo de IA de aplicativos de IA corporativos e exiba informações como:

   • Total de interações ao longo do tempo (aplicativos de IA empresariais)
   • Interações confidenciais por aplicativo de IA
   • Severidade do risco interno
   • Severidade do risco interno por aplicativo de IA

4. Selecione Exibir detalhes de cada um dos gráficos de relatório para exibir atividades detalhadas no explorador de atividades.

   Nos filtros, selecione a categoria de aplicativo de IA de Aplicativos de IA corporativos com o filtro de aplicativo do ChatGPT Enterprise e use os outros filtros se precisar refinar ainda mais os dados exibidos. Faça uma busca detalhada em cada atividade para exibir detalhes que incluem a exibição dos prompts e da resposta quando você é membro do grupo de funções Visualizador de Conteúdo do Microsoft Purview Content Explorer. Para obter mais informações sobre esse requisito, consulte Permissões para Gerenciamento da Postura de Segurança de Dados para IA.

5. Se você precisar garantir que as interações do ChatGPT Enterprise sejam retidas por motivos de conformidade:

   No portal do Microsoft Purview, navegue atéPolíticas>de Gerenciamento do Ciclo de> Vidade Dados Políticas de Retenção e crie uma política de retenção para reter interações com o ChatGPT Enterprise selecionando o local Aplicativos de IA corporativos e especifique o período de retenção necessário. Para obter mais informações, consulte Criar e configurar políticas de retenção.

6. Se você precisar preservar, coletar, analisar, revisar ou exportar interações do ChatGPT Enterprise:

   No portal do Microsoft Purview, navegue atéCasosde Descoberta Eletrônica>>Criar caso. No caso, crie uma pesquisa e use a propriedade ItemClass e o IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<ChatGPTEnterprise> valor para atividades de computador local ou o IPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID> valor para atividades baseadas no navegador para pesquisar essas interações em sua organização.

Examine rotineiramente os relatórios no DSPM para IA para determinar se você precisa fazer alterações e use o explorador de atividades e eventos para uma análise mais profunda de como os usuários estão interagindo com o ChatGPT Enterprise.