Usar o Microsoft Purview para gerenciar a segurança & a conformidade de dados para Microsoft Agent 365

Descrição do serviço Microsoft Purview

Recursos com suporte

Use a tabela a seguir para ver rapidamente os recursos do Microsoft Purview com suporte para o Microsoft Agent 365.

Quando você cria uma instância de agente para o Agent 365, ela é automaticamente habilitada para auditoria, detecção de dados confidenciais com classificação de dados e incluída nas regulamentações de Avaliações para IA do Gerenciador de Conformidade. Para outros recursos, inclua a instância do agente em políticas como faria com um usuário.

DSPM e DSPM para IA (clássico)

Use o Gerenciamento da Postura de Segurança de Dados ou o Gerenciamento da Postura de Segurança de Dados para IA (clássico) como seu front door para descobrir, proteger e aplicar controles de conformidade para o uso de IA em toda a sua empresa. Ambas as versões do DSPM usam controles existentes do Microsoft Purview, proteção de informações e gerenciamento de conformidade com ferramentas gráficas e relatórios fáceis de usar para obter rapidamente insights sobre o uso da IA em sua organização. Com recomendações personalizadas e políticas de um clique, você pode proteger seus dados e cumprir os requisitos regulamentares.

Informações específicas do aplicativo de IA:

• Com suporte apenas para o Gerenciamento da Postura de Segurança de Dados, use a página de observabilidade de IA para obter visibilidade das instâncias ativas do agente para entender melhor os riscos potenciais e como corrigi-los. Para obter mais informações, consulte as etapas recomendadas de Introdução.

Auditoria e interações de IA

As soluções de Auditoria do Microsoft Purview fornecem ferramentas abrangentes para pesquisar e gerenciar registros de auditoria de atividades executadas em vários serviços Microsoft por usuários e administradores e ajudam as organizações a responder com eficácia a eventos de segurança, investigações forenses, investigações internas e obrigações de conformidade.

Assim como outras atividades, os prompts e as respostas são capturados no log de auditoria unificado. Os eventos incluem como e quando os usuários interagem com o aplicativo de IA e podem incluir em qual serviço do Microsoft 365 a atividade ocorreu e referências aos arquivos armazenados no Microsoft 365 que foram acessados durante a interação. Se esses arquivos tiverem um rótulo de confidencialidade aplicado, isso também será capturado.

Esses eventos fluem para o gerenciador de atividades na guia atividades de IA na versão atual do DSPM e no DSPM para IA, onde os dados de prompts e respostas podem ser exibidos. Você também pode usar a solução Auditoria do portal do Microsoft Purview para pesquisar e encontrar esses eventos de auditoria.

Para obter mais informações, confira Logs de auditoria para atividades do Copilot e de IA.

Informações específicas do aplicativo de IA:

• Audite uma instância de agente como faria com um usuário.
• Interações com suporte: todas as interações de agente para humano, humano para agente, agente para ferramentas e agente para agente.
• Além de exibir no explorador de atividades no DSPM, pesquise no log de auditoria as atividades do Agent 365.

Classificação de dados e interações de IA

A classificação de dados do Microsoft Purview fornece uma estrutura abrangente para identificar e marcar dados confidenciais em vários serviços da Microsoft, incluindo o Office 365, o Dynamics 365 e o Azure. A classificação de dados geralmente é a primeira etapa para garantir a conformidade com os regulamentos de proteção de dados e proteger contra acesso, alteração ou destruição não autorizados. Você pode usar classificações de sistema integradas ou criar suas próprias.

Tipos de informações confidenciais e classificadores treináveis podem ser usados para localizar dados confidenciais em solicitações e respostas do usuário quando ele usa aplicativos de IA. As informações resultantes são exibidas na visão geral dos Relatórios do Microsoft Purview e no explorador de atividades no DSPM para IA e na guia atividades de IA no gerenciador de atividades da versão prévia do DSPM.

Rótulos de confidencialidade e interações de IA

Os aplicativos de IA compatíveis com o Microsoft Purview usam os controles existentes para garantir que os dados armazenados em seu locatário nunca sejam retornados ao usuário ou usados por um LLM (modelo de linguagem grande) se o usuário não tiver acesso a esses dados. Quando os dados têm rótulos de confidencialidade da sua organização aplicados ao conteúdo, há uma camada extra de proteção:

• Quando um arquivo é aberto no Word, Excel, PowerPoint ou similarmente, um email ou evento de calendário é aberto no Outlook, a confidencialidade dos dados é exibida para os usuários no aplicativo com o nome do rótulo e as marcações de conteúdo (como texto de cabeçalho ou rodapé) que foram configuradas para o rótulo. Os componentes e páginas do Loop também são compatíveis com os mesmos rótulos de confidencialidade.

• Quando o rótulo de confidencialidade aplica criptografia, os usuários devem ter o direito de uso EXTRAIR, bem como EXIBIR, para que os aplicativos de IA retornem os dados.

• Essa proteção se estende a dados armazenados fora do seu locatário do Microsoft 365 quando abertos em um aplicativo do Office (dados em uso). Por exemplo, armazenamento local, compartilhamentos de rede e armazenamento em nuvem.

Se você ainda não estiver usando rótulos de confidencialidade, consulte Introdução aos rótulos de confidencialidade.

Informações específicas do aplicativo de IA:

• Para que as instâncias do agente acessem arquivos, os arquivos devem ser compartilhados explicitamente com elas.
• Se um rótulo de confidencialidade aplicado estiver configurado para criptografia, essa criptografia deverá conceder explicitamente à instância do agente direitos de uso VIEW e EXTRACT. Por exemplo, um rótulo de confidencialidade configurado para Adicionar todos os usuários e grupos em sua organização ou Adicionar usuários autenticados não seria suficiente.
• O conteúdo recém-criado do Agent 365 não herda rótulos de confidencialidade dos itens de origem. Como resultado, esse conteúdo não é rotulado ou criptografado automaticamente.

Prevenção contra perda de dados e interações de IA

A Prevenção Contra Perda de Dados do Microsoft Purview (DLP) ajuda a identificar itens confidenciais nos serviços e pontos de extremidade do Microsoft 365, monitorá-los e ajuda a proteger contra o vazamento desses itens. Ele usa inspeção profunda de conteúdo e análise contextual para identificar itens confidenciais e aplica políticas para proteger dados confidenciais, como registros financeiros, informações de saúde ou propriedade intelectual.

Os computadores Windows integrados ao Microsoft Purview podem ser configurados para políticas DLP (prevenção contra perda de dados) de ponto de extremidade que avisam ou impedem que os usuários compartilhem informações confidenciais com sites de IA generativa de terceiros acessados por meio de um navegador. Por exemplo, um usuário é impedido de colar números de card de crédito no ChatGPT ou vê um aviso que pode substituir. Para obter mais informações sobre as ações de DLP com suporte e quais plataformas dão suporte a elas, consulte as duas primeiras linhas na tabela de atividades de Ponto de extremidade que você pode monitorar e executar.

Informações específicas do aplicativo de IA:

• Com suporte especificando explicitamente instâncias de agente na política DLP como você faria com um usuário ou especificando um grupo de segurança que inclui instâncias de agente.
• Interações com suporte: Bloquear ou auditar agente para humano e humano para agente para Microsoft Teams, OneDrive ou SharePoint e emails.
• Como uma instância de agente não tem conhecimento da ação de bloqueio, o proprietário do agente deve monitorar ativamente uma política DLP que usa essa configuração e entender o impacto nos fluxos de trabalho subsequentes.

Gerenciamento de Risco Interno e interações de IA

Gerenciamento de Risco Interno do Microsoft Purview ajuda você a detectar, investigar e mitigar riscos internos, como roubo de IP, vazamento de dados e violações de segurança. Ele aproveita modelos de aprendizado de máquina e vários sinais do Microsoft 365 e indicadores de terceiros para identificar possíveis atividades internas mal-intencionadas ou inadvertidas. A solução inclui controles de privacidade, como pseudonimização e acesso baseado em função, garantindo a privacidade no nível do usuário e permitindo que os analistas de risco tomem as ações apropriadas.

Use o modelo de política de uso arriscado de IA para detectar o uso arriscado que inclui ataques de injeção imediata e acesso a materiais protegidos. Os insights desses sinais são integrados ao Microsoft Defender XDR para fornecer uma visão abrangente dos riscos relacionados à IA.

Informações específicas do aplicativo de IA:

• Suporte à especificação explícita de instâncias de agente na política de Gerenciamento de Risco Interno, como você faria com um usuário.
• Dá suporte a eventos de gatilho internos, como exfiltração de dados.

Conformidades de comunicação e interações com IA

A Conformidade de Comunicações do Microsoft Purview fornece ferramentas para ajudar você a detectar e gerenciar a conformidade regulatória e violações de conduta comercial em vários canais de comunicação, que incluem solicitações de usuários e respostas para aplicativos de IA. Ele foi projetado com privacidade por padrão, pseudonimizando nomes de usuário e incorporando controles de acesso baseados em função. A solução ajuda a identificar e corrigir comunicações inadequadas, como compartilhamento de informações confidenciais, assédio, ameaças e conteúdo adulto.

Para saber mais sobre como usar políticas de conformidade de comunicação para aplicativos de IA, confira Configurar uma política de conformidade de comunicação para detectar interações de IA generativa.

Informações específicas do aplicativo de IA:

• Suporta a detecção de comunicação antiética para Microsoft Teams e emails, para interações de agente para humano e humano para agente.

Descoberta Eletrônica e interações de IA

A Descoberta Eletrônica do Microsoft Purview permite identificar e fornecer informações eletrônicas que podem ser usadas como prova em casos legais. As ferramentas de Descoberta Eletrônica no Microsoft Purview dão suporte à pesquisa de conteúdo nas equipes Exchange Online, OneDrive for Business, SharePoint Online, Microsoft Teams, Grupos do Microsoft 365 e Viva Engage. Em seguida, você pode impedir que as informações sejam excluídas e exportá-las.

Como as solicitações e respostas do usuário para aplicativos de IA são armazenadas na caixa de correio de um usuário, você pode criar uma ocorrência e usar a pesquisa quando a caixa de correio de um usuário é selecionada como a fonte para uma consulta de pesquisa. Por exemplo, selecione e recupere esses dados da caixa de correio de origem selecionando no construtor de consultas Adicionartipo> de condição>Contém qualquer uma das atividades de>Editar>Copilot. Essa condição de consulta inclui todas as atividades do Copilot e de outros aplicativos de IA.

Depois que a pesquisa for refinada, você poderá exportar os resultados ou adicioná-los a um conjunto de revisão. Você pode examinar e exportar informações diretamente do conjunto de revisão.

Para obter mais informações sobre como identificar e excluir dados de interação do usuário com IA, consulte Pesquisar e excluir dados do Copilot na descoberta eletrônica.

Informações específicas do aplicativo de IA:

• Identifique uma instância do agente como faria com um usuário.
• Oferece suporte a interações agente-a-humano e humano-a-agente.

Gerenciamento do ciclo de vida de dados e interações de IA

O Gerenciamento do Ciclo de Vida de Dados do Microsoft Purview fornece ferramentas e recursos para gerenciar o ciclo de vida dos dados organizacionais, retendo o conteúdo necessário e excluindo o conteúdo desnecessário. Essas ferramentas garantem a conformidade com os requisitos comerciais, legais e regulamentares.

Use políticas de retenção para reter ou excluir automaticamente solicitações e respostas do usuário para aplicativos de IA. Para obter informações detalhadas sobre esse funcionamento de retenção, consulte Saiba mais sobre a retenção para aplicativos Copilot & IA.

Assim como acontece com todas as políticas e bloqueios de retenção, se mais de uma política para o mesmo local se aplicar a um usuário, os princípios de retenção resolverão quaisquer conflitos. Por exemplo, os dados são retidos pela maior duração de todas as políticas de retenção aplicadas ou bloqueios de Descoberta Eletrônica.

Informações específicas do aplicativo de IA:

• Oferece suporte a locais que incluem Microsoft Teams, OneDrive e SharePoint e emails.
• Oferece suporte a interações agente-a-humano e humano-a-agente.

Interações entre o Gerenciador de Conformidade e a IA

O Gerenciador de Conformidade do Microsoft Purview é uma solução que ajuda você a avaliar e gerenciar automaticamente a conformidade em seu ambiente multinuvem. O Gerenciador de Conformidade pode ajudá-lo durante todo o percurso de conformidade, incluindo desde fazer um inventário dos riscos de proteção de dados até gerenciar as complexidades de implementação de controles, mantendo-o atualizado quanto aos regulamentos e certificações e enviando relatórios para auditores.

Para ajudar você a manter a conformidade com os regulamentos de IA, o Gerenciador de Conformidade fornece modelos regulatórios para ajudar você a avaliar, implementar e fortalecer seus requisitos de conformidade para todos os aplicativos de IA generativa. Por exemplo, monitorar interações de IA e evitar a perda de dados em aplicativos de IA. Para obter mais informações, consulte Avaliações para regulamentos de IA.

Passos recomendados para introdução

Para começar a gerenciar a segurança de dados & a conformidade do Agent 365. usam o portal do Microsoft Purview. Você precisa de uma conta que tenha permissões apropriadas para gerenciamento de segurança e conformidade, como uma conta que seja membro da função de Administrador de Conformidade do Entra ou do grupo de funções Administrador de Conformidade do Microsoft Purview.

Em seguida, navegue até Gerenciamento da Postura de Segurança de Dados: DSPM>Observabilidade de IA.

Na página de observabilidade de IA :

• Examine a visão geral de todos os agentes em sua organização com atividades nos últimos 30 dias, priorizadas com o nível de risco mais alto determinado pelo Gerenciamento de Risco Interno.
• Analise as principais atividades de risco: compartilhamento excessivo, exfiltração e comportamento antiético.
• Selecione um agente específico para ver os detalhes:
  • Detalhes do agente que incluem o status habilitado para o Entra, data de criação, proprietário, ID de usuário do agente e de qual agente ele é uma instância.
  • Atividades do agente que incluem o nível de risco determinado pelo Gerenciamento de Risco Interno e quaisquer atividades arriscadas de interações do agente.
  • Recomendações de correção que usam soluções do Microsoft Purview, com base nos riscos identificados.