Configurar uma política de Conformidade de Comunicação para detectar interações de IA generativa

Importante

A Conformidade de Comunicações do Microsoft Purview fornece as ferramentas para ajudar as organizações a detectar conformidade regulatória (por exemplo, SEC ou FINRA) e violações de conduta comercial, como informações sensíveis ou confidenciais, linguagem de assédio ou ameaça e compartilhamento de conteúdo adulto. A Conformidade de Comunicação é criada com privacidade por design. Os nomes de usuário são pseudonimizados por padrão, os controles de acesso baseados em funções são incorporados, os investigadores são aceitos por um administrador e os logs de auditoria estão em vigor para ajudar a garantir a privacidade no nível do usuário.

Visão Geral

Você pode usar a Conformidade de Comunicação para analisar interações (prompts e respostas) para detectar interações inadequadas ou arriscadas ou o compartilhamento de informações confidenciais inseridas em vários aplicativos de IA generativa.

Esses aplicativos incluem o Microsoft 365 Copilot, Copilots criados com o Microsoft Copilot Studio, aplicativos de IA conectados pelo Microsoft Entra ou pelo Mapa de Dados do Microsoft Purview conectores e muito mais.

Dica

Comece a usar o Microsoft Security Copilot para explorar novas maneiras de trabalhar de forma mais inteligente e rápida usando o poder da IA. Saiba mais sobre o Microsoft Security Copilot no Microsoft Purview.

Experiência do Microsoft Copilot

Importante

Para detectar interações inadequadas ou arriscadas para dados de IA que não são do Microsoft 365, você deve habilitar a cobrança paga conforme o uso em sua organização. Os dados de IA que não são do Microsoft 365 incluem informações de outros aplicativos de IA generativa da Microsoft e aplicativos de IA externos conectados. Exemplos de dados de IA que não são do Microsoft 365 incluem o Copilot no Microsoft Fabric, o Microsoft Security Copilot, o Microsoft Copilot Studio e qualquer aplicativo de IA conectado ou na nuvem. Não há requisitos ou cobranças de pagamento conforme o uso para o Microsoft 365 detectando interações inadequadas ou arriscadas para dados do Microsoft 365 Copilot.

A Conformidade de Comunicação pode detectar interações em qualquer mensagem com o IPM. SkypeTeams.Message.Copilot. Classe de item de aplicativo . Essas classes de item incluem aplicativos Copilot em soluções da Microsoft, como Teams, Outlook e muito mais.

Por exemplo, a Conformidade de Comunicação detecta interações em mensagens do Copilot com o IPM. SkypeTeams.Message.Copilot.Teams, IPM. SkypeTeams.Message.Copilot.Outlook classes de item, entre outros.

Aplicativo de IA generativa conectado

Importante

Para detectar interações inadequadas ou arriscadas para aplicativos de IA generativa conectados, você deve habilitar a cobrança paga conforme o uso em sua organização.

A Conformidade de Comunicação pode detectar interações de prompt e resposta com aplicativos de IA que não são do Copilot. Esses aplicativos são aplicativos de IA generativa conectados usando conectores do Microsoft Entra e do Mapa de Dados do Microsoft Purview.

Outros aplicativos de IA

Importante

Para detectar interações inadequadas ou arriscadas para outros aplicativos de IA, sua organização deve habilitar a cobrança paga conforme o uso.

A Conformidade de Comunicação também pode detectar interações com aplicativos de IA do navegador e atividades de rede por usuários em sua organização. Esse recurso ajuda a detectar interações inadequadas ou arriscadas ou o compartilhamento de informações confidenciais que os usuários inserem em aplicativos de IA fora da sua organização.

Pré-requisitos

Para investigar as interações do Copilot na Conformidade de Comunicação, você deve receber uma das seguintes funções:

  • Conformidade de Comunicações
  • Investigadores de Conformidade de Comunicação
  • Analistas de Conformidade de Comunicação

Você também deve ser atribuído como revisor no campo Revisores ao criar uma política de conformidade de comunicação.

Como funciona

Importante

A Microsoft está comprometida em garantir que os sistemas de inteligência artificial (IA) sejam desenvolvidos de forma responsável e de maneira a garantir a confiança das pessoas. Como parte desse compromisso, as equipes de engenharia do Microsoft Purview operacionalizam os seis princípios fundamentais da estratégia de IA responsável da Microsoft para projetar, criar e gerenciar soluções de IA. Para implantar a IA com responsabilidade, fornecemos documentação, acesso baseado em função, atestado de cenário e muito mais para ajudar as organizações a usar os sistemas de IA com responsabilidade.

Você pode aproveitar todos os recursos de Conformidade de Comunicação ao criar uma política de Conformidade de Comunicação que detecta interações do Microsoft 365 Copilot e do Microsoft 365 Copilot Chat, incluindo:

Qualquer prompt ou resposta que um usuário insere em um aplicativo de IA generativa compatível e que corresponde a uma política de Conformidade de Comunicação aparece como uma correspondência de política na página Políticas na guia Pendente , com entradas separadas para prompts e respostas. Se apenas o prompt ou apenas a resposta corresponder a uma política, a guia Pendente mostrará um item apenas para essa correspondência de política. Você pode corrigir as correspondências de política para aplicativos de IA generativa da mesma forma que corrige qualquer outra correspondência de política.

As seguintes informações são exibidas para cada item na guia Pendente para correspondências de política de IA:

  • Ícones: o ícone do Copilot identifica a correspondência de política como uma interação de IA generativa com um Copilot baseado na Microsoft Para todas as outras interações de IA generativa, esse ícone é um ícone de email.
  • Coluna de assunto: o valor [Copilot] nesta coluna identifica a correspondência de política como uma interação de IA generativa com Copilotos baseados na Microsoft. O valor [AI app] nesta coluna identifica a correspondência de política para todas as outras interações de IA generativa.
  • Coluna do remetente: Remetente da mensagem. Dependendo do aplicativo de IA de origem, o remetente aparece da seguinte forma:
    • Se a correspondência de política for uma resposta de um aplicativo Copilot, o valor será Copilot.
    • Se a correspondência de política for uma resposta de um aplicativo de IA conectado, o valor será Aplicativo de IA conectado.
    • Se a correspondência de política for uma resposta de um aplicativo de IA de nuvem, o valor será Aplicativo de IA de nuvem.
  • Coluna do destinatário: destinatários incluídos na mensagem. Esse valor é o usuário interagindo com o aplicativo de IA.
  • Texto da mensagem: o texto da mensagem que o usuário digitou (o texto que causou a correspondência de política) aparece no lado direito da tela em sua totalidade.

Criar uma política que detecta interações do Microsoft Copilot

Siga estas etapas para criar uma política que detecta interações do Microsoft Copilot:

  1. Entre no portal do Microsoft Purview com credenciais para uma conta de administrador em sua organização do Microsoft 365.
  2. Acesse a solução de Conformidade de Comunicações.
  3. Selecione Políticas na navegação à esquerda.
  4. Selecione Criar política e, em seguida, selecione o modelo Detectar interações do Microsoft Copilot.
  5. Insira o nome da política, selecione os usuários e grupos aos quais aplicar a política e selecione os revisores da política. Saiba mais sobre essas opções ao criar uma política a partir de um modelo
  6. Examine a lista de configurações escolhidas para você com base no modelo. Selecione Criar política para criar a política ou selecione Personalizar política se quiser fazer alterações antes de criar a política.

Adicionar um aplicativo de IA generativa como localização para uma política existente

Siga estas etapas para adicionar um aplicativo de IA generativa como um local para uma política de Conformidade de Comunicação existente:

  1. Entre no portal do Microsoft Purview com credenciais para uma conta de administrador em sua organização do Microsoft 365.

  2. Acesse a solução de Conformidade de Comunicações.

  3. Selecione Políticas na navegação à esquerda.

  4. Selecione Mais ações (reticências) na linha da política que você deseja alterar e selecione Editar.

  5. Selecione Avançar duas vezes no fluxo de trabalho de criação de política para ir para a página Escolher locais para detectar comunicações .

  6. Marque uma ou mais das seguintes caixas de seleção para adicionar um aplicativo de IA generativa como local:

    • Experiências do Microsoft Copilot
    • Aplicativos empresariais de IA
    • Outros aplicativos de IA

  7. Faça outras alterações na política e, na página Revisar e concluir , selecione Salvar.

Criar uma política para examinar todas as interações de IA generativa

Ao trabalhar pela primeira vez com interações generativas de IA, considere revisar todas as interações de IA para entender como as pessoas em sua organização usam esses aplicativos. Para criar uma política que analisa todas as interações de IA generativa, ao criar ou editar a política:

  • Defina o local para incluir todos os aplicativos de IA generativa:

    • Experiências do Microsoft Copilot
    • Aplicativos empresariais de IA
    • Outros aplicativos de IA

  • Defina a opção Porcentagem de revisão na página Escolher condições e porcentagem de revisão como 100%.

  • Não estabeleça nenhuma condição para a política.

Observação

Dependendo do tamanho da sua organização, uma política que detecta todas as interações de IA generativa pode resultar em um alto volume de mensagens detectadas. Esse volume pode fazer com que sua organização atinja seu limite de armazenamento. Se sua organização atingir o limite de armazenamento, ajuste a política para reduzir o número de detecções.

Corrija correspondências de política e alertas que contenham interações de IA generativa

Corrija correspondências de política e alertas que contêm interações de IA generativa da mesma forma que corrige qualquer correspondência de política ou alerta em Conformidade de Comunicação. Por exemplo, você pode marcar uma correspondência de política, escalá-la, resolvê-la, baixá-la ou exportá-la. Saiba mais sobre como resolver correspondências de política e alertas em Conformidade de Comunicação.

Relatórios

As interações de IA que você coloca no escopo de uma política de Conformidade de Comunicação aparecem em relatórios de Conformidade de Comunicação e dados de auditoria. Saiba mais sobre relatórios e auditorias de Conformidade de Comunicação.

Confira também

  • Last updated on