Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Use as seções a seguir para identificar os recursos do Microsoft Purview com suporte para interações de IA que usam o Microsoft Foundry e algumas recomendações de introdução para você gerenciar essas interações de IA para segurança e conformidade.
Antes que o Microsoft Purview possa gerenciar essas interações de IA, certifique-se de executar uma das seguintes etapas de configuração:
- Habilite a Segurança de Dados do Microsoft Purview no Plano de Controle do Microsoft Foundry usando o portal do Microsoft Foundry. Para obter mais informações, consulte Gerenciar conformidade e segurança no Microsoft Foundry.
- Habilite a Segurança de Dados do Microsoft Purview para Microsoft Foundry no Microsoft Defender para Nuvem no seu portal do Azure. Para obter mais informações, consulte Habilitar a segurança de dados para a IA do Azure com o Microsoft Purview.
O gerenciamento de políticas para interações do Microsoft Foundry AI com o Microsoft Purview exige que você habilite a cobrança paga conforme o uso em sua organização. Observe que a Auditoria do Microsoft Purview inclui dados do Microsoft Foundry como parte da licença do Microsoft Purview.
Recursos com suporte
Use a tabela a seguir para ver rapidamente os recursos do Microsoft Purview com suporte para o Microsoft Foundry.
| Funcionalidade ou solução no Microsoft Purview | Compatível com interações de IA |
|---|---|
| DSPM e DSPM para IA (clássico) | ✓ |
| Auditoria | ✓ |
| Classificação de dados | ✓ |
| Rótulos de confidencialidade | ✓ |
| Criptografia sem rótulos de confidencialidade | ✕ |
| Prevenção contra perda de dados | ✓ |
| Gerenciamento de Risco Interno | ✓ |
| Conformidade em comunicações | ✓ |
| Descoberta eletrônica | ✓ |
| Gerenciamento do Ciclo de Vida dos Cados | ✓ |
| Gerenciador de Conformidade | ✓ |
DSPM e DSPM para IA (clássico)
Use o Gerenciamento da Postura de Segurança de Dados ou o Gerenciamento da Postura de Segurança de Dados para IA (clássico) como seu front door para descobrir, proteger e aplicar controles de conformidade para o uso de IA em toda a sua empresa. Ambas as versões do DSPM usam controles existentes do Microsoft Purview, proteção de informações e gerenciamento de conformidade com ferramentas gráficas e relatórios fáceis de usar para obter rapidamente insights sobre o uso da IA em sua organização. Com recomendações personalizadas e políticas de um clique, você pode proteger seus dados e cumprir os requisitos regulamentares.
Informações específicas do aplicativo de IA:
Recomendação: proteja dados em aplicativos e agentes de IA do Azure, que configuraram instruções para capturar prompts e respostas para aplicativos de IA que usam uma ou mais assinaturas de IA do Azure.
Recomendação Obtenha assistência guiada para regulamentos de IA, que usam modelos regulatórios de mapeamento de controle do Gerenciador de Conformidade.
Políticas de um clique disponíveis:
- DSPM para IA - Captura interações para aplicativos corporativos de IA a partir da recomendação ou ação de correção Interações seguras de aplicativos empresariais
- DSPM para IA - Detectar informações confidenciais compartilhadas com IA via rede a partir da ação de recomendação ou correção Estenda insights sobre dados confidenciais em interações de aplicativos de IA.
Auditoria e interações de IA
As soluções de Auditoria do Microsoft Purview fornecem ferramentas abrangentes para pesquisar e gerenciar registros de auditoria de atividades executadas em vários serviços Microsoft por usuários e administradores e ajudam as organizações a responder com eficácia a eventos de segurança, investigações forenses, investigações internas e obrigações de conformidade.
Assim como outras atividades, os prompts e as respostas são capturados no log de auditoria unificado. Os eventos incluem como e quando os usuários interagem com o aplicativo de IA e podem incluir em qual serviço do Microsoft 365 a atividade ocorreu e referências aos arquivos armazenados no Microsoft 365 que foram acessados durante a interação. Se esses arquivos tiverem um rótulo de confidencialidade aplicado, isso também será capturado.
Esses eventos fluem para o gerenciador de atividades na guia atividades de IA na versão atual do DSPM e no DSPM para IA, onde os dados de prompts e respostas podem ser exibidos. Você também pode usar a solução Auditoria do portal do Microsoft Purview para pesquisar e encontrar esses eventos de auditoria.
Para obter mais informações, confira Logs de auditoria para atividades do Copilot e de IA.
Classificação de dados e interações de IA
A classificação de dados do Microsoft Purview fornece uma estrutura abrangente para identificar e marcar dados confidenciais em vários serviços da Microsoft, incluindo o Office 365, o Dynamics 365 e o Azure. A classificação de dados geralmente é a primeira etapa para garantir a conformidade com os regulamentos de proteção de dados e proteger contra acesso, alteração ou destruição não autorizados. Você pode usar classificações de sistema integradas ou criar suas próprias.
Tipos de informações confidenciais e classificadores treináveis podem ser usados para localizar dados confidenciais em solicitações e respostas do usuário quando ele usa aplicativos de IA. As informações resultantes são exibidas na visão geral dos Relatórios do Microsoft Purview e no explorador de atividades no DSPM para IA e na guia atividades de IA no gerenciador de atividades da versão prévia do DSPM.
Observação
As Políticas de Segurança de Dados do Microsoft Purview para interações do Foundry Services se aplicam a chamadas de API que usam a autenticação do Microsoft Entra ID com um token de contexto do usuário ou para chamadas de API que incluem explicitamente o contexto do usuário. Para saber mais, confira Obter contexto de usuário final para chamadas à API de IA do Azure.
Para todos os outros cenários de autenticação, as interações do usuário são exibidas na Auditoria do Microsoft Purview e as Interações de IA com classificações no DSPM somente para o AI Activity Explorer.
Certifique-se de que os desenvolvedores de aplicativos de IA estejam cientes dos requisitos acima.
Rótulos de confidencialidade e interações de IA
Os aplicativos de IA compatíveis com o Microsoft Purview usam os controles existentes para garantir que os dados armazenados em seu locatário nunca sejam retornados ao usuário ou usados por um LLM (modelo de linguagem grande) se o usuário não tiver acesso a esses dados. Quando os dados têm rótulos de confidencialidade da sua organização aplicados ao conteúdo, há uma camada extra de proteção:
Quando um arquivo é aberto no Word, Excel, PowerPoint ou similarmente, um email ou evento de calendário é aberto no Outlook, a confidencialidade dos dados é exibida para os usuários no aplicativo com o nome do rótulo e as marcações de conteúdo (como texto de cabeçalho ou rodapé) que foram configuradas para o rótulo. Os componentes e páginas do Loop também são compatíveis com os mesmos rótulos de confidencialidade.
Quando o rótulo de confidencialidade aplica criptografia, os usuários devem ter o direito de uso EXTRAIR, bem como EXIBIR, para que os aplicativos de IA retornem os dados.
Essa proteção se estende a dados armazenados fora do seu locatário do Microsoft 365 quando abertos em um aplicativo do Office (dados em uso). Por exemplo, armazenamento local, compartilhamentos de rede e armazenamento em nuvem.
Dica
Se ainda não fez isso, recomendamos que você habilite rótulos de confidencialidade para o SharePoint e o OneDrive e também se familiarize com os tipos de arquivo e as configurações de rótulo que esses serviços podem processar. Quando os rótulos de confidencialidade não estão habilitados para esses serviços, os arquivos criptografados que o Copilot e os agentes podem acessar são limitados aos dados em uso nos aplicativos do Office no Windows.
Para obter instruções, consulte Habilitar rótulos de confidencialidade para arquivos do Office no Microsoft Office SharePoint Online e no OneDrive.
Se você ainda não estiver usando rótulos de confidencialidade, consulte Introdução aos rótulos de confidencialidade.
Informações específicas do aplicativo de IA:
- Os aplicativos e agentes Foundry baseados em RAG criados com pesquisa de IA como o serviço de recuperação de conhecimento podem honrar rótulos de confidencialidade da mesma forma que o Microsoft 365 Copilot. Para itens criptografados, um usuário deve ter o direito de uso EXTRAIR, bem como EXIBIR, para que esses itens sejam retornados nos resultados da pesquisa. Para obter mais informações, consulte Imposição do Rótulo de Confidencialidade do Microsoft Purview no Tempo de Consulta na Pesquisa de IA do Azure.
Prevenção contra perda de dados e interações de IA
A Prevenção Contra Perda de Dados do Microsoft Purview (DLP) ajuda a identificar itens confidenciais nos serviços e pontos de extremidade do Microsoft 365, monitorá-los e ajuda a proteger contra o vazamento desses itens. Ele usa inspeção profunda de conteúdo e análise contextual para identificar itens confidenciais e aplica políticas para proteger dados confidenciais, como registros financeiros, informações de saúde ou propriedade intelectual.
Os computadores Windows integrados ao Microsoft Purview podem ser configurados para políticas DLP (prevenção contra perda de dados) de ponto de extremidade que avisam ou impedem que os usuários compartilhem informações confidenciais com sites de IA generativa de terceiros acessados por meio de um navegador. Por exemplo, um usuário é impedido de colar números de card de crédito no ChatGPT ou vê um aviso que pode substituir. Para obter mais informações sobre as ações de DLP com suporte e quais plataformas dão suporte a elas, consulte as duas primeiras linhas na tabela de atividades de Ponto de extremidade que você pode monitorar e executar.
Informações específicas do aplicativo de IA:
- Atualmente, o suporte só está disponível para uma política DLP que bloqueia prompts com base em tipos de informações confidenciais. Isso requer a configuração de um cmdlet do PowerShell com escopo em um aplicativo de IA específico registrado no Entra. O aplicativo de IA pode respeitar essa configuração por meio da integração com as APIs do Microsoft Purview. O desenvolvedor do aplicativo de IA pode usar este exemplo do GitHub para ajudar a alcançar essa integração.
Gerenciamento de Risco Interno e interações de IA
Gerenciamento de Risco Interno do Microsoft Purview ajuda você a detectar, investigar e mitigar riscos internos, como roubo de IP, vazamento de dados e violações de segurança. Ele aproveita modelos de aprendizado de máquina e vários sinais do Microsoft 365 e indicadores de terceiros para identificar possíveis atividades internas mal-intencionadas ou inadvertidas. A solução inclui controles de privacidade, como pseudonimização e acesso baseado em função, garantindo a privacidade no nível do usuário e permitindo que os analistas de risco tomem as ações apropriadas.
Use o modelo de política de uso arriscado de IA para detectar o uso arriscado que inclui ataques de injeção imediata e acesso a materiais protegidos. Os insights desses sinais são integrados ao Microsoft Defender XDR para fornecer uma visão abrangente dos riscos relacionados à IA.
Informações específicas do aplicativo de IA:
- Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Detectar informações confidenciais compartilhadas com a IA via rede do DSPM para recomendação de IA Estenda insights sobre dados confidenciais em interações de aplicativos de IA.
Conformidades de comunicação e interações com IA
A Conformidade de Comunicações do Microsoft Purview fornece ferramentas para ajudar você a detectar e gerenciar a conformidade regulatória e violações de conduta comercial em vários canais de comunicação, que incluem solicitações de usuários e respostas para aplicativos de IA. Ele foi projetado com privacidade por padrão, pseudonimizando nomes de usuário e incorporando controles de acesso baseados em função. A solução ajuda a identificar e corrigir comunicações inadequadas, como compartilhamento de informações confidenciais, assédio, ameaças e conteúdo adulto.
Para saber mais sobre como usar políticas de conformidade de comunicação para aplicativos de IA, confira Configurar uma política de conformidade de comunicação para detectar interações de IA generativa.
Informações específicas do aplicativo de IA:
- Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Detectar informações confidenciais compartilhadas com a IA via rede do DSPM para recomendação de IA Estenda insights sobre dados confidenciais em interações de aplicativos de IA.
Descoberta Eletrônica e interações de IA
A Descoberta Eletrônica do Microsoft Purview permite identificar e fornecer informações eletrônicas que podem ser usadas como prova em casos legais. As ferramentas de Descoberta Eletrônica no Microsoft Purview dão suporte à pesquisa de conteúdo nas equipes Exchange Online, OneDrive for Business, SharePoint Online, Microsoft Teams, Grupos do Microsoft 365 e Viva Engage. Em seguida, você pode impedir que as informações sejam excluídas e exportá-las.
Como as solicitações e respostas do usuário para aplicativos de IA são armazenadas na caixa de correio de um usuário, você pode criar uma ocorrência e usar a pesquisa quando a caixa de correio de um usuário é selecionada como a fonte para uma consulta de pesquisa. Por exemplo, selecione e recupere esses dados da caixa de correio de origem selecionando no construtor de consultas Adicionartipo> de condição>Contém qualquer uma das atividades de>Editar>Copilot. Essa condição de consulta inclui todas as atividades do Copilot e de outros aplicativos de IA.
Depois que a pesquisa for refinada, você poderá exportar os resultados ou adicioná-los a um conjunto de revisão. Você pode examinar e exportar informações diretamente do conjunto de revisão.
Para obter mais informações sobre como identificar e excluir dados de interação do usuário com IA, consulte Pesquisar e excluir dados do Copilot na descoberta eletrônica.
Informações específicas do aplicativo de IA:
- Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Detectar informações confidenciais compartilhadas com a IA via rede do DSPM para recomendação de IA Estenda insights sobre dados confidenciais em interações de aplicativos de IA.
Gerenciamento do ciclo de vida de dados e interações de IA
O Gerenciamento do Ciclo de Vida de Dados do Microsoft Purview fornece ferramentas e recursos para gerenciar o ciclo de vida dos dados organizacionais, retendo o conteúdo necessário e excluindo o conteúdo desnecessário. Essas ferramentas garantem a conformidade com os requisitos comerciais, legais e regulamentares.
Use políticas de retenção para reter ou excluir automaticamente solicitações e respostas do usuário para aplicativos de IA. Para obter informações detalhadas sobre esse funcionamento de retenção, consulte Saiba mais sobre a retenção para aplicativos Copilot & IA.
Assim como acontece com todas as políticas e bloqueios de retenção, se mais de uma política para o mesmo local se aplicar a um usuário, os princípios de retenção resolverão quaisquer conflitos. Por exemplo, os dados são retidos pela maior duração de todas as políticas de retenção aplicadas ou bloqueios de Descoberta Eletrônica.
Informações específicas do aplicativo de IA:
Para políticas de retenção, selecione a opção Aplicativos de IA empresariais.
Para prompts e respostas, requer uma política de coleta como o DSPM para IA – Detectar informações confidenciais compartilhadas com a IA via rede do DSPM para recomendação de IA Estenda insights sobre dados confidenciais em interações de aplicativos de IA.
Interações entre o Gerenciador de Conformidade e a IA
O Gerenciador de Conformidade do Microsoft Purview é uma solução que ajuda você a avaliar e gerenciar automaticamente a conformidade em seu ambiente multinuvem. O Gerenciador de Conformidade pode ajudá-lo durante todo o percurso de conformidade, incluindo desde fazer um inventário dos riscos de proteção de dados até gerenciar as complexidades de implementação de controles, mantendo-o atualizado quanto aos regulamentos e certificações e enviando relatórios para auditores.
Para ajudar você a manter a conformidade com os regulamentos de IA, o Gerenciador de Conformidade fornece modelos regulatórios para ajudar você a avaliar, implementar e fortalecer seus requisitos de conformidade para todos os aplicativos de IA generativa. Por exemplo, monitorar interações de IA e evitar a perda de dados em aplicativos de IA. Para obter mais informações, consulte Avaliações para regulamentos de IA.
Passos recomendados para introdução
Use as etapas a seguir para começar a gerenciar a segurança de dados & a conformidade para interações de IA que usam o Microsoft Foundry.
Observação
Essas etapas se concentram no gerenciamento de um aplicativo ou agente de IA específico. Para uma cobertura mais ampla que usa objetivos de segurança com fluxos de trabalho guiados, use a versão atual do Gerenciamento da Postura de Segurança de Dados.
Como Gerenciamento da Postura de Segurança de Dados para IA é sua porta de entrada para proteger e gerenciar interações de IA, a maioria das instruções a seguir usa essa solução:
Entre no portal> do Microsoft PurviewSoluções>DSPM para IA (clássico) com uma conta que tenha as permissões apropriadas. Por exemplo, uma conta que é membro da função de grupo Administrador de Conformidade do Microsoft Entra.
Na página de recomendações do DSPM para IA (clássico),> localize e selecione Dados seguros em aplicativos e agentes de IA do Azure, que configuraram instruções para capturar prompts e respostas para aplicativos de IA que usam uma ou mais assinaturas de IA do Azure.
Também na lista de recomendações, selecione Interações seguras de aplicativos corporativos, que cria uma política de um clique para capturar prompts e respostas de aplicativos corporativos de IA.
Aguarde pelo menos um dia pelos dados e navegue até a página Relatórios para exibir os resultados da sua política. Selecione aplicativos de IA corporativos e exiba informações como:
- Total de interações ao longo do tempo (aplicativos de IA empresariais)
- Interações confidenciais por aplicativo de IA
- Severidade do risco interno
- Severidade do risco interno por aplicativo de IA
Selecione Exibir detalhes de cada um dos gráficos de relatório para exibir atividades detalhadas no explorador de atividades.
Nos filtros, selecione a categoria de aplicativo de IAde Aplicativos de IA corporativos com o filtro de aplicativo do Azure AI e use os outros filtros se precisar refinar ainda mais os dados exibidos. Faça uma busca detalhada em cada atividade para exibir detalhes que incluem a exibição dos prompts e da resposta quando você é membro do grupo de funções Visualizador de Conteúdo do Microsoft Purview Content Explorer. Para obter mais informações sobre esse requisito, consulte Permissões para Gerenciamento da Postura de Segurança de Dados para IA.
Se você precisar garantir que as interações do Microsoft Foundry sejam retidas por motivos de conformidade:
No portal do Microsoft Purview, navegue atéPolíticas>de Gerenciamento do Ciclo de> Vida de DadosPolíticas de Retenção e crie uma política de retenção para reter interações com o Microsoft Foundry selecionando o local Aplicativos de IA corporativos e especifique o período de retenção necessário. Para obter mais informações, consulte Criar e configurar políticas de retenção.
Se você precisar preservar, coletar, analisar, examinar ou exportar interações do serviço de IA do Azure:
No portal do Microsoft Purview, navegue atéCasosde Descoberta Eletrônica>>Criar caso. No caso, crie uma pesquisa e use a propriedade ItemClass e o
IPM.SkypeTeams.Message.ConnectedAIApp.AzureAI.<AzureResourceName>valor para pesquisar essas interações em sua organização.
Examine rotineiramente os relatórios no DSPM para IA para determinar se você precisa fazer alterações e use o explorador de atividades e eventos para uma análise mais profunda de como os usuários estão interagindo com o Microsoft Foundry.