Considerações sobre dados, privacidade e segurança para estender o Microsoft 365 Copilot

Quando você estende o Microsoft 365 Copilot com agentes, o agente pode usar consultas com base em seus prompts, histórico de conversas e dados do Microsoft 365 para gerar uma resposta ou concluir um comando. Quando você estende o Microsoft 365 Copilot com conectores sincronizados do Microsoft 365 Copilot, seus dados externos são ingeridos no Microsoft Graph e permanecem em seu locatário. Este artigo descreve as considerações de privacidade de dados e segurança para o desenvolvimento de diferentes soluções de extensibilidade do Copilot, tanto internamente quanto como desenvolvedor comercial.

Diagrame as principais considerações para desenvolver a extensibilidade do Copilot: segurança e confiança empresariais, IA responsável, experiência do usuário de alta qualidade, funcionalidade de alto valor

Agentes e ações

Os agentes no Microsoft 365 Copilot são controlados individualmente por seus termos de uso e políticas de privacidade. Como desenvolvedor de agentes e ações (plug-ins de API), você é responsável por proteger os dados do cliente dentro dos limites do seu serviço e fornecer informações sobre suas políticas em relação às informações pessoais dos usuários. Os administradores e usuários podem exibir sua política de privacidade e termos de uso na loja de aplicativos antes de optar por adicionar ou usar seu agente.

Quando você integra seus fluxos de trabalho de negócios como agentes do Copilot, seus dados externos permanecem dentro do aplicativo; ele não flui para o Microsoft Graph e não é usado para treinar LLMs do Microsoft 365 Copilot. No entanto, o Copilot gera uma consulta de pesquisa para enviar ao seu agente em nome do usuário com base no prompt e no histórico de conversas com o Copilot e nos dados aos quais o usuário tem acesso no Microsoft 365. Para obter mais informações, consulte Dados armazenados sobre interações do usuário com o Microsoft 365 Copilot na documentação de administração do Microsoft 365 Copilot.

Garantindo uma implementação segura de agentes declarativos no Microsoft 365

Os clientes e parceiros do Microsoft 365 podem criar agentes declarativos que expandem Microsoft 365 Copilot com instruções personalizadas, conhecimentos de base e ações invocadas através de descrições da API REST configuradas pelo agente declarativo. No tempo de execução, o Microsoft 365 Copilot raciocina sobre uma combinação do prompt do usuário, instruções personalizadas que fazem parte do agente declarativo e dados fornecidos por ações personalizadas. Todos esses dados podem influenciar o comportamento do sistema, e esse processamento vem com riscos de segurança. Especificamente, se uma ação personalizada puder fornecer dados de fontes não confiáveis (como emails ou tíquetes de suporte), um invasor poderá criar uma carga de mensagem que faça com que seu agente se comporte de uma maneira que o invasor controla, como responder incorretamente a perguntas ou até mesmo invocar ações personalizadas. A Microsoft toma muitas medidas para evitar esses ataques. Além disso, as organizações só devem habilitar agentes declarativos que usam fontes de conhecimento confiáveis e se conectam a APIs REST confiáveis por meio de ações personalizadas. Se o uso de fontes de dados não confiáveis for necessário, projete o agente declarativo com a possibilidade de violação em mente e não dê a ele a capacidade de executar operações confidenciais sem intervenção humana cuidadosa.

O Microsoft 365 fornece às organizações controles abrangentes que regem quem pode adquirir e usar aplicativos integrados e quais aplicativos estão habilitados para grupos ou indivíduos em um locatário do Microsoft 365, incluindo aplicativos que usam agentes declarativos. Ferramentas como Copilot Studio, que permitem aos utilizadores criar os seus próprios agentes declarativos, também incluem controles extensos que permitem aos administradores governar conectores utilizados para conhecimentos e ações personalizadas.

Conectores do Microsoft 365 Copilot

O Microsoft 365 Copilot apresenta apenas dados que cada indivíduo pode acessar usando os mesmos controles subjacentes para acesso aos dados usados em outros serviços do Microsoft 365. O Microsoft Graph respeita o limite de acesso baseado em identidade do usuário para que o processo de base do Microsoft 365 Copilot acesse apenas o conteúdo que o usuário atual está autorizado a acessar. Isso também se aplica a dados externos no Microsoft Graph ingeridos de um conector do Microsoft 365 Copilot.

Quando você conecta seus dados externos ao Microsoft 365 Copilot usando um conector sincronizado do Microsoft 365 Copilot, seus dados fluem para o Microsoft Graph. Você pode gerenciar permissões para exibir itens externos associando uma ACL (lista de controle de acesso) a um usuário e ID de grupo do Microsoft Entra ou a um grupo externo.

Prompts, respostas e dados acessados por meio do Microsoft Graph não são usados para treinar os LLMs de base, incluindo aqueles usadas pelo Microsoft 365 Copilot.

Controles de governança e administração para compartilhamento de agente

Os agentes no Microsoft 365 Copilot operam dentro dos limites de acesso a dados existentes do Microsoft 365. Eles não concedem novas permissões nem fornecem acesso a dados além do que um usuário já está autorizado a acessar. Em vez disso, os agentes empacotam prompts repetíveis e fontes de dados configuradas, respeitando os controles impostos no Microsoft 365.

Os administradores de TI podem usar os controles e ferramentas do Microsoft 365 para gerenciar como os agentes são compartilhados, descobertos e controlados em todo o ciclo de vida.

Herança de permissão

Os agentes respeitam as permissões existentes do Microsoft 365. Se um usuário não tiver acesso a um site do SharePoint, canal do Teams ou caixa de correio do Outlook, o agente não poderá recuperar ou exibir conteúdo dessas fontes.

Os agentes não introduzem novos privilégios. Eles operam dentro do mesmo modelo de acesso baseado em identidade imposto pelo Microsoft Graph em todos os serviços do Microsoft 365.

DLP, retenção e controles de conformidade

Os agentes interagem com dados que permanecem regidos pelas políticas de prevenção contra perda de dados (DLP), retenção e conformidade existentes do Microsoft 365. O conteúdo acessado por meio de serviços conectados, como SharePoint, Exchange e Teams, continua sujeito às políticas configuradas para esses serviços.

As organizações com políticas de DLP e retenção em vigor podem esperar que essas políticas se apliquem aos dados subjacentes acessados pelos agentes. O comportamento das interações do agente pode depender de como essas interações são processadas no Microsoft 365.

Logs de auditoria e relatórios de atividades

Os logs de auditoria e os recursos de relatórios do Microsoft 365 fornecem visibilidade da atividade do Copilot, incluindo o uso relacionado ao agente. Esses recursos ajudam os administradores a monitorar o uso e entender como as experiências do Copilot são usadas em toda a organização.

O nível de detalhes disponível em logs e relatórios pode variar dependendo do serviço e da configuração.

Gerenciamento do centro de Administração

Os administradores de TI gerenciam as políticas de visibilidade, compartilhamento e ciclo de vida do agente no Centro de administração do Microsoft 365 por meio da páginaAgentes do Copilot>. Nessa página, os administradores podem:

  • Exiba o inventário do agente e os metadados do agente.
  • Habilite, desabilite, atribua, bloqueie ou remova agentes para se alinhar às políticas organizacionais.
  • Configure a cobrança paga conforme o uso e analise o uso e o consumo do agente.

Para obter procedimentos passo a passo, consulte Gerenciar extensibilidade para o Microsoft 365 Copilot.

Controles de compartilhamento de agente

Os administradores configuram restrições de compartilhamento de agentes no Centro de administração do Microsoft 365Configurações> do Copilot>Página> deagentes de acesso a> dados. As opções de compartilhamento disponíveis incluem:

  • Todos os usuários da organização
  • Usuários ou grupos específicos
  • Nenhum usuário (compartilhamento desabilitado)

Para obter mais informações, consulte Compartilhar um agente.

Integração do Microsoft Purview

As organizações podem impor a conformidade usando recursos do Microsoft Purview, incluindo:

  • Rótulos de confidencialidade — Os rótulos aplicados aos arquivos do SharePoint e do OneDrive são respeitados pelos agentes ao exibir o conteúdo.
  • Logs de auditoria — A atividade do agente é capturada em logs de auditoria unificados.
  • Pesquisa de Conteúdo — Os administradores podem usar a Pesquisa de Conteúdo ou o Microsoft Purview para visualizar e gerenciar dados armazenados.

Os prompts e respostas personalizados do agente de mecanismo no Copilot Chat e no Teams são armazenados em conformidade com os termos e condições do produto Microsoft 365 e são gerenciados de acordo com as instruções do cliente.

Governança de agente do Copilot Studio

Os agentes criados no Copilot Studio dão suporte a controles de governança adicionais por meio do centro de administração do Power Platform, incluindo:

  • Application Lifecycle Management (ALM) — Desenvolvimento em ambientes de desenvolvimento, teste e produção.
  • Governança de conectores — Os administradores controlam a quais sistemas os agentes podem se conectar, reduzindo o risco de acesso não autorizado.
  • DLP no nível do ambiente — Prevenção contra perda de dados, acesso baseado em função e auditoria aplicada no nível do ambiente.
  • Supervisão de publicação — A publicação no catálogo de aplicativos de uma organização requer aprovação do administrador, garantindo visibilidade e controle sobre o que se torna amplamente disponível.
  • Telemetria e análise de uso — Monitoramento do comportamento do agente para garantir o alinhamento da política.

Para obter mais informações, consulte Segurança e governança do Copilot Studio.

Considerações para desenvolvedores de linha de negócios

O Microsoft 365 Copilot só compartilha dados e pesquisas em agentes ou conectores habilitados para o Copilot por um administrador do Microsoft 365. Como desenvolvedor de linha de negócios de soluções de extensibilidade do Copilot, verifique se você e seu administrador estão familiarizados com:

Considerações para editores de software independentes

O envio do pacote do seu aplicativo para o Microsoft Partner Center O Microsoft 365 e o programa Copilot exigem o cumprimento das políticas de certificação para aceitação nas lojas do produto do Microsoft 365. As políticas e diretrizes de certificação da Microsoft relacionadas a privacidade, segurança e IA responsável incluem:

Conteúdo relacionado

  • Last updated on