Dados, Privacidade e Segurança do Microsoft Copilot

Observação

Microsoft 365 Copilot agora é chamado de Microsoft Copilot e Microsoft 365 Copilot Chat agora é chamado de Microsoft Copilot Chat. Algumas experiências, licenças e funcionalidades podem continuar a fazer referência ao Microsoft 365 Copilot e ao Microsoft 365 Copilot Chat durante o período de transição. Não há alterações na segurança, conformidade e privacidade das organizações.

O Microsoft Copilot é um mecanismo sofisticado de processamento e orquestração que fornece recursos de produtividade com tecnologia de IA, coordenando os seguintes componentes:

  • LLMs (modelos de linguagem grandes)
  • Conteúdo no Microsoft Graph, como emails, chats e documentos que você tem permissão para acessar.
  • Os aplicativos de produtividade do Microsoft 365 que você usa todos os dias, como Word e PowerPoint.

Para obter uma visão geral de como esses três componentes funcionam juntos, consulte Visão geral do Microsoft Copilot. Para obter links para outros conteúdos relacionados ao Microsoft Copilot, consulte a documentação do Microsoft Copilot.

Importante

As informações neste artigo destinam-se a ajudar a fornecer respostas para as seguintes perguntas:

Observação

O Microsoft Copilot continuará a evoluir ao longo do tempo com novos recursos. Para se manter atualizado sobre o Microsoft Copilot ou fazer perguntas, visite a comunidade do Microsoft Copilot na Microsoft Tech Community.

Como o Microsoft Copilot usa seus dados organizacionais proprietários?

O Microsoft Copilot agrega valor conectando LLMs aos seus dados organizacionais. O Microsoft Copilot acessa o conteúdo e o contexto por meio do Microsoft Graph. Ele pode gerar respostas ancoradas em seus dados organizacionais, como documentos do usuário, emails, calendário, chats, reuniões e contatos. O Microsoft Copilot combina esse conteúdo com o contexto de trabalho do usuário, como a reunião em que um usuário está agora, as trocas de emails que o usuário teve sobre um tópico ou as conversas de chat que o usuário teve na semana passada. O Microsoft Copilot usa essa combinação de conteúdo e contexto para ajudar a fornecer respostas precisas, relevantes e contextuais.

Importante

Prompts, respostas e dados acessados por meio do Microsoft Graph não são usados para treinar LLMs básicos, incluindo aqueles usados pelo Microsoft Copilot.

O Microsoft Copilot só mostra dados organizacionais para os quais usuários individuais têm pelo menos permissões de exibição. É importante usar os modelos de permissão disponíveis nos serviços do Microsoft 365, como o SharePoint, para ajudar a garantir que os usuários ou os grupos adequados tenham o acesso correto ao conteúdo certo em sua organização. Isso inclui as permissões que você concede a usuários fora da sua organização por meio de soluções de colaboração entre locatários, como canais compartilhados no Microsoft Teams.

Quando você insere prompts usando o Microsoft Copilot, as informações contidas em seus prompts, os dados recuperados e as respostas geradas são processadas e armazenadas em alinhamento com os compromissos contratuais com o outro conteúdo da sua organização no Microsoft 365. Para obter mais informações, consulte a seção Dados armazenados sobre interações do usuário com o Microsoft Copilot mais adiante neste artigo.

Observação

Embora o monitoramento de abuso, que inclui a revisão humana do conteúdo, esteja disponível no Azure OpenAI, os serviços do Microsoft Copilot recusaram isso. Para informações sobre filtragem de conteúdo, confira a seção Como o Copilot bloqueia conteúdo prejudicial? mais adiante neste artigo.

Observação

Podemos usar os comentários dos clientes, que são opcionais, para melhorar o Microsoft Copilot, assim como usamos os comentários dos clientes para melhorar outros serviços do Microsoft 365 e aplicativos de produtividade do Microsoft 365. Não usamos esses comentários para treinar os LLMs básicos usados pelo Microsoft Copilot. Os clientes podem gerenciar comentários por meio de controles de administrador. Para mais informações, confira Gerenciar Comentários da Microsoft para sua organização e Fornecer Comentários sobre o Microsoft Copilot com aplicativos do Microsoft 365.

Dados armazenados sobre interações do usuário com o Microsoft Copilot

Quando um usuário interage com o Microsoft Copilot (usando aplicativos como o Word, o PowerPoint, o Excel, o OneNote, o Loop ou o Whiteboard), armazenamos dados sobre essas interações. Os dados armazenados incluem o prompt do usuário e a resposta do Copilot, incluindo citações a qualquer informação utilizada para aterrar a resposta do Copilot. Referimo-nos ao prompt do usuário e à resposta do Copilot a esse prompt como o "conteúdo das interações" e o registro dessas interações é o histórico de atividades do Copilot do usuário. Por exemplo, esses dados armazenados fornecem aos usuários o histórico de atividades do Copilot em Microsoft Copilot Chat e reuniões no Microsoft Teams. Esses dados são processados e armazenados em alinhamento com os compromissos contratuais com o outro conteúdo da sua organização no Microsoft 365. Os dados são criptografados enquanto estão armazenados e não são usados para treinar LLMs básicos, incluindo aqueles usados pelo Microsoft Copilot.

Para exibir e gerenciar esses dados armazenados, os administradores podem utilizar a Pesquisa de conteúdo ou o Microsoft Purview. Os administradores também podem utilizar o Microsoft Purview para definir políticas de retenção para os dados relacionados às interações de chat com Copilot. Para saber mais, confira os seguintes artigos:

Para chats do Microsoft Teams com o Copilot, os administradores também podem utilizar as APIs de exportação do Microsoft Teams para exibir os dados armazenados.

Excluindo o histórico de interações do usuário com o Microsoft Copilot

Os usuários podem excluir o histórico de atividades do Copilot, que inclui os prompts e as respostas retornadas pelo Copilot, acessando o portal Minha Conta. Para obter mais informações, consulte Excluir o histórico de atividades do Microsoft Copilot.

O Microsoft Copilot e a Fronteira de Dados da UE

As chamadas do Microsoft Copilot para o LLM são roteadas para os data centers mais próximos na região, mas também podem ligar para outras regiões onde a capacidade está disponível durante períodos de alta utilização.

Para os usuários da União Europeia (UE), tomamos medidas adicionais para cumprir a Fronteira de dados da UE. O tráfego da UE permanece dentro da Fronteira de Dados da UE, enquanto o tráfego mundial pode ser enviado para a Europa e outros países ou regiões para processamento de LLM.

Observação

Os modelos fornecidos pela Anthropic como subprocessador estão atualmente excluídos do Limite de Dados da UE. Para obter mais informações, consulte Modelos Anthropic no Microsoft Online Services.

Microsoft Copilot e residência de dados

O Microsoft Copilot está mantendo os compromissos de residência de dados, conforme descrito nos Termos do Produto da Microsoft e no Adendo de Proteção de Dados. O Microsoft Copilot foi adicionado como uma carga de trabalho coberta nos compromissos de residência de dados nos Termos do Produto da Microsoft em 1º de março de 2024.

As ofertas de ADR (Advanced Data Residency) e Multi-Geo Capabilities da Microsoft incluem compromissos de residência de dados para clientes do Microsoft Copilot a partir de 1º de março de 2024. Para clientes da UE, o Microsoft Copilot é um serviço de limite de dados da UE. Os clientes fora da UE podem ter suas consultas processadas nos EUA, UE ou outras regiões.

Extensibilidade do Microsoft Copilot

Embora o Microsoft Copilot já seja capaz de usar os aplicativos e dados dentro do ecossistema do Microsoft 365, muitas organizações ainda dependem de várias ferramentas e serviços externos para gerenciamento de trabalho e colaboração. As experiências do Microsoft Copilot podem fazer referência a ferramentas e serviços de terceiros ao responder à solicitação de um usuário usando conectores ou agentes do Microsoft Graph. Os dados dos conectores do Graph podem ser retornados nas respostas do Microsoft Copilot se o usuário tiver permissão para acessar essas informações.

Quando os agentes estão habilitados, o Microsoft Copilot determina se precisa usar um agente específico para ajudar a fornecer uma resposta relevante ao usuário. Se um agente for necessário, o Microsoft Copilot gerará uma consulta de pesquisa para enviar ao agente em nome do usuário. A consulta é baseada no prompt do usuário, no histórico de atividades do Copilot e nos dados aos quais o usuário tem acesso no Microsoft 365.

Na seção Aplicativos integrados do Centro de administração do Microsoft 365, os administradores podem exibir as permissões e o acesso a dados exigidos por um agente, bem como os termos de uso e a política de privacidade do agente. Os administradores têm controle total para selecionar quais agentes são permitidos em sua organização. Um usuário só pode acessar os agentes que seu administrador permite e que o usuário instalou ou está atribuído. O Microsoft Copilot usa apenas agentes ativados pelo usuário.

Para saber mais, confira os seguintes artigos:

Como o Microsoft Copilot protege os dados organizacionais?

O modelo de permissões dentro do locatário do Microsoft 365 pode ajudar a garantir que os dados não vazem involuntariamente entre usuários, grupos e locatários. O Microsoft Copilot apresenta apenas dados que cada indivíduo pode acessar usando os mesmos controles subjacentes de acesso a dados usados em outros serviços do Microsoft 365. O Índice Semântico respeita o limite de acesso baseado na identidade do usuário para que o processo de fundamentação acesse apenas o conteúdo que o usuário atual está autorizado a acessar. Para obter mais informações, consulte a política de privacidade e a documentação do serviço da Microsoft.

Quando você tem dados criptografados pela Proteção de Informações do Microsoft Purview, o Microsoft Copilot respeita os direitos de uso concedidos ao usuário. Esta criptografia pode ser aplicada por rótulos de confidencialidade ou por permissões restritas em aplicativos do Microsoft 365 usando o Gerenciamento de Direitos de Informação (IRM). Para obter mais informações sobre como usar o Microsoft Purview com o Microsoft Copilot, confira Proteções de conformidade e segurança de dados do Microsoft Purview para aplicativos de IA generativa.

Já implementamos várias formas de proteção para ajudar a impedir que os clientes comprometam os serviços e aplicativos do Microsoft 365 ou obtenham acesso não autorizado a outros locatários ou ao próprio sistema do Microsoft 365. Aqui estão alguns exemplos dessas formas de proteção:

  • O isolamento lógico do conteúdo do cliente em cada locatário dos serviços do Microsoft 365 é obtido por meio da autorização do Microsoft Entra e do controle de acesso baseado em função. Para obter mais informações, confira Controles de isolamento do Microsoft 365.

  • A Microsoft usa segurança física rigorosa, triagem em segundo plano e uma estratégia de criptografia em várias camadas para proteger a confidencialidade e integridade do conteúdo do cliente.

  • O Microsoft 365 usa tecnologias do lado do serviço que criptografam o conteúdo da clientes inativo e em trânsito, incluindo BitLocker, criptografia por arquivo, TLS e IPsec. Para obter detalhes específicos sobre criptografia no Microsoft 365, consulte Criptografia do Microsoft Cloud.

  • Seu controle sobre seus dados é reforçado pelo compromisso da Microsoft em cumprir as leis de privacidade amplamente aplicáveis, como o GDPR, e padrões de privacidade, como ISO/IEC 27018, o primeiro código de prática internacional do mundo para privacidade na nuvem.

  • Para conteúdo acessado por meio de agentes no Microsoft 365, a criptografia pode excluir o acesso programático, limitando assim o agente de acessar o conteúdo. Para obter mais informações, consulte Configurar direitos de uso para Proteção de Informações do Azure.

Atender aos requisitos de conformidade regulatória

A Microsoft continua se adaptando e respondendo para atender aos requisitos regulatórios de IA à medida que eles evoluem, por isso conquistamos e mantemos a confiança de clientes, parceiros e reguladores.

O Microsoft Copilot oferece amplas ofertas e certificações de conformidade, incluindo GDPR, ISO 27001, HIPAA e o padrão ISO 42001 para sistemas de gerenciamento de IA. Isso ajuda a apoiar nossos clientes em suas jornadas de conformidade, complementado por recursos como prontidão contratual, gerenciamento integrado de riscos de tecnologia da informação e comunicação e ferramentas de resiliência operacional.

A Microsoft está comprometida em cumprir todas as leis e regulamentos aplicáveis à Microsoft, incluindo a Lei de IA da UE, para permitir que nossas soluções de IA atendam aos padrões em evolução de IA confiável e responsável. O Microsoft Copilot foi criado com base nos compromissos existentes da Microsoft com a segurança e a privacidade dos dados. Não há nenhuma alteração nesses compromissos. O Copilot é integrado ao Microsoft 365 e segue os compromissos existentes de privacidade, segurança e conformidade com os clientes do Microsoft 365.

Além disso, priorizamos o diálogo aberto com nossos parceiros e autoridades reguladoras. Fornecemos aos clientes acesso direto aos profissionais de conformidade da Microsoft, orientação proativa e soluções selecionadas para ajudar a navegar pela conformidade regulatória, como o Início Rápido da Avaliação de Risco do Microsoft Copilot & Copilot Chat. Nossa abordagem no cenário orientado por IA visa capacitar as organizações a inovar com confiança com soluções criadas com transparência, privacidade e segurança em mente.

Informações adicionais

Microsoft Copilot e controles de privacidade para experiências conectadas

Importante

Seus dados pessoais coletados do uso de experiências conectadas no Microsoft 365 não são usados para treinar modelos de linguagem grande (LLMs), incluindo aqueles usados pelo Microsoft Copilot.

Alguns controles de privacidade para experiências conectadas no Microsoft 365 Apps podem afetar a disponibilidade dos recursos do Microsoft Copilot. Isso inclui os controles de privacidade para experiências conectadas que analisam seu conteúdo e o controle de privacidade para experiências conectadas opcionais. Para mais informações sobre esses controles de privacidade, confira Visão geral dos controles de privacidade do Microsoft 365 Apps para Grandes Empresas.

Configuração de privacidade para experiências conectadas que analisam seu conteúdo

Se você desativar as experiências conectadas que analisam seu conteúdo em dispositivos em sua organização, os recursos do Microsoft Copilot não estarão disponíveis para seus usuários nos seguintes aplicativos:

  • Excel
  • OneNote
  • Outlook
  • PowerPoint
  • Word

Isso se aplica quando você está executando a versão mais atual desses aplicativos em dispositivos Windows, Mac, iOS ou Android.

Há também um controle de privacidade que desativa todas as experiências conectadas, incluindo as que analisam seu conteúdo. Se você usar esse controle de privacidade, os recursos do Microsoft Copilot não estarão disponíveis nos aplicativos e nos dispositivos descritos acima.

Controle de privacidade para experiências conectadas opcionais

Se você desativar as experiências conectadas opcionais em sua organização, os recursos do Microsoft Copilot que são experiências conectadas opcionais não estarão disponíveis para seus usuários. Por exemplo, desativar experiências conectadas opcionais pode afetar a disponibilidade da pesquisa na web.

Há também um controle de privacidade que desativa todas as experiências conectadas, incluindo as opcionais. Se você usar esse controle de privacidade, os recursos do Microsoft Copilot que são experiências conectadas opcionais não estarão disponíveis.

Sobre o conteúdo que o Microsoft Copilot cria

As respostas que a IA generativa produz não são garantidas como 100% factuais. Enquanto continuamos a melhorar as respostas, os usuários ainda devem analisar a saída antes de enviá-las para outras pessoas. Nossos recursos do Microsoft Copilot fornecem rascunhos e resumos úteis para ajudá-lo a alcançar mais, ao mesmo tempo que lhe dá a oportunidade de revisar a IA gerada em vez de automatizar totalmente essas tarefas.

Continuamos aprimorando os algoritmos para resolver problemas de forma proativa, como desinformação, bloqueio de conteúdo, segurança de dados e prevenção da promoção de conteúdo prejudicial ou discriminatório de acordo com nossos princípios de IA responsável.

A Microsoft não reivindica a propriedade da saída do serviço. Dito isso, não determinamos se a saída de um cliente é protegida por direitos autorais ou aplicável contra outros usuários. Isso ocorre porque os sistemas de IA generativa podem produzir respostas semelhantes aos prompts ou consultas semelhantes de vários clientes. Consequentemente, vários clientes podem ter ou reivindicar direitos no conteúdo que seja o mesmo ou substancialmente semelhante.

Se um terceiro processar um cliente comercial por violação de direitos autorais por usar os Copilots da Microsoft ou a saída que eles geram, defenderemos o cliente e pagaremos o valor de quaisquer julgamentos adversos ou acordos resultantes da ação judicial, desde que o cliente tenha usado as proteções e os filtros de conteúdo que incorporamos em nossos produtos. Para obter mais informações, confira Microsoft anuncia novo Compromisso de Direitos Autorais do Copilot para clientes.

Como o Copilot bloqueia o conteúdo prejudicial?

Para ajudar a bloquear conteúdo prejudicial, o Microsoft Copilot usa proteções que funcionam junto com modelos de IA usados para gerar respostas. Dependendo do cenário, essas proteções podem incluir proteções próprias da Microsoft ou, em alguns casos, mitigações de segurança integradas ao modelo subjacente. Essas proteções usam uma abordagem de defesa em profundidade e podem incluir uma combinação de proteções internas da Microsoft que ajudam a detectar e reduzir tentativas de jailbreak e padrões de injeção imediata (incluindo ataques de injeção entre prompts), filtros de danos ao conteúdo para identificar conteúdo prejudicial em prompts ou respostas geradas (como Ódio & Justiça, Sexual, Violência e Automutilação) ou, em alguns cenários, mitigações de segurança integradas ao modelo subjacente.

Os danos relacionados a ódio e justiça referem-se a qualquer conteúdo que use linguagem pejorativa ou discriminatória com base em atributos como raça, etnia, nacionalidade, identidade e expressão de gênero, orientação sexual, religião, status de imigração, status de capacidade, aparência pessoal e tamanho do corpo. A justiça se preocupa em garantir que os sistemas de IA tratem todos os grupos de pessoas de forma equitativa, sem contribuir para as desigualdades sociais existentes. O conteúdo sexual envolve discussões sobre órgãos reprodutivos humanos, relacionamentos românticos, atos retratados em termos eróticos ou afetuosos, gravidez, atos sexuais físicos, inclusive aqueles retratados como agressão ou ato forçado de violência sexual, prostituição, pornografia e abuso. Violência descreve a linguagem relacionada a ações físicas que visam prejudicar ou matar, incluindo ações, armas e entidades relacionadas. A linguagem da Automutilação refere-se a ações deliberadas que visam ferir ou matar alguém.

Além da filtragem de conteúdo fornecida pelo Serviço OpenAI do Azure, determinados cenários do Microsoft Copilot fornecem outras mitigações, como filtros para ajudar a evitar que danos no local de trabalho ocorram. Danos no local de trabalho referem-se a uma categoria de danos que podem resultar de IA generativa ou modelos que fazem inferências, julgamentos ou avaliações sobre um funcionário com base em sua comunicação no local de trabalho. Atualmente, isso significa inferências, julgamentos ou avaliações sobre o desempenho, atitude, estado interno ou emocional de um funcionário ou características pessoais. Restringimos o uso de IA generativa ou modelos de serem usados para essas finalidades.

O Copilot fornece detecção de material protegido?

Sim, o Microsoft Copilot fornece detecção de materiais protegidos, que inclui texto sujeito a direitos autorais e código sujeito a restrições de licenciamento. Essa detecção pode não estar disponível em todos os cenários do Microsoft Copilot, e nem todas essas mitigações são relevantes para todos os cenários do Microsoft Copilot.

O Copilot bloqueia injeções de prompt (ataques de desbloqueio por jailbreak)?

Os ataques de jailbreak são prompts projetados para contornar as proteções do Copilot ou induzir um comportamento não compatível. O Microsoft Copilot ajuda a atenuar esses ataques usando técnicas proprietárias, como classificadores de jailbreak e ataque de injeção cruzada (XPIA). Esses classificadores analisam as entradas para o serviço Copilot e ajudam a bloquear prompts de alto risco antes da execução do modelo. Esses classificadores podem não estar disponíveis em todos os cenários do Microsoft Copilot.

O que acontece quando ocorrem alterações no modelo de fundação?

Os modelos de IA que alimentam o Microsoft Copilot são atualizados e aprimorados regularmente. As atualizações de modelo trazem melhorias de desempenho, raciocínio mais avançado e recursos expandidos, mas não alteram suas configurações de segurança, privacidade ou conformidade. Para obter mais informações, consulte o Blog do Microsoft 365: Noções básicas sobre alterações no modelo básico no Microsoft Copilot.

Compromisso com a IA responsável

Como a IA está pronta para transformar nossas vidas, devemos definir coletivamente novas regras, normas e práticas para o uso e o impacto dessa tecnologia. A Microsoft está em uma jornada de IA responsável desde 2017, quando definimos nossos princípios e abordagem para garantir que essa tecnologia seja usada de uma maneira orientada por princípios éticos que priorizam as pessoas.

Na Microsoft, somos guiados por nossos princípios de IA, nosso Padrão de IA responsável e décadas de pesquisa sobre IA, fundamentação e aprendizado de máquina com preservação de privacidade. Uma equipe multidisciplinar de pesquisadores, engenheiros e especialistas em políticas analisa nossos sistemas de IA em busca de possíveis danos e mitigações - refinando dados de treinamento, filtrando para limitar conteúdo prejudicial, bloqueando tópicos sensíveis de consultas e resultados e aplicando tecnologias da Microsoft como InterpretML e Fairlearn para ajudar a detectar e corrigir o viés de dados. Deixamos claro como o sistema toma decisões observando limitações, vinculando-se a fontes e levando os usuários a revisar, verificar os fatos e ajustar o conteúdo com base na experiência do assunto. Para obter mais informações, consulte Gerenciar IA: um blueprint para o futuro.

Nosso objetivo é ajudar nossos clientes a usar nossos produtos de IA de forma responsável, compartilhando nossos aprendizados e criando parcerias baseadas em confiança. Para esses novos serviços, queremos oferecer aos nossos clientes informações sobre uso, recursos e limitações pretendidos do nosso serviço de plataforma de IA, para que eles tenham o conhecimento necessário para fazer escolhas de implantação responsáveis. Também compartilhamos recursos e modelos com desenvolvedores dentro de organizações e com ISVs (fornecedores independentes de software), para ajudá-los a criar soluções de IA eficazes, seguras e transparentes.

  • Last updated on