Application card: Microsoft Copilot (para organizações)

Observação

Microsoft 365 Copilot agora é chamado de Microsoft Copilot e Microsoft 365 Copilot Chat agora é chamado de Microsoft Copilot Chat. Algumas experiências, licenças e funcionalidades podem continuar a fazer referência ao Microsoft 365 Copilot e ao Microsoft 365 Copilot Chat durante o período de transição. Não há alterações na segurança, conformidade e privacidade das organizações.

Observação

  • As informações neste artigo só se aplicam ao uso do Microsoft Copilot em organizações onde os usuários estão conectados com suas contas corporativas ou de estudante.
  • Para obter informações sobre o uso do Microsoft Copilot por pessoas que estão conectadas com uma conta Microsoft, como um endereço de email pessoal, consulte Nota de Transparência do Microsoft Copilot (para pessoas físicas).

O que é um aplicativo ou plataforma card?

Os cartões de aplicativo e plataforma da Microsoft têm como objetivo ajudá-lo a entender como nossa tecnologia de IA funciona, as escolhas que os proprietários de aplicativos podem fazer que influenciam o desempenho e o comportamento do aplicativo e a importância de considerar todo o aplicativo, incluindo a tecnologia, as pessoas e o ambiente. Os cartões de aplicativo são criados para aplicativos de IA e os cartões de plataforma são criados para serviços de plataforma de IA. Esses recursos podem dar suporte ao desenvolvimento ou à implantação de seus próprios aplicativos e podem ser compartilhados com usuários ou partes interessadas afetadas por eles.

Como parte de seu compromisso com a IA responsável, a Microsoft adere a seis princípios fundamentais: imparcialidade, confiabilidade e segurança, privacidade e segurança, inclusão, transparência e responsabilidade. Esses princípios estão incorporados no Responsible AI Standard, que orienta as equipes no projeto, na criação e no teste de aplicativos de IA. Os cartões de aplicativo e plataforma desempenham um papel fundamental na operacionalização desses princípios, oferecendo transparência em torno de recursos, usos pretendidos e limitações. Para obter mais informações, os leitores são incentivados a explorar o Relatório de Transparência de IA Responsável da Microsoft e o Código de Conduta dos Serviços de IA Corporativa da Microsoft (para organizações) ou a seção Código de Conduta no Contrato de Serviços da Microsoft (para indivíduos), que descrevem como interagir com a IA de forma responsável.

Visão Geral

O Microsoft Copilot é uma ferramenta de produtividade da plataforma AI que ajuda a aprimorar sua criatividade, produtividade e habilidades usando modelos de linguagem grandes (LLMs) e conteúdo ao qual você tem acesso. Ele fornece assistência inteligente em tempo real trabalhando com aplicativos e serviços populares do Microsoft 365, como Word, Excel, PowerPoint, Outlook, Teams e muito mais.

Por exemplo, no trabalho, você pode pedir ao Microsoft Copilot para resumir uma reunião do Teams que você perdeu. Em casa, você pode usar o Microsoft Copilot para gerar uma apresentação de slides usando fotos de suas férias em família.

Para obter mais informações para organizações, confira Visão geral do Microsoft Copilot e Hub do Microsoft Copilot. Para indivíduos, consulte ajuda e aprendizado do Microsoft Copilot.

Principais termos

A tabela a seguir fornece um glossário dos principais termos relacionados ao Microsoft Copilot.

Termo Descrição
Agentes Os agentes são projetados para automatizar e executar processos empresariais usando IA, com base em instruções predefinidas e acesso a dados organizacionais. Eles podem ajudar ou agir de forma independente em nome de indivíduos ou equipes, desde simples interações de solicitação e resposta até a execução de tarefas totalmente autônoma. Para obter mais informações sobre o uso de IA em agentes do Copilot, consulte essas ofertas diretamente.
Conteúdo das interações O termo usado para descrever o prompt do usuário e a resposta do Microsoft Copilot a esse prompt.
Prompt aprimorado Um prompt é enriquecido quando instruções adicionais são adicionadas ao prompt para orientar o Microsoft Copilot na geração de uma resposta mais específica e relevante.
Aterramento O fundamento refere-se ao processo de fornecimento de fontes de entrada para o LLM relacionadas ao prompt. Ao permitir que o Microsoft Copilot acesse dados para usar como fontes de entrada, como dados do Microsoft Graph ou do Bing, o Microsoft Copilot pode fornecer respostas mais precisas e contextualmente relevantes aos usuários.
Indexação A Microsoft usa indexação léxica e semântica de dados do Microsoft Graph para fundamentar respostas do Microsoft Copilot em dados corporativos. A indexação interpreta prompts para produzir respostas contextualmente relevantes.
Inferência A inferência é a etapa de processamento quando um modelo de IA executa o prompt para produzir uma saída ou resposta, como resumir o conteúdo ou responder a uma pergunta.
LLM (modelo de linguagem grande) Os modelos de linguagem grande (LLMs) nesse contexto são modelos de IA treinados em grandes quantidades de dados de texto para prever palavras em sequências. Os LLMs são capazes de executar uma variedade de tarefas, como geração de texto, resumo, tradução, classificação e muito mais.
Microsoft Graph O Microsoft Graph é o gateway para dados e inteligência no Microsoft 365. Inclui informações sobre as relações entre usuários, atividades e dados de uma organização.
Pós-processamento O processamento que o Microsoft Copilot faz depois de receber uma resposta do LLM. Esse pós-processamento inclui chamadas de base adicionais para o Microsoft Graph, IA responsável, segurança, conformidade e verificações de privacidade.
Processamento O processamento de um prompt de usuário no Microsoft Copilot envolve várias etapas, incluindo verificações de IA responsáveis, para ajudar o Microsoft Copilot a fornecer respostas relevantes e acionáveis.
Prompt Um prompt é o texto enviado ao Microsoft Copilot para executar uma tarefa específica ou fornecer informações. Por exemplo, um usuário pode inserir o seguinte prompt: Escreva um email parabenizando minha equipe pelo final do ano fiscal.
Teste da equipe vermelha Técnicas usadas por especialistas para avaliar as limitações e vulnerabilidades de um sistema e para testar a eficácia das mitigações planejadas. O teste de equipe vermelha é usado para identificar riscos potenciais e é diferente da medição sistemática de riscos.
Resposta O conteúdo gerado pela LLM e retornado ao Microsoft Copilot como uma resposta a uma solicitação.
IA responsável As práticas de política, pesquisa e engenharia da Microsoft que se baseiam em nossos princípios de IA e operacionalizadas por meio de nosso padrão de IA Responsável.

Principais recursos ou capacidades

Os principais recursos e funcionalidades na tabela a seguir descrevem o que o Microsoft Copilot foi projetado para fazer e como ele é executado em tarefas com suporte.

Recurso Descrição
Microsoft Copilot no Word Microsoft Copilot no Word transforma a escrita com eficiência e criatividade, para que os usuários possam criar, resumir, compreender, refinar e elevar documentos. Os usuários também podem usar recursos aprimorados, como visualizar e transformar texto em uma tabela. Alguns outros recursos também incluem adicionar prompts existentes, redigir um documento fazendo referência a outros documentos e descobrir informações sobre documentos.

Para obter mais informações, consulte as Perguntas frequentes sobre o Copilot no Word.
Microsoft Copilot no PowerPoint O Microsoft Copilot no PowerPoint permite que os usuários criem uma nova apresentação a partir de um prompt ou arquivo do Word, aproveitando os modelos corporativos. O recurso de chat permite Resumo e P&R, e o comando leve permite que os usuários adicionem slides, imagens ou façam alterações de formatação em toda a apresentação. Os arquivos do PowerPoint também podem ser usados para fundamentar dados.

Para obter mais informações, consulte as Perguntas Frequentes sobre o Copilot no PowerPoint.
Microsoft Copilot no Excel O Microsoft Copilot no Excel auxilia os usuários com sugestões de fórmulas, tipos de gráfico e insights sobre dados em planilhas.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no Excel.
Microsoft Copilot no Outlook O Microsoft Copilot no Outlook ajuda a gerenciar a caixa de entrada de email e a criar uma comunicação impactante com mais eficiência. O Microsoft Copilot no Outlook pode resumir um thread de email, sugerir itens de ação, respostas e reuniões de acompanhamento. Ele também pode ajustar o comprimento e o tom ao redigir um email.

Para obter mais informações, consulte as Perguntas frequentes sobre o Copilot no Outlook.
Microsoft Copilot no Teams O Microsoft Copilot no Teams pode recapitular conversas, organizar os principais pontos de discussão e resumir as principais ações. Os usuários podem obter respostas para perguntas específicas e colocar em dia as coisas que perderam em reuniões ou bate-papos

Para obter mais informações, consulte as Perguntas frequentes sobre o Copilot no Microsoft Teams.
Microsoft Copilot no Loop O Microsoft Copilot no Loop permite que os usuários criem conteúdo que pode ser aprimorado de forma colaborativa por meio da edição direta ou do refinamento pelo Copilot.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no Loop.
Microsoft Copilot no player de vídeo Microsoft Clipchamp O Microsoft Copilot no player de vídeo do Microsoft Clipchamp ajuda a obter informações de qualquer vídeo com uma transcrição. O Microsoft Copilot no player de vídeo do Clipchamp pode fornecer um resumo do vídeo, responder a perguntas específicas, pular rapidamente para tópicos ou pontos de discussão específicos e identificar chamadas para a ação.

Para obter mais informações, consulte as Perguntas frequentes sobre o Copilot no player de vídeo do Clipchamp.
Microsoft Copilot no Quadro de comunicações O Microsoft Copilot no Whiteboard ajuda a iniciar o processo de ideação para gerar, categorizar e resumir ideias.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no Whiteboard.
Microsoft Copilot no OneNote O Microsoft Copilot no OneNote permite que os usuários elaborem planos, gerem ideias, criem listas e organizem informações para ajudá-los a encontrar o que precisam no aplicativo OneNote.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no OneNote.
Microsoft Copilot no Microsoft Forms O Microsoft Copilot no Microsoft Forms fornece assistência baseada em IA com pesquisas, testes e votações. O Copilot pode ajudar os usuários a redigir, revisar, enviar e analisar os resultados.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no Forms.
Microsoft Copilot Chat Microsoft Copilot Chat combina o poder do Large Language Models com a Internet, conteúdo e contexto de trabalho e outros aplicativos, para ajudar os usuários a redigir conteúdo, acompanhar o que está faltando e obter respostas para perguntas por meio de prompts.

Para obter mais informações, consulte Perguntas frequentes sobre Microsoft Copilot Chat.
Microsoft Copilot no editor de rich text do SharePoint O Microsoft Copilot no editor de rich text do Microsoft SharePoint simplifica a criação de conteúdo em páginas e postagens do SharePoint. Com o Copilot, você pode reescrever texto, ajustar o tom, condensar informações e elaborar ideias.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no SharePoint.
Microsoft Copilot no OneDrive O Microsoft Copilot no OneDrive é um assistente inovador da plataforma AI projetado para ajudá-lo a interagir com seus documentos extraindo informações, comparando as principais diferenças, resumindo arquivos e gerando insights.

Para obter mais informações, consulte Perguntas frequentes sobre o Copilot no OneDrive.
Cartões de visão geral do Microsoft Copilot Os cartões de visão geral oferecem uma visualização rápida de entidades de trabalho, como documentos, para ajudar a avaliar a relevância ou a revogação. Eles podem ser acessados passando o mouse sobre os arquivos na guia Pesquisar do aplicativo Microsoft Copilot.
Conectores do Power Platform Os Conectores do Power Platform permitem que os clientes acessem dados de uma coleção de aplicativos de produtividade pessoal e de negócios na experiência do Microsoft Copilot.
Conectores do Microsoft 365 Copilot Os Conectores do Microsoft 365 Copilot permitem que você insira seus dados não estruturados de linha de negócios no Microsoft Graph, para que o Microsoft Copilot possa raciocinar sobre todo o seu conteúdo corporativo.

Para saber mais, confira a Visão geral dos conectores do Microsoft 365 Copilot.
Microsoft Purview O Microsoft Purview é uma solução que ajuda as organizações a gerenciar e proteger seus dados. Ele fornece uma plataforma unificada para governança de dados, proteção de informações, gerenciamento de riscos e conformidade. Os clientes podem estender os recursos do Microsoft Purview fornecidos pelas assinaturas da Microsoft dos clientes (por exemplo, assinaturas do Microsoft 365 E3 ou E5) para dados e interações do Microsoft Copilot.
Ajuste do Microsoft Copilot O Ajuste do Microsoft Copilot permite que as organizações ajustem LLMs (modelos de linguagem grandes) usando seus próprios dados de locatário. Esses modelos podem ser usados para executar tarefas específicas do domínio com base no conhecimento exclusivo da organização.

Para obter mais informações, consulte Perguntas frequentes sobre Ajustes do Copilot.
Microsoft Copilot Studio O Microsoft Copilot Studio é uma plataforma poderosa para a criação de agentes seguros, escalonáveis e inteligentes que funcionam em sistemas do Microsoft 365 e de linha de negócios.

Para obter mais informações, consulte Cartão de aplicativo: Microsoft Copilot Studio.
Recurso Agent Builder no Microsoft Copilot O recurso Agent Builder no Microsoft Copilot fornece uma interface simples que você pode usar para criar agentes declarativos de forma rápida e fácil, usando linguagem natural ou manualmente.

Para obter mais informações, consulte Agent Builder no Microsoft Copilot.
Microsoft Copilot com agente de uso de computador O Microsoft Copilot com agente de uso de computador permite automatizar tarefas do navegador ou da área de trabalho para que seus prompts possam aproveitar mais seu conteúdo e contexto. Como o agente pode executar tarefas em seu nome, pode haver um risco maior para a segurança ou privacidade do sistema. Para ajudar a mitigar esse risco, o agente tem várias proteções, incluindo verificações de segurança orientadas por modelo sobre conteúdo e ações, bem como controles de administrador de locatário que habilitam ou desabilitam o agente que usa o computador e restringem quais sites e domínios da Internet o agente pode acessar. Recomendamos que você aplique esses controles e avalie o uso do agente.
Microsoft Copilot Cowork Microsoft Copilot Cowork usa IA para realizar tarefas de várias etapas em seu nome no Microsoft 365. Você descreve o que precisa em linguagem natural e Cowork executa isso enviando emails, agendando reuniões, criando documentos, postando no Teams, realizando pesquisas e gerenciando arquivos.

Para obter mais informações, consulte card do aplicativo: Microsoft Copilot Cowork.

Extensibilidade e personalização

O recurso Agent Builder no Microsoft Copilot e no Copilot Studio são ferramentas para criar agentes seguros, escalonáveis e inteligentes que funcionam no Microsoft 365 e em sistemas de linha de negócios. Ambas as ferramentas permitem que você crie agentes, mas atendem a necessidades diferentes. Use o recurso Agent Builder se quiser criar rapidamente um agente para você ou para uma pequena equipe, usando linguagem natural e conteúdo existente. Escolha o Copilot Studio se precisar de um agente para um público mais amplo ou se o agente exigir recursos avançados, como fluxos de trabalho em várias etapas ou integrações personalizadas. Para obter mais informações, consulte Escolha entre o Microsoft Copilot e o Copilot Studio para criar seu agente e agentes declarativos para o Microsoft Copilot.

Para desenvolvedores, o SDK de Agentes do Microsoft 365 fornece as ferramentas para criar agentes que funcionam em estreita colaboração com os aplicativos e serviços do Microsoft 365.

Usos pretendidos

O Microsoft Copilot pode ser usado em vários cenários em uma variedade de setores. Alguns exemplos de casos de uso incluem:

  • Interação e criação de Chat e conversas: os usuários podem interagir com Microsoft Copilot Chat e gerar respostas extraídas de documentos confiáveis, como documentação interna da empresa ou documentação de suporte técnico.
  • Pesquisar: Os usuários podem pesquisar documentos de fontes confiáveis, como documentação interna da empresa.
  • Sumarização: Os usuários podem enviar conteúdo para ser resumido para tópicos predefinidos integrados ao aplicativo. Os exemplos incluem o resumo de chats, emails, páginas da Web e documentos do Word do Teams.
  • Assistência de redação sobre tópicos específicos: Os usuários podem criar um novo conteúdo ou reescrever o conteúdo enviado pelo usuário como um auxílio de escrita para conteúdo comercial ou tópicos predefinidos. Por exemplo, redigir emails no Microsoft Outlook ou escrever conteúdo no Microsoft Word.
  • Legendagem ou transcrição: Os usuários podem transcrever arquivos de áudio em texto para compreensão de linguagem natural ou tarefas analíticas, como resumo. Os exemplos incluem transcrições de reuniões do Teams e vídeos no player de vídeo Microsoft Clipchamp.

A Microsoft fornece orientações detalhadas com foco em casos de uso e cenários comuns para ajudar os clientes a acelerar a adoção dos recursos do Microsoft Copilot em suas organizações. Saiba mais em Biblioteca de Cenários da Microsoft – Adoção da Microsoft.

Modelos e dados de treinamento

O Microsoft Copilot aproveita uma variedade de modelos de IA para potencializar a experiência que os usuários veem, como nos exemplos a seguir:

  • Modelos de GPT (Transformadores Pré-Treinado Generativo) fornecidos pela Microsoft (Serviço OpenAI do Azure)
  • Modelos de Claude Opus e Claude Sonnet fornecidos pela Anthropic
  • Modelos GPT fornecidos pela OpenAI

Observação

Para saber mais sobre os dados usados para treinar esses modelos por trás do Microsoft Copilot, consulte os seguintes recursos:

O Microsoft Copilot usa uma combinação de LLMs para resumir, prever e gerar conteúdo, incluindo modelos fornecidos pela Microsoft (Serviço OpenAI do Azure), Anthropic e OpenAI. Isso nos permite combinar as necessidades específicas de cada recurso - por exemplo, velocidade, criatividade - com o modelo certo, para que o Microsoft Copilot possa fornecer assistência inteligente em tempo real que permite que os usuários aprimorem sua criatividade, produtividade e habilidades. Para obter informações adicionais sobre os LLMs fornecidos à Microsoft pelo OpenAI, consulte sua documentação pública em Modelos - API OpenAI.

Desempenho

Em muitos sistemas de IA, o desempenho geralmente é definido em relação à precisão, ou seja, com que frequência o sistema de IA oferece uma previsão ou saída correta. Com o Microsoft Copilot, dois usuários diferentes podem olhar para a mesma saída e ter opiniões diferentes sobre o quão útil ou relevante ela é, o que significa que o desempenho desses sistemas deve ser definido com mais flexibilidade. Consideramos, em termos gerais, que o desempenho do aplicativo significa que o aplicativo funciona conforme o esperado dos usuários.

Como o Microsoft Copilot funciona

  • O Microsoft Copilot recebe um prompt de entrada de um usuário em um aplicativo, como o Word ou o PowerPoint. Para obter uma lista de idiomas com suporte, consulte Idiomas com suporte no Microsoft Copilot.
  • O Microsoft Copilot então processa o prompt, o que melhora a especificidade do prompt, para ajudar o usuário a obter respostas relevantes e acionáveis para sua tarefa específica. O prompt pode incluir texto de arquivos de entrada ou outro conteúdo descoberto pelo Microsoft Copilot usando o Microsoft Graph, e o Microsoft Copilot envia esse prompt ao LLM para processamento. O Microsoft Copilot acessa apenas dados aos quais um usuário individual tem acesso, com base, por exemplo, nos controles de acesso baseados em funções existentes do Microsoft 365.
  • O Microsoft Copilot pega a resposta do LLM e a processa posteriormente. Esse pós-processamento inclui outras chamadas básicas para o Microsoft Graph, verificações de IA responsáveis, como classificadores de conteúdo, verificações de segurança, conformidade e privacidade e geração de comandos.
  • O Microsoft Copilot retorna a resposta para o aplicativo, onde o usuário pode examinar e avaliar a resposta.

Os dados armazenados sobre as interações do usuário com o Microsoft Copilot são criptografados e não são usados para treinar modelos básicos (incluindo aqueles usados pelo Microsoft Copilot) de provedores de modelos como Microsoft (Serviço de IA Aberta do Azure), Anthropic ou OpenAI. Para obter mais informações, consulte Dados, privacidade e segurança do Microsoft Copilot.

Como o Microsoft Copilot gera respostas sem conteúdo da Web ou dados organizacionais

O Microsoft Copilot não exige conteúdo da Web ou dados organizacionais para fornecer uma resposta, mas essas informações podem ajudar a melhorar a qualidade, a precisão e a relevância de sua resposta. Ao responder sem dados da Web ou organizacionais, o Microsoft Copilot depende apenas de seus LLMs para entender prompts e gerar respostas. O processo envolve analisar a entrada, aproveitar a base de dados de conhecimento interna do modelo e refinar a resposta para ajudar a torná-la contextualmente apropriada.

Limitações

Compreender as limitações do Microsoft Copilot é crucial para determinar se ele é usado dentro de limites seguros e efetivos. Embora incentivemos os clientes a aproveitar o Microsoft Copilot em suas soluções ou aplicativos inovadores, é importante observar que o Microsoft Copilot não foi projetado para todos os cenários possíveis. Incentivamos os usuários a consultar o Código de Conduta dos Serviços de IA Corporativa da Microsoft (para organizações) ou a seção Código de Conduta do Contrato de Serviços Microsoft (para indivíduos), bem como as seguintes considerações ao escolher um caso de uso:

  • Compatibilidade: Embora o Microsoft Copilot tenha sido projetado para funcionar perfeitamente com aplicativos do Microsoft 365, pode haver limitações ou problemas de compatibilidade em determinados ambientes, especialmente com aplicativos de terceiros (não Microsoft) e configurações personalizadas ou não padrão.

  • Personalização e flexibilidade: Embora o Microsoft Copilot possa ser personalizado, há limitações sobre o quanto ele pode ser personalizado para atender a necessidades organizacionais ou fluxos de trabalho específicos. As organizações podem achar que determinados recursos ou respostas são rígidos ou não estão totalmente alinhados com os requisitos organizacionais.

  • Dependência da conectividade com a Internet: o Microsoft Copilot depende da conectividade com a Internet para funcionar. Qualquer interrupção na conectividade pode afetar a disponibilidade e o desempenho do serviço.

  • Treinamento e adoção de usuários: O uso efetivo do Microsoft Copilot exige que os usuários entendam seus recursos e limitações. Pode haver uma curva de aprendizado e os usuários precisam ser treinados para interagir efetivamente e se beneficiar do serviço.

  • Intensidade do recurso: A execução de modelos avançados de IA requer recursos computacionais significativos, o que pode afetar o desempenho, especialmente em ambientes com recursos limitados. Os usuários podem enfrentar problemas de latência ou desempenho durante horários de pico de uso.

  • Viés, estereótipos e conteúdo sem fundamento: Apesar do treinamento intensivo da OpenAI e da Anthropic e da implementação de controles de IA responsáveis pela Microsoft em prompts do usuário e saídas de LLM, os serviços de IA são falíveis e probabilísticos. Isso torna desafiador bloquear de forma abrangente todo o conteúdo impróprio, levando a possíveis vieses, estereótipos ou falta de fundamento no conteúdo gerado por IA. Para obter mais informações sobre as limitações conhecidas do conteúdo gerado por IA, consulte os seguintes recursos:

  • Idiomas suportados: Atualmente, o Microsoft Copilot oferece suporte a menos idiomas do que o Microsoft 365. Se o idioma que você está usando ou solicitando no prompt não tiver suporte no momento, você receberá uma mensagem de erro. Para obter mais informações, consulte Idiomas com suporte no Microsoft Copilot.

  • Potencial lesão física ou psicológica significativa a um indivíduo. Evite o uso ou o mau uso do sistema que possa resultar em ferimentos físicos ou psicológicos significativos a um indivíduo. Por exemplo, cenários que diagnosticam pacientes ou prescrevem medicamentos têm o potencial de causar danos significativos.

  • Impacto consequente nas oportunidades de vida ou no status legal. Evite o uso ou o uso indevido do sistema que possa ter um impacto consequente nas oportunidades de vida ou no status legal. Os exemplos incluem cenários em que o sistema de IA pode afetar o status legal, os direitos legais ou o acesso de um indivíduo a crédito, educação, emprego, saúde, moradia, seguro, benefícios de bem-estar social, serviços, oportunidades ou os termos em que são fornecidos.

  • Domínios ou setores de alto risco. Considere cuidadosamente os casos de uso em domínios ou setores de alto risco. Os exemplos incluem, mas não se limitam a médicos ou financeiros.

Avaliações

As avaliações de desempenho e segurança avaliam se os aplicativos de IA estão operando de forma confiável e segura, examinando fatores como fundamentação, relevância e coerência, enquanto identificam os riscos de geração de conteúdo prejudicial. As avaliações a seguir foram realizadas com componentes de segurança já implementados, que também são descritos em Componentes e mitigações de segurança.

Avaliações de desempenho e qualidade

As avaliações de desempenho para aplicativos de IA são essenciais para ajudar a melhorar sua confiabilidade em aplicativos do mundo real. Métricas como relevância, precisão e fundamentação da resposta ajudam a avaliar a precisão e a consistência das saídas geradas por IA, para que tenham suporte factual em cenários de conteúdo fundamentado, contextualmente apropriados e estruturados logicamente. Para o Microsoft Copilot, realizamos regularmente avaliações de qualidade rigorosas em várias métricas, como relevância, precisão e fundamentação.

Métodos de avaliação de desempenho e qualidade

O Microsoft Copilot foi avaliado usando cenários baseados em texto e imagem que refletem como os usuários trabalham nos aplicativos do Microsoft 365. Avaliações para métricas como fundamentação, qualidade da resposta e relevância da citação usaram métodos LLM como juiz estabelecidos. Os conjuntos de teste offline incluíam consultas factuais, compreensão de vários documentos, resumo e cenários corporativos representativos. Os avaliadores avaliaram se as respostas eram factualmente apoiadas, contextualmente apropriadas e estruturadas logicamente. Os resultados ideais refletem uma base precisa, raciocínio claro e desempenho consistente em variações da mesma tarefa. Os resultados abaixo do ideal incluem alegações sem suporte, citações ausentes ou irrelevantes ou resultados inconsistentes em prompts semelhantes.

Avaliações de risco e segurança

Avaliar os riscos potenciais associados ao conteúdo gerado por IA é essencial para proteger contra riscos de conteúdo com graus variados de gravidade. Isso inclui avaliar a predisposição de um sistema de IA para gerar conteúdo prejudicial ou testar vulnerabilidades a ataques de jailbreak. Para o Microsoft Copilot, a seguir estão algumas das avaliações de risco e segurança que realizamos:

  • Ódio e injustiça
  • Sexual
  • Violência
  • Automutilação
  • Material protegido
  • Jailbreak indireto
  • Jailbreak direto
  • Vulnerabilidade de código
  • Atributos não fundamentados

Métodos de avaliação de risco e segurança

As avaliações de risco e segurança usaram prompts adversários baseados em texto e classificadores automatizados para avaliar possíveis danos, incluindo ódio, conteúdo sexual, violência, automutilação, vazamento de material protegido, tentativas de fuga da prisão e atributos infundados. Os testes combinaram avaliações de juízes LLM com detecção baseada em classificador e testes manuais quando necessário. Os resultados ideais redirecionam ou recusam solicitações não seguras e mantêm a manutenção consistente de limites entre variações de prompt. Os resultados abaixo do ideal incluem a produção de conteúdo prejudicial, a resposta inconsistente a entradas adversárias ou a exibição de suscetibilidade a técnicas de jailbreak.

Componentes de segurança e mitigações

À medida que identificamos riscos potenciais e uso indevido por meio de processos como testes de equipe vermelha e os medimos, desenvolvemos mitigações para reduzir o potencial de danos. Na lista a seguir, descrevemos algumas dessas mitigações. Continuaremos avaliando as experiências do Microsoft Copilot para melhorar o desempenho e as mitigações do produto.

  • Lançamento em fases, avaliação contínua. Estamos comprometidos em aprender e melhorar nossa abordagem de IA responsável continuamente à medida que nossas tecnologias e comportamento do usuário evoluem. Estamos fazendo alterações no Microsoft Copilot regularmente para melhorar o desempenho do produto, melhorar as mitigações existentes e implementar novas mitigações em resposta aos nossos aprendizados.

  • Fundamento em dados de negócios. Um risco conhecido com modelos de linguagem grandes é sua capacidade de gerar conteúdo não fundamentado - conteúdo que parece correto, mas não está presente nos materiais de origem. Uma mitigação importante no Microsoft Copilot é fundamentar o conteúdo gerado por IA em dados comerciais relevantes aos quais o usuário tem acesso com base em suas permissões. Por exemplo, com base no prompt, o Microsoft Copilot recebe documentos comerciais relevantes para fundamentar sua resposta nesses documentos. No entanto, ao resumir conteúdo de várias fontes, o Microsoft Copilot pode incluir informações em sua resposta que não estão presentes em suas fontes de entrada. Em outras palavras, pode produzir resultados infundados. Os usuários devem sempre tomar cuidado e usar seu bom senso ao usar as saídas do Microsoft Copilot. Tomamos várias medidas para mitigar o risco de que os usuários dependam demais de conteúdo não fundamentado gerado por IA. Sempre que possível, as respostas no Microsoft Copilot baseadas em documentos comerciais incluem referências às fontes para que os usuários verifiquem a resposta e saibam mais. Os usuários também recebem um aviso explícito de que estão interagindo com um sistema de IA e são aconselhados a marcar os materiais de origem para ajudá-los a usar seu bom senso.

  • Classificadores baseados em IA e metaprompting para mitigar riscos potenciais ou uso indevido. O uso de LLMs pode produzir conteúdo problemático que pode causar danos. Os exemplos podem incluir resultados relacionados a automutilação, violência, conteúdo gráfico, problemas de biossegurança, material protegido, informações imprecisas, discurso de ódio ou texto que possa estar relacionado a atividades ilegais. Classificadores como os disponíveis no Segurança de Conteúdo de IA do Azure e metaprompting são dois exemplos de mitigações que foram implementadas no Microsoft Copilot para ajudar a reduzir o risco desses tipos de conteúdo. Os classificadores classificam o texto para sinalizar diferentes tipos de conteúdo potencialmente prejudicial em prompts ou respostas geradas. O Microsoft Copilot usa classificadores e filtros de conteúdo baseados em IA. Os sinalizadores levam a possíveis mitigações, como não retornar o conteúdo gerado ao usuário ou desviar o usuário para um tópico diferente. A Microsoft oferece determinados controles de filtragem de conteúdo para administradores e usuários em que a filtragem de conteúdo potencialmente prejudicial ou confidencial no Microsoft Copilot Chat não atende às suas necessidades. O metaprompt envolve fornecer instruções ao modelo para orientar seu comportamento, inclusive para que o sistema se comporte de acordo com os Princípios de IA da Microsoft e as expectativas do usuário. Por exemplo, o metaprompt pode incluir uma linha como "comunique-se no idioma de escolha do usuário".

  • Enriquecimento imediato. Em alguns casos, o prompt de um usuário pode ser ambíguo. Quando isso acontece, o Microsoft Copilot pode usar o LLM para ajudar a criar mais detalhes no prompt para ajudar a garantir que os usuários obtenham a resposta que estão procurando. Esse enriquecimento imediato não depende de nenhum conhecimento do usuário ou de suas pesquisas anteriores, mas sim do LLM.

  • Design centrado no usuário e intervenções de experiência do usuário. O design centrado no usuário e as experiências do usuário são um aspecto essencial da abordagem da Microsoft para a IA responsável. O objetivo é enraizar o design do produto nas necessidades e expectativas dos usuários. À medida que os usuários interagem com o Microsoft Copilot pela primeira vez, oferecemos vários pontos de contato projetados para ajudá-los a entender os recursos do sistema, divulgar a eles que o Microsoft Copilot é alimentado por IA e comunicar limitações.

  • Divulgação de IA. O Microsoft Copilot fornece vários pontos de contato para divulgação significativa de IA, onde os usuários são notificados de que estão interagindo com um sistema de IA, bem como oportunidades para aprender mais sobre o Microsoft Copilot. Por exemplo, ao usar o Microsoft Copilot no aplicativo Word, o conteúdo gerado por IA é fornecido junto com o aviso de que o conteúdo gerado por IA pode conter erros. Capacitar os usuários com esse conhecimento pode ajudá-los a evitar o excesso de dependência de saídas geradas por IA e aprender sobre os pontos fortes e as limitações do sistema.

  • Proveniência da mídia. Para todas as imagens criadas com os recursos de edição do Designer no Microsoft Copilot, implementamos credenciais de conteúdo, baseadas no padrão C2PA, para ajudar as pessoas a identificar se as imagens foram editadas ou geradas com IA. Os metadados de proveniência podem ser exibidos no site de Credenciais de Conteúdo.

  • Feedback e avaliação contínua. A experiência do Microsoft Copilot se baseia em ferramentas existentes que permitem aos usuários enviar comentários sobre nossos produtos. Os usuários podem enviar comentários sobre o conteúdo gerado pelo Microsoft Copilot usando o painel que aparece após selecionar os botões de polegar para cima ou polegar para baixo nas respostas. Os comentários enviados pelos usuários são usados para melhorar nossas ofertas como parte do nosso compromisso de melhorar o desempenho do produto. Os administradores do cliente podem analisar os comentários enviados no Centro de administração do Microsoft 365. Também melhoramos e testamos continuamente o desempenho do Microsoft Copilot e mitigações específicas como parte de nossa avaliação e melhoria contínuas do serviço. Saiba mais em Fornecer comentários sobre o Microsoft Copilot com aplicativos do Microsoft 365.

Nossa abordagem para mapear, medir e gerenciar riscos continuará a evoluir à medida que aprendermos mais e já estamos fazendo melhorias com base no feedback que recebemos dos clientes.

Práticas recomendadas para implantação e adoção do Microsoft Copilot

A IA responsável é um compromisso compartilhado entre a Microsoft e seus clientes. Embora a Microsoft crie sistemas de IA com segurança, justiça e transparência no núcleo, os clientes desempenham um papel fundamental na implantação e uso responsável dessas tecnologias em seus próprios contextos. Para dar suporte a essa parceria, oferecemos as seguintes práticas recomendadas para implantadores e usuários finais para ajudar os clientes a implementar a IA responsável de forma eficaz.

Os implantadores e o usuário final devem:

  • Tenha cuidado e avalie os resultados ao usar o Microsoft Copilot para decisões consequentes ou em domínios confidenciais: Decisões consequentes são aquelas que podem ter um impacto legal ou significativo no acesso de uma pessoa à educação, emprego, serviços financeiros, benefícios governamentais, saúde, moradia, seguro, serviços jurídicos ou que podem resultar em danos físicos, psicológicos ou financeiros. Domínios sensíveis - como serviços financeiros, saúde e habitação - requerem cuidados especiais devido ao potencial de impacto desproporcional em diferentes grupos de pessoas. Ao usar a IA para decisões nessas áreas, certifique-se de que os stakeholders afetados possam entender como as decisões são tomadas, apelar das decisões e atualizar quaisquer dados de entrada relevantes.

  • Avalie as considerações legais e regulatórias: Os clientes precisam avaliar possíveis obrigações legais e regulatórias específicas ao usar quaisquer serviços e soluções de IA, que podem não ser apropriados para uso em todos os setores ou cenários. Além disso, os serviços ou soluções de IA não são projetados e não podem ser usados de maneiras proibidas nos termos de serviço aplicáveis e nos códigos de conduta relevantes.

  • Permitir referência de conteúdo da Web. Permitir que o Microsoft Copilot faça referência a conteúdo da Web pode melhorar a qualidade, a precisão e a relevância das respostas do Microsoft Copilot, nas quais uma resposta se beneficiaria de informações públicas atuais da Web. Observe, no entanto, que quando o Microsoft Copilot faz referência a conteúdo da Web, ele o faz por meio do serviço de Pesquisa do Bing, e as práticas de tratamento de dados para consultas de Pesquisa do Bing são diferentes de como os dados são tratados pelo Microsoft Copilot. O uso do Bing é coberto pelo Contrato de Serviços da Microsoft entre cada usuário e a Microsoft, juntamente com a Política de Privacidade da Microsoft.

  • Estenda o fundamento no Microsoft Graph. O Microsoft Copilot usa dados do Microsoft Graph para fundamentar as respostas em dados específicos da organização, como emails, chats, arquivos e calendários. Ao estender o Microsoft Graph com dados organizacionais de fontes como sistemas de CRM ou repositórios de arquivos externos, as organizações podem incluir informações adicionais específicas do contexto e relevantes que aprimoram ainda mais a riqueza e a precisão das respostas do Microsoft Copilot.

Os usuários finais devem:

Para melhorar o desempenho em relação à precisão da saída do Microsoft Copilot, recomendamos que as organizações considerem o seguinte:

  • Escreva bons prompts. Escrever bons prompts é fundamental para obter melhores resultados com o Microsoft Copilot. Assim como há técnicas para ajudar as pessoas a se comunicarem efetivamente com um humano, há diretrizes que podem ajudar os usuários a obter melhores resultados com o Microsoft Copilot ao escrever prompts. Por exemplo: inclua detalhes, estruture prompts, forneça instruções positivas, itere e regenere e sempre examine e verifique as respostas geradas por IA. Para obter mais informações, consulte Obter melhores resultados com a solicitação do Copilot.

  • Exercer supervisão humana quando apropriado: A supervisão humana é uma proteção importante ao interagir com sistemas de IA. Embora aprimoremos continuamente nossos sistemas de IA, a IA ainda pode cometer erros. Os resultados gerados podem ser imprecisos, incompletos, tendenciosos, desalinhados ou irrelevantes para os objetivos pretendidos. Isso pode acontecer devido a vários motivos, como ambiguidade nas entradas ou limitações dos modelos subjacentes. Dessa forma, os usuários devem examinar as respostas geradas pelo Microsoft Copilot e verificar se elas correspondem às suas expectativas e requisitos.

  • Esteja ciente do risco de dependência excessiva: A dependência excessiva da IA acontece quando os usuários aceitam saídas de IA incorretas ou incompletas, principalmente porque os erros nas saídas de IA podem ser difíceis de detectar. Para o usuário final, o excesso de confiança pode resultar em diminuição da produtividade, perda de confiança, abandono do produto, perda financeira, danos psicológicos, danos físicos, entre outros. (por exemplo, um médico aceita uma saída de IA incorreta). Para o Microsoft Copilot, ajudamos a mitigar esse risco adicionando avisos de isenção de responsabilidade aos nossos produtos, mas os usuários ainda devem verificar a precisão das respostas.

  • Tenha cuidado ao projetar IA agêntica em domínios sensíveis: Os usuários devem ter cuidado ao projetar e/ou implantar sistemas de IA agenciais em domínios sensíveis onde as ações do agente são irreversíveis ou altamente consequentes. Precauções adicionais também devem ser tomadas ao criar IA agenciais autônomas, conforme descrito mais detalhadamente no Código de Conduta dos Serviços de IA Corporativa da Microsoft (para organizações) ou na seção Código de Conduta do Contrato de Serviços Microsoft (para indivíduos).

Os implantadores devem:

A Microsoft fornece ferramentas como o Painel do Microsoft Copilot para clientes e relatórios do Microsoft 365 no Centro de administração do Microsoft 365. Essas ferramentas foram projetadas para ajudar as organizações a medir o uso, a adoção e o impacto do Microsoft Copilot. Por exemplo:

  • O relatório de uso do Microsoft Copilot permite que os administradores exibam um resumo de como a adoção, a retenção e o envolvimento dos usuários estão com o Microsoft Copilot para gerenciar e otimizar licenças. Para obter mais informações, consulte Uso do Microsoft Copilot.
  • O Painel do Microsoft Copilot fornece aos líderes, analistas e representantes acesso a relatórios predefinidos sobre o uso do Microsoft Copilot e do Copilot Chat em toda a organização para medir a adoção e o impacto. Para obter mais informações, consulte Conectar-se ao Painel do Microsoft Copilot para clientes do Microsoft 365.
  • O Copilot Business Impact está disponível no Viva Insights, permitindo que os analistas comparem o uso do Microsoft Copilot com as métricas de negócios para entender o valor comercial. Para obter mais informações, consulte Relatório de impacto nos negócios do Copilot.

Saiba mais sobre o Microsoft Copilot

Para obter orientações adicionais sobre o uso responsável do Microsoft Copilot, recomendamos revisar a seguinte documentação:

Saiba mais sobre a IA responsável

  • Last updated on