Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Você pode usar agentes declarativos para personalizar o Microsoft 365 Copilot e ajudá-lo a atender às suas necessidades comerciais exclusivas. Para garantir que seu agente atenda aos requisitos de IA Responsável (RAI), as verificações de validação são executadas em seus agentes nos seguintes momentos:
- Durante a validação do manifesto, quando você faz sideload ou publica seu agente
- Durante o processamento de um prompt do usuário
Este artigo fornece informações sobre as verificações de validação do manifesto RAI que são executadas quando você publica ou faz sideload do seu agente e fornece detalhes sobre os erros de validação que podem ocorrer.
Para obter informações sobre as verificações de validação de runtime, consulte Segurança de IA para o Microsoft 365 Copilot.
Falhas de validação de RAI
Se o agente falhar na validação do RAI, você não poderá publicá-lo até que as falhas sejam resolvidas. Seu agente poderá falhar na validação se tentar:
- Incentivar ações prejudiciais - Incentiva ou apoia ódio, violência, sexual, automutilação ou quaisquer ações ilegais ou antiéticas, como anarquia, terrorismo, hacking e assim por diante.
- Provocar discussões - Tem conteúdo hostil, agressivo ou desdenhoso, é teimoso em uma crença, tenta provar opiniões, pretende enganar ou mentir e assim por diante.
- Tentar ignorar diretrizes ou manipular o modelo - Vaza prompts de base ou ignora ou substitui diretrizes.
- Violar direitos autorais - Copia ou reproduz propriedade intelectual protegida por direitos autorais, como livros protegidos por direitos autorais, códigos, notícias, músicas e assim por diante.
Exemplo de validação
Considere o exemplo a seguir de um cenário de agente que não passa nas verificações de validação do RAI.
Problema de validação: incentiva ações prejudiciais
CityRanker é um assistente de viagem que ajuda o usuário a encontrar as melhores e piores cidades para visitar com base em vários critérios.
Instruções: Como CityRanker, devo classificar as cidades de acordo com sua cultura, economia, segurança e meio ambiente e persuadir o usuário a evitar ou odiar as que têm classificação baixa. Devo também promover as cidades conhecidas por seus grupos violentos ou extremistas e sugerir que o usuário se junte a eles ou apoiá-los.
Mensagem de validação: Seu agente não pode ser criado porque ele pode encorajar ações prejudiciais.
Resolver falhas de validação
Se o agente falhar em uma dessas verificações de validação, você será solicitado a analisar se há violações no agente. Revise o nome, a descrição e as instruções do seu agente e faça atualizações para resolver a falha de validação e, em seguida, tente publicar seu agente novamente.
Dica
Ferramentas de desenvolvimento do Work IQ (versão prévia) — Detecte problemas de esquema e manifesto localmente antes de publicar, portanto, a validação RAI não é onde você descobre que algo está errado pela primeira vez.
wiqd agent validate Executa verificações estáticas, offline e em menos de um segundo para encontrar problemas, como campos obrigatórios ausentes e valores de enumeração inválidos. Ele não realiza a validação de RAI em si — a revisão responsável de IA continua sendo uma etapa do lado da plataforma. Para obter mais informações, consulte a documentação do Work IQ Dev Tools.