Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
A IA responsável é guiada por um conjunto de princípios que definem como os sistemas de IA devem operar. Esses princípios se concentram na imparcialidade, confiabilidade, segurança, privacidade, segurança, inclusão, transparência e responsabilidade. Eles estabelecem os padrões que regem como Microsoft avalia riscos, projeta recursos de IA e garante o comportamento responsável do sistema.
Aplicar esses princípios ao design do agente ajuda a evitar danos não intencionais, como preconceito, desinformação ou violações de privacidade. Ele também dá suporte à confiança do usuário e à adoção a longo prazo. Seguindo essas diretrizes, você pode criar agentes de IA que têm um desempenho eficaz, mantendo os padrões de integridade e respeito que os usuários e a sociedade esperam de Microsoft produtos.
Este artigo fornece uma introdução de alto nível à IA responsável à medida que se aplica ao design do agente. Para obter diretrizes abrangentes, consulte Microsoft princípios e abordagem responsáveis de IA.
Princípios de IA responsável
Os princípios de IA responsáveis orientam como você projeta, cria e opera agentes no Microsoft 365 Copilot. Eles estabelecem um padrão compartilhado para o comportamento do agente, o tratamento de dados e a interação do usuário para garantir que os sistemas de IA sejam confiáveis, seguros e alinhados com valores humanos.
Esses princípios se aplicam em todo o ciclo de vida do agente, desde design e desenvolvimento até implantação e uso contínuo. Eles informam decisões sobre design de interação, modelo e seleção de conhecimento, autonomia, segurança e governança. Seguindo esses princípios, você garante que os agentes forneçam valor com responsabilidade, mantendo a confiança do usuário e a adoção a longo prazo.
| Princípio | O que isso significa para o projeto de agentes |
|---|---|
| Justiça | Os sistemas de IA devem fornecer resultados consistentes e equitativos para todos os usuários. Os comportamentos do agente devem evitar criar ou reforçar o tratamento injusto com base em atributos confidenciais ou no contexto do usuário. |
| Confiabilidade e segurança | Os sistemas de IA devem ser executados conforme o esperado em uma ampla gama de condições. Os agentes devem lidar com variabilidade, casos de borda e entradas inesperadas de maneiras que dão suporte a comportamentos seguros e previsíveis. |
| Privacidade e segurança | Os sistemas de IA devem proteger os dados do usuário e respeitar os requisitos de privacidade e segurança estabelecidos. Os agentes devem usar apenas as informações que estão autorizados a acessar e devem lidar com essas informações de forma responsável. |
| Inclusão | Os sistemas de IA devem capacitar todos os usuários e acomodar necessidades diversas. Os agentes devem considerar acessibilidade, variação de linguagem e diferentes níveis de proficiência técnica para garantir uma experiência inclusiva. |
| Transparência | Os sistemas de IA devem deixar claro seus recursos e limitações. Os agentes devem comunicar o que podem fazer, como as informações são usadas e como as saídas são geradas para que os usuários possam tomar decisões informadas. |
| Responsabilidade | Os sistemas de IA exigem uma supervisão clara. As equipes que desenvolvem agentes são responsáveis por garantir que o sistema adere aos princípios de IA responsáveis, atenda aos requisitos de conformidade e opere sob a governança humana apropriada. |
Aplicando IA responsável no desenvolvimento de agente
Microsoft usa um modelo estruturado para integrar princípios de IA responsáveis ao longo do desenvolvimento de agentes de IA. Esse modelo ajuda as equipes a identificar riscos, encontrar as mitigações corretas e manter o comportamento responsável em todo o ciclo de vida do agente.
Como designer, suas decisões afetam diretamente como essas funções são atendidas. As seguintes funções principais descrevem como a IA responsável é colocada em prática:
| Function | Descrição |
|---|---|
| Govern | Estabelece as políticas, as funções e os processos que as equipes seguem ao projetar e implantar agentes. A governança garante o alinhamento com os princípios de IA responsáveis e fornece uma responsabilidade clara. |
| Map | Identifica e prioriza riscos potenciais associados a um cenário de IA. O mapeamento permite decisões informadas sobre estratégias de mitigação e ajuda a determinar se uma solução de IA é apropriada para o contexto pretendido. |
| Measure | Avalia os riscos e o desempenho do sistema para orientar o design e o refinamento de mitigações. A medida é essencial à medida que as funcionalidades de IA crescem em complexidade e exigem uma avaliação contínua. |
| Gerenciar | Aplica e mantém mitigações de risco durante a implantação e a operação contínua. As equipes monitoram o comportamento do sistema e ajustam as mitigações conforme necessário para garantir que os agentes permaneçam responsáveis ao longo do tempo. |
Filtros de segurança e transparência de IA
A transparência é uma base da IA responsável. Ao projetar agentes, comunique claramente a presença e a função da IA dentro da experiência do produto. Eduque os usuários sobre a finalidade, os recursos, as limitações e os riscos potenciais do agente. Essa transparência capacita os usuários a tomar decisões informadas e promove a confiança no sistema.
Implementações práticas de transparência incluem Notas de Transparência e divulgações no produto que explicam como a IA funciona e o que os usuários podem esperar. Por exemplo, na experiência do Business Chat, o agente usa indicadores claros, como rótulos como "Conteúdo gerado por IA pode estar incorreto", para ajudar a definir as expectativas apropriadas e dar suporte ao uso responsável.
Filtros de segurança
Os filtros de segurança ajudam a garantir que os agentes se comportem de maneiras apropriadas, respeitosas e alinhadas com os princípios de IA responsáveis do Microsoft. Essas proteções reduzem o risco de saídas prejudiciais, tendenciosas ou enganosas, protegendo a privacidade do usuário e informações confidenciais durante toda a interação.
Agentes baseados em Copilot herdam os compromissos responsáveis de IA da Microsoft, que se concentram na imparcialidade, confiabilidade, privacidade e transparência. Os filtros de segurança desempenham um papel fundamental na imposição desses compromissos orientando como os agentes respondem à entrada do usuário, lidam com tópicos confidenciais e gerenciam o acesso aos dados.
Importante
Como designer, você não configura filtros de segurança diretamente. Microsoft os impõe no nível da plataforma. No entanto, suas decisões de design em torno do tom, do escopo e da transparência reforçam ou minam diretamente a confiança que os filtros de segurança foram projetados para proteger.
Ao aplicar filtros de segurança de forma consistente, os agentes podem reforçar a confiança e a sensação de segurança dos usuários. Os usuários são mais capazes de contar com respostas do agente sabendo que as proteções estão em vigor para promover o comportamento responsável e o uso ético da IA.
Dica
Para obter diretrizes abrangentes sobre a abordagem responsável de IA da Microsoft, incluindo princípios detalhados, estruturas de governança e relatórios de transparência, acesse os princípios e a abordagem de IA Responsável da Microsoft.