Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
A IA responsável é guiada por um conjunto de princípios que definem como os sistemas de IA devem operar. Estes princípios centram-se na justiça, fiabilidade, segurança, privacidade, proteção, inclusão, transparência e responsabilidade. Estabelecem os padrões que regem a forma como a Microsoft avalia os riscos, desenha funcionalidades de IA e garante um comportamento responsável do sistema.
Aplicar estes princípios ao design do agente ajuda a prevenir danos não intencionais, como preconceito, desinformação ou violações de privacidade. Também apoia a confiança dos utilizadores e a adoção a longo prazo. Ao seguir estas diretrizes, pode criar agentes de IA que funcionam eficazmente, mantendo os padrões de integridade e respeito que os utilizadores e a sociedade esperam dos produtos Microsoft.
Este artigo fornece uma introdução de alto nível à IA responsável na sua aplicação ao design de agentes. Para orientações abrangentes, consulte os princípios e abordagem de IA Responsável Microsoft.
Princípios de IA responsável
Princípios de IA responsável orientam como desenha, constrói e opera agentes no Microsoft 365 Copilot. Estabelecem um padrão comum para o comportamento dos agentes, tratamento de dados e interação com o utilizador, garantindo que os sistemas de IA são fiáveis, seguros e alinhados com os valores humanos.
Estes princípios aplicam-se ao longo de todo o ciclo de vida do agente, desde o design e desenvolvimento até à implementação e utilização contínua. Informam decisões sobre design de interação, seleção de modelos e conhecimento, autonomia, segurança e governação. Ao seguir estes princípios, garante que os agentes entregam valor de forma responsável, mantendo a confiança dos utilizadores e a adoção a longo prazo.
| Principle | O que isso significa para o design de agentes |
|---|---|
| Justiça | Os sistemas de IA devem proporcionar resultados consistentes e equitativos para todos os utilizadores. Os comportamentos dos agentes devem evitar criar ou reforçar um tratamento injusto com base em atributos sensíveis ou contexto do utilizador. |
| Fiabilidade e segurança | Os sistemas de IA devem funcionar conforme previsto numa vasta gama de condições. Os agentes devem lidar com a variabilidade, casos excecionais e entradas inesperadas de formas que apoiem comportamentos seguros e previsíveis. |
| Privacidade e segurança | Os sistemas de IA devem proteger os dados dos utilizadores e respeitar os requisitos estabelecidos de privacidade e segurança. Os agentes devem usar apenas a informação a que estão autorizados a aceder e devem tratar essa informação de forma responsável. |
| Inclusividade | Os sistemas de IA devem capacitar todos os utilizadores e acomodar necessidades diversas. Os agentes devem considerar a acessibilidade, a variação linguística e os diferentes níveis de proficiência técnica para garantir uma experiência inclusiva. |
| Transparência | Os sistemas de IA devem deixar claras as suas capacidades e limitações. Os agentes devem comunicar o que podem fazer, como a informação é usada e como os resultados são gerados para que os utilizadores possam tomar decisões informadas. |
| Responsabilidade | Os sistemas de IA requerem uma supervisão clara. As equipas que desenvolvem agentes são responsáveis por garantir que o sistema cumpre princípios de IA responsável, cumpre os requisitos de conformidade e opera sob uma governação humana adequada. |
Aplicação de IA responsável no desenvolvimento de agentes
A Microsoft utiliza um modelo estruturado para integrar princípios de IA responsável ao longo do desenvolvimento de agentes de IA. Este modelo ajuda as equipas a identificar riscos, encontrar as mitigações certas e manter um comportamento responsável ao longo de todo o ciclo de vida do agente.
Como designer, as suas decisões afetam diretamente a forma como estas funções são cumpridas. As seguintes funções-chave descrevem como a IA responsável é posta em prática:
| Função | Description |
|---|---|
| Govern | Estabelece as políticas, funções e processos que as equipas seguem ao desenhar e implementar agentes. A governação assegura o alinhamento com os princípios responsáveis da IA e proporciona uma responsabilidade clara. |
| Mapa | Identifica e prioriza riscos potenciais associados a um cenário de IA. O mapeamento permite decisões informadas sobre estratégias de mitigação e ajuda a determinar se uma solução de IA é adequada ao contexto pretendido. |
| Measure | Avalia os riscos e o desempenho do sistema para orientar o desenho e o aperfeiçoamento das mitigações. A medição é essencial à medida que as capacidades de IA crescem em complexidade e exigem uma avaliação contínua. |
| Gerir | Aplica e mantém mitigações de risco ao longo de toda a implantação e operação contínua. As equipas monitorizam o comportamento do sistema e ajustam as mitigações conforme necessário para garantir que os agentes permanecem responsáveis ao longo do tempo. |
Filtros de transparência e segurança da IA
A transparência é uma pedra angular da IA responsável. Ao desenhar agentes, comunique claramente a presença e o papel da IA na experiência do produto. Informe os utilizadores sobre o propósito, capacidades, limitações e potenciais riscos do agente. Esta transparência capacita os utilizadores a tomar decisões informadas e fomenta a confiança no sistema.
Implementações práticas de transparência incluem Notas de Transparência e divulgações dentro do produto que explicam como a IA funciona e o que os utilizadores podem esperar. Por exemplo, na experiência Business Chat, o agente utiliza indicadores claros, como rótulos como "Conteúdo gerado por IA pode estar incorreto", para ajudar a definir expectativas adequadas e apoiar o uso responsável.
Filtros de segurança
Os filtros de segurança ajudam a garantir que os agentes se comportam de forma apropriada, respeitosa e alinhada com os princípios responsáveis de IA da Microsoft. Estas salvaguardas reduzem o risco de resultados prejudiciais, tendenciosos ou enganosos, ao mesmo tempo que protegem a privacidade dos utilizadores e informações sensíveis ao longo da interação.
Os agentes baseados no Copilot herdam os compromissos de IA responsável da Microsoft, que se focam na justiça, fiabilidade, privacidade e transparência. Os filtros de segurança desempenham um papel fundamental na aplicação destes compromissos, orientando como os agentes respondem à entrada dos utilizadores, lidam com temas sensíveis e gerem o acesso aos dados.
Importante
Como designer, não configuras diretamente os filtros de segurança. A Microsoft aplica-as ao nível da plataforma. No entanto, as suas decisões de design sobre tom, âmbito e transparência reforçam ou minam diretamente a confiança que os filtros de segurança são concebidos para proteger.
Ao aplicar filtros de segurança de forma consistente, os agentes podem reforçar a confiança e a segurança dos utilizadores. Os utilizadores podem confiar melhor nas respostas dos agentes, sabendo que existem salvaguardas para promover um comportamento responsável e o uso ético da IA.
Sugestão
Para orientações abrangentes sobre a abordagem de IA responsável da Microsoft, incluindo princípios detalhados, quadros de governação e relatórios de transparência, consulte os princípios e abordagem de IA responsável da Microsoft.