Aplicar princípios de IA responsável

Um sistema de IA inclui não só a tecnologia, mas também as pessoas que o utilizam, as pessoas afetadas pelo mesmo e o ambiente em que está implementado. Os agentes devem aderir aos princípios de IA responsável para garantir equidade, responsabilização, transparência e comportamento ético.

Conceba o sistema de IA para tratar todos os utilizadores de forma justa, responsabilizar os programadores e utilizadores por desempenho, garantir a transparência nas operações de IA e aderir a padrões éticos.

Na Microsoft, estamos comprometidos com o avanço da IA impulsionada por princípios que colocam as pessoas em primeiro lugar. Os modelos generativos têm benefícios potenciais significativos, mas sem um design cuidadoso e mitigações ponderadas, estes modelos têm o potencial de gerar conteúdos incorretos ou mesmo nocivos. A Microsoft fez investimentos significativos para ajudar a proteger contra abusos e danos não intencionais, o que inclui incorporar os princípios de utilização da IA responsável da Microsoft, adotar um Código de Conduta, criar filtros de conteúdo para suportar clientes e fornecer informações e orientações de IA responsável que os clientes devem considerar ao usar a IA generativa.

O Copilot Studio e as funcionalidades de IA generativa seguem um conjunto de práticas fundamentais de segurança e privacidade e a Norma de IA Responsável da Microsoft.

Saber mais:

Princípios fundamentais da IA responsável

Os princípios fundamentais da IA responsável incluem equidade, responsabilidade, transparência e ética. Garantir que um agente criado com o Copilot Studio adere a estes princípios fundamentais envolve várias práticas essenciais:

  • Equidade: Utilize dados de preparação diversificados e representativos para minimizar desvios. Atualize regularmente os dados de preparação e inscreva auditores para validar a equidade.
  • Responsabilização: defina funções e responsabilidades claras para os membros da equipa envolvidos no projeto de IA. Estabelecer e aderir a normas éticas que dão prioridade à equidade e à responsabilidade.
  • Transparência: Certifique-se de que os utilizadores saibam que estão a utilizar um agente que utiliza capacidades de IA generativa. Comunique claramente o motivo de uma solução de IA ter sido escolhida, como foi concebida e como é monitorizada e atualizada.
  • Ética: Promova uma força de trabalho inclusiva e procure obter contributos de diversas comunidades numa fase inicial do processo de desenvolvimento. Avalie e teste regularmente modelos para preocupações éticas e disparidades no desempenho. Estabeleça uma estrutura de governação que inclua auditorias regulares.

Incorpore estas práticas nos processos de desenvolvimento e implementação para criar agentes que adiram aos princípios fundamentais de IA responsável.

Privacidade dos dados e segurança

Garantir a privacidade dos dados é fundamental, especialmente porque o agente poderá processar dados confidenciais. Ao planear um agente com o Copilot Studio, é essencial abordar vários riscos importantes e implementar estratégias de mitigação eficazes:

  • Funcionalidades da plataforma: Compreenda os controlos nativos e as funcionalidades da plataforma que salvaguardam os seus dados. Reveja as FAQs sobre IA Responsável para o Copilot Studio para compreender melhor os sistemas e funcionalidades de IA específicos desenvolvidos pela Microsoft.
  • Encriptação de dados: As tecnologias do lado do serviço encriptam conteúdo organizacional inativo e em circulação para uma segurança robusta. As ligações são salvaguardadas por TLS (Transport Layer Security) e as transferências de dados entre o Dynamics 365, o Power Platform e o Azure OpenAI ocorrem através da rede de base da Microsoft, garantindo a fiabilidade e a segurança. Obtenha mais informações sobre a encriptação na Microsoft Cloud.
  • Controlos de acesso: Os dados são fornecidos a um agente com base no nível de acesso do utilizador atual. Implemente o controlo de acesso baseado em funções (RBAC) utilizando o Microsoft Entra ID para garantir que apenas os utilizadores autorizados possam aceder aos dados. Aplique o princípio do privilégio menor para limitar o acesso apenas ao necessário. Reveja as orientações sobre como proteger os seus projetos do Copilot Studio e Conceitos fundamentais de segurança e governação do Copilot Studio.
  • Monitorização e auditoria: Detete e responda a potenciais incidentes de segurança ao monitorizar regularmente o acesso e a utilização do agente. Mantenha registos de auditoria detalhados para rastrear o acesso aos dados e as modificações.
  • Conformidade e governação: Garanta a conformidade com os regulamentos relevantes de privacidade de dados, como RGPD (Regulamento Geral sobre a Proteção de Dados), HIPAA (Health Insurance Portability and Accountability Act) e CCPA (Lei de Privacidade do Consumidor da Califórnia). Implemente práticas de IA éticas para evitar desvios e garantir a equidade nos resultados da IA.
  • Educação e formação dos utilizadores: Dê formação aos utilizadores sobre as melhores práticas de segurança e sobre a importância da privacidade dos dados. Mantenha os utilizadores informados sobre atualizações e alterações às políticas e aos procedimentos de segurança.

Sensibilização e mitigação de desvios

Reconheça a importância de abordar desvios no sistema e garantir a equidade para evitar desvios em respostas da IA.

  • Dados diversificados e representativos: Certifique-se de que os dados de preparação são diversificados e representativos de diferentes demografias para minimizar desvios inerentes. Audite regularmente os dados em relação a desvios e desequilíbrios e tome medidas corretivas conforme necessário.
  • Ferramentas de deteção e mitigação de desvios: Utilize ferramentas e técnicas para detetar desvios nos modelos de IA, tais como análise estatística e métricas de equidade. Implemente técnicas de remoção de desvios, incluindo nova amostragem, nova ponderação ou remoção adversa de desvios, para reduzir desvios nos modelos.
  • Humano no ciclo: incorpore ciclos de feedback e revisão humana para identificar e corrigir desvios que a IA possa introduzir. Estabeleça um comité de ética ou um conselho de governação para supervisionar o desenvolvimento e a implementação da IA, garantindo que as normas éticas são cumpridas.
  • Transparência e confiança: Certifique-se de que os utilizadores sabem que estão a utilizar um agente com capacidades de IA generativa. Comunique claramente o motivo de uma solução de IA ter sido escolhida e forneça informações sobre como foi concebida e como é monitorizada e atualizada.
  • Monitorização e melhoria contínuas: Monitorize continuamente o sistema de IA para detetar desvios e problemas de desempenho, e atualize os modelos conforme necessário. Garanta que os modelos permanecem justos e imparciais ao voltar a preparar os modelos com dados atualizados e mais diversificados.

Monitorização e avaliação contínuas

Continue a melhorar o seu agente. Estabeleça uma estrutura para monitorização e avaliação contínuas e incorpore o feedback dos utilizadores e os padrões éticos em evolução nas atualizações.

  • Ciclos de feedback: Estabeleça mecanismos de feedback onde os utilizadores podem reportar imprecisões, que podem ser utilizadas para refinar e melhorar os modelos.
  • Monitorização e auditoria: Detete e responda a potenciais incidentes de segurança ao monitorizar regularmente o acesso e a utilização do sistema de IA. Mantenha registos de auditoria detalhados para rastrear o acesso aos dados e as modificações.

Passo seguinte

Utilize a lista de verificação de resumo para validar se o seu projeto está pronto para avançar para a implementação e aplique chamadas de melhores práticas para refinar a abordagem do seu projeto antes de fazer a transição para a fase de implementação.

Rever a lista de verificação do plano

  • Last updated on