Desenvolver e implementar aplicações seguras e compatíveis com o Microsoft Foundry ou IA personalizadas

A segurança e a conformidade são essenciais para a adoção da IA empresarial. Os clientes empresariais esperam que as aplicações de IA sejam seguras desde o design e cumpram tanto as políticas internas como as regulamentações externas.

O incumprimento destas expectativas pode resultar em:

  • Rejeição durante revisões de segurança e conformidade.
  • Fugas de dados ou outros comportamentos prejudiciais da IA.
  • Perda de confiança dos clientes e redução da adoção.

Para escalar a IA de forma responsável, as organizações devem construir sobre uma base sólida de segurança e governação dos dados. Como as aplicações de IA processam cada vez mais dados empresariais sensíveis, os programadores devem incorporar controlos de segurança e conformidade logo no início do ciclo de vida do desenvolvimento—durante o design e implementação.

A Microsoft Purview fornece APIs e serviços que permitem à Microsoft Foundry e a outras plataformas de IA integrar controlos de segurança e governação de dados de nível empresarial em aplicações e agentes de IA personalizados, independentemente do modelo ou plataforma de implementação.

Este artigo explica como os programadores podem integrar-se com o Microsoft Purview para suportar os requisitos de segurança e conformidade de dados nas suas aplicações e agentes de IA construídos com Microsoft Foundry, Agent Framework ou aplicações de IA personalizadas. A tabela seguinte resume os cenários da Microsoft Purview e quais as opções que os programadores devem escolher para cada cenário.

Scenario Microsoft Foundry Estrutura do agente APIs Microsoft Purview
Governar os dados usados em tempo de execução pelas aplicações de IA Suportado Suportado Suportado
Proteger contra fugas de dados e riscos internos Não suportado Suportado Suportado
Prevenir a partilha excessiva de dados Não suportado Não suportado Suportado

Governar os dados usados em tempo de execução pelas aplicações de IA

As seguintes funcionalidades do Microsoft Purview podem ser usadas para fornecer governação de dados para aplicações de IA:

  • Análises em tempo real para uso de dados sensíveis, comportamentos de risco e interações de IA antiéticas.
  • Auditoria de rastreabilidade.
  • Conformidade de Comunicação para detetar conteúdos prejudiciais ou não autorizados.
  • Gestão do Ciclo de Vida dos Dados e eDiscovery para necessidades legais e regulatórias.

Pode integrar estas capacidades do Microsoft Purview na sua aplicação Microsoft Foundry ou IA personalizada, utilizando as seguintes opções:

  • Integração Nativa do Microsoft Purview no Microsoft Foundry (recomendado): Ao utilizar modelos no Microsoft Foundry, utilize as definições do Microsoft Purview para auditorias e resultados de governação relacionados incorporados no Microsoft Foundry. Os administradores do Azure podem ativar a definição para qualquer subscrição do Azure. Não há nenhuma ação que os teus programadores tenham de tomar. Esta configuração permite que dados de todas as aplicações baseadas em IA no Azure que correm nessa subscrição sejam enviados para o Microsoft Purview para apoiar os resultados de governação e conformidade. Para mais informações sobre como ativar a definição, veja Ativar Segurança de Dados para Azure AI com Microsoft Purview.

  • Utilize as APIs: Os programadores do Microsoft Foundry podem utilizar as APIs do Microsoft Purview no Microsoft Graph para enviar programaticamente para o Microsoft Purview os dados dos pedidos e das respostas das suas aplicações de IA.

    Use estas APIs para integração baseada em APIs:

    Para mais informações, consulte Usar APIs Microsoft Purview no Microsoft Graph.

  • Agent Framework: Se estiver a criar agentes usando o Microsoft Agent Framework, pode adicionar capacidades do Microsoft Purview para proteger os seus agentes. Estas capacidades acrescentam segurança e conformidade dos dados ao agente. No pipeline de middleware do seu agente, adicione o middleware de políticas do Microsoft Purview para:

    • Intercetar e encaminhar pedidos e respostas ao Microsoft Purview.
    • Faça cumprir as políticas DLP da sua organização no Microsoft Purview.

    Para mais informações, consulte Usar o Microsoft Purview SDK com Agent Framework.

Proteger contra fugas de dados e riscos internos

Os programadores podem usar APIs do Agent Framework ou Microsoft Purview para aplicar políticas de Prevenção de Perda de Dados do Microsoft Purview (DLP) nas suas aplicações.

Agent Framework: Se estiver a criar agentes usando o Microsoft Agent Framework, pode adicionar capacidades do Microsoft Purview para proteger os seus agentes. Estas capacidades acrescentam segurança e conformidade dos dados ao agente. No pipeline de middleware do seu agente, adicione o middleware de políticas do Microsoft Purview a:

  • Intercetar e passar prompts e respostas ao Microsoft Purview.
  • Faça cumprir as políticas DLP da sua organização no Microsoft Purview.

Para mais informações, consulte Usar o Microsoft Purview SDK com Agent Framework.

Use as APIs: Esta opção permite que as aplicações compreendam e apliquem o comportamento nas aplicações e agentes de IA de acordo com as políticas definidas na Microsoft Purview. Por exemplo, pode proteger informações sensíveis partilhadas com Grandes Modelos de Linguagem (LLMs) ou controlar informações sensíveis partilhadas com utilizadores de risco nas suas aplicações de IA.

Use estas APIs para integração baseada em APIs:

Importante

Para configurar uma nova política DLP no Microsoft Purview para testar a integração DLP, execute o New-DlpComplianceRule cmdlet. Para mais informações, consulte New-DLPComplianceRule.

Exemplo de código Azure AI:

Evitar partilhar dados em excesso

A partilha excessiva de dados é restringida quando são aplicadas etiquetas de sensibilidade aos dados. Os programadores podem usar APIs Microsoft Purview ou Pesquisa de IA do Azure para respeitar rótulos de sensibilidade aplicados a dados usados pelos LLMs para gerar respostas. Ambas as opções garantem que as respostas geradas por IA respeitam os controlos de acesso, evitam partilhar dados em excesso e limitam os utilizadores a conteúdos que estão autorizados a visualizar – tal como fariam fora do ambiente de aplicações de IA.

Quando a indexação de etiquetas de sensibilidade Microsoft Purview está ativada, o Pesquisa de IA do Azure verifica os metadados da etiqueta do documento no momento da consulta, aplica filtros de acesso baseados nas políticas do Microsoft Purview e retorna apenas os resultados a que o utilizador solicitante pode aceder.

Pode usar qualquer uma das seguintes APIs ao construir este cenário:

  • Last updated on