Visão geral do uso de IA

No Hub de Governança, a página de IA fornece uma exibição centralizada do uso de IA e dos gastos em sua conta Azure Databricks. Ele resume o uso de token, quanto do tráfego de IA é regido e quais modelos e usuários são mais ativos. Azure Databricks também apresenta recomendações para melhorar a governança de IA em toda a conta.

Importante

Esse recurso está em Beta. Os administradores de conta podem habilitá-lo na página Visualizações do console da conta. Consulte Gerenciar visualizações do Azure Databricks.

A página de IA no Hub de Governança, mostrando uso de token, tráfego controlado, orçamentos, uso e gastos de IA, modelos ativos e usuários e recomendações de IA.

A página de IA inclui os seguintes blocos:

Tile Description
Uso de token O número total de tokens usados no escopo.
Tráfego controlado A porcentagem do tráfego de IA coberta pelas proteções de IA dentro do escopo.
Orçamentos do Gateway de IA do Unity O status dos seus orçamentos de IA abrangidos. Consulte Exibir e gerenciar orçamentos de IA.
Uso de IA Uso de IA ao longo do tempo em escopo. Consulte Exibir o uso da IA.
Gastos com IA Gastos com IA ao longo do tempo dentro do escopo. Consulte Exibir gastos com IA.
Modelos Ativos (30d) Os modelos mais ativos neste escopo nos últimos 30 dias. Consulte Exibir modelos ativos.
Usuários Ativos (30d) Os usuários mais ativos nos últimos 30 dias dentro do escopo. Veja Exibir usuários ativos.

O painel de recomendações de IA à direita sugere ações para melhorar a governança de IA em toda a conta. Consulte Melhore a governança de IA com recomendações.

Alterar o escopo

No Hub de Governança, os dados exibidos dependem do escopo escolhido, que você pode selecionar no canto superior direito. Para administradores de conta, isso é definido como ícone do Globo.Conta por padrão. Selecione um escopo diferente, como um espaço de trabalho específico, para atualizar os painéis para que reflitam esse escopo. Para obter mais informações sobre quem pode exibir cada escopo, consulte Acesso e permissões.

O seletor de escopo na página de IA do Hub de Governança.

Exibir e gerenciar orçamentos de IA

O painel Orçamentos do Gateway de IA do Unity acompanha o status dos orçamentos de IA no escopo selecionado. Você pode clicar em Gerenciar para abrir a página Orçamentos . Azure Databricks filtra automaticamente os resultados, mostrando apenas os orçamentos em que o Unity AI Gateway é o tipo de recurso e em que o limite de gastos foi atingido.

A página Orçamentos foi aberta na página de IA do Hub de Governança.

  • A coluna de status compartilhado mostra quanto gasto no mês atual excedeu o limite de orçamento geral.
  • A coluna de status por usuário mostra quantos usuários, se houver, excederam o limite por usuário. Ele também relata quantos usuários foram bloqueados de gastos adicionais como resultado. Clique no valor para ver detalhes sobre os gastos por usuário para esse recurso.

Clique em um nome de orçamento para exibir detalhes adicionais ou editá-lo. Cada página de orçamento contém um resumo do limite e dos gastos ao longo do último mês. Clique em Editar orçamento para modificar ou adicionar limites adicionais. Para excluir o orçamento, clique no ícone Down Caret ao lado de Editar orçamento e clique em Excluir orçamento.

Detalhes de um único orçamento quando acessado na página de IA do Hub de Governança.

Exibir o uso de IA

O bloco Uso de IA controla o número de solicitações de modelo dentro do escopo escolhido ao longo do tempo. Você pode clicar em Examinar o Uso da IA para obter detalhes, o que abre a página Uso de IA .

Esta página contém um conjunto de visualizações de dados e uma lista de modelos ordenados pelo uso. Por padrão, as solicitações são selecionadas para a visualização. No canto superior direito, você pode modificar isso para exibir Tokens ou Gastos. Além disso, os dados são agrupados por modelos nos últimos 30 dias por padrão. Você pode alterar essas configurações usando os menus suspensos no canto superior esquerdo.

A página Uso de IA no Hub de Governança.

Clicar em um modelo específico leva você à página de visão geral do Gateway de IA do Unity para o serviço de modelo. Para mais informações, veja Uso do modelo de trilha.

Exibir gastos de IA

O bloco AI Spend rastreia o gasto de IA no escopo escolhido ao longo do tempo. Você pode clicar em Analisar gastos com IA para obter detalhes, o que abre a mesma página Uso de IA mencionada em Ver uso de IA. Por padrão, Spend é selecionado para a visualização e os dados são agrupados por Modelo.

A página de Gastos com IA no Hub de Governança.

Exibir modelos ativos

O bloco Modelos Ativos (30d) mostra os modelos mais ativos nos últimos 30 dias como um grafo de barra horizontal. Você pode clicar em Revisar famílias de modelos para obter detalhes, o que abre a mesma página Uso de IA mencionada em Ver o uso de IA. Por padrão, Spend é selecionado para a visualização e os dados são agrupados por Famílias de Modelos.

Exibir usuários ativos

O bloco Usuários Ativos (30d) mostra os usuários mais ativos nos últimos 30 dias como um grafo de barra horizontal. Você pode clicar em Revisar Usuários Ativos para obter detalhes, o que abre a mesma página Uso de IA abordada em Ver uso de IA. Por padrão, Spend é selecionado para a visualização e os dados são agrupados por Usuários.

Melhorar a governança de IA com recomendações

O painel de recomendações de IA sugere ações para melhorar a governança de IA em toda a conta. As recomendações são apenas para leitura. Eles podem incluir tabelas de inferência ausentes em modelos de alto volume e fallbacks ausentes em modelos de alto volume. Cada recomendação lista os modelos afetados. Clique em Examinar para ver a lista completa de descobertas.

O painel de recomendações de IA no Hub de Governança.