Adicionar um modelo que serve o recurso de ponto de extremidade a um aplicativo Databricks

Adicione modelos que servem pontos de extremidade como recursos do Databricks Apps para que seu aplicativo possa consultar modelos de aprendizado de máquina para inferência. Os endpoints de serviço de modelo gerem as previsões do modelo e oferecem uma interface consistente para acessar os modelos implementados.

Adicionar um modelo que serve o recurso de ponto de extremidade

Antes de adicionar um endpoint de serviço de modelos como recurso, reveja os pré-requisitos de recursos da aplicação.

1. Na secção de recursos da App, ao criar ou editar uma app, clique em + Adicionar recurso>Modelo.
2. No seletor de recursos, selecione um endpoint de serviço de modelo na secção Endpoints de Serviço . O seletor também lista os serviços modelo Unity Gateway numa secção Unity Gateway .
3. Selecione o nível de permissão apropriado para seu aplicativo:
   • Pode visualizar: Pode visualizar metadados do endpoint, incluindo nomes de modelos, versões e configuração de workload. Não é possível enviar solicitações de inferência.
   • Pode consultar: Envie solicitações de inferência e visualize metadados. Use isso para a maioria dos aplicativos que precisam de previsões de modelo.
   • Pode gerenciar: Controle administrativo completo, incluindo visualizar, editar, consultar, excluir e gerenciar permissões.
4. (Opcional) Especifique uma chave de recurso personalizada, que é como tu referencias o endpoint de serviço do modelo na configuração da tua aplicação. A chave padrão é model.

Variáveis de ambiente

Quando implementas uma aplicação com um recurso de endpoint de serviço de modelo, Azure Databricks expõe o nome do endpoint de serviço através de variáveis de ambiente que podes consultar usando o campo valueFrom.

Por exemplo:

SERVING_ENDPOINT=<your-serving-endpoint-name>

Para obter mais informações, consulte Usar variáveis de ambiente para acessar recursos.

Remover um modelo que serve o recurso de ponto de extremidade

Quando você remove um modelo que serve o recurso de ponto de extremidade de um aplicativo, a entidade de serviço do aplicativo perde o acesso ao ponto de extremidade. O modelo que serve o ponto de extremidade em si permanece inalterado e continua disponível para outros usuários e aplicativos que têm permissões apropriadas.

Melhores práticas

Considere o seguinte ao trabalhar com recursos de ponto de extremidade de serviço de modelo:

• Conceda permissões mínimas. Use Can view para o menor acesso ou Can query para a maioria dos aplicativos que precisam enviar solicitações de inferência, a menos que seu aplicativo precise especificamente executar tarefas administrativas no ponto de extremidade.
• Evite consultas de longa duração quando possível, pois as solicitações de inferência podem expirar.
• Verifique o status do endpoint antes de enviar solicitações. Os pontos de extremidade devem encontrar-se no estado READY para processar consultas.
• Considere limitar a taxa das suas solicitações de inferência para evitar sobrecarregar o endpoint, especialmente durante períodos de alto tráfego.