Política de manutenção dos modelos de IA

Esta página descreve a política de manutenção do modelo para as APIs do Foundation Model pay-per-token, o débito provisionado das APIs do Foundation Model e a Inferência em Batch com ai_query ofertas.

Para continuar a suportar os modelos mais avançados, a Databricks gere modelos ao longo de um ciclo de vida que vai do estado legado à depreciação e à eventual reforma.

• Legado: Quando um modelo é marcado como legado, deixa de ser recomendado para novas cargas de trabalho, mantendo-se disponível em espaços de trabalho com utilização existente do modelo. Os espaços de trabalho que não estão a usar o modelo quando este entra em estado de legado já não têm acesso ao modelo. Os clientes que utilizam este modelo devem avaliar modelos mais recentes e considerar a migração.
• Depreciação: Quando um modelo é desatualizado, é anunciada uma data de reforma de 30 ou 90 dias no futuro. Não é recomendado para novas cargas de trabalho, mas continua disponível em espaços de trabalho com utilização existente do modelo. Os espaços de trabalho que não estão a usar o modelo no momento da descontinuação não têm acesso ao modelo. Os clientes que utilizam este modelo devem avaliar modelos mais recentes e planear migrar as suas cargas de trabalho antes da data de reforma.
• Aposentação: Quando um modelo é retirado, deixa de ser acessível e o suporte para o modelo é totalmente descontinuado. Qualquer carga de trabalho que use o modelo já não funciona.

Política do ciclo de vida do modelo

A secção seguinte resume a política do ciclo de vida do modelo. Consulte modelos obsoletos para uma lista de modelos obsoletos e datas de reforma.

Muitos fatores são considerados ao determinar o calendário de reforma, incluindo a popularidade do modelo, o modelo de substituição adequado e a quantidade de utilização da produção. A Databricks anuncia as datas de aposentação dos modelos quando estes são obsoletos, seguindo os prazos de notificação indicados abaixo.

APIs do modelo de base

A tabela seguinte resume a política do ciclo de vida do modelo para produtos das APIs Foundation Model: pay-per-token, throughput provisionado e ai_query (inferência em lote).

Modelo de apólice de reforma para parceiros

Os modelos parceiros são modelos que parceiros terceiros — especificamente OpenAI, Anthropic e Google — fornecem através das APIs do Modelo Fundação. Para estes modelos parceiros, os Databricks geralmente seguem os mesmos prazos de descontinuação e políticas descritos acima.

No entanto, os parceiros podem fornecer datas de reforma mais curtas do que o período de transição de um mês que a Databricks publica. Nestes casos, o Databricks tenta colmatar a lacuna redirecionando temporariamente modelos para uma versão semelhante, para que os clientes recebam o tempo completo de transição.

Por exemplo, se a reforma de um modelo parceiro for anunciada com um prazo de entrega de duas semanas em vez de um mês, o Databricks redireciona o modelo por mais duas semanas para evitar falhas imediatas e permitir tempo para migração. As consultas falham no final do período completo de um mês.

Modelos obsoletos e retirados

As secções seguintes listam modelos que estão obsoletos (já não recomendados para novas cargas de trabalho) ou retirados (no fim da vida útil e já não disponíveis). As datas de aposentação dos modelos obsoletos são anunciadas pelo menos um mês antes.

Aposentamentos das APIs do Foundation Model

A tabela seguinte mostra as desativações dos modelos, as suas datas de aposentação e modelos de substituição recomendados para usar nas APIs do Foundation Model, pay-per-token e throughput provisionado, servindo cargas de trabalho. A Databricks recomenda que você migre seus aplicativos para usar modelos de substituição antes da data de aposentadoria indicada.

Se precisar de suporte de longo prazo para uma versão específica do modelo, a Databricks recomenda utilizar APIs de Modelo Fundamental com taxa de transferência provisionada para os seus workloads de serviço.

Encontre cargas de trabalho que utilizem modelos retirados

Utilize a seguinte consulta para encontrar cargas de trabalho que utilizam modelos obsoletos e identifique os seus proprietários.

SELECT
   eu.requester,
   se.endpoint_name,
   se.entity_name,
   COUNT(*) AS request_count,
   SUM(eu.input_token_count) AS total_input_tokens,
   SUM(eu.output_token_count) AS total_output_tokens,
   MIN(eu.request_time) AS first_request,
   MAX(eu.request_time) AS last_request
 FROM system.serving.endpoint_usage eu
 JOIN system.serving.served_entities se
   ON eu.served_entity_id = se.served_entity_id
 WHERE LOWER(se.entity_name) LIKE '%<retired-model-name>%'
 GROUP BY eu.requester, se.endpoint_name, se.entity_name
 ORDER BY request_count DESC