Consultar modelos fundacionais e de incorporação

O Databricks fornece várias formas de consultar modelos de fundação. Escolha uma interface consoante se precisa de uma API independente do fornecedor, funcionalidades específicas do fornecedor ou inferência em lote.

Formas de consultar um modelo

Início Rápido

Consulte um serviço modelo em dois passos:

Passo 1: Escolha um modelo

O Azure Databricks fornece modelos prontos a usar, como claude-sonnet-4-5 ou gpt-5-6-sol. Os modelos fornecidos pelo Azure Databricks estão registados no Unity Catalog sob system.ai.

Passo 2: Enviar um pedido usando a API unificada compatível com OpenAI

Utilize a API MLflow Chat Completions com o SDK de Python da OpenAI:

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,  # your personal access token
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"  # your Databricks workspace instance
)

chat_completion = client.chat.completions.create(
  messages=[
    {"role": "user", "content": "What is Databricks?"},
  ],
  model="system.ai.claude-sonnet-4-5",
  max_tokens=256
)

print(chat_completion.choices[0].message.content)

Requirements

• Um espaço de trabalho Azure Databricks numa região suportada pelo Unity Gateway.
• Unity Catalog ativado para o seu espaço de trabalho. Consulte Habilitar um espaço de trabalho para o Unity Catalog.
• Direito do espaço de trabalho a consultar: Acesso ao espaço de trabalho ou acesso do consumidor. Consulte Gerenciar permissões.

Serviços de modelo de consulta com APIs unificadas

As APIs unificadas oferecem uma interface compatível com OpenAI para consultar modelos no Azure Databricks. Use APIs unificadas para alternar facilmente entre modelos de diferentes fornecedores sem alterar o seu código.

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

response = client.responses.create(
  model="<model-service>",
  input=[{"role": "user", "content": "What is Databricks?"}]
)

print(response.output_text)

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-service>",
    "input": [
      {"role": "user", "content": "What is Databricks?"}
    ]
  }' \
  https://<workspace-url>/ai-gateway/mlflow/v1/responses

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

chat_completion = client.chat.completions.create(
  messages=[
    {"role": "user", "content": "Hello!"},
    {"role": "assistant", "content": "Hello! How can I assist you today?"},
    {"role": "user", "content": "What is Databricks?"},
  ],
  model="system.ai.gpt-5-6-sol",
  max_tokens=256
)

print(chat_completion.choices[0].message.content)

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gpt-5-6-sol",
    "max_tokens": 256,
    "messages": [
      {"role": "user", "content": "Hello!"},
      {"role": "assistant", "content": "Hello! How can I assist you today?"},
      {"role": "user", "content": "What is Databricks?"}
    ]
  }' \
  https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

embeddings = client.embeddings.create(
  input="What is Databricks?",
  model="<model-service>"
)

print(embeddings.data[0].embedding)

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-service>",
    "input": "What is Databricks?"
  }' \
  https://<workspace-url>/ai-gateway/mlflow/v1/embeddings

Consultar serviços de modelo com ai_query

Pode usar a ai_query função para consultar serviços de modelo diretamente a partir de SQL ou Python. Isto permite-lhe captar informação de rastreamento de utilização para as suas cargas de trabalho de inferência em lote.

Para consultar um serviço modelo com ai_query, executa ai_query contra um serviço modelo:

SELECT ai_query(
  'system.ai.claude-sonnet-4-5',
  'Summarize the following text: ' || text_column
) AS summary
FROM my_table
LIMIT 10

A tabela do sistema de rastreamento de utilização (system.ai_gateway.usage) captura pedidos feitos aos ai_query serviços do modelo. Estes pedidos também aparecem no painel de utilização incorporado.

Para sintaxe completa ai_query e referência de parâmetros, veja ai_query função. Para conhecer as melhores práticas e os modelos suportados, consulte Utilizar ai_query.

Limitations

• ai_queryo suporte para o Unity Gateway está disponível apenas para modelos fornecidos pelo Azure Databricks. Passe o nome do system.ai serviço modelo (por exemplo, system.ai.claude-sonnet-4-5 ou system.ai.gpt-5-6-sol). Os serviços modelo que crias no Unity Gateway ainda não são suportados.
• Apenas o rastreamento de utilização aplica-se a ai_query cargas de trabalho de inferência em lote. Outras funcionalidades do Unity Gateway, como limites de débito, restrições implementadas com políticas de serviço, tabelas de inferência e mecanismos de recurso, não se aplicam.

Consultar serviços de modelos com APIs nativas

As APIs nativas oferecem interfaces específicas de fornecedores para consultar modelos no Azure Databricks. Use APIs nativas para aceder às funcionalidades mais recentes específicas de cada fornecedor.

Cada API nativa funciona apenas com serviços de modelo cujo modelo subjacente utiliza o formato correspondente da API:

• Use a API OpenAI Responses para consultar serviços de modelos apoiados por modelos OpenAI (GPT).
• Utilize a API Messages da Anthropic para consultar serviços de modelos suportados pelos modelos Claude.
• Use a API do Google Gemini para consultar serviços de modelos apoiados por modelos Gemini.

Para consultar um serviço de modelo, independentemente do modelo em que assenta, utilize as APIs unificadas em alternativa.

Passos seguintes

• Descubra e regule o acesso a serviços modelo
• Integrar com agentes de codificação