Transformeer ongestructureerde data met behulp van AI-functies

AI-functies zijn ingebouwde functies die je kunt gebruiken om LLM's of geavanceerde onderzoekstechnieken toe te passen op data die op Azure Databricks is opgeslagen voor datatransformatie en analyse. Ze kunnen worden uitgevoerd vanuit Databricks SQL, notebooks, Lakeflow-pijplijnen en werkstromen.

AI-functies zijn eenvoudig te gebruiken, snel en schaalbaar. Analisten kunnen ze gebruiken om gegevensinformatie toe te passen op hun eigen gegevens, terwijl data engineers, gegevenswetenschappers en machine learning-engineers ze kunnen gebruiken om batchpijplijnen op productieniveau te bouwen.

Wanneer je een AI-functie aanroept, draait je query op de compute waar je het vanaf indient, zoals een SQL-warehouse, notebook, cluster of pipeline. Afhankelijk van de functie kan de modelinferentie draaien op een aparte, door Databricks beheerde infrastructuur die naast die rekenkracht wordt gefactureerd. Zie Bekijk kosten voor AI-functie-workloads.

Requirements

• AI-functies zijn niet beschikbaar op Classic SQL-warehouses.
• Databricks Runtime 15.4 LTS of hoger is vereist. Databricks Runtime 18.2 of hoger wordt aanbevolen voor de beste prestaties en toegang tot de nieuwste functies.

Taakspecifiek en algemeen gebruik

AI-functies hebben taakspecifieke en algemene functies:

• Taakspecifieke AI-functies : speciaal gebouwde functies die zijn geoptimaliseerd voor een specifieke taak, zoals documentparsering, entiteitextractie, classificatie en sentimentanalyse. Deze functies worden mogelijk gemaakt door Azure Databricks-beheerde systemen die zijn ondersteund door onderzoek. Sommige functies omvatten UI-ervaringen. Zie taakspecifieke AI-functies voor ondersteunde functies en modellen.
• ai_query — De algemene functie voor taak- en modelflexibiliteit. Geef een prompt op en kies een ondersteunde Foundation Model-API. Zie Gebruik ai_query.

Als u wilt beperken tot welke taakspecifieke AI-functies uw organisatie toegang heeft, raadpleegt u machtigingen voor AI Functions Unity Catalog.

taakspecifieke AI-functies

Taakspecifieke functies zijn gericht op een bepaalde taak, zodat u routinetransformaties kunt automatiseren, zoals entiteitextractie, vertaling en classificatie. Databricks raadt deze functies aan om aan de slag te gaan, omdat ze een geavanceerde onderzoekstechnieken aanroepen die worden onderhouden door Databricks en geen aanpassingen vereisen.

Zie Klantbeoordelingen analyseren met BEHULP van AI Functions voor een voorbeeld.

De volgende functies zijn gegroepeerd op taak.

Intelligente documentverwerking:

Tekst transformeren:

Tekst analyseren:

Inhoud genereren. Zie Use ai_queryvoor aangepaste prompts of een specifiek model:

Tijdreeks voorspellen:

Metrische wijzigingen analyseren:

Zoeken met AI Search-insluitingen:

AI-functies gebruiken in productiewerkstromen

Voor grootschalige batchdeductie kunt u taakspecifieke AI-functies of de functie ai_query voor algemeen gebruik integreren in uw productiewerkstromen, zoals Lakeflow-pijplijnen, Databricks-werkstromen en Gestructureerd streamen. Dit maakt verwerking op schaal mogelijk op productieniveau.

Aanbevolen procedures voor AI-functies in productie:

Laat AI-functies uw workload op schaal afhandelen: AI Functions beheert automatisch parallelle uitvoering, nieuwe pogingen en schaalaanpassing. Het is raadzaam om uw volledige gegevensset in één query in te dienen in plaats van deze handmatig te splitsen in kleine batches. Prestaties kunnen mogelijk niet lineair worden geschaald van zeer kleine workloads naar grootschalige workloads.

Databricks-gehoste basismodellen gebruiken: Wanneer u de ai_query AI-functie gebruikt, gebruikt u door Databricks gehoste basismodellen (voorafgegaan door Databricks-), geen ingerichte doorvoer. Deze inrichtingsloze eindpunten worden volledig beheerd en werken het beste voor batchverwerking.

Zie Batch-inferentie-pijplijnen implementeren voor voorbeelden en details.

Voortgang van AI-functies bewaken

Als u wilt weten hoeveel deducties zijn voltooid of mislukt en prestatieproblemen hebben opgelost, kunt u de voortgang van AI-functies bewaken met behulp van de functie queryprofiel.

In Databricks Runtime 16.1 ML en hoger, vanuit het queryvenster van de SQL-editor in uw werkruimte:

1. Selecteer de koppeling, Wordt uitgevoerd--- onderaan het venster Onbewerkte resultaten . Het prestatievenster wordt rechts weergegeven.
2. Klik op Queryprofiel weergeven om prestatiedetails weer te geven.
3. Klik op AI-query om metrische gegevens voor die specifieke query weer te geven, inclusief het aantal voltooide en mislukte deducties en de totale tijd die de aanvraag heeft geduurd.

Kosten voor AI-functieworkloads weergeven

De compute die je query uitvoert, wordt altijd gefactureerd, bijvoorbeeld een SQL-warehouse of jobcluster. Of er een extra modelinferentiekosten zijn, hangt af van de functie:

• Taakspecifieke functies (bijvoorbeeld ai_classify, ai_summarize, ) ai_translatevoeren inferentie uit op door Databricks beheerde serverloze GPU-infrastructuur via Model Serving. Je richt deze infrastructuur niet zelf in, maar er worden wel kosten voor in rekening gebracht boven op de rekenkracht voor query’s.
• ai_query wordt gefactureerd voor het Model Serving eindpunt dat je aangeeft. Door Databricks gehoste endpoints voor foundation models worden op dezelfde manier gefactureerd als taakspecifieke functies; endpoints voor aangepaste modellen en provisioned throughput draaien op hun eigen toegewezen rekencapaciteit voor modelserving en worden dienovereenkomstig gefactureerd.
• ai_forecast en ai_top_drivers draaien volledig op de compute van waaruit je ze indient, zonder aparte inferentiekosten.
• vector_search zoekt je AI Search index via de door Databricks beheerde AI Search service.

De kosten van ai-functies worden vastgelegd als onderdeel van het MODEL_SERVING product onder het BATCH_INFERENCE aanbiedingstype. Zie Bekijk kosten voor batch-inferentieworkloads voor een voorbeeldquery.

Kosten voor batch-inferentieworkloads weergeven

In de volgende voorbeelden ziet u hoe u batch-inferentieworkloads kunt filteren op basis van taken, compute, SQL-warehouses en Lakeflow-pijplijnen.

Zie Monitor kosten van modelbediening voor algemene voorbeelden van hoe u kosten kunt bekijken voor uw batch-inference workloads die gebruikmaken van AI Functions.

Jobs

De volgende query laat zien welke taken worden gebruikt voor batch-inferentie met behulp van de system.workflow.jobs systeemtabel. Zie Taakkosten en prestaties bewaken met systeemtabellen.

SELECT *
FROM system.billing.usage u
  JOIN system.workflow.jobs x
    ON u.workspace_id = x.workspace_id
    AND u.usage_metadata.job_id = x.job_id
  WHERE u.usage_metadata.workspace_id = <workspace_id>
    AND u.billing_origin_product = "MODEL_SERVING"
    AND u.product_features.model_serving.offering_type = "BATCH_INFERENCE";

Compute

Hieronder ziet u welke clusters worden gebruikt voor batchdeductie met behulp van de system.compute.clusters systeemtabel.

SELECT *
FROM system.billing.usage u
  JOIN system.compute.clusters x
    ON u.workspace_id = x.workspace_id
    AND u.usage_metadata.cluster_id = x.cluster_id
  WHERE u.usage_metadata.workspace_id = <workspace_id>
    AND u.billing_origin_product = "MODEL_SERVING"
    AND u.product_features.model_serving.offering_type = "BATCH_INFERENCE";

Declaratieve Pijplijnen van Lakeflow Spark

Hieronder ziet u welke Lakeflow-pijplijnen worden gebruikt voor batchinferentie met behulp van de systeemtabel system.lakeflow.pipelines.

SELECT *
FROM system.billing.usage u
  JOIN system.lakeflow.pipelines x
    ON u.workspace_id = x.workspace_id
    AND u.usage_metadata.dlt_pipeline_id = x.pipeline_id
  WHERE u.usage_metadata.workspace_id = <workspace_id>
    AND u.billing_origin_product = "MODEL_SERVING"
    AND u.product_features.model_serving.offering_type = "BATCH_INFERENCE";

SQL Warehouse

Hieronder ziet u welke SQL-warehouses worden gebruikt voor batchdeductie met behulp van de system.compute.warehouses systeemtabel.

SELECT *
FROM system.billing.usage u
  JOIN system.compute.clusters x
    ON u.workspace_id = x.workspace_id
    AND u.usage_metadata.cluster_id = x.cluster_id
  WHERE u.workspace_id = <workspace_id>
    AND u.billing_origin_product = "MODEL_SERVING"
    AND u.product_features.model_serving.offering_type = "BATCH_INFERENCE";

Kosten voor ai_parse_document uitvoeringen weergeven

In het volgende voorbeeld ziet u hoe u query's kunt uitvoeren op factureringssysteemtabellen om de kosten voor ai_parse_document uitvoeringen weer te geven.

SELECT *
FROM system.billing.usage u
WHERE u.workspace_id = <workspace_id>
  AND u.billing_origin_product = "AI_FUNCTIONS"
  AND u.product_features.ai_functions.ai_function = "AI_PARSE_DOCUMENT";