Begrepp: AI på Azure Databricks

En AI-app är ett program som använder AI-modeller (till exempel stora språkmodeller, bildgenereringsmodeller och text-till-tal-modeller) för att skapa nya utdata, automatisera komplexa uppgifter eller delta i intelligenta interaktioner baserat på användarindata.

En AI-app kan drivas av enkla anrop till LLM:er eller andra AI-modeller eller av komplexa agenter. Läs mer om komplexitetsnivåer.

Agenter, verktyg, utvärdering, modeller och andra aspekter av AI-appar kan anpassas med dina egna data. Den här datadrivna anpassningen leder till dataintelligens, så att du kan gå längre än den allmänna intelligens som erbjuds av konserverade AI-modeller.

AI-applikationer

Ett användaranslutet AI-program kan ta många former, till exempel:

Framgång med AI-program kräver ofta två uppsättningar kunskaper: programutveckling och AI-utvärdering. AI-apputveckling är ungefär som att utveckla icke-AI-program, vilket kräver programvarukunskaper som är beroende av typen av program. Utvärdering för AI-program kräver dock särskilda verktyg och tekniker för att hantera komplexiteten och öppna svar från AI.

Mer information om hur du skapar branschspecifika AI-appar på Azure Databricks finns i:

AI-utvärdering

AI-modeller, agenter och program har ofta komplexa, öppna beteenden. Användare kan få ange valfri fråga. En agent kan tillåtas att inhämta text, bilder med mera under körning. Utdata kan vara godtycklig text, bilder eller andra medier, och det kan finnas många "bra" svar.

Dessa komplikationer gör det svårt att utvärdera AI. Korrekt utvärdering kräver:

  • Automatisering med AI för att utvärdera AI
  • Mänsklig feedback från experter och användare för att samla in grundsanning och kalibrera automatiserad utvärdering
  • Djupdykning i komplexa agenter för att förstå och felsöka beteende

Azure Databricks hanterad MLflow och relaterade verktyg utgör grunden för AI-utvärdering:

Agenter

Ett agent- eller agentsystem är ett AI-drivet system som självständigt kan uppfatta, bestämma och agera i en miljö för att uppnå mål. Till skillnad från en fristående AI-modell som bara genererar utdata när du uppmanas till det, har ett agentsystem en viss grad av agentur. Moderna agenter använder en AI-modell som "hjärnan" i ett system som:

  1. Tar emot användarförfrågningar eller meddelanden från en annan agent.
  2. Orsaker till hur du fortsätter: vilka data som ska hämtas, vilken logik som ska tillämpas, vilka verktyg som ska anropas eller om du vill begära mer indata från användaren.
  3. Utför en plan och anropar eventuellt flera verktyg eller delegerar till underagenter.
  4. Returnerar ett svar eller uppmanar användaren att göra ytterligare förtydliganden.

Genom att överbrygga allmän intelligens (AI-modellens förträngda funktioner) och dataintelligens (de specialiserade kunskaper och API:er som är specifika för ditt företag) möjliggör agentsystem högpresterande användningsfall för företag, till exempel avancerade kundtjänstflöden, datarika analysrobotar och orkestrering med flera agenter för komplexa operativa uppgifter.

Det finns ett kontinuum från enkla AI-modeller till komplexa agenter. Mer information finns i Designmönster för agentsystem.

Azure Databricks innehåller en rad alternativ för byggagenter, från helt guidad till helt anpassad:

  • AI Playground tillhandahåller ett användargränssnitt för prototyper av verktygssamtalsagenter, från vilka du kan exportera genererad agentkod.
  • Med anpassade agenter kan du skapa och distribuera agenter med anpassad kod eller redigeringsbibliotek för tredjepartsagenter.

Verktyg

Agenter kan anropa verktyg för att samla in information eller utföra åtgärder. Verktyg är funktioner för enkel interaktion som en LLM kan anropa för att utföra en väldefinierad uppgift. AI-modellen genererar vanligtvis parametrar för varje verktygsanrop, och verktyget ger en enkel interaktion med indatautdata.

Vanliga verktygskategorier är:

  • verktyg som hämtar eller analyserar data
    • Semantisk hämtning: Fråga ett vektorindex för att hitta relevant text eller andra ostrukturerade data.
    • Strukturerad hämtning: Kör SQL-frågor eller använd API:er för att hämta strukturerad information.
    • Webbsökningsverktyg: Sök på Internet eller en intern webbkorus.
    • Klassiska ML-modeller: Anropa maskininlärningsmodeller för att utföra klassificering, regression eller andra förutsägelser.
    • AI-modeller: Generera specialiserade utdata som kod eller bilder.
  • verktyg som ändrar tillståndet för ett externt system
    • API-anrop: Anropa CRM-slutpunkter, interna tjänster eller andra integreringar från tredje part.
    • Integrering av e-post- eller meddelandeapp: Publicera ett meddelande eller skicka ett meddelande.
  • Verktyg som kör logik eller utför en specifik uppgift
    • Kodkörning: Kör användarlevererad eller LLM-genererad kod i en sandbox-miljö.

Verktyg kan byggas in i agentisk logik eller nås med hjälp av standardiserade gränssnitt som MCP.

Verktyg jämfört med agenter:

  • Verktyg utför en enda, väldefinierad åtgärd. Agenter kan utföra mer öppna uppgifter.
  • Verktyg är i allmänhet tillståndslösa och upprätthåller inte löpande kontext utöver varje anrop. Agenter bevarar tillståndet när de iterativt löser uppgifter.

Verktygsfelhantering och säkerhet:

Eftersom varje verktygsanrop är en extern åtgärd, till exempel ett API-anrop, bör systemet hantera fel på ett korrekt sätt. Tidsgränser, felaktiga svar eller ogiltiga indata bör inte leda till att själva agenten misslyckas helt. I produktion begränsar du antalet tillåtna verktygsanrop, har ett återställningssvar om verktygsanrop misslyckas och tillämpar skyddsräcken för att säkerställa att agentsystemet inte upprepade gånger försöker utföra samma misslyckade åtgärd.

Läs mer om AI-verktyg i Databricks:

AI-modeller och LLM:er

Stora språkmodeller (LLM) är AI-modeller som tränats på massiva textdatauppsättningar som kan förstå, generera och resonera om mänskligt språk. LLMs driver applikationer som chattrobotar, kodassistenter och verktyg för innehållsgenerering genom att förutsäga och producera kontextuellt relevant text baserat på en indataprompt.

Mer allmänt tränas AI-modeller eller grundmodeller på massiv text, bild, video, ljud eller andra data för att lära sig mer om lägen bortom text. Multimodala modeller lär sig att ansluta mänskligt språk till bilder, ljud och andra medier. LLM:er är en typ av AI eller grundmodell, även om dessa termer ofta används löst och utbytbart.

AI-modeller tillhandahåller intelligensen bakom agenter och appar. Enkla appar skapas ofta med hjälp av en enda modell som anpassas med promptteknik.

Lär dig mer om att använda AI-modeller på Azure Databricks:

Promptteknik

AI-modeller tar vanligtvis emot promptar, eller instruktioner som talar om för modellen hur den ska hantera indata från användaren. Frågor kan anpassas mycket med detaljerade steg, expertkunskaper, data och annan information.

Azure Databricks tillhandahåller flexibla sätt för prompt engineering. Ett exempel:

  • Kunskapsassistenten automatiserar stimulusteknik i bakgrunden baserat på dina data och feedback.

Finjusteringsmodeller

AI-modeller kan också anpassas genom finjustering, vilket anpassar en modell för en specifik domän eller ett visst program med dina anpassade data.

Azure Databricks tillhandahåller flexibla sätt att finjustera modeller. Ett exempel:

  • Kunskapsassistenten automatiserar datadriven anpassning med potential att finjustera under huven.
  • AI Runtime tillhandahåller beräkningsinfrastruktur för helt anpassningsbar finjustering. Se exempel.

Vad är en AI-plattform?

AI kräver en kombinerad data + AI-plattform. För både utvecklare och administratörer måste viktiga komponenter för AI anslutas och styras på en enkel, enhetlig plattform.

Viktiga komponenter är:

  • AI-tillgångar som modeller, agenter och appar
  • Datatillgångar som filer, tabeller, bearbetningspipelines, vektorindex och funktionslager
  • AI-implementeringar såsom slutpunkter för modeller och agenter
  • Verktyg för att skapa och distribuera AI och datatillgångar

Viktiga styrningsfunktioner är:

Se även Azure Databricks AI-funktioner och Databricks-arkitektur.

Allmän intelligens jämfört med dataintelligens

Diagram som jämför allmän intelligens jämfört med dataintelligens.

  • Allmän intelligens refererar till vad LLM i sig vet från bred förträning på olika text. Detta är användbart för flyt i språket och allmänna resonemang.
  • Dataintelligens refererar till organisationens domänspecifika data och API:er. Detta kan omfatta kundposter, produktinformation, kunskapsbaser eller dokument som återspeglar din unika affärsmiljö.

Agentsystem blandar dessa två kunskapskällor: De börjar med en LLM:s breda, allmänna kunskap och tar sedan in realtids- eller domänspecifika data för att besvara detaljerade frågor eller utföra specialiserade åtgärder. Med Azure Databricks kan du bädda in dataintelligens i dina AI-appar på alla nivåer:

AI jämfört med ML jämfört med djupinlärning

Gränserna mellan AI, maskininlärning (ML) och djupinlärning (DL) kan vara suddiga. Den här guiden fokuserar på AI, men följande Databricks-plattformsfunktioner stöder ML, djupinlärning och AI:

  • MLflow-experimentspårning kan användas för att spåra både klassiska ML- och AI-experiment och körningar.
  • Databricks Feature Store kan användas för att hantera och tillhandahålla strukturerade data för både klassisk maskininlärning och AI.

Ytterligare resurser

  • Last updated on