Kom igång: Fråga LLM:er och prototypagenter utan kod

I den här självstudien om 5 minuter utan kod introduceras AI på Azure Databricks. Du använder AI Playground för att göra följande:

• Fråga efter stora språkmodeller (LLM) och jämför resultat sida vid sida
• Skapa en agent som kan anropa verktyg
• Exportera din agent till Databricks Apps eller till en notebook
• Valfritt: Prototypa en chatbot för frågesvar med generering förstärkt med hämtning (RAG)

Innan du börjar

Se till att din arbetsyta har åtkomst till följande:

• Grundmodeller.

• Unity Catalog.
• Anpassade agenter. Se Funktioner med begränsad regional tillgänglighet.

Steg 1: Fråga LLM:er med AI Playground

Använd AI Playground för att fråga LLM:er i ett chattgränssnitt.

1. På din arbetsyta väljer du Playground i det vänstra navigeringsfönstret under AI/ML.
2. Skriv en fråga som "Vad är RAG?"

Lägg till en ny LLM för att jämföra svar sida vid sida:

1. I det övre högra hörnet väljer du + för att lägga till en modell som jämförelse.
2. I det nya fönstret väljer du en annan modell med listruteväljaren.
3. Markera kryssrutorna Synkronisera för att synkronisera frågorna.
4. Prova en ny fråga, till exempel "Vad är ett sammansatt AI-system?" för att se de två svaren sida vid sida.

Fortsätt att testa och jämföra olika LLM:er så att du kan välja den bästa som ska användas för att skapa en agent.

Steg 2: Skapa en prototyp för en agent för verktygsanrop

Verktyg gör det möjligt för LLM:er att göra mer än att generera språk. Verktyg kan köra frågor mot externa data, köra kod och vidta andra åtgärder. AI Playground ger dig en möjlighet att bygga agentprogram som kan använda verktyg utan att behöva koda.

1. Från Playground väljer du en modell märkt Verktyg aktiverad.

   

2. Välj Verktyg>+ Lägg till verktyg och välj den inbyggda Unity Catalog-funktionen, system.ai.python_exec.

   Med den här funktionen kan din agent köra godtycklig Python-kod.

   

   Andra verktygsalternativ är:

   • UC-funktion: Välj en Unity Catalog-funktion som agenten ska använda.
   • Funktionsdefinition: Definiera en anpassad funktion som agenten ska anropa.
   • AI-sökning: Ange ett AI Search-index. Om din agent använder ett AI Search-index citerar svaret de källor som används.
   • MCP: Ange MCP-servrar som ska använda hanterade Databricks MCP-servrar eller externa MCP-servrar.

3. Ställ en fråga som handlar om att generera eller köra Python-kod. Du kan prova olika varianter av din uppmaningsformulering. Om du lägger till flera verktyg väljer LLM lämpligt verktyg för att generera ett svar.

   

Valfritt: Prototyp av en RAG-robot med frågesvar

Om du har konfigurerat ett AI Search-index på din arbetsyta kan du skapa en robot för frågesvar. Den här typen av agent använder dokument i ett AI Search-index för att besvara frågor baserat på dessa dokument.

1. Klicka på Verktyg>+ Lägg till verktyg. Välj sedan ditt AI Search-index.

   

2. Ställ en fråga som rör dina dokument. Agenten kan använda indexet för att söka efter relevant information och citera alla dokument som används i svaret.

   

Information om hur du konfigurerar ett AI Search-index finns i Skapa ett AI Search-index.

Steg 3: Exportera din agent

När du har testat din agent i AI Playground exporterar du den så att du kan distribuera, utvärdera och iterera den utanför Playground. AI Playground erbjuder två exportvägar:

• Exportera till Databricks Apps (rekommenderas): Installerar en distribuerad agentapp från mallen agent-openai-agents-sdk , inklusive ett inbyggt chattgränssnitt, MCP-verktygskopplingar och autentisering. Välj det här alternativet för nya agenter.
• Skapa agentanteckningsbok (äldre): Genererar en Python notebook-fil som definierar agenten och distribuerar den till en modellserverslutpunkt. Välj den här sökvägen om Databricks-appar inte är tillgängliga i din arbetsyta eller region.

Exportera till appar (rekommenderas)

Alternativet Exportera till Databricks-appar genererar en distribuerad agentapp som är redo att chatta med. Appen använder samma modell, systemprompt och verktyg (inklusive MCP-servrar och vektorsökning) som du konfigurerade i Playground.

Kontrollera att arbetsytan uppfyller följande krav innan du exporterar:

• Databricks-appar måste vara aktiverade på din arbetsyta. Se Konfigurera din Databricks Apps-arbetsyta och utvecklingsmiljö.
• Slutpunkten som valts i steg 2 måste ha stöd för verktyg.
• Förhandsversionen av hanterade MCP-servrar måste vara aktiverad på din arbetsyta. Se Hantera förhandsversioner av Azure Databricks.

Så här exporterar du agenten:

1. I Playground klickar du på Hämta kod>Exportera till Databricks-appar.

2. I dialogrutan Exportera till Databricks-appar anger du följande:

   • Appnamn: Ett unikt namn som börjar med agent- och endast innehåller gemener, siffror och bindestreck (till exempel agent-research-assistant).
   • Appbeskrivning: En kort beskrivning av vad agenten gör.
   • MLflow-experiment: Välj ett befintligt MLflow-experiment som ska användas för spårning och utvärdering eller skapa ett nytt.

3. Klicka på Exportera. Azure Databricks gör följande:

   1. Verifierar att appnamnet är tillgängligt.
   2. Installerar mallen agent-openai-agents-sdk på din arbetsyta och ger appen behörighet för de resurser den behöver. Dessa resurser omfattar MLflow-experimentet, serverslutpunkten och alla MCP-servrar, Unity Catalog-funktioner, Genie-agenter eller vektorsökningsindex som du har lagt till som verktyg.
   3. Genererar agent_server/agent.py från din Playground-konfiguration så att den driftsatta agenten motsvarar det du har testat.

4. När dialogrutan som visar att åtgärden lyckades visas klickar du på Visa agent för att öppna den driftsatta appen och chatta med den via det inbyggda användargränssnittet.

Om du vill anpassa agentkoden, konfigurera autentisering, lägga till utvärdering eller omdistribuera med Databricks Asset Bundles (DAB), se Skapa en agent och distribuera den i Databricks-appar.

Skapa agentanteckningsbok (äldre)

När du har testat din agent i AI Playground klickar du på Hämta kod>Skapa agentanteckningsbok för att exportera din agent till en Python-notebook-fil.

När du har exporterat agentkoden sparar Azure Databricks en mapp med en drivrutinsanteckningsbok till din arbetsyta. Den här drivrutinen definierar ett verktyg som anropar ResponsesAgent, testar agenten lokalt, använder kodbaserad loggning, registrerar och distribuerar agenten med hjälp av anpassade agenter.

Nästa steg

Information om hur du skapar agenter med hjälp av en kod först-metod finns i Redigera en agent och distribuera den i Databricks-appar.