Aan de slag: LLM's bevragen en prototype-agents maken zonder code

In deze zelfstudie van 5 minuten zonder code maakt u kennis met AI op Azure Databricks. U gebruikt de AI Playground om het volgende te doen:

• Query's uitvoeren op grote taalmodellen (LLM's) en resultaten naast elkaar vergelijken
• Een prototype bouwen van een agent die tools aanroept
• Uw agent exporteren naar Databricks-apps of naar een notebook
• Optioneel: Prototype maken van een vraag-antwoord chatbot met behulp van retrieval-augmented generation (RAG)

Voordat u begint

Zorg ervoor dat uw werkruimte toegang heeft tot het volgende:

• Foundation-modellen.

• Unity Catalogus.
• Aangepaste agents. Zie Functies met beperkte regionale beschikbaarheid.

Stap 1: Queryen van LLM's met AI Playground

Gebruik de AI Playground om query's uit te voeren op LLM's in een chatinterface.

1. Selecteer In uw werkruimte Playground in het linkernavigatiedeelvenster onder AI/ML.
2. Typ een vraag zoals 'Wat is RAG?'

Voeg een nieuwe LLM toe om antwoorden naast elkaar te vergelijken:

1. Selecteer + rechtsboven om een model voor vergelijking toe te voegen.
2. Selecteer in het nieuwe deelvenster een ander model met behulp van de vervolgkeuzelijstkiezer.
3. Schakel de selectievakjes Synchroniseren in om de query's te synchroniseren.
4. Probeer een nieuwe prompt, zoals 'Wat is een samengesteld AI-systeem?' om de twee antwoorden naast elkaar te zien.

Blijf testen en vergelijken met verschillende LLM's om u te helpen bepalen wat het beste is om een agent te bouwen.

Stap 2: een prototype maken van een agent voor het aanroepen van hulpprogramma's

Met hulpprogramma's kunnen LLM's meer doen dan taal genereren. Hulpprogramma's kunnen externe gegevens opvragen, code uitvoeren en andere acties uitvoeren. AI Playground biedt u een optie zonder code voor het prototype van agents voor het aanroepen van hulpprogramma's:

1. Kies in Playground een model met het label Tools ingeschakeld.

   

2. Selecteer Hulpprogramma's>+ Hulpprogramma toevoegen en selecteer de ingebouwde Unity Catalog-functie, system.ai.python_exec.

   Met deze functie kan uw agent willekeurige Python-code uitvoeren.

   

   Andere hulpprogrammaopties zijn:

   • UC-functie: Selecteer een Unity Catalog-functie die door uw agent moet worden gebruikt.
   • Functiedefinitie: Definieer een aangepaste functie die uw agent moet aanroepen.
   • AI Search: geef een AI Search-index op. Als uw agent gebruikmaakt van een AI Search-index, worden de gebruikte bronnen in het antwoord ervan weergegeven.
   • MCP: Geef MCP-servers op voor het gebruik van beheerde Databricks MCP-servers of externe MCP-servers.

3. Stel een vraag waarbij Python-code wordt gegenereerd of uitgevoerd. U kunt verschillende variaties op uw promptformulering proberen. Als u meerdere hulpprogramma's toevoegt, selecteert de LLM het juiste hulpprogramma om een antwoord te genereren.

   

Optioneel: Prototype maken van een RAG-vraag-antwoordbot

Als u een AI Search-index hebt ingesteld in uw werkruimte, kunt u een prototype maken van een vraag-antwoordbot. Dit type agent gebruikt documenten in een AI Search-index om vragen op basis van deze documenten te beantwoorden.

1. Klik op Hulpprogramma's>+ hulpprogramma toevoegen. Selecteer vervolgens uw AI Search-index.

   

2. Stel een vraag met betrekking tot uw documenten. De agent kan de index gebruiken om relevante informatie op te zoeken en citeert alle documenten die in het antwoord worden gebruikt.

   

Zie Een AI Search-index maken om een AI Search-index in te stellen.

Stap 3: Uw agent exporteren

Nadat u uw agent in AI Playground hebt getest, exporteert u deze zodat u deze buiten de speeltuin kunt implementeren, evalueren en herhalen. AI Playground biedt twee exportpaden:

• Exporteren naar Databricks-apps (aanbevolen): hiermee installeert u een implementeerbare agent-app vanuit de agent-openai-agents-sdk sjabloon, waaronder een ingebouwde chatinterface, MCP-hulpprogramma bedrading en verificatie. Kies dit pad voor nieuwe agents.
• Create agent notebook (verouderd): genereert een Python notebook waarmee de agent wordt gedefinieerd en geïmplementeerd in een Model Serving-eindpunt. Kies dit pad als Databricks Apps niet beschikbaar is in uw werkruimte of regio.

Exporteren naar apps (aanbevolen)

Met de optie Exporteren naar Databricks-apps wordt een geïmplementeerde agent-app gegenereerd waarmee u kunt chatten. De app maakt gebruik van hetzelfde model, dezelfde systeemprompt en hulpprogramma's (inclusief MCP-servers en vectorzoekopdrachten) die u hebt geconfigureerd in de Playground.

Voordat u exporteert, moet u ervoor zorgen dat uw werkruimte voldoet aan de volgende vereisten:

• Databricks Apps moeten ingeschakeld zijn in uw werkruimte. Zie Uw Databricks Apps-werkruimte en -ontwikkelomgeving instellen.
• Het eindpunt dat in stap 2 is geselecteerd, moet hulpprogramma's ondersteunen.
• De preview-versie van beheerde MCP-servers moet zijn ingeschakeld in uw werkruimte. Zie Azure Databricks previews beheren.

De agent exporteren:

1. Klik in de Playground op Code ophalen>Exporteren naar Databricks-apps.

2. Stel in het dialoogvenster Exporteren naar Databricks-apps het volgende in:

   • App-naam: Een unieke naam die begint met agent- en alleen kleine letters, cijfers en afbreekstreepjes bevat (bijvoorbeeld agent-research-assistant).
   • App-beschrijving: Een korte beschrijving van wat de agent doet.
   • MLflow-experiment: selecteer een bestaand MLflow-experiment dat u wilt gebruiken voor tracering en evaluatie of maak een nieuw experiment.

3. Klik op Exporteren. Azure Databricks doet het volgende:

   1. Valideert of de naam van de app beschikbaar is.
   2. Installeert het agent-openai-agents-sdk-sjabloon in uw werkruimte en verleent de app de machtigingen voor de resources die deze nodig heeft. Deze resources omvatten het MLflow-experiment, het leveren van eindpunten en eventuele MCP-servers, Unity Catalog-functies, Genie Agents of vectorzoekindexen die u als hulpprogramma's hebt toegevoegd.
   3. Hiermee wordt agent_server/agent.py gegenereerd vanuit uw Playground-configuratie, zodat de geïmplementeerde agent overeenkomt met wat u hebt getest.

4. Wanneer het dialoogvenster voor succes wordt weergegeven, klikt u op Agent weergeven om de geïmplementeerde app te openen en chatten met behulp van de ingebouwde gebruikersinterface.

Als u de agentcode wilt aanpassen, verificatie wilt configureren, evaluatie wilt toevoegen of opnieuw wilt implementeren met Databricks Asset Bundles (DABs), raadpleegt u Een agent ontwerpen en implementeren in Databricks Apps.

Notitieblok voor agents maken (verouderd)

Nadat u de agent in AI Playground hebt getest, klikt u op Code ophalen>Agentnotebook maken om uw agent te exporteren naar een Python-notebook.

Nadat u de agentcode hebt geëxporteerd, slaat Azure Databricks een map met een stuurprogrammanotitieblok op in uw werkruimte. Dit stuurprogramma definieert een tool-aanroepende ResponseAgent, test de agent lokaal, maakt gebruik van logboekregistratie op basis van code, registreert en implementeert de agent met behulp van aangepaste agents.

Volgende stappen

Zie Een agent ontwerpen en implementeren in Databricks-apps om agents te ontwerpen met behulp van een code-first benadering.