Rozmowa z maszynami LLM i prototypowymi aplikacjami sztucznej inteligencji przy użyciu platformy AI Playground

Warning

Budowanie agentów w AI Playground to starsze rozwiązanie. Aby budować i testować agentów, użyj CLI Agent Bricks i uruchom agenta lokalnie za pomocą agentbricks dev. Aby wysyłać zapytania do modeli z poziomu kodu, zobacz Wysyłanie zapytań do modeli podstawowych i modeli osadzania.

Plac zabaw dla sztucznej inteligencji to środowisko czatu dla dużych modeli językowych (LLMs). Na placu zabaw możesz interaktywnie testować, monitować i porównywać maszyny LLM, a także prototypowych agentów wywołujących narzędzia i botów odpowiedzi na pytania.

Wymagania

  • Unity Catalog, aby dodać funkcje Unity Catalog jako narzędzia, na przykład wbudowaną funkcję system.ai.python_exec.

Uwaga

Jeśli Playground nie jest dostępny w obszarze roboczym, skontaktuj się z zespołem Databricks po więcej informacji.

Korzystanie ze środowiska zabaw dla sztucznej inteligencji

Aby użyć środowiska zabaw dla sztucznej inteligencji:

  1. Wybierz pozycję Plac zabaw w okienku nawigacji po lewej stronie w obszarze Sztuczna inteligencja/uczenie maszynowe.
  2. Wybierz model, z którym chcesz korzystać, korzystając z listy rozwijanej u góry.
  3. Możesz wykonać jedną z następujących czynności:
    1. Wpisz pytanie lub monit.
    2. Wybierz przykładową instrukcję sztucznej inteligencji z tych wymienionych w oknie.
  4. Możesz wybrać +, aby dodać punkt końcowy. Dzięki temu można porównać wiele odpowiedzi modelu obok siebie.

AI Playground

Aby zapytać usługi modelu Unity Gateway w Playground i zobaczyć, jak funkcje bramy odnoszą się do Twoich żądań, zobacz Query model services in AI Playground.

Prototypowi agenci sztucznej inteligencji na placu zabaw dla sztucznej inteligencji

Aby zbudować agenta w kodzie i go wdrożyć, Databricks zaleca CLI Agent Bricks. Zobacz krótki przewodnik po Agent Bricks. Aby wypróbować narzędzia i wyszukiwanie bez kodu, skorzystaj z poniższych kroków w AI Playground.

Stwórz prototyp agenta korzystającego z narzędzi

Narzędzia umożliwiają programom LLM wykonywanie więcej niż generowanie języka. Narzędzia mogą wykonywać zapytania dotyczące danych zewnętrznych, uruchamiać kod i wykonywać inne akcje. Środowisko zabaw dla sztucznej inteligencji oferuje opcję braku kodu do prototypowania agentów wywołujących narzędzia:

  1. W Playground wybierz model oznaczony etykietą Narzędzia włączone.

    Wybierz LLM wywołujący narzędzia

  2. Wybierz pozycję Narzędzia>+ Dodaj narzędzie i wybierz wbudowaną funkcję Katalogu Unity. system.ai.python_exec

    Ta funkcja umożliwia agentowi uruchamianie dowolnego kodu w języku Python.

    Wybierz narzędzie hostowanej funkcji

    Inne opcje narzędzi to:

    • Funkcja Unity Catalog: Wybierz funkcję Unity Catalog, której ma używać Twój agent.
    • Definicja funkcji: Zdefiniuj niestandardową funkcję, którą agent ma wywołać.
    • Wyszukiwanie AI: Określ indeks wyszukiwania AI. Jeśli Twój agent korzysta z indeksu wyszukiwania AI, jego odpowiedź cytuje użyte źródła.
    • MCP: Określ serwery Model Context Protocol (MCP) do korzystania z zarządzanych serwerów MCP Databricks lub zewnętrznych serwerów MCP.
  3. Zadaj pytanie, które obejmuje generowanie lub uruchamianie kodu w języku Python. Możesz wypróbować różne odmiany fraz zapytania. Jeśli dodasz wiele narzędzi, usługa LLM wybierze odpowiednie narzędzie, aby wygenerować odpowiedź.

    Prototypuj LLM z hostowanym narzędziem funkcji

Stwórz prototyp bota RAG odpowiadającego na pytania

Jeśli w swoim obszarze roboczym masz skonfigurowany indeks AI Search, możesz stworzyć prototyp bota do odpowiadania na pytania z wykorzystaniem generowania wspomaganego wyszukiwaniem (RAG). Ten typ agenta używa dokumentów w indeksie wyszukiwania sztucznej inteligencji do odpowiadania na pytania na podstawie tych dokumentów.

  1. Kliknij pozycję Narzędzia>+ Dodaj narzędzie. Następnie wybierz indeks wyszukiwania sztucznej inteligencji.

    Wybierz narzędzie wyszukiwania AI

  2. Zadaj pytanie związane z dokumentami. Agent może użyć indeksu do wyszukiwania istotnych informacji i cytuje wszelkie dokumenty wykorzystane w swojej odpowiedzi.

    Prototypuj LLM za pomocą narzędzia AI Search

Aby skonfigurować indeks wyszukiwania sztucznej inteligencji, zobacz Tworzenie indeksu wyszukiwania sztucznej inteligencji.

Eksportuj swojego agenta

Po przetestowaniu agenta na placu zabaw dla sztucznej inteligencji wyeksportuj go, aby można było go wdrożyć, ocenić i wykonać iterację poza placem zabaw. AI Playground oferuje dwie ścieżki eksportu:

  • Eksport do Databricks Apps (zalecane): Instaluje aplikację agenta z szablonu agent-openai-agents-sdk, w tym wbudowany interfejs czatu, okablowanie narzędzi MCP oraz uwierzytelnianie. Wybierz tę ścieżkę dla nowych agentów.
  • Utworzenie notatnika agenta (legacy): Generuje notatnik w Python, który definiuje agenta i wdraża go na endpoint obsługującym modele. Wybierz tę ścieżkę, jeśli usługa Databricks Apps nie jest dostępna w obszarze roboczym lub regionie.

Opcja Eksportuj do Databricks Apps generuje wdrożoną aplikację agenta gotową do czatowania. Aplikacja korzysta z tego samego modelu, promptu systemowego i narzędzi (w tym serwerów MCP i indeksów wyszukiwania AI), które skonfigurowałeś w Playground.

Przed wyeksportowaniem upewnij się, że obszar roboczy spełnia następujące wymagania:

Aby wyeksportować agenta:

  1. W Playground kliknij pozycję Pobierz kod>Eksportuj do Databricks Apps.

  2. W oknie dialogowym Eksport do Databricks Apps ustaw następujące opcje:

    • Nazwa aplikacji: Unikalna nazwa, która zaczyna się na agent- i zawiera tylko małe litery, cyfry i łączniki (na przykład agent-research-assistant).
    • Opis aplikacji: Krótki opis tego, czym zajmuje się agent.
    • Eksperyment MLflow: Wybierz istniejący eksperyment MLflow do śledzenia i oceny lub stwórz nowy.
  3. Kliknij pozycję Eksportuj. Azure Databricks wykonuje następujące czynności:

    1. Sprawdza, czy nazwa aplikacji jest dostępna.
    2. Instaluje szablon agent-openai-agents-sdk w obszarze roboczym i przyznaje aplikacji uprawnienia do zasobów, których potrzebuje. Do tych zasobów należą eksperyment MLflow, obsługa punktów końcowych oraz serwery MCP, funkcje katalogu Unity, Genie Agents lub indeksy wyszukiwania AI, które dodałeś jako narzędzia.
    3. Generuje agent_server/agent.py na podstawie konfiguracji Playground, aby wdrożony agent odpowiadał temu, co zostało przetestowane.
  4. Po wyświetleniu okna dialogowego powodzenia kliknij pozycję Wyświetl agenta , aby otworzyć wdrożona aplikację i porozmawiać z nią przy użyciu wbudowanego interfejsu użytkownika.

Aby dostosować kod agenta, skonfigurować uwierzytelnianie, dodać ocenę lub ponownie wdrożyć za pomocą Declarative Automation Bundles (DAB), zobacz Uruchamianie agentów w Databricks Apps przy użyciu starszego serwera agenta.

Utwórz notatnik agenta (klasyczna wersja)

Po przetestowaniu agenta na placu zabaw dla sztucznej inteligencji kliknij pozycję Pobierz kod>Utwórz notes agenta , aby wyeksportować agenta do notesu języka Python.

Po wyeksportowaniu kodu agenta Azure Databricks zapisuje w obszarze roboczym folder z notesem z kodem sterownika. Ten sterownik definiuje agenta wywołującego narzędzia ResponsesAgent, testuje go lokalnie, używa rejestrowania definiowanego w kodzie oraz rejestruje i wdraża agenta za pomocą Custom Agents.

Uwaga

Eksportowany notatnik korzysta ze starszego procesu tworzenia agentów, który wdraża agenta do Model Serving. Usługa Databricks zaleca tworzenie agentów przy użyciu usługi Databricks Apps. Zobacz Uruchamiaj agentów w aplikacjach Databricks z użyciem serwera agentów starszych.