Pierwsze kroki: wysyłanie zapytań do modeli LLM i tworzenie prototypów agentów bez pisania kodu

Ten 5-minutowy samouczek niewymagający kodowania przedstawia AI na platformie Azure Databricks. Aby wykonać następujące czynności, użyjesz narzędzia AI Playground :

• Wykonywanie zapytań względem dużych modeli językowych (LLMs) i porównywanie wyników obok siebie
• Stwórz prototyp agenta korzystającego z narzędzi
• Wyeksportuj swojego agenta do Databricks Apps lub do notatnika
• Opcjonalnie: Przygotuj prototyp czatbota do odpowiadania na pytania z użyciem generacji wspomaganej wyszukiwaniem (RAG)

Zanim rozpoczniesz

Upewnij się, że obszar roboczy ma dostęp do następujących elementów:

• modele bazowe

• Katalog Unity.
• Agenci niestandardowi. Zobacz funkcje o ograniczonej dostępności regionalnej.

Krok 1. Wykonywanie zapytań dotyczących maszyn wirtualnych przy użyciu platformy AI Playground

Użyj narzędzia AI Playground, aby zadawać pytania modelom LLM w interfejsie czatu.

1. W obszarze roboczym wybierz pozycję Plac zabaw w okienku nawigacji po lewej stronie w obszarze Sztuczna inteligencja/uczenie maszynowe.
2. Wpisz pytanie, takie jak "Co to jest RAG?"

Dodaj nowy moduł LLM, aby porównać odpowiedzi obok siebie:

1. W prawym górnym rogu wybierz + , aby dodać model do porównania.
2. W nowym okienku wybierz inny model przy użyciu selektora listy rozwijanej.
3. Zaznacz pola wyboru Synchronizuj , aby zsynchronizować zapytania.
4. Spróbuj utworzyć nowy monit, taki jak "Co to jest złożony system sztucznej inteligencji?", aby zobaczyć dwie odpowiedzi obok siebie.

Nadal testuj i porównuj różne modele LLM, aby łatwiej zdecydować, który z nich najlepiej nadaje się do zbudowania agenta.

Krok 2: Opracuj prototyp agenta wywołującego narzędzia

Narzędzia umożliwiają programom LLM wykonywanie więcej niż generowanie języka. Narzędzia mogą wykonywać zapytania dotyczące danych zewnętrznych, uruchamiać kod i wykonywać inne akcje. Środowisko zabaw dla sztucznej inteligencji oferuje opcję braku kodu do prototypowania agentów wywołujących narzędzia:

1. W obszarze Plac zabaw wybierz model z etykietą Narzędzia włączone.

   

2. Wybierz pozycję Narzędzia>+ Dodaj narzędzie i wybierz wbudowaną funkcję Katalogu Unity. system.ai.python_exec

   Ta funkcja umożliwia agentowi uruchamianie dowolnego kodu w języku Python.

   

   Inne opcje narzędzi to:

   • Funkcja UC: wybierz funkcję katalogu Unity, którą agent ma używać.
   • Definicja funkcji: zdefiniuj funkcję niestandardową, która ma być wywoływana przez agenta.
   • Wyszukiwanie sztucznej inteligencji: określ indeks wyszukiwania sztucznej inteligencji. Jeśli agent używa indeksu wyszukiwania sztucznej inteligencji, jego odpowiedź będzie przytaczać użyte źródła.
   • MCP: Określ serwery MCP, aby używać zarządzanych serwerów MCP Databricks lub zewnętrznych serwerów MCP.

3. Zadaj pytanie, które obejmuje generowanie lub uruchamianie kodu w języku Python. Możesz wypróbować różne odmiany fraz zapytania. Jeśli dodasz wiele narzędzi, usługa LLM wybierze odpowiednie narzędzie, aby wygenerować odpowiedź.

   

Opcjonalnie: Tworzenie prototypu bota odpowiedzi na pytania RAG

Jeśli masz indeks wyszukiwania sztucznej inteligencji skonfigurowany w obszarze roboczym, możesz utworzyć prototyp bota odpowiedzi na pytania. Ten typ agenta używa dokumentów w indeksie wyszukiwania sztucznej inteligencji do odpowiadania na pytania na podstawie tych dokumentów.

1. Kliknij pozycję Narzędzia>+ Dodaj narzędzie. Następnie wybierz indeks wyszukiwania sztucznej inteligencji.

   

2. Zadaj pytanie związane z dokumentami. Agent może użyć indeksu, aby wyszukać odpowiednie informacje i przytaczać wszystkie dokumenty używane w odpowiedzi.

   

Aby skonfigurować indeks wyszukiwania sztucznej inteligencji, zobacz Tworzenie indeksu wyszukiwania sztucznej inteligencji.

Krok 3. Eksportowanie agenta

Po przetestowaniu agenta na placu zabaw dla sztucznej inteligencji wyeksportuj go, aby można było go wdrożyć, ocenić i wykonać iterację poza placem zabaw. AI Playground oferuje dwie ścieżki eksportu:

• Eksportuj do aplikacji Databricks (zalecane): Instaluje wdrażalną aplikację agenta z szablonu agent-openai-agents-sdk, w tym wbudowany interfejs czatu, integrację narzędzi MCP i uwierzytelnianie. Wybierz tę ścieżkę dla nowych agentów.
• Utwórz notes agenta (starsza wersja): Generuje notes Python definiujący agenta i wdraża go w punkcie końcowym obsługującym model. Wybierz tę ścieżkę, jeśli usługa Databricks Apps nie jest dostępna w obszarze roboczym lub regionie.

Eksportowanie do aplikacji (zalecane)

Opcja Eksportuj do Databricks Apps generuje wdrożoną aplikację agenta gotową do czatowania. Aplikacja korzysta z tego samego modelu, monitu systemowego i narzędzi (w tym serwerów MCP i wyszukiwania wektorowego) skonfigurowanych na placu zabaw.

Przed wyeksportowaniem upewnij się, że obszar roboczy spełnia następujące wymagania:

• Aplikacje usługi Databricks muszą być włączone w obszarze roboczym. Zobacz Konfigurowanie obszaru roboczego usługi Databricks Apps i środowiska programistycznego.
• Punkt końcowy wybrany w kroku 2 musi obsługiwać narzędzia.
• W Twoim obszarze roboczym musi być włączona funkcja Zarządzane serwery MCP w wersji zapoznawczej. Zobacz Zarządzanie wersjami zapoznawczami usługi Azure Databricks.

Aby wyeksportować agenta:

1. W Playground kliknij pozycję Pobierz kod>Eksportuj do Databricks Apps.

2. W oknie dialogowym Eksport do Databricks Apps ustaw następujące opcje:

   • Nazwa aplikacji: unikatowa nazwa rozpoczynająca się od agent- i zawiera tylko małe litery, cyfry i łączniki (na przykład agent-research-assistant).
   • Opis aplikacji: krótki opis tego, co robi agent.
   • Eksperyment MLflow: wybierz istniejący eksperyment platformy MLflow, który ma być używany do śledzenia i oceny, lub utwórz nowy.

3. Kliknij pozycję Eksportuj. Azure Databricks wykonuje następujące czynności:

   1. Sprawdza, czy nazwa aplikacji jest dostępna.
   2. Instaluje szablon agent-openai-agents-sdk w obszarze roboczym i przyznaje aplikacji uprawnienia do zasobów, których potrzebuje. Te zasoby obejmują eksperyment MLflow, punkt końcowy obsługi oraz wszelkie serwery MCP, funkcje Unity Catalog, agentów Genie lub indeksy wyszukiwania wektorowego, które zostały dodane jako narzędzia.
   3. Generuje agent_server/agent.py na podstawie konfiguracji Playground, aby wdrożony agent odpowiadał temu, co zostało przetestowane.

4. Po wyświetleniu okna dialogowego powodzenia kliknij pozycję Wyświetl agenta , aby otworzyć wdrożona aplikację i porozmawiać z nią przy użyciu wbudowanego interfejsu użytkownika.

Aby dostosować kod agenta, skonfigurować uwierzytelnianie, dodać ocenę lub ponownie wdrożyć za pomocą pakietów zasobów usługi Databricks (DAB), zobacz Tworzenie agenta i wdrażanie go w aplikacjach usługi Databricks.

Utwórz notatnik agenta (klasyczna wersja)

Po przetestowaniu agenta na placu zabaw dla sztucznej inteligencji kliknij pozycję Pobierz kod>Utwórz notes agenta , aby wyeksportować agenta do notesu języka Python.

Po wyeksportowaniu kodu agenta Azure Databricks zapisuje w obszarze roboczym folder z notesem z kodem sterownika. Ten sterownik definiuje agenta wywołującego narzędzia ResponsesAgent, testuje go lokalnie, używa rejestrowania definiowanego w kodzie oraz rejestruje i wdraża agenta za pomocą Custom Agents.

Dalsze kroki

Aby utworzyć agentów przy użyciu podejścia opartego na kodzie, zobacz Tworzenie agenta i wdrażanie go w usłudze Databricks Apps.