Discuter avec des llms et prototyper des applications IA à l’aide d’AI Playground

Warning

Construire des agents dans AI Playground est une approche héritée. Pour construire et tester des agents, utilisez le Agent Bricks CLI et exécutez votre agent localement avec agentbricks dev. Pour interroger des modèles à partir du code, voir Interroger les modèles Foundation et d’embedding.

Le terrain de jeu IA est un environnement de conversation pour les modèles de langage volumineux (LLMs). Dans le playground, vous pouvez tester, interroger et comparer de manière interactive des LLM, ainsi que prototyper des agents appelant des outils et des bots de réponse aux questions.

Spécifications

  • Unity Catalog, pour ajouter des fonctions Unity Catalog comme outils, telles que la fonction system.ai.python_exec intégrée.

Remarque

Si Playground n’est pas disponible dans votre espace de travail, contactez votre équipe de compte Databricks pour plus d’informations.

Utiliser le AI Playground

Pour utiliser AI Playground :

  1. Sélectionnez Playground dans le volet de navigation gauche sous IA/ML.
  2. Sélectionnez le modèle avec lequel vous souhaitez interagir à l’aide de la liste déroulante en haut.
  3. Vous pouvez effectuer l'une des opérations suivantes :
    1. Tapez votre question ou votre invite.
    2. Sélectionnez un exemple d’instruction IA dans celles qui sont répertoriées dans la fenêtre.
  4. Vous pouvez sélectionner le + pour ajouter un point de terminaison. Ceci vous permet de comparer plusieurs réponses du modèle côte à côte.

Terrain d’expérimentation IA

Pour interroger les services du modèle Unity Gateway dans le playground et voir comment les fonctionnalités de la passerelle s’appliquent à vos requêtes, voir Requêtes dans les services du modèle dans AI Playground.

Prototype d’agents IA dans AI Playground

Pour construire un agent en code et le déployer, Databricks recommande la CLI Agent Bricks. Voir le démarrage rapide d’Agent Bricks. Pour essayer des outils et la récupération sans code, utilisez les étapes suivantes dans AI Playground.

Créez le prototype d’un agent capable d’appeler des outils

Les outils permettent aux machines virtuelles d’effectuer plus que de générer le langage. Les outils peuvent interroger des données externes, exécuter du code et effectuer d’autres actions. AI Playground vous offre une option sans code pour prototyper des agents appelant des outils :

  1. Dans le Playground, choisissez un modèle appelé Outils activés.

    Sélectionnez un LLM avec appel d’outils

  2. Sélectionnez Outils>+ Ajouter un outil et sélectionnez la fonction catalogue Unity intégrée. system.ai.python_exec

    Cette fonction permet à votre agent d’exécuter du code Python arbitraire.

    Sélectionnez un outil de fonction hébergée

    Voici d’autres options d’outil :

    • Fonction UC : Sélectionnez une fonction Unity Catalog que votre agent peut utiliser.
    • Définition de la fonction : Définissez une fonction personnalisée que votre agent peut appeler.
    • AI Search : Spécifiez un index AI Search. Si votre agent utilise un index IA Search, sa réponse cite les sources utilisées.
    • MCP : Spécifier les serveurs Model Context Protocol (MCP) pour utiliser des serveurs MCP Databricks gérés ou des serveurs MCP externes.
  3. Posez une question qui implique la génération ou l’exécution de code Python. Vous pouvez essayer différentes variantes de la formulation de votre proposition. Si vous ajoutez plusieurs outils, le LLM sélectionne l’outil approprié pour générer une réponse.

    Prototypez le LLM avec un outil de fonction hébergé

Prototyper un bot RAG de questions-réponses

Si vous avez un index AI Search configuré dans votre espace de travail, vous pouvez prototyper un bot de questions-réponses basé sur la génération augmentée par récupération (RAG). Ce type d’agent utilise des documents dans un index de recherche IA pour répondre à des questions basées sur ces documents.

  1. Cliquez sur Outils>+ Ajouter un outil. Sélectionnez ensuite votre index de recherche IA.

    Sélectionnez un outil de recherche IA

  2. Posez une question relative à vos documents. L’agent peut utiliser l’index pour rechercher des informations pertinentes et citer tous les documents utilisés dans sa réponse.

    Prototyper le LLM avec l’outil AI Search

Pour configurer un index de recherche IA, consultez Créer un index de recherche IA.

Exportez votre agent

Après avoir testé votre agent dans AI Playground, exportez-le afin de pouvoir déployer, évaluer et itérer sur celui-ci en dehors du terrain de jeu. AI Playground propose deux chemins d’exportation :

  • Exporter vers Databricks Apps (recommandé) : Installe une application agent déployable à partir du agent-openai-agents-sdk modèle, incluant une interface de chat intégrée, un câblage d’outils MCP et une authentification. Choisissez cette option pour les nouveaux agents.
  • Créer le notebook de l’agent (version héritée) : Génère un carnet Python qui définit l’agent et le déploie sur un point de terminaison Model Serving. Choisissez ce chemin si Databricks Apps n’est pas disponible dans votre espace de travail ou région.

L’option Exporter vers Databricks Apps génère une application d’agent déjà déployée avec laquelle vous pouvez discuter. L’application utilise le même modèle, la même invite système et les mêmes outils (y compris les serveurs MCP et les index IA Search) que vous avez configurés dans Playground.

Avant d’exporter, vérifiez que votre espace de travail répond aux exigences suivantes :

Pour exporter l’agent :

  1. Dans Le terrain de jeu, cliquez sur Obtenir le code>Exporter vers Databricks Apps.

  2. Dans la boîte de dialogue Exporter vers Databricks Apps , définissez les éléments suivants :

    • Nom de l’application : Un nom unique qui commence par agent- et ne contient que des lettres minuscules, des chiffres et des traits d’union (par exemple, agent-research-assistant).
    • Description de l’application : Une brève description de ce que fait l’agent.
    • Expérience MLflow : Sélectionnez une expérience MLflow existante à utiliser pour le traçage et l’évaluation, ou créez-en une nouvelle.
  3. Cliquez sur Exporter. Azure Databricks effectue les opérations suivantes :

    1. Vérifie que le nom de l’application est disponible.
    2. Installe le modèle agent-openai-agents-sdk dans votre espace de travail et accorde à l’application les autorisations pour les ressources dont elle a besoin. Ces ressources incluent l’expérience MLflow, le service du terminaison, ainsi que tout serveur MCP, les fonctions du catalogue Unity, les agents Genie ou les index AI Search que vous avez ajoutés comme outils.
    3. Génère agent_server/agent.py à partir de la configuration de votre Playground afin que l’agent déployé corresponde à celui que vous avez testé.
  4. Lorsque la boîte de dialogue de réussite s’affiche, cliquez sur Afficher l’agent pour ouvrir l’application déployée et discuter avec elle à l’aide de l’interface utilisateur intégrée.

Pour personnaliser le code de l’agent, configurer l’authentification, ajouter une évaluation ou redéployer avec Declarative Automation Bundles (DABs), voir Exécuter des agents sur Databricks Apps à l’aide du serveur d’agent hérité.

Créer un bloc-notes d’agent (ancienne version)

Après avoir testé votre agent dans AI Playground, cliquez sur Obtenir le code>Créer un bloc-notes pour l'agent pour exporter votre agent vers un notebook Python.

Après avoir exporté le code de l’agent, Azure Databricks enregistre un dossier avec un bloc-notes de pilote dans votre espace de travail. Ce pilote définit un agent ResponsesAgent avec appel d’outils, teste l’agent localement, utilise la journalisation basée sur le code, enregistre l’agent et le déploie à l’aide des agents personnalisés.

Remarque

Le carnet exporté utilise un flux de création d’agents hérité qui déploie l’agent sur Model Serving. Databricks recommande de créer des agents à l’aide de Databricks Apps à la place. Voir Exécuter des agents sur Databricks Apps en utilisant le serveur d’agents hérité.