Bereiten Sie Ihren Databricks Apps-Agenten für den Produktionseinsatz vor

Nachdem Sie einen Agent erstellt und auf Databricks-Apps bereitgestellt haben, können Sie ihn in dieser Reihenfolge in die Produktion übernehmen:

Seite BESCHREIBUNG
1. Einrichten von CI/CD für Ihren Databricks Apps-Agent Automatisieren Sie die Bereitstellung von Databricks-Apps mit GitHub Actions. Verwendet den Workloadidentitätsverbund (keine langlebigen Geheimnisse) und einen Starterworkflow, der in den Agentvorlagen bereitgestellt wurde.
2. Führen Sie einen Lasttest für Ihren Databricks Apps-Agenten durch Finden Sie die maximalen QPS, die Ihr Agent erhalten kann. Führen Sie einen Lasttest mit schrittweise steigender Last bis zur Sättigung mit einer Mock-LLM-Version Ihres Agenten durch, um den Infrastrukturdurchsatz von Databricks Apps von der Modelllatenz zu trennen.
3. Steuerung der Nutzung von LLMs mit Unity Gateway Leiten Sie LLM-Aufrufe über Unity Gateway. Berechtigungen zentralisieren, Kosten pro App zuordnen, Modelle austauschen und Datenverkehr prüfen oder erneut abspielen, ohne den Code des Agenten zu ändern.

Allgemeine Databricks Apps CI/CD, die nicht agentspezifisch sind, finden Sie unter CI/CD für Databricks Apps mit GitHub Actions.