Stan agenta i pamięć

Agenty potrzebują trwałej pamięci, aby utrzymać kontekst między turami i sesjami. Lakebase zapewnia w pełni zarządzane zaplecze Postgres do przechowywania stanu i pamięci agenta, natywnie integruje się z mechanizmami uwierzytelniania Databricks i automatycznie skaluje się wraz z obciążeniem.

Krótkoterminowa a długoterminowa pamięć

Pamięć krótkoterminowa Pamięć długoterminowa
Przechwytuje kontekst w ramach jednej sesji konwersacji przy użyciu identyfikatorów wątków i punktów kontrolnych.
Umożliwia agentom odpowiadanie na pytania monitujące z świadomością wcześniejszych zwrotów.		 Wyodrębnia i przechowuje kluczowe szczegółowe informacje w wielu konwersacjach.
Umożliwia spersonalizowane odpowiedzi na podstawie wcześniejszych interakcji.
Tworzy bazę wiedzy użytkownika, która poprawia się w czasie.

Można zaimplementować oba typy pamięci w tym samym agencie.

Opcje wdrożenia

Pamięć agenta wspierana przez Lakebase jest obsługiwana na dwóch platformach wdrożeniowych Databricks.

Aplikacje usługi Databricks: wdrażanie agentów jako aplikacji interaktywnych z krótkoterminową lub długoterminową pamięcią przy użyciu punktów kontrolnych LangGraph lub zestawu SDK agentów OpenAI. Usługa Databricks automatycznie obsługuje uwierzytelnianie między aplikacją a usługą Lakebase.

Zobacz Samodzielnie zarządzaną pamięć agenta (Lakebase).

Model Serving: Wdrażaj agentów do punktów końcowych Model Serving przy użyciu punktów kontrolnych opartych na Lakebase. Obsługuje podróż w czasie LangGraph, umożliwia wznowienie lub rozwidlenie konwersacji z dowolnego punktu kontrolnego. Zobacz Pamięć agenta (serwowanie modeli).

Implementacja

Aby uzyskać pełne instrukcje dotyczące konfiguracji, szablony aplikacji i przykłady notesów, zobacz:

Dodatkowe zasoby

  • Last updated on