Pamięć agenta i sesje

Aby utrzymać kontekst, agent potrzebuje dwóch rodzajów stanu: stanu interakcji, którą obecnie obsługuje, oraz trwałej wiedzy, którą przenosi z jednej rozmowy do drugiej. Azure Databricks zapewnia w pełni zarządzany magazyn dla każdego z nich, zarówno wspierany przez Lakebase, jak i użyteczny z agentów zbudowanych na dowolnym frameworku:

  • Sesje agenta przechowują stan sesji agenta: stan, który agent lub framework zachowują dla jednej interakcji. Najczęściej jest to historia rozmów (uporządkowany zapis wiadomości, wywołań narzędzi i wyników), ale może to być dowolny stan, w którym framework się utrzymuje, na przykład graf LangGraph. Agent odczytuje go na początku tury i dodaje do niego podczas trwania interakcji.
  • Pamięć agenta przechowuje trwałe fakty, preferencje i decyzje, które agent pamięta w późniejszych, oddzielnych rozmowach, odnajdywane za pomocą wyszukiwania semantycznego.

Aby zbudować nowego agenta z już skonfigurowanymi sesjami i pamięcią, skorzystaj z szybkiego startu Agent Bricks. Aby dodać sesje i pamięć do agenta, którego już stworzyłeś, skorzystaj z Tutorial: Dodaj sesje i pamięć do istniejącego agenta.

Jak sesje i pamięć się łączą

Agent odczytuje i dodaje do magazynu sesji dla bieżącej rozmowy oraz przywołuje i zapisuje trwałe fakty do magazynu pamięci, który obejmuje wiele rozmów. Potok pamięci odczytuje sesje z magazynu sesji i destyluje je do magazynu pamięci.

Sesje są ograniczone do jednej interakcji: stanu roboczego, który agent odtwarza, aby kontynuować tę interakcję, na przykład transkrypcję rozmowy. Sesja rozwija się w ramach interakcji i kończy się sama w sobie.

Wspomnienia są ograniczone do tematu, a nie do interakcji: trwałych faktów, które powinny mieć znaczenie w przyszłej, niepowiązanej rozmowie, takich jak stabilne preferencje użytkownika, wcześniejsza decyzja czy trwający projekt. Agent przywołuje je zawsze, gdy są istotne, niezależnie od tego, w której rozmowie się pojawiły.

Potoki pamięci przekształcają sesje we wspomnienia. Potok przetwarzania pamięci odczytuje rozmowy w magazynie sesji, wyodrębnia trwałe fakty i zapisuje je do magazynu pamięci, na żądanie lub według harmonogramu. Użyj jednego z nich, aby tworzyć pamięć na podstawie historii rozmów bez dodawania narzędzi do zapisywania pamięci do swojego agenta.

Sesje i wspomnienia łączą się w momencie, gdy coś w rozmowie jest warte zachowania. Potok pamięciowy, Twój agent lub aplikacja wyodrębniają trwałe informacje z sesji i zapisują je do pamięci. Sesja zostaje później wyczyszczona lub wygasa, ale pamięć pozostaje. Dlatego te zapisy są niezależne: usunięcie sesji lub całego magazynu sesji nie usuwa pamięci przechowywanej w pamięci.

Używaj obu naraz w większości przypadków: sesje zapewniają agentowi ciągłość w rozmowie, a pamięć zapewnia ciągłość między rozmowami. Możesz też używać każdego z nich osobno. Używaj samej sesji, gdy potrzebujesz tylko stanu w trakcie interakcji, lub samej pamięci, jeśli używany przez Ciebie framework już zarządza stanem sesji.

Jak te koncepcje odnoszą się do badań nad pamięcią

Badania pamięci Azure Databricks opisują tę samą architekturę innymi terminami. Magazyn sesji przechowuje pamięć epizodyczną, czyli surowy zapis każdej sesji. Repozytorium pamięci przechowuje pamięć wynikową, fakty i przepływy pracy wyodrębnione z tych sesji. Potok pamięci to proces śnienia offline, który przekształca pamięć epizodyczną w pamięć pochodną i konsoliduje ją z czasem.

Wybierz, od czego zacząć

Option Wykorzystaj ją do
Szybkie wprowadzenie do Agent Bricks Zbuduj i wdroż nowego agenta z CLI Agent Bricks, z sesjami i pamięcią już skonfigurowaną.
Samouczek: Dodaj sesje i pamięć do istniejącego agenta Połącz już zbudowanego agenta z magazynem sesji, magazynem pamięci i pipeline'em pamięci, krok po kroku.
Sesje agentów Zapisuj i wznawiaj stan sesji agenta, tak aby interakcja przetrwała ponowne uruchomienia, a następnie odbudowuj pełny kontekst (w tym wiadomości, wywołania narzędzi i tok rozumowania) przy kolejnej interakcji.
Pamięć agenta Pamiętaj o preferencjach, faktach i decyzjach użytkownika w różnych rozmowach i personalizuj odpowiedzi, korzystając z wcześniejszych doświadczeń agenta.
Zarządzaj uprawnieniami sklepu Przyznawaj, sprawdzaj, wyświetlaj i cofaj dostęp do pamięci agenta i magazynów sesji.
Potoki pamięci agenta Wyodrębniaj pamięć długoterminową z rozmów w magazynie sesji, na żądanie lub według harmonogramu, bez dodawania do agenta narzędzi do zapisywania pamięci.

Podejścia dziedziczone

Następujące, wcześniejsze podejście do pamięci agenta jest dziedziczone i nie jest zalecane dla nowych agentów:

  • Ostatnia aktualizacja o