Estado e memória do agente

Os agentes precisam de armazenamento persistente para manter o contexto entre turnos e sessões. O Lakebase Autoscaling fornece um back-end do PostgreSQL totalmente gerenciado para armazenar o estado e a memória do agente, integrando-se de forma nativa à autenticação do Databricks e dimensionando automaticamente com o volume de trabalho.

Memória de curto prazo versus de longo prazo

Memória de curto prazo Memória de longo prazo
Captura o contexto em uma única sessão de conversa usando IDs de thread e ponto de verificação.
Permite que os agentes respondam a perguntas de acompanhamento com conhecimento das interações anteriores.		 Extrai e armazena os principais insights em várias conversas.
Habilita respostas personalizadas com base em interações passadas.
Cria uma base de dados de conhecimento do usuário que melhora ao longo do tempo.

Você pode implementar um ou ambos os tipos de memória no mesmo agente.

Opções de implantação

A memória de agente com suporte do Lakebase é compatível com dois alvos de implantação do Databricks:

Aplicativos do Databricks: implante agentes como aplicativos interativos com memória de curto ou longo prazo, utilizando pontos de verificação do LangGraph ou o SDK de Agentes da OpenAI. O Databricks manipula a autenticação entre o aplicativo e o Lakebase automaticamente.

Consulte Memória de agente autogerenciada (Lakebase).

Serviço de Modelo: implante agentes em pontos de extremidade do Serviço de Modelo com pontos de verificação com suporte do Lakebase. Dá suporte à viagem no tempo do LangGraph para retomar ou bifurcar conversas de qualquer ponto de verificação. Consulte memória do agente (Model Serving).

Implementation

Para obter instruções completas de instalação, modelos de aplicativo e exemplos de notebook, consulte:

Recursos adicionais

  • Last updated on