Como o Slack Gerencia o Contexto em Sistemas Multiagentes de Longa Duração
Desafios na Gestão de Contexto em Sistemas Multiagentes
Em sistemas multiagentes que operam por longos períodos, a manutenção da coerência e da precisão das informações é um desafio significativo. No caso do Slack, engenheiros identificaram que acumular logs de conversas não era eficiente para garantir a qualidade das interações entre agentes.
Enquanto sessões curtas de modelos de linguagem grandes (LLMs) geralmente não exigem um gerenciamento de contexto explícito, em sessões prolongadas o crescimento do histórico de mensagens torna inviável incluir todo o contexto em cada requisição. Isso pode comprometer a qualidade das respostas e a produtividade do sistema.
Abordagem do Slack: Memória Estruturada, Validação e Verdade Destilada
Para lidar com essa complexidade, o Slack adotou uma abordagem baseada em três canais complementares de contexto:
- Diário do Diretor: memória de trabalho estruturada que armazena achados, observações, decisões, perguntas e hipóteses, formando a narrativa comum que mantém os agentes alinhados;
- Avaliação do Crítico: relatório anotado dos achados, com pontuações de credibilidade para filtrar informações confiáveis e reduzir o risco de alucinações;
- Linha do Tempo do Crítico: narrativa cronológica que combina o diário do diretor, a avaliação mais recente e a linha do tempo anterior, mantendo apenas evidências confiáveis, removendo duplicatas e resolvendo conflitos com base na fonte mais forte.
Coordenação e Especialização dos Agentes
O sistema do Slack segue um design multiagente do tipo coordenador/despachante. Um agente central, o coordenador, recebe as requisições e as distribui para agentes especializados, denominados especialistas e críticos.
Os especialistas geram relatórios e achados, enquanto os críticos avaliam esses resultados, identificando possíveis invenções ou interpretações incorretas. Essa avaliação fundamenta um sistema de pontuação que destaca achados corroborados por múltiplas fontes, aumentando a confiabilidade do sistema.
Benefícios Práticos da Abordagem
Essa estratégia evita a sobrecarga do contexto nos agentes, mantendo a coerência ao longo de centenas de requisições que podem gerar megabytes de dados. Além disso, permite que:
- O diretor tome decisões estratégicas informadas;
- Os especialistas construam seu trabalho com base em entendimentos anteriores;
- Os críticos realizem avaliações objetivas e fiéis dos achados.
Segundo Dominic Marks, engenheiro de software do Slack, essa abordagem tem se mostrado eficaz para superar as limitações dos sistemas multiagentes complexos e de longa duração.
A experiência do Slack ilustra um princípio mais amplo para o desenvolvimento de sistemas multiagentes: ao invés de transmitir toda a informação em cada etapa, é preferível estruturar resumos confiáveis que possam ser utilizados de forma consistente pelos agentes.
Para quem deseja aprofundar-se no assunto, o artigo original publicado no InfoQ traz detalhes técnicos e exemplos extensos sobre essa implementação.