4 типа памяти агента: in-context, external, parametric, episodic — архитектуры и trade-off

Простым языком

Память агента — это не просто история чата. Есть четыре типа: факты прямо в промпте (быстро, но мало места), поиск по векторной базе (много данных, но может найти мусор), знания в весах модели (мгновенно, но устаревают) и долгосрочная память по пользователю (переживает сессии). Под каждый тип — своя архитектура: простой RAG, агентный RAG или графовый. Попытка запихнуть всё в один буфер — типичная ошибка.

Что нового

• In-context память (промпт) — быстро и точно, но упирается в лимит окна и теряет середину диалога
• External память (векторная база) — бесконечное хранилище, но плохая выборка провоцирует галлюцинации
• Parametric память (веса модели) — нулевая задержка, но факты устаревают после даты обучения
• Episodic память (межсессионная) — подтягивает профиль и предпочтения пользователя по ID
• Три архитектуры: классический RAG (статичные корпуса), Agentic RAG (агент решает когда искать), GraphRAG (вектор + граф сущностей)

Вердикт

Паттерн применим при проектировании агентных систем: начинать с in-context, добавлять external/RAG по мере роста корпуса, episodic — для персонализации. Ключевой принцип — под каждую задачу свой тип памяти, а не один буфер на всё. Ограничение: конкретных метрик (latency, стоимость) в обзоре нет — придётся бенчмаркать на своих данных.

In-context, external, parametric, episodic — четыре типа памяти агента с разными trade-off по задержке/стоимости/галлюцинациям; «буфер на всё» — главная причина развала продакшн-агентов после успешного демо.