Llama‑Agents — открытый фреймворк для продакшн‑мультиагентных систем

Что произошло

LlamaIndex представил Llama‑Agents — набор библиотек, позволяющих собрать масштабируемую мультиагентную архитектуру на базе LLM, включающую планировщик, инструменты и память, готовую к продакшн‑развёртыванию.

Детали

• Поддержка до 100 конкурирующих агентов в кластере
• Planner генерирует до 20 шагов (≈8 К токенов) за запрос
• Совместимость с Llama 2 13B и более крупными моделями
• Задержка инференса 150‑300 мс на GPU A100

Что это значит

Фреймворк упрощает переход от прототипов к продакшн‑мультиагентным решениям, экономя время на интеграцию и оркестрацию.

Организуйте мультиагентный процесс через отдельный Planner, набор Tool‑ов и общую Memory — так система сохраняет контекст и легко масштабируется в продакшн.