Игорь Косолапов
@kossolapov_igor · материал курса
Гайд · 18 разделов · ~25 мин
Подборка для студентов

Собираем ИИ-агента на open-source инструментах

17 категорий — от фронтенда и UI до памяти, тестирования и мониторинга. В каждой категории — основной инструмент с объяснением, зачем он нужен, и проверенные альтернативы с указанием, когда их выбирать.

17 категорий инструментов 100+ библиотек 3 протокола Все open-source

Если вы хотите собрать ИИ-агента, первый вопрос обычно не «какую архитектуру выбрать», а «с чего вообще начать и что мне нужно».

Агент — это не просто чат-бот. Это система, которая может сама принимать решения, вызывать инструменты, работать с браузером, читать документы, писать и запускать код, общаться голосом и помнить контекст между сессиями.

Звучит сложно — но на практике каждую из этих возможностей закрывает отдельный open-source инструмент, который можно взять и использовать.

Проблема в другом: таких инструментов сотни. Одни активно поддерживаются, другие заброшены после хайпа на запуске. Одни реально используются в продакшне, другие существуют только в демо.

Мы прошли через этот слой шума и собрали подборку. Логика простая: если вы собираете агента, вам нужно решить, как он будет получать данные, как рассуждать, какие инструменты вызывать, где выполнять код, что помнить между запусками и как понять, что что-то пошло не так.

Каждый раздел отвечает на один из этих вопросов — и даёт конкретный инструмент в руки.

Фронтенд-стек для агентов

Большинство агентных стеков дают бэкенд и оставляют пользовательский слой полностью на вас. Здесь — инструменты, которые закрывают этот пробел.

CopilotKit Основной инструмент

Чат-компоненты, хуки, headless UI для кастомных интерфейсов, персистентные треды, human-in-the-loop, общее состояние и встроенный Inspector для отладки. Поддерживает все три паттерна генеративного UI в одном рантайме — агент может показывать компоненты, а не просто описывать их.

Можно подключиться к любому LLM в несколько строк без какого-либо агентного фреймворка на бэкенде и сделать его контекстно-осведомлённым о вашем приложении. Также есть MCP-сервер для кодинг-агентов, который позволяет им подтягивать живую документацию без ограничений по использованию.

TypeScript
import {
  CopilotRuntime,
  copilotRuntimeNextJSAppRouterEndpoint,
} from "@copilotkit/runtime";
import { BuiltInAgent } from "@copilotkit/runtime/v2";
import { NextRequest } from "next/server";

const builtInAgent = new BuiltInAgent({
  model: "openai:gpt-5.5",
});

const runtime = new CopilotRuntime({
  agents: { default: builtInAgent },
});

export const POST = async (req: NextRequest) => {
  const { handleRequest } = copilotRuntimeNextJSAppRouterEndpoint({
    runtime,
    endpoint: "/api/copilotkit",
  });
  return handleRequest(req);
};

Поддерживает мультимодальные вложения: изображения, PDF, аудио, видео. Фреймворк-агностичный дизайн построен на протоколе AG-UI — открытом протоколе взаимодействия агента с пользователем, который уже приняли Google, AWS, Microsoft, LangChain и другие. Смена фреймворка или протокола не затрагивает фронтенд.

31 500 звёзд на GitHub CopilotKit
Альтернативы
TanStack AI. Фреймворк-агностичный, вендор-нейтральный AI SDK от команды TanStack. Сильная поддержка TypeScript, модульные адаптеры под каждого провайдера. Прямая альтернатива Vercel AI SDK без привязки к Next.js.
Vercel AI SDK. Хорош для стриминга и вызова инструментов в Next.js. Stateless и привязан к экосистеме Vercel.
Tambo. React SDK, заточен только под генеративный UI. Ещё на раннем этапе, не полноценный агентный стек.
Assistant UI. Headless React-примитивы для построения чат-интерфейсов.
agent-native. Фреймворк от Builder.io, где агент и UI разделяют одну модель действий. Действие определяется один раз и доступно и UI, и агенту.

Скиллы и плагины

Anthropic выпустили формат Skills, и экосистема быстро набрала обороты. Скилл — это директория с файлом SKILL.md, содержащая инструкции, скрипты и ресурсы, которые дают агенту дополнительные возможности.

agent-skills от Addy Osmani

23 production-grade инженерных скилла с 7 слэш-командами, которые покрывают весь цикл разработки: /spec, /plan, /build, /test, /review, /ship. Жёсткие критерии выхода, таблицы анти-рационализации, прогрессивное раскрытие. Кодирует инженерную культуру Google — закон Хайрума, правило Бейонсе, trunk-based разработка.

agent-skills/ ├── skills/ # 23 скилла │ ├── interview-me/ # Define │ ├── idea-refine/ # Define │ ├── spec-driven-development/ # Define │ ├── planning-and-task-breakdown/ # Plan │ ├── incremental-implementation/ # Build │ ├── context-engineering/ # Build │ ├── frontend-ui-engineering/ # Build │ ├── test-driven-development/ # Build │ ├── api-and-interface-design/ # Build │ ├── browser-testing-with-devtools/ # Verify │ ├── debugging-and-error-recovery/ # Verify │ ├── code-review-and-quality/ # Review │ ├── code-simplification/ # Review │ ├── security-and-hardening/ # Review │ ├── performance-optimization/ # Review │ ├── git-workflow-and-versioning/ # Ship │ ├── ci-cd-and-automation/ # Ship │ ├── documentation-and-adrs/ # Ship │ ├── shipping-and-launch/ # Ship │ └── using-agent-skills/ # Meta ├── agents/ # 3 специализированные персоны ├── references/ # 4 дополнительных чеклиста ├── hooks/ # Хуки жизненного цикла ├── .claude/commands/ # 7 слэш-команд (Claude Code) ├── .gemini/commands/ # 7 слэш-команд (Gemini CLI) └── docs/ # Гайды по настройке
43 800 звёзд на GitHub agent-skills
Альтернативы
skills.sh. npm для агентных скиллов. Установка любого скилла через npx skills add <owner/repo>. Лидерборд показывает, что разработчики реально используют, а не то, что нашумело на запуске.
taste-skill. Портативные скиллы дизайнерского вкуса (минималистичный, брутальный, GPT-настроенный), которые убирают типичный AI-слоп. Один из немногих скиллов, который видимо меняет то, что производит агент.
Repomix. Упаковывает целый репозиторий в один AI-дружественный файл. Нужен, когда агенту требуется видеть всю кодовую базу целиком.

Агент управляет компьютером

Большинство агентов computer use делают скриншот и просят обобщённую VLM угадать пиксельные координаты. Это работает плохо.

UI-TARS Desktop Основной инструмент

Обучен на GUI-граундинге end-to-end — понимает элементы интерфейса как концепцию первого класса, а не как области изображения, на которые нужно кликать.

Отличительная черта — «System-2 reflection»: после каждого действия модель сравнивает скриншоты до и после и генерирует корректирующий план, если что-то пошло не так, вместо того чтобы продолжать сломанную последовательность. Набирает более высокий балл на OSWorld по сравнению с Claude Computer Use.

В комплекте поставляется Agent TARS — CLI и Web UI, который переносит тот же подход с vision + интеграцией MCP-инструментов в терминал и браузер. Можно сказать: «Помоги мне забронировать ранний рейс из Сан-Хосе в Нью-Йорк 1 сентября» — и агент сделает это.

34 000 звёзд на GitHub UI-TARS Desktop
Заслуживает внимания

Sutando — персональный AI-агент для macOS, работающий на подписке Claude Code с минимальными дополнительными расходами. «Присоединись к моему звонку в 14:00» — агент читает календарь, подключается к Zoom или Google Meet, делает скриншоты для идентификации участников, проводит live-исследование при вопросах и пишет саммари. Или: позвонить со смартфона, сказать «summon» — и управлять компьютером голосом. ~300 звёзд на GitHub.

Альтернативы
Midscene. Также от ByteDance. Vision-driven автоматизация UI на вебе, Android и iOS из одного API. Интегрируется с Playwright и Puppeteer, есть Chrome-расширение, CLI и MCP-сервер.
Agent-S. Иерархический подход к планированию: строит базу знаний из прошлых взаимодействий и использует её для планирования будущих задач. Хорошие результаты на OSWorld и WindowsAgentArena.
Bytebot. Self-hosted AI десктопный агент в контейнеризированной Linux-среде. Агент получает собственный полноценный виртуальный десктоп с браузером, файловой системой и любыми приложениями. Запуск через docker-compose up.
cua. macOS/Linux VM-сандбокс: агент работает на виртуальной машине, а не на реальном компьютере.
OpenHands. Полноценная среда разработчика, которая может просматривать страницы, писать код, запускать тесты и коммитить PR.

Оркестрация агентов

Как описать цикл рассуждения, сохранять состояние и продолжать с любой точки сбоя.

LangGraph Основной инструмент

Stateful граф-рантайм, построенный на LangChain. Самый зрелый фреймворк для построения, управления и деплоя долгоживущих stateful-агентов.

Цикл — это граф. Каждый шаг — узел. Состояние типизировано и чекпоинтируется. Можно поставить на паузу в любом узле, сериализовать всё состояние на диск и возобновить на другой машине через несколько дней.

Различие между тремя продуктами экосистемы
LangChain
Агенты через цепочки и create_agent. Просто, быстро старт, меньше контроля над состоянием. Если процесс умирает — агент начинает заново.
LangGraph
Stateful граф-рантайм на LangChain. Можно воспроизвести с любого чекпоинта, чтобы отладить, что пошло не так.
Deep Agents
Харнес, построенный поверх LangGraph. С планированием, файловой системой и саб-агентами из коробки.

Комбинирование с LangSmith Engine, LangChain и Deep Agents даёт разработчикам полный набор инструментов для построения агентов с возможностью отладки.

32 300 звёзд на GitHub LangGraph
Альтернативы
Agno. Легковесная поддержка агентов с персистентной памятью и мультимодальными входными данными. Поставляется с AgentOS — готовым FastAPI-сервером с сессиями, стримингом, RBAC и наблюдаемостью. Заявляет скорость инициализации в 529 раз выше, чем у LangGraph.
Mastra. TypeScript-first с RAG, наблюдаемостью, MCP и рабочими процессами из коробки. Выбирать, если команда живёт в JS/TS, а не в Python.
Pydantic AI. Типобезопасный агентный фреймворк от команды Pydantic. Выбирать, когда нужны валидированные структурированные выходные данные без написания валидаторов вручную.
Google ADK. Официальный агентный dev kit от Google с нативной интеграцией Vertex AI. Выбирать при сборке на Google Cloud.
PocketFlow. LLM-фреймворк на 100 строк. Действительно минимальный. Выбирать, когда LangGraph ощущается как слишком много инфраструктуры.

Агентный харнес для кода

Харнес — это всё вокруг модели, что делает её агентом: инструменты, состояние, планирование, память, петли обратной связи, ограждения.

Формула

Агент = Модель + Харнес

LangChain подтвердил это: изменения только на уровне харнеса подняли одну и ту же модель с 52,8% до 66,5% на Terminal Bench 2.0 — с места в топ-30 до топ-5. Без смены модели.

Deep Agents Основной инструмент

Харнес LangChain с батарейками в комплекте, построенный на LangGraph. Планирование, инструменты для файловой системы, саб-агенты и сжатие контекста из коробки.

Цель пользователя ↓ Deep Agent (LangGraph StateGraph) ├─ Plan: write_todos → обновляет "todos" в состоянии ├─ Delegate: task(...) → саб-агент с собственным циклом ├─ Context: ls / read_file / write_file / edit_file ↓ Финальный ответ

Ключевая проблема долгоживущих агентов — накопление результатов вызовов инструментов до заполнения контекстного окна, что вызывает отравление контекста и потерю фокуса.

Решение Deep Agents

• Большие выходные данные инструментов уходят в виртуальную файловую систему, а не в промпт.
• Скиллы загружают только фронтматтер при старте, полный контент — по требованию.
• История разговора сжимается по мере роста сессии.
• Саб-агенты работают в собственном контекстном окне, основной агент получает только финальный результат.

23 100 звёзд на GitHub Deep Agents
Альтернативы
Hive. Фреймворк разработки агентов, ориентированный на результат. Агенты эволюционируют на основе того, достигли ли они цели, а не просто выполнили ли шаги.
Browser Harness. От команды Browser Use. Self-healing харнес: вместо оборачивания Chrome тысячами строк эвристик позволяет LLM напрямую использовать CDP и добавлять собственные инструменты по мере необходимости.
Archon. Open-source конструктор харнесов для AI-кодинга. Описываете, что нужно — он генерирует детерминированный, воспроизводимый агентный харнес.

Open-source агенты для кода

Claude Code и Codex — отличные инструменты, но привязаны к своим экосистемам.

OpenCode Основной инструмент

Нативный терминальный агент с поддержкой 75+ провайдеров, интеграцией LSP, мультисессионностью (несколько агентов параллельно на одном проекте) и приоритетом приватности.

Главное отличие: по-настоящему провайдер-агностичный с первого дня. Можно переключаться между Claude, Gemini, GPT-5 и локальными моделями в одной сессии без перенастройки. Большинство других кодинг-агентов имеют предпочтительную модель в дефолтах.

Также можно поделиться ссылкой на любую сессию для справки или отладки. Доступен как терминальный интерфейс, десктопное приложение и IDE-расширение.

162 000 звёзд на GitHub OpenCode
Альтернативы
Codex (OpenAI). Официальный терминальный кодинг-агент. Выбирать, когда нужна first-party поддержка и чистейшая интеграция с GPT-5.
Gemini CLI. Официальный терминальный агент Google с контекстом 1М токенов. Бесплатный уровень сложно превзойти для экспериментов.
Cline. VS Code расширение с пошаговым подтверждением. Выбирать, если нужен IDE-нативный контроль, а не терминал.
Aider. Git-нативный терминальный pair programmer. Более 70% собственного кода Aider написано самим Aider. Быстрый и модель-агностичный.
OpenHands. Полноценная агентная среда разработчика: может просматривать страницы, запускать shell и коммитить PR. Тяжелее остальных.
Goose. Расширяемый кодинг-агент от Block с first-class MCP и чистой моделью расширений.

Автоматизация браузера

Указываете URL, описываете, что нужно сделать — агент кликает, печатает и навигирует. Вы пишете намерение, а не селекторы.

Browser Use Основной инструмент

Агент читает DOM и сам разбирается с взаимодействием. Причина лидерства: команда создала специализированные LLM именно для браузерных задач. Их модель bu-ultra набирает 97% на Mind2Web против 62% у claude-opus-4-6. Open-source библиотека работает с любой моделью, но бенчмарки гоняются на кастомных.

В комплекте — десктопное приложение, которое управляет локальным Chrome напрямую, и Browser Use Box: 24/7 Claude Code агент, который можно задеплоить на любой VPS за $5 и управлять через Telegram.

Python
# pip install browser-use-sdk
from browser_use_sdk.v3 import AsyncBrowserUse

client = AsyncBrowserUse()
result = await client.run(
  "Go to amazon.com, extract 200 products with name, price"
  " and reviews, save to products.csv"
)
94 000 звёзд на GitHub Browser Use
Альтернативы
Stagehand. Четыре примитива: act, extract, observe, agent. Детерминированный пошаговый контроль, когда нужен, автономное выполнение, когда не нужен. Self-healing: «нажми submit» переживёт редизайн страницы.
Playwright MCP. MCP-сервер Microsoft, оборачивающий Playwright. Выбирать, если уже пишете Playwright-тесты и хотите, чтобы агент управлял тем же браузером.
Skyvern. Использует рой агентов и компьютерное зрение для работы на незнакомых сайтах. Без XPath, без селекторов: маппинг визуальных элементов на действия в реальном времени. Поставляется с no-code конструктором рабочих процессов.
Scrapling. Адаптивный скрапер, который переживает дрейф селекторов. Обходит антибот-системы типа Cloudflare Turnstile из коробки. Поддерживает конкурентный многосессионный краулинг с автоматической ротацией прокси.

Веб-скрапинг и сбор данных

Большинство скраперов отдают сырой HTML с навигационными меню, рекламой и баннерами куки — всё это сжигает токены и путает модель.

Firecrawl Основной инструмент

Конвертирует любой сайт в чистый Markdown или структурированный JSON, готовый для подачи в LLM. Три базовых эндпоинта:

/search
Веб-поиск с уже извлечённым контентом
/scrape
Полный Markdown страницы
/extract
Структурированный JSON через промпт на естественном языке
/agent
Описываете, что нужно — сам ищет, навигирует и извлекает данные с нескольких сайтов автономно. URL не нужны.
TypeScript
import Firecrawl from '@mendable/firecrawl-js';
import { z } from 'zod';

const firecrawl = new Firecrawl({ apiKey: 'fc-YOUR-API-KEY' });

const schema = z.object({
  companies: z.array(z.object({
    name: z.string(),
    founders: z.array(z.string()),
    funding: z.string().optional(),
    website: z.string(),
  }))
});

const result = await firecrawl.agent({
  prompt: 'Get all YC W24 companies',
  schema,
});

Навигационный агент FIRE-1 (бета) автономно работает со сложными сайтами: кликает, скроллит, заполняет формы и обрабатывает многошаговые флоу перед извлечением. Страницы за логином или пагинацией больше не проблема.

122 000 звёзд на GitHub Firecrawl
Альтернативы
Gitingest. Замените hub на ingest в любом GitHub URL и получите prompt-friendly выгрузку кодовой базы. Фильтрация по размеру файла, включение/исключение путей, поддержка приватных репозиториев.
Crawl4AI. Open-source, self-hosted, без API-ключа. Построен специально для RAG-пайплайнов: LLM-aware чанкинг, BM25-фильтрация контента, полный краулинг сайта с контролем глубины.
Jina Reader. Добавьте r.jina.ai/ перед любым URL и получите чистый Markdown. Ноль настроек, ноль SDK. Выбирать для быстрой разовой конвертации страниц.
ScrapeGraphAI. Скрапинг через промпт. Описываете, что нужно извлечь, на естественном языке — инструмент строит скрапинг-рабочий процесс. Выбирать, когда нужна структурированная JSON-выгрузка.

Мультиагентные фреймворки

Когда задачу разделяют между несколькими специализированными агентами, как между членами команды.

CrewAI Основной инструмент

Самый широко используемый мультиагентный фреймворк на сегодня. Определяете команду агентов с конкретными ролями, целями и инструментами — CrewAI управляет тем, как они взаимодействуют для выполнения задачи.

Ролевая модель (PM, исследователь, инженер) интуитивно понятна: она отображает то, как вы бы реально разделили работу между людьми. Лучшая точка входа в мультиагентные системы: хорошая документация, большое сообщество, примеры почти на всё.

Компромисс по контролю: взаимодействие агент-агент происходит через выходные данные задач, а не через прямые сообщения. Нет встроенного чекпоинтинга для долгоживущих рабочих процессов. CrewAI Flows — событийно-ориентированный режим — частично решает это для предсказуемых пайплайнов. Для циклических рабочих процессов большинство команд в итоге переносят части в LangGraph.

51 600 звёзд на GitHub CrewAI
Альтернативы
AG2. Форк сообщества AutoGen (Microsoft перевёл AutoGen в режим поддержки). Разговорные агенты, общающиеся в групповых чатах, роях и вложенных диалогах. Лучше для исследований.
Microsoft Agent Framework. Корпоративный преемник AutoGen. Стабильные API, долгосрочная поддержка, A2A и MCP встроены. Выбирать, когда нужны гарантии долгосрочной поддержки.
OWL. Мультиагентный фреймворк автоматизации на основе CAMEL. Использует модель «агент планирования + агент выполнения» для долгосрочных реальных задач. Занял первое место на бенчмарке GAIA среди open-source фреймворков.
MetaGPT. Симулирует софтверную компанию с агентами PM, архитектора и инженера. Лучший выбор для пайплайнов генерации кода.
AgentScope. Продакшн-фреймворк Alibaba с реалтайм-войсом, MCP, A2A и OTel встроенными из коробки.

Обработка документов

Подать PDF агенту и наблюдать, как он пропускает данные, которые прямо в таблице — знакомая ситуация. Большинство парсеров теряют структуру.

Docling Основной инструмент

Движок конвертации документов от IBM Research, переданный под управление Linux Foundation. Использует Granite-Docling-258M — специализированную vision-language модель на 258M параметров, созданную именно для конвертации документов и превосходящую системы в несколько раз крупнее.

Вывод использует DocTags — универсальный формат разметки, который фиксирует каждый элемент страницы, его тип, позицию и порядок чтения. Не просто Markdown. Именно это делает последующий RAG точнее.

Python
from docling.document_converter import DocumentConverter

source = "https://arxiv.org/pdf/2408.09869"  # путь или URL
converter = DocumentConverter()
doc = converter.convert(source).document
print(doc.export_to_markdown())
60 100 звёзд на GitHub Docling
Альтернативы
LlamaIndex. Полный RAG-фреймворк с 160+ коннекторами к данным. Выбирать, когда нужна оркестрация по множеству источников.
MinerU. PDF-парсер с SOTA-извлечением таблиц и формул. Выбирать для технических или научных документов, где доминируют математика и уравнения.
RAGFlow. Пайплайн DeepDoc, обрабатывающий парсинг, чанкинг и ретривал end-to-end. Выбирать, когда нужен полный RAG-стек.
Marker. Конвертация PDF, EPUB, PPTX в Markdown с высокой точностью. Быстрее Docling, ниже требования к GPU.
PaddleOCR. OCR-движок под капотом MinerU, RAGFlow и OmniParser. 100+ языков, браузерный SDK.
Unstructured. 65+ форматов файлов, включая письма, таблицы и изображения. Выбирать для смешанных входных пайплайнов за пределами только PDF.

Голосовые агенты

AI-часть в основном решена. Сложная часть — всё вокруг: обработка прерываний, транспорт, бюджеты задержки на границах STT / LLM / TTS.

Pipecat Основной инструмент

Python-фреймворк от Daily для реалтайм-голосовых и мультимодальных AI-агентов. STT, LLM и TTS — компонуемые фрейм-процессоры, как Unix-пайпы, но для голоса.

Ключевое преимущество: можно менять любой STT, LLM или TTS без переписывания пайплайна. Silero VAD обрабатывает прерывания на уровне фреймворка — голосовая активность в середине ответа останавливает аудио и автоматически переподключает LLM. Pipecat Flows добавляет предопределённые пути разговора с динамическими переходами.

JSX
import {
  PipecatAppBase,
  ConnectButton,
  UserAudioControl,
} from "@pipecat-ai/voice-ui-kit";

<PipecatAppBase
  transportType="smallwebrtc"
  connectParams={{ webrtcUrl: "/api/offer" }}
>
  <div>
    <ConnectButton />
    <UserAudioControl />
  </div>
</PipecatAppBase>
12 000 звёзд на GitHub Pipecat
Альтернативы
LiveKit Agents. WebRTC-стек, на котором работают OpenAI (ChatGPT Voice) и Meta. Room-first, а не pipeline-first: агент подключается как участник. Нативная телефония, семантическое определение очерёдности, поддержка MCP.
fish-speech. SOTA open-source TTS с мультиязычным zero-shot клонированием голоса. Выбирать, когда качество вывода важнее оркестрации.
Moonshine. Очень низкая задержка on-device STT. Выбирать, когда задержка — ключевое ограничение и облако не вариант.
Whisper. STT-модель OpenAI. Дефолтный слой транскрипции для кастомных голосовых стеков.
GPT-SoVITS. Few-shot клонирование голоса из 1 минуты аудио, zero-shot из 5 секунд. Китайский, английский, японский, корейский.
CosyVoice. Мультиязычная zero-shot генерация голоса от Alibaba с задержкой 150 мс. Выбирать для качества не-английского голоса.

Визуальные конструкторы

Drag-and-drop без потери возможности расширения кодом.

Langflow Основной инструмент

Drag-and-drop конструктор агентных пайплайнов с поддержкой IBM. Подключается к любому LLM, любой векторной БД, любому инструменту.

Ключевая особенность: флоу становится вызываемым REST-эндпоинтом. Прототипируете визуально — инженеры вызывают результат как API из любой кодовой базы. Каждый компонент открывает свой Python-класс, так что можно расширять кастомной логикой, не покидая инструмент. Есть большая библиотека готовых шаблонов для старта.

149 000 звёзд на GitHub Langflow
Альтернативы
Dify. Платформа LLM-приложений с визуальным конструктором агентов, RAG-пайплайном и маркетплейсом плагинов. Более отполированный UI и встроенная оболочка приложения.
Sim. Drag-and-drop оркестрация агентов, очень активно разрабатывается. Самая чистая 2026-нативная альтернатива Langflow.
n8n. Автоматизация рабочих процессов с 400+ интеграциями и мощными AI-нодами. Выбирать, когда рабочий процесс — преимущественно кросс-сервисная автоматизация с агентом в центре.
Flowise. Более простой no-code конструктор на LangChain. Выбирать для нетехнических пользователей, которым нужно строить агентные рабочие процессы без написания кода.
Coze Studio. Open-source визуальная агентная платформа от ByteDance. Конструктор агентов с RAG и плагинами, движок рабочих процессов с циклами и кастомным Python-выполнением.

MCP и интеграция инструментов

MCP-серверы решили вопрос подключения агентов к инструментам. Но управление OAuth, обновлением токенов и поддержкой 1000+ интеграций по-прежнему остаётся вашей проблемой.

Composio Основной инструмент

Слой интеграции между агентом и реальными инструментами с управляемой авторизацией. Главная особенность — Tool Router: один MCP-эндпоинт, который динамически обнаруживает и загружает нужные инструменты в зависимости от того, что пытается сделать агент. Вместо предзагрузки всех инструментов и раздувания контекста — подгружает только релевантное.

28 400 звёзд на GitHub Composio
Альтернативы
LiteLLM. Единый API для 100+ LLM-провайдеров. Azure, Bedrock, Anthropic — всё выглядит как OpenAI для вашего кода. Трекинг затрат, маршрутизация, фоллбэк. Выбирать как шлюзовой слой для моделей.
MindsDB. SQL-доступ к 200+ источникам данных из одного интерфейса без ETL. Поставляется и как MCP-сервер. Выбирать, когда агенту нужно читать данные, а не совершать действия.
ACI. 600+ интеграций инструментов через единый MCP-сервер. Self-hosted альтернатива Composio.
Portkey AI Gateway. 1 600+ моделей со встроенными ограждениями. Выбирать, когда важна задержка шлюза.

Сандбоксинг и выполнение кода

Обычные Docker-контейнеры разделяют ядро хоста — одна уязвимость, и ненадёжный код вырывается наружу.

E2B Основной инструмент

Изолированные сандбоксы для безопасного выполнения агентом кода, обработки данных и запуска инструментов. Работает на Firecracker microVM: каждый сандбокс получает собственное выделенное ядро. Загрузка ~150 мс, полная Linux-файловая система, Python, Node и стандартные пакеты предустановлены.

TypeScript
import { Sandbox } from 'e2b'

// Нужна переменная окружения E2B_API_KEY
const sandbox = await Sandbox.create()
const result = await sandbox.commands.run('echo "Hello from E2B"')
console.log(result.stdout)

Ничто не касается хост-машины. Manus использует E2B для запуска 27 различных инструментов. Perplexity — для анализа данных. Hugging Face — для воспроизведения DeepSeek-R1.

12 000 звёзд на GitHub E2B
Альтернативы
OpenSandbox. Внутренняя сандбокс-инфраструктура Alibaba. Покрывает кодинг-агентов, GUI-агентов, автоматизацию браузера, VNC-десктопы и RL-обучение из одного API. Рантаймы Docker и Kubernetes. Шире по охвату, чем E2B.
Daytona. Загрузка ~90 мс, open-source, персистентные окружения с Git-интеграцией и LSP. Выбирать, когда нужно состояние, которое сохраняется между сессиями.
microsandbox. Локальные программируемые сандбоксы. Выбирать, когда нужны сандбоксы на машине разработчика без облачной зависимости.
Firecracker. MicroVM-технология под капотом E2B, Lambda и Fargate. Выбирать, когда нужен сырой слой с полным контролем.

Память агентов

Место, где большинство демо-агентов разваливаются в продакшне. Агент знает что-то в одной сессии и забывает в следующей.

mem0 Основной инструмент

Самый широко задеплоенный автономный слой памяти на сегодня. Вместо хранения сырых чанков разговора запускает фазу извлечения: находит значимые факты и дистиллирует их в компактные воспоминания на естественном языке. Обрабатывает краткосрочную, долгосрочную и сущностную память через один интерфейс.

Python
# Добавить воспоминание
messages = [
  {"role": "user",
   "content": "Я вегетарианец и у меня аллергия на орехи."},
  {"role": "assistant",
   "content": "Понял! Запомню ваши пищевые предпочтения."},
]
client.add(messages, user_id="user123")

# Найти воспоминания
results = client.search(
  "Какие у меня пищевые ограничения?",
  user_id="user123",
)
Важный нюанс

mem0 набирает 49% на LongMemEval против 63,8% у Zep — разница в темпоральном рассуждении. Для памяти персонализации — прагматичный выбор. Для агентов, которым нужно рассуждать о том, как факты менялись со временем, лучший вариант — Graphiti.

55 000 звёзд на GitHub mem0
Альтернативы
Graphiti. Темпоральный движок knowledge-graph от Zep. Хранит факты с окнами валидности: не просто что произошло, но когда и актуально ли это до сих пор.
Letta (бывший MemGPT). Память встроена в системный промпт в рантайме. Агент сам решает, что сохранить — не ретривал постфактум, а основа того, как он рассуждает.
Supermemory. Кросс-агентный memory API с плагинами для OpenCode и Claude Code. Скажите «запомни, что этот проект использует Bun» — сохранится. Контекст появляется автоматически в следующей сессии.
Cognee. Детерминированные пайплайны памяти на knowledge-graph. Выбирать для структурированной памяти по большим корпусам.

Тестирование и оценка

Большинство команд пропускают оценку полностью до первого сбоя в продакшне. К тому моменту отладка идёт вслепую — непонятно, проблема в промпте, ретривале, модели или во всех трёх.

DeepEval Основной инструмент

Встраивает оценку в тестовый набор. Пишете ассерции так же, как пишете юнит-тесты, запускаете в CI и ловите регрессии до деплоя. 50+ метрик, покрывающих RAG, агентов, вызов инструментов, многоходовые разговоры и безопасность.

Агентно-специфичные метрики — самые полезные: завершение задачи, корректность аргументов, корректность инструментов, эффективность шагов. Также генерирует синтетические датасеты для граничных случаев, которые сложно собрать вручную.

15 600 звёзд на GitHub DeepEval
Альтернативы
promptfoo. CLI-first оценка и red-teaming в одном инструменте. Выбирать, когда состязательное тестирование так же важно, как метрики точности.
Phoenix. OTel-нативная трассировка и оценки от Arize AI. Автоматически инструментирует LangChain, LlamaIndex, Mastra, Vercel AI SDK. Выбирать, если уже на OTel.
Opik. Open-source платформа оценки и трассировки от Comet. Выбирать, когда нужны оценки и наблюдаемость вместе.
MLflow. Теперь с полноценными возможностями оценки LLM и агентов наряду с ML-lifecycle инструментами. Выбирать, если команда уже использует MLflow.
garak. Сканер уязвимостей LLM от NVIDIA. Проверяет агента на слабые места до того, как это сделает кто-то другой.
AI-Infra-Guard. Платформа red-teaming от Tencent. Сканирует MCP-серверы, агентные скиллы и AI-инфраструктуру. Выбирать, когда нужно найти уязвимости до деплоя.

Мониторинг и наблюдаемость

Большинство команд узнают, что агент сломан, когда об этом сообщает пользователь. К тому моменту приходится отлаживать чёрный ящик.

Langfuse Основной инструмент

De-facto open-source стек наблюдаемости для LLM. Трейсы, оценки, версионирование промптов и трекинг затрат в одном self-hosted пакете. Трейс показывает точно, что делал агент, с какой задержкой и стоимостью. Отладка многошаговых агентов становится значительно проще.

27 600 звёзд на GitHub Langfuse
Альтернативы
Opik. Трассировка, оценки и дашборды от Comet. Langfuse-эквивалент с ML-линиджем Comet за спиной.
TensorZero. Шлюз, наблюдаемость и оптимизация в одном инструменте. Выбирать, когда хотите один блок вместо трёх.
Logfire. OTel-нативная наблюдаемость для LLM от команды Pydantic. Выбирать для наилучшей совместимости с Python и Pydantic-AI агентами.
OpenLLMetry. OTel-библиотека инструментирования для LLM-приложений. Выбирать, когда трейсы агентов должны идти в существующий Grafana или Datadog бэкенд.

Три протокола современного агентного стека

Три протокола управляют современным агентным стеком. Стоит понимать разницу.

Протокол Для чего Кто создал Кто принял
MCP Агент ↔ Инструменты Anthropic, теперь Linux Foundation OpenAI, Google, Microsoft
A2A Агент ↔ Агент Google
AG-UI Агент ↔ Пользователь CopilotKit Google, AWS, Microsoft, LangChain, Mastra
Где смотреть исходники
MCP (Model Context Protocol). Стандарт подключения агентов к инструментам. Репозиторий серверов: github.com/modelcontextprotocol/servers
A2A (Agent-to-Agent). Протокол межагентного взаимодействия от Google. Репозиторий: github.com/a2aproject/A2A
AG-UI. Открытый событийный протокол взаимодействия агента с пользователем, возникший в CopilotKit. Репозиторий: github.com/ag-ui-protocol/ag-ui
Что делать дальше

Не пытайтесь освоить всё. Возьмите по одному из каждого слоя.

Чтобы собрать рабочего агента, не нужны все инструменты из этого гайда — нужны 5–7. Выберите по одному из ключевых слоёв и соберите первый сквозной прототип.