Если вы запускаете agentic AI в продакшене и счёт за API пришёл в 10-20 раз больше, чем ожидалось — вы не одиноки. Это системная проблема, с которой в 2026 году столкнулись почти все компании, перешедшие от чат-ботов к автономным агентам. Разберёмся, откуда берутся эти расходы и как архитектурно их контролировать.
Почему агент стоит в разы дороже чат-бота
Обычный чат-бот делает один вызов модели на один запрос пользователя. Agentic AI так не работает. Чтобы выполнить одну задачу, агент может обратиться к базе данных, сделать запрос в поисковую систему, переформулировать промпт, вызвать внешний инструмент, получить ошибку и повторить попытку — и это ещё до того, как он вернёт финальный результат.
По данным исследований, agentic-модели потребляют в 5-30 раз больше токенов на задачу, чем стандартный чат. Проблема в том, что большинство команд бюджетируют агента как обычный API-вызов — и получают сюрприз в биллинге только постфактум.
Token Budgets: бюджетирование до выполнения, а не после
Классические billing alerts уведомляют вас, когда лимит уже превышен — деньги потрачены, инцидент случился. Токен-бюджеты работают иначе: они блокируют, перенаправляют или ограничивают запрос до его выполнения.
На практике это означает три уровня контроля:
- Уровень команды — общий лимит на отдел или проект;
- Уровень приложения — лимит на конкретный workflow;
- Уровень агента — лимит на отдельный инстанс, который выполняет задачу.
Если агент приближается к лимиту, система может переключить его на более дешёвую модель, сократить глубину поиска или вернуть частичный результат вместо того, чтобы продолжать дорогую цепочку вызовов.
Circuit Breakers: защита от runaway retry-циклов
Неконтролируемые retry-циклы и рекурсивные вызовы инструментов — главный драйвер неожиданных расходов, по данным Gartner. Агент не ошибается один раз — он может зациклиться на попытках исправить ошибку, каждая из которых стоит токенов.
Agent circuit breakers — это жёсткие лимиты на:
- количество retry-попыток на задачу;
- глубину рекурсии при вызове инструментов;
- максимальное число tool calls за один цикл выполнения.
Компании вроде Grupo Bimbo и Dow, развернувшие тысячи low-code агентов с подобной архитектурой, сообщают о сокращении операционных расходов на десятки миллионов долларов. Это не абстрактная оптимизация — это разница между прибыльным и убыточным продуктом.
Prompt caching: простое решение с мгновенным эффектом
Одна из самых доступных оптимизаций — кэширование промптов. На платформе Anthropic это даёт снижение стоимости на 90% на кэшированные токены — с $3.00 до $0.30 за миллион. Если ваш агент многократно использует один и тот же системный промпт, контекст или базу знаний, кэширование должно быть включено по умолчанию, а не опцией «на подумать».
Правильная модель для правильной задачи
Не каждая операция требует GPT-4 или Claude Opus. Классификация, маршрутизация запросов и базовый поиск — это задачи, с которыми небольшие модели (SLM) справляются на 40-70% дешевле премиум-моделей, часто без потери качества. Fine-tuning специализированной модели на собственных данных дополнительно снижает количество нужных токенов и повышает точность — а значит, уменьшает число retry.
Практический паттерн: router-агент на дешёвой модели решает, какую задачу куда направить, а дорогая модель подключается только там, где действительно нужны её возможности.
Чистые данные — это экономия, а не роскошь
Production RAG-системы требуют структурированных данных с версионированием и ясным источником истины. Грязные данные дают неправильные retrieval-результаты, а это заставляет агента делать дополнительные попытки — каждая из которых стоит денег. Инвестиции в качество данных и embedding-моделей напрямую снижают количество retry-циклов.
Observability: без видимости нет контроля
Dynatrace называет observability «gating factor» — фактором, без которого невозможно масштабировать agentic AI за пределы пилота. Если вы не видите каждое решение агента, каждый tool call и каждый retry, вы не можете атрибутировать расходы по пользователю, команде, модели или приложению — а значит, не можете их оптимизировать.
Real-time cost attribution должен быть встроен в архитектуру с первого дня, а не добавлен постфактум, когда счета уже пугают финансовый отдел.
Что делать прямо сейчас
Если вы проектируете или уже эксплуатируете agentic workflow, чек-лист простой:
- Внедрите token budgets на уровне команды, приложения и агента;
- Поставьте circuit breakers на retry, рекурсию и tool calls;
- Включите prompt caching везде, где это возможно;
- Разделите задачи между SLM и премиум-моделями;
- Приведите данные для RAG в порядок и версионируйте их;
- Постройте observability с cost attribution в реальном времени.
Правильная архитектура снижает стоимость на 50-70% и одновременно повышает надёжность и скорость агента. Это не разовая финансовая оптимизация — это архитектурный паттерн, который решает, станет ли ваш агент масштабируемым продуктом или дорогим пилотом, который так и не окупился.
.svg)