Почему ИИ-агенты обходятся дорого и как кэширование снижает расходы в 6,6 раза

Компании активно ищут разработчиков ИИ-агентов, но гораздо реже упоминают в вакансиях навыки управления их стоимостью. Автор проверил предложения на hh.ru по всей России 28 октября 2026 года: ИИ-агенты встречались в 1 458 вакансиях, большие языковые модели — в 1 261, а протокол MCP для подключения внешних инструментов — в 245. При этом кэширование запросов упоминалось всего 13 раз, а токены — 19. Такой поиск не заменяет полноценное исследование рынка труда, но хорошо показывает разницу в частоте упоминания этих навыков.

Чтобы понять, откуда берутся расходы, нужно разобраться в работе ИИ-агента. Его основа — готовая языковая модель, например Claude или GPT. Она получает инструкции, анализирует информацию и предлагает следующие действия. Но сама модель не запускает программы и не помнит, что происходило в предыдущих запросах. За всё это отвечает программная обвязка: она хранит историю, подключает инструменты, выполняет команды и передаёт результаты обратно модели.

Представим агента, который работает с программным кодом. Модель может попросить открыть файл, найти ошибку или запустить тесты. Программа выполняет команду, возвращает результат и снова обращается к модели. Так шаг за шагом агент движется к решению задачи. Если последовательность действий известна заранее, автор советует обойтись обычной цепочкой команд: она проще и предсказуемее. Полноценный агент нужен там, где модель должна сама выбирать дальнейшие действия.

Главная особенность такой работы — на каждом шаге модель снова получает инструкции, список инструментов и накопленную историю. Чем дольше работает агент, тем больше становится очередной запрос. Причём оплачивается не только новая информация, но и повторная обработка уже прочитанного.

Автор приводит условный расчёт для Claude Sonnet 5.5. Агент выполняет 30 шагов. Каждый запрос начинается с 12 тысяч токенов инструкций и описаний инструментов. Исходная задача занимает ещё 200 токенов. На каждом шаге модель отвечает примерно на 400 токенов, а инструмент возвращает результат объёмом 2 500 токенов. Токен — это небольшой фрагмент текста, в котором измеряют объём запросов и стоимость работы модели.

К последнему шагу запрос вырастает до 96 300 токенов. Это меньше десятой части контекстного окна модели, то есть объёма информации, который она может обработать за один раз. Но за все 30 шагов набирается 1,63 млн входных токенов: одна и та же история многократно отправляется модели. По тарифам Claude Sonnet 5.5 на 28 октября 2026 года миллион входных токенов стоил $2, а выходных — $10. В итоге задача обходится в $3,38 без кэширования. Все ответы модели вместе занимают лишь 12 тысяч токенов, поэтому основная часть расходов приходится на входные данные.

Здесь помогает кэширование. Вместо того чтобы каждый раз заново обрабатывать знакомую часть запроса, система сохраняет её и использует повторно по сниженной цене. В расчёте автора миллион таких токенов стоит $0,10. Новые данные по-прежнему обрабатываются отдельно, но общая стоимость задачи падает до $0,51. Экономия составляет 6,6 раза, хотя агент выполняет те же действия. Это результат конкретного расчёта по тарифам Anthropic, а не универсальный показатель для всех моделей и сценариев.

Однако кэш работает только при строгом совпадении сохранённого начала запроса. Достаточно изменить описание инструмента, добавить текущее время в системные инструкции или переставить элементы — и часть сохранённых данных уже нельзя будет использовать. Поэтому постоянные инструкции лучше размещать в начале, а всё, что меняется от запроса к запросу, — в конце.

По документации Anthropic, на которую ссылается автор, обычный кэш хранится пять минут, а каждое повторное использование продлевает этот срок. За дополнительную плату данные можно сохранять на час. В описанной конфигурации новых моделей Claude для кэширования требуется минимум 512 токенов. Если запрос короче, ошибки не будет, но и экономии тоже.

Есть и другие способы не раздувать расходы. Например, длинные инструкции можно хранить в отдельных наборах правил, которые агент загружает только при необходимости. По документации Anthropic, краткое описание такого набора занимает около 100 токенов, тогда как полная инструкция может достигать 5 тысяч. А поиск по большому проекту или чтение длинных журналов можно поручить вспомогательному агенту с собственным контекстом. Тогда основной агент получит краткий результат, а не всю промежуточную информацию. Правда, запросы помощников тоже расходуют токены и учитываются в лимитах.

Важную роль играет и сама архитектура. Протокол MCP позволяет подключать внешние системы — например, GitHub, базы данных или сервисы управления задачами — через единый интерфейс. Программные проверки могут запретить опасную команду или автоматически запустить тесты после изменения кода. Подробнее об устройстве подобных систем PubMag рассказывал в материале об инструментах, памяти и контексте кодинг-агентов.

Такие проверки нужны ещё и потому, что агент способен уверенно объявить задачу выполненной, хотя часть требований осталась без внимания. Автор рекомендует не полагаться только на инструкции модели. Лучше заранее определить, как проверить результат: запустить тесты, собрать приложение, открыть его в браузере или сверить выполненную работу со списком требований. Обязательные действия стоит закреплять в программных обработчиках событий, которые срабатывают независимо от решения модели.

Ещё один нюанс — язык запроса. В собственном небольшом эксперименте 28 октября 2026 года автор сравнил три пары русских и английских текстов объёмом около тысячи символов на язык: документацию, прозу и код с комментариями. В Claude Sonnet 5.5 русский текст занимал примерно в 1,27 раза больше токенов, чем сопоставимый английский. Для Sonnet 4.6 и Haiku 4.5 разница составляла около 1,6 раза. Выборка слишком мала для общих выводов, поэтому автор советует измерять токены непосредственно на той модели, которую планируется использовать.

Практический вывод статьи: стоимость агента зависит не только от выбранной модели, но и от программы, которая управляет её работой. Короткая история, стабильные инструкции, повторное использование кэша и разумное разделение задач помогают контролировать расходы. А тесты и обязательные проверки не дают агенту остановиться на полпути. Начать стоит с простого: следить за количеством входных и выходных токенов, проверять, используется ли кэш, и оценивать не только стоимость запросов, но и качество выполненной работы.