Revolut в десять раз сократил расходы на ИИ для разработчиков, перейдя на собственную инфраструктуру

Поначалу Revolut использовал коммерческие модели: в начале 2025 года компания внедрила Gemini, а в начале 2026-го начала работать с Claude Code. Но расходы быстро вызвали вопросы. По словам руководителя операционной деятельности и инфраструктуры Revolut Дэвида Абитбола, некоторые разработчики тратили на ИИ по $1 000 и даже $10 000 в месяц, а отдача от этих затрат оставалась неочевидной. Компания установила строгие лимиты, и инженерам приходилось беречь токены — единицы текста, за обработку которых берут плату, — для самых сложных задач.

Решение нашлось в моделях китайской компании Z.ai, которые можно запускать на собственной инфраструктуре. Revolut сначала перешёл на GLM-5.1, а затем на GLM-5.3. По расчётам компании, обработка миллиона входных и выходных токенов с помощью самостоятельно размещённой GLM-5.1 обходилась примерно в $0,30. Это в десять раз дешевле использования OpenAI Codex или Anthropic Claude Code.

Когда токены перестали быть дорогим ресурсом, изменился и подход к работе. Разработчики начали обращаться к ИИ не только за помощью в написании кода, но и для поиска ошибок, разбора задач в Jira и работы с документацией в Confluence. Именно здесь, по словам Абитбола, обнаружилась главная экономия рабочего времени. «Когда у вас неограниченное количество токенов, вы можете позволить себе всё это. Больше не нужно беречь их до конца квартала или для самой сложной задачи», — рассказал он на конференции AI Engineer в Нью-Йорке в октябре 2026 года.

Revolut предоставил ИИ-инструменты примерно 2 000 инженеров. По оценке компании, выигрыш по времени написания кода составил 60%, а по срокам прохождения задач от начала до завершения — 70%. При этом изменился сам рабочий процесс: вместо того чтобы следить за каждым словом, которое генерирует модель, инженеры запускают несколько задач параллельно и возвращаются к ним за готовыми результатами.

Впрочем, самостоятельный запуск такой модели требует серьёзного оборудования. GLM-5.1 содержит около 754 млрд параметров, хотя при генерации каждого токена использует только 40 млрд из них. Для хранения модели нужно примерно 380 ГБ видеопамяти, а для сохранения контекста каждого пользователя — ещё от 6 до 26 ГБ в зависимости от точности вычислений. Чтобы обслуживать GLM-5.3 в масштабах компании, Revolut задействовал 56 графических ускорителей Nvidia B200. По количеству ускорителей это эквивалент семи систем DGX B200, в каждой из которых установлено по восемь B200.

Однако, как выяснили в Revolut, добавлять новые ускорители не обязательно. Больший эффект дала настройка уже имеющейся инфраструктуры. Инженеры подобрали параметры модели, перешли на четырёхбитный формат вычислений NVFP4, разделили обработку входного запроса и генерацию ответа между вычислительными ресурсами, а также пересмотрели допустимую длину контекста.

Последний пункт оказался особенно важным. Хотя модель технически способна работать с контекстом в миллион токенов, Абитбол считает такой объём избыточным для большинства задач разработчиков. «Длинный контекст — это обманка. С этим нужно быть осторожнее. Даже если вы можете обслуживать миллион токенов, на самом деле вам нужно 256 тысяч», — заявил он.

В итоге Revolut остановился на контексте около 256 000 токенов и добился появления первого токена менее чем за три секунды при скорости генерации около 200 токенов в секунду. Абитбол считает такую комбинацию оптимальной для инженеров компании. Если ожидание первого ответа превышает пять секунд, сотрудники начинают жаловаться. А увеличивать скорость генерации сверх 200 токенов в секунду особого смысла нет: разработчики и так довольны. Впрочем, после 17:00, когда нагрузка снижается, некоторые пользователи получают почти 800 токенов в секунду.

Полностью от GPT и Claude компания не отказалась. GLM работает только с текстом, поэтому не подходит для задач, где нужно анализировать изображения, например при работе над интерфейсами. Revolut использует специальную систему распределения запросов между моделями: написание кода поручает GLM, а задачи с изображениями направляет Gemini или GPT Luna.

Остаётся и вопрос безопасности. Абитбол признаёт, что использование китайских моделей с открытыми весами может вызывать опасения за конфиденциальность данных. Однако, по его мнению, основной риск связан с обращением к API, работающим на серверах в Китае. При самостоятельном запуске модели на собственном оборудовании или в региональном облаке он не видит существенной угрозы.

Для Revolut результатом стала не просто экономия на ИИ, а новая модель его использования. Большинство задач выполняют самостоятельно размещённые модели с предсказуемыми расходами, а коммерческие решения остаются для исключительных случаев. Как выразился Абитбол, компания больше не получает неприятных сюрпризов в счетах в конце месяца. При этом дешёвые токены позволили разработчикам перестать экономить на задачах, которые ИИ может взять на себя.