inference-cost-optimization

Microsoft запустила собственные ИИ-модели вместо решений OpenAI и снизила затраты на 89%

Как автор снизил стоимость обработки данных с помощью ИИ в 12 раз

Локальный запуск LLM для SOC: сколько GPU действительно нужно?

Большие языковые модели избыточны для некоторых маркетинговых задач. На смену приходят малые модели

Сколько железа нужно ИИ-агенту: как считали ресурсы для on-premise LLM и почему калькуляторы ошиблись в 5 раз

Как я собрал LLM-печку на четырёх GPU и что она умеет

Qwen3.6 27B MTP добавляет около 0,3 ГБ веса и ускоряет генерацию примерно в 2 раза: с 60 до 130 t/s без потерь

Hybrid RAG для бизнеса: умный поиск по документам без облака и утечки данных

Запуск gpt-oss на 20B и 120B параметров на Core i9: сравнение инференса на CPU и GPU (RTX 4090)

Снижение затрат на LLM API через децентрализованную инференс-сеть: практический опыт

RLM: почему LLM-агент забывает цель и как это исправить

Как выбрать между облаком, арендой GPU и своим железом для LLM-систем

Слитые документы показывают, сколько OpenAI платит Microsoft

Вам нужна RAM, а не VRAM: параметр -cmoe для локального запуска больших MoE-LLM. Ускоряем GPT-OSS-120B

AdCP и экономика агентного ИИ: строим под сегодняшнюю экономику, а не под завтрашние мечты

Как ИИ-агенты учатся работать в браузере, и почему это может перевернуть будущее веба

DeepSeek научила ИИ не растрачивать внимание впустую

DeepSeek выпустила модель «разреженного внимания», которая сокращает стоимость API вдвое