inference-cost-optimization

Последние новости

01.11.2026

Можно ли заменить Codex и Claude Opus? Тест показал силу дешёвых ИИ-моделей и пределы локальных
23.09.2026

Гибридное преимущество: ценность agentic AI начинается с понимания, где его не нужно использовать
26.07.2026

Microsoft запустила собственные ИИ-модели вместо решений OpenAI и снизила затраты на 89%
19.07.2026

Как автор снизил стоимость обработки данных с помощью ИИ в 12 раз
17.07.2026

Локальный запуск LLM для SOC: сколько GPU действительно нужно?
25.06.2026

Большие языковые модели избыточны для некоторых маркетинговых задач. На смену приходят малые модели
12.06.2026

Сколько железа нужно ИИ-агенту: как считали ресурсы для on-premise LLM и почему калькуляторы ошиблись в 5 раз
30.05.2026

Как я собрал LLM-печку на четырёх GPU и что она умеет
18.05.2026

Qwen3.6 27B MTP добавляет около 0,3 ГБ веса и ускоряет генерацию примерно в 2 раза: с 60 до 130 t/s без потерь
17.04.2026

Hybrid RAG для бизнеса: умный поиск по документам без облака и утечки данных
19.02.2026

Запуск gpt-oss на 20B и 120B параметров на Core i9: сравнение инференса на CPU и GPU (RTX 4090)
03.02.2026

Снижение затрат на LLM API через децентрализованную инференс-сеть: практический опыт
20.01.2026

RLM: почему LLM-агент забывает цель и как это исправить
24.11.2025

Как выбрать между облаком, арендой GPU и своим железом для LLM-систем
15.11.2025

Слитые документы показывают, сколько OpenAI платит Microsoft
01.11.2025

Вам нужна RAM, а не VRAM: параметр -cmoe для локального запуска больших MoE-LLM. Ускоряем GPT-OSS-120B
27.10.2025

AdCP и экономика агентного ИИ: строим под сегодняшнюю экономику, а не под завтрашние мечты
15.10.2025

Как ИИ-агенты учатся работать в браузере, и почему это может перевернуть будущее веба
01.10.2025

DeepSeek научила ИИ не растрачивать внимание впустую
29.09.2025

DeepSeek выпустила модель «разреженного внимания», которая сокращает стоимость API вдвое