Как LLM и агенты меняют бизнес: кейсы, ограничения и выбор фреймворков

В статье на Хабре автор делится обширным практическим опытом применения больших языковых моделей (LLM) в бизнесе, описывая конкретные кейсы и перспективные направления. LLM успешно используются в автоматизации техподдержки, генерации резюме, обработке текстов и аудио, агрегировании информации, а также в RAG-поиске. Отмечены сценарии дедупликации, разметки, матчинга товаров и генерации документов.

Отдельный блок посвящён переходу к агентным системам — LLM, которые могут самостоятельно планировать действия, вызывать внешние инструменты и взаимодействовать с другими агентами. Рассматриваются уровни усложнения систем: от цепочек промтов до оркестраторов и оценщиков-оптимизаторов. Подробно описаны возможности и идеологии ведущих фреймворков — LangGraph, OpenAI Agents SDK, CrewAI, LlamaIndex, AutoGen, Semantic Kernel и Smolagents.

Автор прогнозирует снижение потребности в дообучении моделей и рост популярности готовых решений с возможностью структурированного вывода. Статья иллюстрирует, как компании в России могут применять LLM и агентные подходы в своих процессах, учитывая как потенциал, так и ограничения технологии.