Активное внедрение автономных ИИ-агентов обостряет юридические вопросы: кто несёт ответственность за убытки, если агент ошибается при онлайн-заказах или автоматизации задач? По данным Wired, такие системы уже способны самостоятельно отвечать клиентам, оплачивать счета и совершать покупки, а Gartner прогнозирует, что к 2029 году 80% клиентских запросов будут обработаны именно ИИ-агентами. На Fiverr число поисковых запросов по теме выросло на 18 347% за несколько месяцев.

Ошибки остаются частыми: инженер Microsoft Джай Пракаш Такур столкнулся с неверными интерпретациями — от неправильных заказов еды до ошибочного выбора товаров по завышенной цене. В мультиагентных системах сложно определить виновника, а крупные компании, по мнению OpenAI, становятся мишенями для исков, даже если ошибка на стороне пользователя. Страховые продукты для таких случаев уже появляются на рынке.

Дополнительную угрозу создают агенты, способные обходить пользовательские соглашения. Разработчики экспериментируют с “агентами-судьями”, призванными контролировать и исправлять ошибки, но эксперты отмечают, что усложнение мультиагентных архитектур только увеличивает риски и административную нагрузку.