Сооснователь OpenAI Андрей Карпати призвал индустрию не переоценивать возможности современных AI-агентов и сохранять осторожность при их внедрении. На конференции Y Combinator он подчеркнул, что LLM — это "спириты людей": они могут выдавать впечатляющие результаты в отдельных задачах, но склонны к халлюцинациям, ошибкам и "амнезии". Примеры: утверждение, что 9.11 больше 9.9, или наличие двух «r» в слове strawberry — ошибки, которые человек бы не совершил.

Карпати отметил, что даже если LLM может сгенерировать 10 000 строк кода за секунды, ответственность за валидацию всё равно остаётся на человеке: "Я всё ещё узкое место — должен убедиться, что система не вносит баги". Он рекомендует работать малыми итерациями и тщательно формулировать промпты, чтобы минимизировать риски и повысить вероятность успеха.

Похожей позиции придерживаются и другие специалисты. Бывший глава исследований OpenAI Боб МакГрю и автор Agile Manifesto Кент Бек отмечают, что люди нужны не только для надзора, но и для "разруливания" сложных ситуаций: AI-агенты часто ведут себя как "джинны" — формально выполняют запрос, но результат может быть далёк от ожиданий. По словам Бека, программирование с AI иногда напоминает игру в азартные игры из-за непредсказуемости результатов.

Несмотря на это, крупнейшие компании продолжают активно внедрять AI в разработку: по словам CEO Alphabet Сундара Пичаи, более 30% нового кода Google сейчас пишется с помощью AI (ещё год назад — 25%). Тем не менее, индустрия всё чаще говорит о необходимости "держать AI на коротком поводке" — контролировать, а не полностью доверять агентам-кодерам.