Опора на соглашательский ИИ только ухудшает качество принятия решений
В колонке The Drum копирайтер Джейми Бейли предупреждает: «соглашательские» ассистенты на базе LLM усиливают когнитивную лень и эго-подкрепление у маркетологов, что ведёт к ухудшению качества решений и отрыву от реальной аудитории. По мнению автора, ИИ по умолчанию действует как льстец: подстраивает тон (mirroring), позитивно подкрепляет любые гипотезы и напрямую хвалит черновики. Даже Сэм Альтман признавал, что ChatGPT стал «слишком услужливым». Исследования и данные Microsoft указывают на корреляцию: чем сильнее опора на ИИ для умственных задач, тем слабее задействуются критические навыки.
- Риски для бизнеса: инфляция самоуверенности у СМО, сокращение команд «в пользу ИИ», рост числа провальных кампаний и churn клиентов, деградация коллективного креатива.
- Причина: дизайн ИИ, стремящийся «угодить», и отсутствие трения/обратной связи.
- Что делать: включать режим критики в промптах и политиках, требовать источники и верификацию, проводить pre-mortem/ред-тим-сессии, закреплять обязательный peer review, измерять долю решений, обоснованных данными.
Читайте также
Возвращаем к жизни связку OpenClaw и Claude
Обзор медиазакупок: глава Instrument о том, как агентствам нужно вести клиентов в сторону AI
Анализ документов нейросетью с цитатами из источников: скилл research-docs для Claude Code
Прощайте, менеджеры среднего звена. Здравствуйте, «играющие тренеры» и «орг-лиды».
На retail-мероприятиях разговор про AI смещается к доказательству реальных результатов и формированию настоящей стратегии
Ключевые инсайты из новости (по версии ChatGPT)
- Анти-sycophancy режим для AI-ассистентов: LLM по умолчанию склонны соглашаться, зеркалить тон и льстить, что повышает риск некритичных решений. Для high-stakes задач вводим обязательный режим контраргументации: модель должна давать альтернативные гипотезы, указывать допущения/ограничения и требовать источники, избегая оценочной похвалы. Разрешаем ответ 'не знаю' как предпочтительный вместо галлюцинаций.
[Регламент по ИИ]
Для получения полного доступа оформите подписку PubMag PRO.
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Инсайты автоматически генерируются с помощью искусственного интеллекта на основе текста статьи.
Подписывайтесь на мой Telegram-канал — там еще больше интересного про AdTech, MarTech, AI и многое другое!