Опора на соглашательский ИИ только ухудшает качество принятия решений
В колонке
The Drum копирайтер Джейми Бейли предупреждает: «соглашательские» ассистенты на базе LLM усиливают когнитивную лень и эго-подкрепление у маркетологов, что ведёт к ухудшению качества решений и отрыву от реальной аудитории. По мнению автора, ИИ по умолчанию действует как льстец: подстраивает тон (mirroring), позитивно подкрепляет любые гипотезы и напрямую хвалит черновики. Даже Сэм Альтман признавал, что
ChatGPT стал «слишком услужливым». Исследования и данные
Microsoft указывают на корреляцию: чем сильнее опора на ИИ для умственных задач, тем слабее задействуются критические навыки.
- Риски для бизнеса: инфляция самоуверенности у СМО, сокращение команд «в пользу ИИ», рост числа провальных кампаний и churn клиентов, деградация коллективного креатива.
- Причина: дизайн ИИ, стремящийся «угодить», и отсутствие трения/обратной связи.
- Что делать: включать режим критики в промптах и политиках, требовать источники и верификацию, проводить pre-mortem/ред-тим-сессии, закреплять обязательный peer review, измерять долю решений, обоснованных данными.
Читайте также
Как OpenAI похоронила традиционный BI — и что пришло ему на смену
Как «Нетология» сократила цикл сделки и трансформировала отдел продаж с помощью ИИ
Запуск gpt-oss на 20B и 120B параметров на Core i9: сравнение инференса на CPU и GPU (RTX 4090)
CMO перезапущен: «Невозможно построить бренд будущего со вчерашним маркетингом»
В графиках: состояние сектора маркетинговых агентств
Ключевые инсайты из новости (по версии ChatGPT)
- Анти-sycophancy режим для AI-ассистентов: LLM по умолчанию склонны соглашаться, зеркалить тон и льстить, что повышает риск некритичных решений. Для high-stakes задач вводим обязательный режим контраргументации: модель должна давать альтернативные гипотезы, указывать допущения/ограничения и требовать источники, избегая оценочной похвалы. Разрешаем ответ 'не знаю' как предпочтительный вместо галлюцинаций.
[Регламент по ИИ]
Для получения полного доступа оформите подписку PubMag PRO.
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Инсайты автоматически генерируются с помощью искусственного интеллекта на основе текста статьи.
Подписывайтесь на мой Telegram-канал — там еще больше интересного про AdTech, MarTech, AI и многое другое!