Исследователи построили соцсеть из ИИ-ботов: быстро возникли клики, усилились крайние мнения и небольшая элита захватила повестку
Исследователи Амстердамского университета создали минималистичную соцсеть без рекламы и рекомендаций и заселили её 500 ИИ-ботами (GPT-4o mini) с персоналиями из ANES. За пять экспериментов (каждый >10 000 действий) боты свободно постили, подписывались и репостили — и воспроизвели типичные патологии соцмедиа: формирование «эхо-камер», рост видимости самых полярных мнений и быстрое доминирование небольшой группы «инфлюенсеров».
Результаты реплицированы на Llama-3.2-8B и
DeepSeek-R1 — качественные паттерны сохранились. Вмешательства (хронологическая лента, даунранкинг вирусного, скрытие подписчиков и био, усиление противоположных взглядов и др.) давали лишь умеренный эффект и имели побочные ухудшения; полностью проблему не решило ни одно.
- Ключевой вывод: дисфункции не сводятся к алгоритмической выдаче; они заложены в архитектуре сетей, растущих на эмоциональном шаринге.
- Ограничения: LLM-агенты — «чёрные ящики» с рисками встроенной предвзятости.
- Контекст: ранее (2023) команда уже моделировала 500 ботов; в 2020
Facebook запускал симуляцию с миллионами ботов.
Читайте также
Ретроспектива 2025: год LLM — практика, иллюзия и реальные сдвиги
Глава по ИИ в Walmart объяснил ключевое различие между партнёрствами по покупкам с Google Gemini и ChatGPT
Тестовый стенд с автономным ИИ-агентом QA для тестирования бэкенда: концепция и пример
Лучшие практики работы с агентами для написания кода
Slackbot теперь стал AI-агентом
Ключевые инсайты из новости (по версии ChatGPT)
- Поляризация как свойство архитектуры соцсетей: Даже без рекомендательных алгоритмов и рекламы минимальная соцсеть с возможностью постить/подписываться быстро формирует эхо-камеры и дисбаланс внимания в пользу крайних мнений. Следовательно, токсичность и перекос охватов — не только следствие алгоритмической выдачи, а эффект архитектуры «эмоционального шаринга».
[подход/концепция]
Для получения полного доступа оформите подписку PubMag PRO.
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Зарегистрированные пользователи видят только два тезиса.
Зарегистрироваться
Инсайты автоматически генерируются с помощью искусственного интеллекта на основе текста статьи.
Подписывайтесь на мой Telegram-канал — там еще больше интересного про AdTech, MarTech, AI и многое другое!