Meta усиливает борьбу с приложениями для «раздевания» с помощью ИИ после расследования CBS News

Meta1 подала в суд на компанию Joy Timeline из Гонконга, размещавшую рекламу генеративных ИИ-приложений CrushAI для «раздевания» людей без их согласия. Иск направлен на запрет размещения подобных объявлений на Facebook2, Messenger, Instagram3 и Threads, после того как расследование CBS News выявило сотни таких рекламных материалов. По данным Meta, Joy Timeline неоднократно пыталась обходить систему модерации рекламы.

Компания удалила выявленные объявления, заблокировала аккаунты и URL-адреса, связанные с приложениями для создания интимных дипфейков, однако признаёт, что отслеживание нарушителей усложняется из-за постоянных попыток обхода правил. Многие объявления были нацелены на мужчин 18–65 лет в США, Великобритании и ЕС, а сами приложения способствуют росту шантажа, «сексторшн»-схем и часто попадают к несовершеннолетним.

Ранее, в апреле 2024 года, 404 Media также обнаружила подобные инструменты в рекламе Instagram, после чего Apple и Google удалили их из магазинов приложений. В августе 2024 года власти Сан-Франциско подали иск против 16 наиболее популярных сайтов с дипфейками для «раздевания».