Бизнесы по всему миру сталкиваются с новой волной угроз на базе искусственного интеллекта: рост числа deepfake-атак, генерация мошеннических коммуникаций и фальшивых онлайн-личностей ставят под угрозу безопасность компаний и их клиентов. Яркий пример — случай в Arup, где мошенники с помощью deepfake-клонов сотрудников похитили более $25 млн. По данным Chainabuse, только за последний год количество AI-генерируемых мошенничеств выросло в четыре раза.

Использование GenAI сегодня позволяет даже неподготовленным злоумышленникам создавать практически идеальные фишинговые сайты и подделывать коммуникации компаний всего за несколько минут. Журналисты BI провели эксперимент с Llama Press — и получили копию действующего онлайн-магазина с персонализацией за пару кликов. Мошенники легко deepfake-ят даже банки — теперь достаточно генератора голоса и минимального доступа к данным.

Платформы видеосвязи (Teams, Zoom) совершенствуют распознавание deepfake, но собранные ими данные могут использоваться для обучения новых, еще более продвинутых AI-моделей, что создает парадокс безопасности. В результате владельцы малого и среднего бизнеса, рекрутинговые и финансовые компании вынуждены постоянно совершенствовать внутренние процессы безопасности, чтобы не отставать от мошенников, вооружённых GenAI.

В фокусе также — рекордные зарплаты для AI-талантов, конкурентная борьба за кадры и законотворческие споры вокруг регулирования AI в США.