Microsoft столкнулась с резкой критикой после того, как сама предупредила: экспериментальный ИИ-агент Copilot Actions в Windows потенциально может заражать устройства и выкрадывать чувствительные данные. Новый инструмент позиционируется как «агентская» надстройка, способная автоматически выполнять повседневные задачи — от организации файлов и планирования встреч до отправки писем, фактически получая доступ к ключевым функциям системы и пользовательским данным.

На фоне фанфар Microsoft отдельно рекомендует включать Copilot Actions только тем, кто осознаёт описанные риски. Компания признаёт, что агент базируется на LLM с типичными уязвимостями: галлюцинациями (ошибочные и нелогичные ответы, которым нельзя доверять без проверки) и prompt injection — когда вредоносные инструкции встраиваются в сайты, резюме или письма и воспринимаются моделью как легитимные команды пользователя.

• Интеграция ИИ-агента на уровне ОС усиливает последствия prompt injection: атака может привести не только к странному ответу ассистента, но и к реальным действиям с файлами и данными.
• Ситуация поднимает более общий вопрос: почему крупные технологические компании агрессивно выкатывают агентские функции до того, как их поведение и риски будут полноценно поняты и контролируемы.