ИИ-ассистент Muse от Meta собирает досье на друзей и родственников пользователей

Muse от Meta и Dots от OpenAI представляют новое поколение персональных ИИ-ассистентов. В отличие от обычных чат-ботов, они обладают долговременной памятью и могут работать с личными сервисами пользователя: почтой, мессенджерами и файлами. Такие агенты способны отправлять сообщения, выполнять поручения и даже участвовать в финансовых операциях. При этом платежи требуют подтверждения владельца, а сбор информации может идти автоматически.

После выхода Muse специалисты по безопасности исследовали его файловую систему и обнаружили необычную инструкцию: агент должен создавать отдельное досье на каждого человека из окружения пользователя. Это касается членов семьи, партнёров, друзей, коллег и других людей, которые регулярно упоминаются в разговорах.

Сначала в досье может быть всего несколько строк, но со временем оно обрастает подробностями. Muse запоминает, где человек живёт, чем занимается, когда у него день рождения и какие события связывают его с пользователем. Например, агент может сохранить информацию о совместных накоплениях, недавнем переезде, поездке в марте или споре, который удалось разрешить.

Отдельное внимание уделяется самим отношениям: насколько люди близки, что их объединяет, как они общаются и в какой поддержке могут нуждаться. В досье предусмотрен раздел «Укрепление», где агент собирает идеи для будущего общения. Он может напомнить о годовщине, предложить повод позвонить другу или подсказать, как поддержать близкого человека. При этом инструкция требует опираться на реальные сведения: лучше оставить поле пустым, чем придумать несуществующий факт.

Память Muse обновляется не только во время общения. Как выяснили исследователи, фоновые задания запускаются каждый час: агент просматривает накопленную информацию, распределяет её по темам и дополняет записи. Для хранения используются обычные файлы Markdown, в том числе ежедневные заметки в каталоге ~/memory/. PostgreSQL помогает искать информацию в этих записях.

Есть и ночной процесс, который разработчики называют «сновидениями». Он анализирует недавние разговоры и готовит рекомендации для следующих сеансов. Старые результаты сохраняются в каталоге ~/dreams/. Получается, что память агента продолжает пополняться и упорядочиваться даже тогда, когда пользователь с ним не разговаривает.

Исследователи обнаружили и другие подробности архитектуры Muse. Во внутренних файлах агент фигурирует под названием Hatch, а каталог agents/ содержит записи о 113 субагентах. Для создания приложений используется среда Spaces с TypeScript, React, серверными функциями, Drizzle, SQLite и Bun. Кроме того, по результатам одного из исследований, установка Muse с настройками по умолчанию даёт агенту права администратора в Ubuntu, доступ к оперативной памяти, системным заданиям cron.d и пользовательским файлам, включая SSH-ключи.

Главная проблема, на которую обращает внимание автор публикации на Хабре, касается людей, которые никогда не устанавливали такого ассистента. Пользователь может добровольно открыть ИИ свою переписку, но его друзья и родственники не обязательно соглашались на создание подробных профилей. По мнению автора, эти сведения могут дополнить социальные графы, которые технологические компании уже собирают через мессенджеры и социальные сети.

При этом Muse предусматривает меры защиты. Данные и контекст пользователя хранятся в отдельной виртуальной машине, недоступной другим агентам. Память можно удалить, а подключённые сервисы — отключить. В разработке защищённой среды участвовал Мокси Марлинспайк, один из создателей Signal. Архитектура также призвана ограничить возможность самостоятельного взаимодействия персональных агентов друг с другом.

Однако техническая изоляция не снимает вопрос о согласии третьих лиц. Даже если никто посторонний не получит доступ к собранным сведениям, сам ассистент уже формирует подробную картину чужой жизни. Именно в этом автор видит новый риск: ради более полезных рекомендаций ИИ начинает запоминать информацию о людях, которые не давали ему такого поручения.