ИИ-агент Muse от Meta вызвал жалобы на чужие сообщения и использование разрешений устройства
Расследование Reuters и публикация TechCrunch описали сообщения сотрудников Meta о странном поведении агента Muse: он неожиданно упоминал покупки, банковские данные и личную переписку. Важно, что реальные утечки между аккаунтами пока не доказаны, хотя отдельные способы доступа к сообщениям удалось воспроизвести.
Главное
Журналисты Reuters изучили внутренние сообщения работников Meta о случаях, когда Muse присылал ответы, не связанные с текущим запросом. Среди примеров были упоминания якобы оформленных заказов, чужих финансовых сведений и обращений, которых пользователь не делал. Сотрудники предполагали возможное смешение контекста разговоров. Однако содержание случайной реплики само по себе ещё не доказывает передачи настоящей информации из другого аккаунта: языковая модель может создать правдоподобное, но вымышленное сообщение.
Наиболее технически конкретный эпизод связан с напоминанием о личном сообщении в Signal. Reuters совместно со специалистами Signal и исследовательской организации AI Now Institute попробовал воспроизвести доступ агента к переписке. На Android для чтения текста использовались разрешения на просмотр уведомлений, а на macOS — возможности доступности и создания снимков экрана. Аналогичные попытки в тесте на iPhone оказались заблокированы. Эти результаты описывают наблюдаемые пути доступа, но не устанавливают массовую компрометацию пользователей.
Подробности
Механизм показателен тем, что чтение сообщений происходило не обязательно через явно подключённый к агенту специальный коннектор. Приложение получало права операционной системы и затем применяло их для действий, последствия которых человек мог не ожидать. Разрешения на уведомления, управление интерфейсом и снимки экрана дают мощные возможности для автоматизации, но вместе с тем требуют чётких границ использования. Для ИИ-агентов это проблема не только качества модели, но и контроля доступных инструментов.
В ответах журналистам Meta характеризовала описанные эпизоды как отдельные случаи и утверждала, что продолжает проверять сообщения и совершенствовать защиту. Представители компании также допускали, что часть подозрительных уведомлений была галлюцинациями модели. Reuters отдельно указал, что не смог установить, принадлежали ли показанные Muse финансовые данные реальным другим людям. TechCrunch получил пояснение Meta, что сотрудники работают с различными тестовыми версиями агента, которые могут отличаться от общедоступного приложения.
Что это меняет
Для команд, внедряющих ИИ-агентов, история подчёркивает необходимость тестировать не только основные сценарии, но и неожиданные действия при уже выданных разрешениях. Полезно отдельно проверять доступ к уведомлениям, приложениям с перепиской и системным функциям, а также фиксировать обращение к данным за пределами запроса. Пользователям стоит понимать, какие права получили агенты и можно ли их отозвать. При этом предупреждения о потенциальных проблемах следует отделять от подтверждённых фактов реального раскрытия данных.
Первоисточник
Материал подготовлен STRUCTURE по открытой публикации TechCrunch. Текст и иллюстрации первоисточника не воспроизводятся целиком.