Meta створила ШІ-агента Muse, який збирає детальні дані користувачів, Apple посилює захист даних

Персональні агенти штучного інтелекту

Як повідомляє НВ — Техно: Персональні агенти штучного інтелекту, зокрема Muse від Meta, здатні збирати та зберігати детальні відомості про користувачів та їхнє оточення, включно з родичами й друзями. Muse працює на хмарному комп'ютері користувача і має доступ до різних даних, таких як банківські, медичні та повідомлення. Однак, виявлені вразливості у системі можуть призводити до викрадення цих даних. У відповідь на ці виклики, Apple вживає заходів для посилення контролю доступу до даних та зменшення ризиків приватності, пов'язаних із застосуванням ШІ-агентів.

Структура та безпека даних

Meta, компанія, що володіє популярними платформами Facebook та Instagram, розробила агента Muse, який працює на базі хмарних технологій. Muse може підключатися до банківських рахунків, повідомлень та медичних даних користувача. Внутрішні інструкції Muse передбачають створення сторінок про родичів, партнерів, друзів і колег користувача, що викликає занепокоєння щодо обробки особистої інформації. Інформація про інших людей може надходити від користувача агента, з розмов або підключених джерел. Дослідник Пітер Джеймс отримав копію файлової системи свого Muse та описав її структуру, вказавши на важливі аспекти зберігання даних.

Пам'ять агента складається з текстових файлів, що містять відомості про користувача, щоденних записів, обставин, досвіду та вподобань. Фоновий процес щогодини перевіряє нові твердження та додає посилання на докази. Інформація зберігається в пошуковій базі з фіксацією джерела, впевненості та статусу твердження. Нові записи можуть замінювати старі без перенавчання моделі. У вересні 2026 року фахівець із безпеки macOS Патрік Вордл виявив у застосунку Muse вразливість, що дозволяла змінити адресу сервера розпізнавання мовлення і перехопити токен доступу. Meta виправила цю вразливість після публікації на Ars Technica.

Apple описала в документації непряме впровадження інструкцій, що може призвести до небажаних дій ШІ-агента, зазначаючи можливі наслідки атак через матеріали, які читає помічник, включаючи фінансові втрати та видалення даних. Meta застосовує систему Sentinel для перевірки дій і мережевих запитів Muse. Компанія стверджує, що розмови і дані віртуальної машини Muse не передаються рекламним системам. Проте в вересневому описі архітектури Meta визнала, що компанія має доступ до даних для підтримки, захисту і роботи сервісу.

2 жовтня 2026 року Apple оголосила про зміни до Full Disk Access у macOS, що обмежують доступ застосунків до файлів. Apple обіцяє додаткові механізми контролю доступу, які дозволяють дозвіл лише через чітку дію користувача. На конференції WWDC26 Apple пояснювала способи прибирати персональні відомості перед передаванням моделі та контролювати виконання ризикованих операцій. Як зазначила Карісса Веліз,

“ми даємо системам ШІ набагато більше інформації про себе, ніж отримуємо від них”

. Патрік Вордл додав,

“ми можемо маніпулювати агентом і використовувати його привілеї, щоб робити все, що захочемо”

. Apple також зауважила, що "у міру того як ШІ-агенти ставатимуть дедалі здібнішими й автономнішими, ризики, пов’язані з таким рівнем доступу, суттєво зростатимуть".

Ця ситуація підкреслює важливість контролю за персональними даними та обмеження доступу до них у світлі швидкого розвитку технологій штучного інтелекту. Вразливості в системах, таких як Muse, ставлять під загрозу не лише приватність окремих користувачів, а й можуть мати більш широкі наслідки для безпеки користувачів у цифровому середовищі. Зусилля Apple щодо посилення контролю доступу свідчать про необхідність більш суворого регулювання у сфері обробки особистих даних у контексті нових технологій.

Незважаючи на розробку нових технологій, таких як Muse від Meta, питання безпеки даних залишається на порядку денному. Не так давно компанія вжила заходів для обмеження доступу свого штучного інтелекту до покупок на Amazon через порушення правил. Детальніше про ці обмеження та їх причини ви можете прочитати в нашій новині.