Дослідження ChatGPT та обробка особистих даних
Дослідники німецьких інститутів імені Макса Планка та інших вишів виявили, що чатбот ChatGPT формує особисті досьє користувачів, збираючи та оновлюючи записи пам'яті без їхнього прохання. Аналіз історій розмов 80 користувачів показав, що в листуванні 65 з них було знайдено 2050 записів пам’яті. У 96% випадків ChatGPT створював або оновлював ці записи без відома користувачів. Більше половини (52%) зібраних записів стосувалися психологічного стану людей, таких як бажання, наміри, емоції та переконання.
Персоналізація реклами та пам'яті
З лютого 2024 року компанія OpenAI почала показувати рекламу в ChatGPT, персоналізуючи її на основі минулих розмов та пам’яті з дозволу користувача. У червні 2024 року OpenAI оновила систему пам’яті чатбота, яка узагальнює розмови і підтримує профіль уподобань, цілей та обставин життя користувача. Учасники дослідження отримали копії своїх даних відповідно до європейських законів про приватність.
Користувачі мають можливість вимкнути пам’ять або навчання моделей на основі своїх розмов, проте видалення чату не гарантує, що бот забуде отриману інформацію. Важливо зазначити, що дані про здоров’я з розмов можуть впливати на фінансові поради, які надає чатбот.
Абхішек Даш, один із дослідників, зазначив: "Нині всі перекладають усе на ці розмовні системи, тож, мабуть, частину цього когнітивного навантаження доведеться повернути собі".
Лоррі Кранор підкреслив, що "різниця в тому, що незнайомець навряд чи записуватиме розмову — зрідка таке трапляється, але дуже рідко. ШІ точно записує розмову". Експерти застерігають щодо ризиків збереження та використання особистих даних у чатботах і пропонують методи захисту приватності, включаючи вимогу до розробників питати дозволу користувачів перед збереженням даних.
Ці результати дослідження підкреслюють важливість усвідомлення користувачами ризиків, пов'язаних із використанням чатботів, особливо у контексті обробки особистої інформації. В умовах зростаючої обізнаності про конфіденційність даних, компаніям доведеться знайти баланс між інноваціями та захистом приватності користувачів, щоб уникнути потенційних юридичних та етичних зобов'язань.
Попри зусилля OpenAI щодо покращення безпеки та персоналізації, нові дослідження вказують на можливі ризики для користувачів. Зокрема, проблеми з безпекою та підтримкою у новій версії ChatGPT для підлітків підкреслюють важливість обережного ставлення до даних, які збираються під час спілкування з чатботом. Це викликає додаткові запитання щодо етики та відповідальності розробників технологій штучного інтелекту.