Исследование ChatGPT и вопросы защиты личной информации
Специалисты из немецких научных центров, включая институты Макса Планка, выявили, что чатбот ChatGPT создает и обновляет личные профили пользователей без их явного согласия. Анализ переписок 80 человек показал наличие 2050 записей в памяти у 65 из них. В 96% случаев данные создавались или изменялись без уведомления участников. Более половины собранных сведений (52%) касались психологического состояния — эмоций, желаний, убеждений и намерений.
Персонализация рекламы и память системы
С февраля 2024 года OpenAI начала интеграцию рекламы в ChatGPT, адаптируя её под интересы пользователя на основе предыдущих диалогов с его разрешения. В июне 2024-го произошли обновления механизма памяти, который теперь суммирует информацию из переписки и формирует профиль с учётом предпочтений, целей и жизненных обстоятельств. По европейским законам о защите данных участники исследования получили копии своих персональных сведений.
Пользователи могут отключить сохранение памяти или запретить обучение моделей на своих диалогах, однако удаление истории чата не гарантирует удаления всей информации, которой уже обладает бот. Особое внимание стоит уделить тому, что сведения о здоровье, полученные во время общения, могут влиять на рекомендации, например, финансового характера.
Абхишек Даш, один из авторов исследования, отметил: «В настоящее время люди слишком сильно полагаются на разговорные системы, поэтому часть умственной работы придётся вернуть себе самим».
Лорри Кранор добавил: «Главное отличие в том, что незнакомец редко записывает разговор — такое случается очень редко. Искусственный интеллект ведёт запись постоянно». Эксперты предупреждают о рисках хранения и использования личных данных в чатботах и советуют внедрять меры по защите приватности, включая обязательное получение согласия перед сохранением информации.
Данные выводы подчёркивают, насколько важно пользователям понимать потенциальные угрозы при использовании чатботов, особенно в вопросах обработки личной информации. В России и других странах с растущим вниманием к защите данных компании будут вынуждены искать компромисс между технологическими инновациями и соблюдением прав на конфиденциальность, чтобы избежать юридических и этических проблем.
В то время как исследование поднимает важные вопросы о конфиденциальности, недавний запуск ChatGPT для подростков также вызывает опасения по поводу безопасности и поддержки пользователей. Эти аспекты становятся всё более актуальными в свете новейших открытий о сборе и использовании личных данных.