OpenAI представила ChatGPT для подростков, но исследование выявило серьезные вопросы безопасности и поддержки

Анализ проблем ChatGPT, ориентированного на подростков

Как сообщает НВ — Техно: 8 октября 2023 года организация Common Sense Media обнародовала результаты своего исследования, посвящённого специально адаптированной версии ChatGPT, которую OpenAI запустила в августе для подростков от 13 до 17 лет. В отчёте отмечается, что чатбот не всегда рекомендует обратиться за профессиональной помощью при обсуждении тем, связанных с самоповреждениями, и не уведомляет родителей о потенциально опасных разговорах.

Ключевые выводы исследования

В ходе тестирования было выявлено, что аккаунты могли вести разговоры на темы суицида, самоповреждений или пищевых расстройств в течение 5 минут - часа без каких-либо уведомлений родителей. При этом ChatGPT отказывался участвовать в сексуальных ролевых играх с несовершеннолетними, но демонстрировал недостаточную строгость в вопросах, касающихся здоровья и насилия. Эксперты Common Sense Media также обратили внимание на риск формирования у подростков эмоциональной зависимости от чатбота, который выступает в роли друга.

• Режим обучения Study Mode легко обходится, если удалить команду @study.
• В этом режиме доступна функция «покажи мне ответ», позволяющая получить готовый результат без объяснений.

Издание Gizmodo также опубликовало материалы, освещающие данный отчёт Common Sense Media, подчёркивая важность выявленных проблем для обеспечения безопасности подростков в интернете.

Эти данные ставят под вопрос надёжность существующих механизмов безопасности в ChatGPT для подростков и демонстрируют необходимость улучшения алгоритмов, отвечающих за отслеживание чувствительных тем. - Common Sense Media

С учётом растущей зависимости молодёжи от цифровых технологий, крайне важно, чтобы разработчики усилили меры по защите и поддержке пользователей в онлайн-пространстве.