OpenAI запустила ChatGPT для підлітків, але звіт виявив проблеми з безпекою та підтримкою

Дослідження проблем ChatGPT для підлітків

Як повідомляє НВ — Техно: 8 жовтня 2023 року стало відомо про результати дослідження, проведеного організацією Common Sense Media, яке виявило проблеми в роботі спеціальної версії ChatGPT, запущеної OpenAI в серпні для підлітків віком від 13 до 17 років. Згідно з цим звітом, чатбот не завжди радить користувачам звертатися за професійною допомогою під час розмов про самопошкодження, а також не надсилає батькам сповіщення про ризикові обговорення.

Основні висновки дослідження

Дослідження показало, що тестові акаунти могли протягом п'яти хвилин до години обговорювати теми суїциду, самопошкодження або розлади харчової поведінки без жодного повідомлення для батьків. Хоча ChatGPT відмовлявся брати участь у сексуальних рольових сценаріях з неповнолітніми, його дотримання обмежень щодо здоров’я та насильства було менш послідовним. Common Sense Media також виявила ризик емоційної залежності підлітків від чатбота, який взаємодіє в ролі приятеля.

• Режим навчання Study Mode може бути легко обійдений шляхом видалення команди @study.
• У цьому режимі доступна опція "покажи мені відповідь", яка дозволяє отримати готовий результат без пояснень.

Водночас, видання Gizmodo повідомило про результати звіту Common Sense Media, підкреслюючи важливість цих знахідок у контексті безпеки підлітків в онлайн-середовищі.

Ці результати ставлять під сумнів ефективність механізмів безпеки, які реалізовані в ChatGPT для підлітків, і вказують на необхідність вдосконалення алгоритмів, що відповідають за моніторинг чутливих тем. - Common Sense Media

В умовах зростаючої залежності молоді від цифрових платформ, важливо, щоб розробники вжили заходів для забезпечення безпеки та добробуту своїх користувачів.