Новая опция «Доверенное лицо» от OpenAI
Разработчик ChatGPT представил функцию «Доверенное лицо», предназначенную для информирования близких пользователя в случае выявления признаков, указывающих на возможный риск самоповреждения во время диалога с нейросетью. Механизм работает на добровольной основе: совершеннолетний участник может назначить контакт — друга или родственника, — которому система порекомендует обратиться, автоматически отправив уведомление. Сигналы тревоги фиксируются автоматически, после чего инициируется оповещение выбранного лица.
Для обработки таких ситуаций OpenAI использует комбинацию алгоритмов и ручной верификации. Каждый случай анализируется человеком в течение примерно часа. Уведомление может быть отправлено доверенному лицу по электронной почте, через SMS или в приложении; при этом содержимое переписки не раскрывается.
Предпосылки внедрения
Запуск новой опции происходит на фоне судебных разбирательств, с которыми столкнулась компания. В частности, OpenAI получила иски от семей людей, покончивших с собой после общения с чат-ботом. Кроме того, семь семей жертв стрельбы в школе канадского города Тамблер-Ридж подали иск против OpenAI и ее гендиректора Сэма Альтмана. Истцы утверждают, что компания не уведомила полицию о подозрительной активности 18-летней фигурантки в ChatGPT, а лишь деактивировала ее аккаунт, после чего она смогла создать новый. В иске также упоминается модель GPT-4o.
Стоит отметить, что еще в сентябре прошлого года OpenAI внедрила инструменты родительского контроля для аккаунтов подростков. Кроме того, ChatGPT уже автоматически рекомендует обратиться за профессиональной помощью, если беседа переходит в опасное русло. Новая функция «Доверенное лицо» призвана усилить безопасность пользователей и их близких.
Внедрение опции «Доверенное лицо» демонстрирует стремление OpenAI повысить уровень безопасности и ответственности при использовании своих технологий, особенно на фоне растущей обеспокоенности влиянием искусственного интеллекта на психическое здоровье пользователей. — OpenAI
В условиях судебных исков и общественного давления компания пытается найти баланс между инновациями и этикой, что может иметь серьезные последствия для будущего развития ИИ. Создание механизмов поддержки и безопасности — важный шаг к укреплению надежности и доверия к подобным системам.
В свете новых инициатив OpenAI, стоит обратить внимание на недавние аномалии в работе ИИ, такие как странные упоминания гоблинов в версии GPT-5.1. Эти случаи поднимают вопросы о надежности и безопасности технологий, которые используются в общении с пользователями. Узнать подробнее о том, как такие аномалии могут влиять на работу ИИ, можно в нашем материале об странностях в GPT-5.1.