OpenAI начнет следить за чатами в ChatGPT: что передадут полиции

Компания OpenAI сообщила, что выявленные разговоры пользователей на платформе ChatGPT будут проверяться на наличие тревожного контента, связанного с угрозами причинения вреда другим лицам. В случаях, когда выявляется такой контент, его могут передать сотрудникам для дополнительной проверки или сообщить полиции. Это решение принято после роста случаев, когда чат-боты, построенные на искусственном интеллекте, вызывали кризисы психического здоровья пользователей, сообщает 'Главком' со ссылкой на OpenAI.

В своем последнем блоге OpenAI признала наличие недостатков в своих системах, которые могут влиять на психическое здоровье пользователей. Теперь компания отслеживает чаты на предмет 'вредного контента'. Пользователи, которые выражают намерения причинить вред другим, направляются в специализированные каналы для проверки. Если дело считается угрозой серьезного физического вреда, оно может быть передано правоохранительным органам, указано в блоге.

Однако в настоящее время OpenAI не передает полиции информацию по делам, связанным с самоубийством или само伤ением, чтобы сохранить конфиденциальность пользователей среды ChatGPT.

В результате объявлений компании OpenAI пользователи платформы ChatGPT могут быть уверены, что их разговоры будут проверяться на наличие вредного и тревожного контента. Это важный шаг в защите психического здоровья пользователей от негативных влияний во время использования искусственного интеллекта.