Запуск функції «Довірена особа» від OpenAI
Компанія OpenAI оголосила про запуск функції «Довірена особа» для свого чат-бота ChatGPT. Ця нова функція має на меті сповіщати близьких користувачів у випадках виявлення потенційно небезпечних сигналів, пов'язаних із самоушкодженням під час спілкування. Функція є добровільною і дозволяє дорослому користувачу вказати довірену особу, якою може бути друг або член родини. Зазначена система фіксує небезпечні сигнали і рекомендує звернутися до зазначеного контакту, автоматично надсилаючи сповіщення.
OpenAI запровадила поєднання автоматичних систем та перевірки людьми для обробки таких ситуацій. Кожен випадок перевіряється людиною протягом приблизно години. Система може надсилати повідомлення довіреній особі електронною поштою, через SMS або за допомогою застосунка. Важливо зазначити, що сповіщення не міститимуть детального змісту розмови.
Контекст запуску функції
Запуск нової функції відбувається на фоні судових позовів, з якими стикнулася компанія. OpenAI отримала позови від родин людей, які вчинили самогубство після спілкування з чат-ботом. Окрім того, сім родин жертв стрілянини у школі канадського міста Тамблер-Рідж подали позов проти OpenAI та генерального директора Сема Альтмана. Позивачі стверджують, що компанія не повідомила поліцію про підозрілу активність 18-річної підозрюваної у ChatGPT, а лише деактивувала її акаунт, після чого вона змогла створити новий обліковий запис. У позові також згадується модель GPT-4o.
Варто відзначити, що OpenAI вже запровадила можливість батьківського нагляду за акаунтами підлітків у вересні минулого року. Крім того, ChatGPT автоматично рекомендує звернутися до професійної допомоги, якщо розмова переходить у небезпечну площину. Запуск функції «Довірена особа» має на меті підвищити рівень безпеки користувачів та їхніх близьких.
Запровадження функції «Довірена особа» свідчить про зусилля OpenAI щодо покращення безпеки та відповідальності у використанні своїх технологій, особливо в контексті зростаючої стурбованості щодо впливу штучного інтелекту на психічне здоров'я користувачів. - OpenAI
В умовах судових позовів та публічного тиску компанія намагається знайти баланс між інноваціями та етикою, що може мати важливі наслідки для майбутнього розвитку технології штучного інтелекту. Створення механізмів підтримки та безпеки є важливим кроком у забезпеченні надійності та довіри до таких систем.
Запровадження функції «Довірена особа» підкреслює зростаючу відповідальність OpenAI у питаннях безпеки користувачів. Цей крок відбувається на фоні нових викликів, з якими стикається компанія, зокрема, щодо її моделей ШІ. Дізнайтеся більше про нещодавні аномалії в моделях OpenAI та їхній вплив на користувачів.