OpenAI почне стежити за чатами у ChatGPT: що передадуть поліції

Компанія OpenAI повідомила, що виявлені розмови користувачів у платформі ChatGPT будуть перевірятися на наявність тривожного контенту, пов'язаного з погрозами шкоди іншим особам. У випадках, коли виявляється такий контент, його можуть передати співробітникам для додаткової перевірки або повідомити поліцію. Це рішення прийнято після зростання випадків, коли чат-боти, побудовані на штучному інтелекті, викликали кризи психічного здоров'я користувачів, повідомляє "Главком" з посиланням на OpenAI.

У своєму останньому блозі OpenAI визнала наявність недоліків у своїх системах, які можуть впливати на психічне здоров'я користувачів. Тепер компанія відстежує чати на предмет "шкідливого контенту". Користувачі, які виражають наміри завдати шкоди іншим, направляються до спеціалізованих каналів для перевірки. Якщо справа вважається загрозою серйозної фізичної шкоди, вона може бути передана правоохоронним органам, зазначено в блозі.

Однак наразі OpenAI не передає поліції інформацію щодо справ, пов'язаних із самогубством або самозаподіянням, щоб зберегти конфіденційність користувачів середовища ChatGPT.

У результаті оголошень компанії OpenAI користувачі платформи ChatGPT можуть бути впевнені, що їх розмови перевірятимуть на наявність шкідливого та тривожного контенту. Це важливий крок у захисті психічного здоров'я користувачів від негативних впливів під час використання штучного інтелекту.