ChatGPT ледь не вбив людину: як нейромережа переплутала отруйний болиголов з морквою

Небезпечний інцидент з ChatGPT

Як повідомляє Главком: YouTube-блогерка Крісті розповіла про небезпечний інцидент, коли штучний інтелект ChatGPT помилково ідентифікував отруйну рослину болиголов як листя моркви. Ця помилка призвела до того, що її подруга, яка отримала цю пораду, ледь не загинула. Інцидент стався, коли подруга Крісті надіслала ChatGPT фотографію рослини з заднього двору для ідентифікації.

У відповіді ChatGPT стверджував, що рослина нагадує листя моркви, перерахувавши ознаки, характерні для бадилля моркви, такі як:

• дрібно розділене та пір'ясте листя

На пряме запитання, чи є рослина отруйним болиголовом, ChatGPT неодноразово запевняв, що це не так. Навіть після надання другого фото, ChatGPT знову стверджував, що це не болиголов, посилаючись на відсутність гладких порожнистих стебел з фіолетовими плямами.

Крісті вирішила перевірити ідентифікацію, вставивши ту ж фотографію в Google Lens, який одразу підтвердив, що рослина є отруйним болиголовом. Подруга Крісті також вставила ті ж зображення в інше вікно ChatGPT на своєму телефоні, і інший запит до ChatGPT отримав повідомлення про отруйність рослини. Це викликало занепокоєння, адже, як зазначила Крісті,

“Вона доросла людина, і вона знала, що потрібно запитувати більше, ніж сказав ChatGPT. А що, якби ні? Вона б literalmente померла, протиотрути від цього немає.”

Важливість перевірки інформації

Видання LADbible звернулося до ChatGPT за коментарем стосовно цього випадку, що ще більше підкреслює важливість перевірки інформації, отриманої від штучного інтелекту.

Інцидент, описаний Крісті, підкреслює ризики, пов'язані з використанням штучного інтелекту для ідентифікації небезпечних рослин або предметів. Хоча технології, такі як ChatGPT, можуть бути корисними в багатьох сферах, їхні відповіді не завжди точні, що може мати серйозні наслідки для безпеки користувачів. Цей випадок нагадує про необхідність ретельної перевірки інформації, отриманої з автоматизованих систем, особливо коли йдеться про здоров’я та безпеку.