Смертельная ошибка ИИ: как ChatGPT едва не стал причиной отравления болиголовом

Опасная ошибка искусственного интеллекта

Как сообщает Главком: Блогер Кристи рассказала в YouTube об опасном случае, когда её подруга чуть не погибла из-за неверного совета нейросети. Запросив у ChatGPT идентификацию растения со своего двора по фотографии, женщина получила информацию, что перед ней - листья моркови. Для российских пользователей важно помнить, что болиголов пятнистый, который легко спутать с дикой морковью, широко распространён и в наших регионах.

На прямой вопрос, не является ли растение ядовитым болиголовом, ИИ неоднократно и уверенно отвечал отрицательно. Он даже перечислил характерные признаки морковной ботвы, такие как мелкорассечённые и перистые листья. Даже после предоставления второго снимка ChatGPT настаивал на своём, ссылаясь на отсутствие гладких полых стеблей с пурпурными пятнами.

Кристи решила перепроверить данные. Она загрузила то же фото в Google Lens, который мгновенно определил растение как ядовитый болиголов. Когда подруга отправила идентичные изображения в другом чате ChatGPT на своём телефоне, нейросеть на этот раз выдала предупреждение об опасности.

«Она взрослый человек и понимала, что нужно задавать больше вопросов, - отметила Кристи. - А если бы нет? Она бы буквально умерла, ведь противоядия от этого яда не существует».

Критическая необходимость перепроверки

Этот инцидент ярко демонстрирует риски использования искусственного интеллекта для идентификации потенциально опасных объектов. Хотя такие технологии, как ChatGPT, полезны во многих областях, их ответы не всегда точны, что может привести к серьёзным последствиям для жизни и здоровья.

Издание LADbible обратилось к разработчикам ChatGPT за комментарием по данному случаю, что дополнительно подчёркивает важность проблемы. Ситуация служит серьёзным напоминанием о необходимости всегда перепроверять критически важную информацию, особенно касающуюся безопасности, полученную от автоматизированных систем.