Проблема 'галлюцинаций' искусственного интеллекта в медицине
В 2026 году проблема 'галлюцинаций' искусственного интеллекта остается актуальной, поскольку ШИ от Google выдает медицинские рекомендации, которые противоречат официальной медицине, ставя под угрозу жизнь пациентов. В частности, ШИ рекомендовал пациентам с раком поджелудочной железы избегать жирной пищи, что не соответствует рекомендациям онкологов. Это вызвало беспокойство среди специалистов, ведь соблюдение таких советов может привести к критической потере веса, о чем отметила Анна Джуэлл, представитель Pancreatic Cancer UK.
Исследования и реакция на проблему
Исследование Университета Пенсильвании, проведенное в апреле 2025 года, показало, что почти 80% взрослых ищут симптомы онлайн. Более того, две трети из них считают ответы ШИ надежными. Это явление вызвано экспериментами Массачусетского технологического института, которые подтвердили, что пользователи воспринимают советы ШИ как 'полные и достоверные'. Однако медицинские ассоциации мира отмечают, что такие советы 'склонны к галлюцинациям' и устаревшие.
В ответ на эти проблемы, Китайская администрация киберпространства опубликовала проект новых правил, которые направлены на ограничение вреда от чат-ботов. Учитывая риски, связанные с медицинскими рекомендациями, которые предоставляет искусственный интеллект, эта инициатива подчеркивает необходимость большей осторожности в использовании таких технологий в сфере здравоохранения.
Эта ситуация подчеркивает важность регулирования использования искусственного интеллекта в медицинской сфере, поскольку растущая зависимость от технологий может привести к серьезным последствиям для здоровья пациентов. Учитывая, что люди все чаще обращаются к онлайн-ресурсам для получения медицинских советов, необходимо обеспечить, чтобы эти источники были надежными и безопасными. Новые правила, предложенные Китаем, могут стать важным шагом в предотвращении потенциальных рисков, связанных с использованием ШИ в медицине.