Проблема "галюцинацій" штучного інтелекту в медицині
У 2026 році проблема "галюцинацій" штучного інтелекту залишається актуальною, оскільки ШІ від Google видає медичні рекомендації, що суперечать офіційній медицині, ставлячи під загрозу життя пацієнтів. Зокрема, ШІ рекомендував пацієнтам із раком підшлункової залози уникати жирної їжі, що не відповідає рекомендаціям онкологів. Це викликало занепокоєння серед фахівців, адже дотримання таких порад може призвести до критичної втрати ваги, про що зазначила Анна Джуелл, представник Pancreatic Cancer UK.
Дослідження та реакція на проблему
Дослідження Університету Пенсільванії, проведене в квітні 2025 року, показало, що майже 80% дорослих шукають симптоми онлайн. Більш того, дві третини з них вважають відповіді ШІ надійними. Це явище викликане експериментами Массачусетського технологічного інституту, які підтвердили, що користувачі сприймають поради ШІ як "повні та достовірні". Проте медичні асоціації світу зазначають, що такі поради є "схильними до галюцинацій" та застарілими.
У відповідь на ці проблеми, Китайська адміністрація кіберпростору оприлюднила проєкт нових правил, які мають на меті обмежити шкоду від чат-ботів. З огляду на ризики, пов'язані з медичними рекомендаціями, що надаються штучним інтелектом, ця ініціатива підкреслює необхідність більшої обережності у використанні таких технологій у сфері охорони здоров'я.
Ця ситуація підкреслює важливість регулювання використання штучного інтелекту в медичній сфері, оскільки зростаюча залежність від технологій може призвести до серйозних наслідків для здоров'я пацієнтів. З огляду на те, що люди все частіше звертаються до онлайн-ресурсів для отримання медичних порад, необхідно забезпечити, щоб ці джерела були надійними та безпечними. Нові правила, запропоновані Китаєм, можуть стати важливим кроком у запобіганні потенційним ризикам, пов'язаним з використанням ШІ в медицині.