Штучний інтелект формує хибні спогади, діпфейки впливають на пам’ять і політичні рішення

Вплив штучного інтелекту на пам'ять та інформацію

Як повідомляє НВ — Техно: Штучний інтелект (ШІ) має потенціал формувати хибні спогади та спотворювати людську пам'ять, що підтверджують дослідження Массачусетського технологічного інституту (MIT) під керівництвом Патті Маес. У рамках експерименту учасникам показували як оригінальні, так і відредаговані зображення, створені за допомогою ШІ. Результати показали, що ті, хто переглядали змінені зображення, частіше неправильно пригадували оригінали та були впевнені у своїх хибних спогадах.

Психологічні дослідження вказують на те, що дезінформація здатна впливати на рішення людей навіть після спростування. Минулорічне дослідження також виявило, що діпфейки та тексти, створені ШІ, можуть переконувати у вигаданих політичних скандалах і знижувати готовність громадян голосувати. Генеративний ШІ, зокрема, здатний вигадувати факти, які отримали назву галюцинацій.

Технології та їх вплив на суспільство

Зростаюче поширення технологій ШІ спостерігається в державних установах, банках, лікарнях і військовій сфері. Однак, користувачам складно самостійно виявляти помилки, які можуть виникати у контенті ШІ. Наразі немає універсального способу для повного розв’язання проблеми виявлення таких помилок. Науковці активно працюють над методами навчання для кращого розпізнавання діпфейків та ШІ-контенту.

Технологічні компанії, у тому числі Palantir, розвивають автономні системи, які функціонують без постійного людського контролю. Внутрішнє розслідування Міністерства оборони США виявило, що надмірна залежність від ШІ компанії Palantir призвела до трагічного інциденту - удару по початковій школі в Ірані на початку 2026 року. Система Palantir виявила школу як ціль через застарілі дані, внаслідок чого загинули понад 150 осіб, з них принаймні 123 дитини.

Вплив діпфейків та ШІ-контенту може мати серйозні наслідки, зокрема у політичних рішеннях та безпеці. Це підкреслює важливість обережного ставлення до інформації, що генерується штучним інтелектом. Водночас, дослідження продовжуються для розробки ефективних методів виявлення та протидії дезінформації, що може загрожувати суспільству.

В умовах стрімкого розвитку технологій штучного інтелекту суспільство стикається з новими викликами, пов’язаними з достовірністю інформації та безпекою. Інциденти, подібні до згаданого випадку з Palantir, підкреслюють необхідність більш суворого контролю за використанням автономних систем, особливо в критично важливих сферах. Дослідження в галузі психології та ІТ вказують на важливість створення механізмів для виявлення та запобігання дезінформації, щоб зберегти довіру громадськості до інформаційних джерел. У майбутньому, успішна інтеграція ШІ в суспільство вимагатиме комплексного підходу до етики та безпеки технологій.

В умовах зростаючого впливу штучного інтелекту, важливо усвідомлювати, що сприйняття його свідомості може бути не таким однозначним, як здається. Дослідження показують, що люди недооцінюють рівень усвідомлення ШІ, що може мати серйозні наслідки для нашої здатності критично оцінювати інформацію та приймати рішення.