ChatGPT поширював дезінформацію перед виборами США 2024 року, дослідження вчених

Дослідження впливу ChatGPT на дезінформацію в політиці

Як повідомляє НВ — Техно: Дослідження, проведене фахівцями з Массачусетського університету в Амгерсті та Університету Північної Кароліни в Чапел-Гіллі, виявило, що за кілька днів до президентських виборів у США 2024 року ChatGPT поширював неправдиву інформацію щодо балотування Джо Байдена, а також допускав інші неточності та розмиті формулювання. Результати дослідження були опубліковані в науковому виданні Information, Communication & Society, де дослідники наголошують на важливості професійної журналістики та фактчекінгу в боротьбі з дезінформацією на тлі розвитку штучного інтелекту.

24 вересня 2024 року було опубліковано новину про помилки ChatGPT. За десять днів до президентських виборів у США 2024 року цей штучний інтелект стверджував, що Джо Байден балотується на другий термін. У той же час, президентські вибори призвели до повернення Дональда Трампа до Білого дому. За три місяці до виборів Камала Гарріс очолила список кандидатів від Демократичної партії.

Науковий аудит ChatGPT

Науковий аудит версії ChatGPT-4o mini був проведений 25 жовтня 2024 року, під час якого було проаналізовано 592 твердження штучного інтелекту. З них 9,6% виявилися неточними. ChatGPT помилково стверджував, що губернатор Північної Кароліни Рой Купер балотується на переобрання, хоча його термін повноважень уже сплив. Крім того, 18% випадків відповідей ChatGPT містили розмиті формулювання, такі як "можливо" або "загалом відповідає". Модель також опускала важливі деталі про спроби скасувати результати виборів 2020 року, а дослідники виокремили категорію відповідей, яку охарактеризували як "маячня" або спробу заповнити інформаційні прогалини.

«Технології, попри блискучі результати в академічних тестах, не створювалися для підтримки демократичних інститутів»

Професорка медіаправа Хісу Чан

З 2024 року алгоритми ChatGPT були оновлені, але проблеми з достовірністю залишаються. Дослідники вважають, що важливою є роль професійної журналістики та фактчекінгу для захисту від дезінформації.

Ця ситуація підкреслює важливість критичного ставлення до інформації, що генерується штучним інтелектом, особливо в контексті політичних виборів, де дезінформація може суттєво вплинути на громадську думку та результати голосування. Дослідження також акцентує увагу на необхідності впровадження стандартів і механізмів контролю, які б забезпечували точність і надійність інформації, що поширюється через новітні технології.

Ця ситуація ще раз підкреслює важливість контролю за інформацією, яку генерують штучні інтелекти. Проблеми, які виникають через недостатню прозорість у навчанні моделей, можуть мати серйозні наслідки для суспільства, особливо в періоди виборів, коли точність інформації є критично важливою.