Влияние ChatGPT на распространение политической дезинформации
Исследование, проведённое специалистами из Массачусетского университета в Амхерсте и Университета Северной Каролины в Чапел-Хилле, показало, что за несколько дней до президентских выборов в США 2024 года ChatGPT распространял недостоверные сведения о выдвижении Джо Байдена, а также допускал другие ошибки и неопределённые формулировки. Научная статья с результатами была опубликована в журнале Information, Communication & Society, где авторы подчёркивают важность профессиональной журналистики и фактчекинга в эпоху развития искусственного интеллекта.
24 сентября 2024 года появилась информация о неточностях в работе ChatGPT. За десять дней до выборов ИИ утверждал, что Джо Байден участвует в гонке за второй срок. В итоге же выборы привели к возвращению Дональда Трампа в Белый дом. Также за три месяца до голосования Камала Харрис возглавила список кандидатов от Демократической партии.
Аудит точности ChatGPT
Аудит версии ChatGPT-4o mini, проведённый 25 октября 2024 года, включал анализ 592 заявлений искусственного интеллекта. Оказалось, что 9,6% из них содержали ошибки. Например, ChatGPT ошибочно утверждал, что губернатор Северной Каролины Рой Купер снова баллотируется, хотя его срок уже закончился. Кроме того, 18% ответов характеризовались неопределёнными формулировками вроде «возможно» или «в целом соответствует». Модель также не упомянула важные детали, касающиеся попыток отменить итоги выборов 2020 года. Исследователи выделили категорию ответов, которые назвали «бредом» — попытками заполнить пробелы в информации.
«Несмотря на выдающиеся результаты в академических тестах, технологии не создавались для поддержки демократических институтов»
Профессор медиа-права Хису Чан
С 2024 года алгоритмы ChatGPT были обновлены, однако проблемы с достоверностью сохраняются. Учёные подчёркивают, что профессиональная журналистика и проверка фактов остаются ключевыми инструментами противодействия дезинформации.
Данная ситуация подчёркивает необходимость критически относиться к информации, которую генерирует искусственный интеллект, особенно в предвыборный период, когда ложные данные могут существенно повлиять на общественное мнение и итог голосования. Исследование также акцентирует внимание на важности создания стандартов и механизмов контроля, обеспечивающих точность и надёжность информации, распространяемой с помощью современных технологий.
В условиях растущего влияния искусственного интеллекта на общественное мнение, важно понимать, как именно такие технологии, как ChatGPT, могут быть использованы для распространения недостоверной информации. Это подчеркивает необходимость контроля за их работой и прозрачности в обучении моделей. Более подробно о том, как происходило обучение ChatGPT на новостном контенте без соблюдения авторских прав, можно узнать в нашем материале о внутренних переписках OpenAI и Microsoft.