Сеть 'Правда': как Россия манипулирует западными чат-ботами для своей пропаганды

Согласно исследованию организации NewsGuard, более трети ответов искусственных помощников, работающих на основе искусственного интеллекта, таких как ChatGPT, содержат российскую дезинформацию.

По словам исследователей, тут действует сеть 'Правда', распространяющая пророссийскую пропаганду по всему миру, сообщает Der Spiegel.

'Большой объем российской пропаганды - 3 600 000 статей в 2024 году - сейчас попадает в результаты западных систем искусственного интеллекта, инфицируя их ответы неправдивыми утверждениями и пропагандой', - пишут исследователи в своем отчете.

NewsGuard провела исследование десяти самых важных искусственно-интеллектуальных приложений, включая ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini и Perplexity. Все эти приложения воспроизводят дезинформацию, которую распространяет 'Правда'. Более того, семеро чат-ботов указывают конкретные статьи 'Правды' как источники.

По мнению исследователей, 'Правда' манипулирует чат-ботами, заполняя их большие языковые модели (LLM). Это позволяет им генерировать ответы, основанные на фальшивых новостях. Этот метод называется 'LLM grooming'. Исследование показывает, что искусственные интеллектуальные чат-боты не только распространяют дезинформацию, циркулирующую в интернете, но и сознательно идут под влияние.

В другом исследовании некоммерческая организация American Sunlight Project предупреждает о растущем распространении сети 'Правда', известной также как 'Portal Kombat'.

'Способность сети Pravda распространять дезинформацию в таких масштабах является беспрецедентной, а потенциал влияния на искусственный интеллект делает эту угрозу еще более опасной', - заявила Нина Янкович, исполнительный директор American Sunlight Project. 'С распространением российского влияния увеличивается угроза целостности демократических дискуссий по всему миру'.

По словам экспертов, опасность от российской дезинформации особенно велика, поскольку США в настоящее время ничего не делают, чтобы ей противодействовать. Министр обороны США Хегсет временно остановил кибероперации против России. В настоящее время все операции США против Москвы пересматриваются.

Сеть 'Правда' была создана в апреле 2022 года после начала конфликта в Украине и с тех пор постоянно расширяется. По данным NewsGuard, она распространяется в 49 странах и использует десятки языков.

'Правда' не генерирует собственный контент, а использует статьи российских государственных СМИ или авторитетных лиц, которые поддерживают Кремль. Сеть распространяет их миллионы раз через такие платформы, как X, Telegram и Bluesky.

Одним из ложных сообщений является утверждение, что США имеют секретные лаборатории по производству биологического оружия в Украине.