Anthropic виявила використання Claude для досліджень біологічної зброї та російського шпигунства

Виявлення випадків використання штучного інтелекту для небезпечних досліджень

Як повідомляє НВ — Техно: Компанія Anthropic виявила п'ять випадків використання системи Claude для досліджень, пов'язаних з біологічною зброєю, і заблокувала відповідні акаунти. Ці випадки були зафіксовані в період з грудня 2025 року до серпня 2026 року. Дослідники, які працювали з вірусами, токсинами та сполуками, пов'язаними з отрутою, намагалися отримати доступ до технології для проведення небезпечних експериментів. Одне з розслідувань стосувалося вірусу чикунгуньї, і запит, пов'язаний із грантовою заявкою на дослідження цього вірусу, було заблоковано. Робота велася у співпраці з військовою науковою установою, проте дослідники продовжили свою діяльність через інші канали після блокування.

Anthropic також виявила платформу-посередника, яка перенаправляла відхилені запити до інших моделей зі слабшими обмеженнями. Ще один випадок стосувався високопатогенного пташиного грипу, коли дослідник протягом кількох тижнів використовував Claude для планування, аналізу та інтерпретації наукової інформації про цей вірус. Компанія не дозволила доступ до найпотужніших моделей для цього дослідження, і дослідник змушений був використовувати версії з меншими можливостями. Інші три випадки стосувалися:

• ортопоксвірусів,
• сполук, пов'язаних з отрутами,
• токсинів.

Anthropic не розкрила імена дослідників, їх місце перебування або конкретні біологічні деталі робіт. Усі виявлені випадки були повідомлені правоохоронним органам та іншим розробникам штучного інтелекту.

Кібероперація та реакція Anthropic

Окрім виявлених випадків, Anthropic повідомила про російську кібероперацію, яка використовувала Claude для автоматизації шпигунської кампанії, пов'язаної з угрупованням Midnight Blizzard. Цілями операції стали державні та військові структури України, дипломатичні представництва та оборонні компанії в інших країнах Європи. Штучний інтелект використовувався для фішингу, налаштування інфраструктури, розробки шкідливого програмного забезпечення та викрадення даних. Anthropic виявила понад 20 організацій, які були залучені до планування або проведення цієї операції. Автоматизовані системи відстежували виявлення шкідливого програмного забезпечення засобами захисту та змінювали його за потреби.

У зв'язку з цими подіями компанія посилила обмеження доступу до небезпечних біологічних запитів та додатково захистила свої системи для роботи з чутливими дослідженнями.

Джейкоб Кляйн, експерт з біологічної безпеки, зазначив: "В таких ситуаціях складно провести межу між легітимними науковими дослідженнями та потенційно небезпечною діяльністю. Біологічні знання можуть використовуватися як для розробки медичних методів, так і для створення небезпечніших патогенів."

Виявлення випадків використання штучного інтелекту для небезпечних досліджень підкреслює важливість контролю за технологіями, які можуть бути використані в небезпечних цілях. Anthropic, як компанія, що займається розробкою штучного інтелекту, має відповідальність не лише за інновації, а й за безпеку суспільства. Посилення обмежень на доступ до небезпечних біологічних запитів є кроком у правильному напрямку, однак виклики, пов'язані з використанням новітніх технологій у шкідливих цілях, залишаються актуальними. Важливо, щоб розробники та регулятори співпрацювали для забезпечення безпечного використання штучного інтелекту у всіх сферах науки та технологій.

Цей інцидент піднімає важливі питання щодо безпеки та контролю над штучним інтелектом. Наприклад, раніше один із дослідників Anthropic залишив компанію через побоювання втрати контролю над самовдосконалюваними системами, що свідчить про зростаючі ризики у цій сфері. Це питання стає ще більш актуальним у світлі останніх відкриттів компанії.