Обнаружение опасного применения ИИ в биологических экспериментах
Компания Anthropic зафиксировала пять случаев использования своей системы Claude для исследований, связанных с биологическим оружием, и оперативно заблокировала соответствующие аккаунты. Эти инциденты произошли в период с декабря 2025 по август 2026 года. Ученые, работающие с вирусами, токсинами и ядовитыми соединениями, пытались задействовать ИИ для проведения рискованных экспериментов. Одно из расследований касалось вируса чикунгунья: запрос, связанный с грантовой заявкой на изучение этого патогена, был заблокирован. Исследования велись совместно с военной научной организацией, однако после блокировки часть ученых продолжила деятельность, используя альтернативные каналы.
Кроме того, Anthropic обнаружила посредническую платформу, которая перенаправляла отклонённые запросы к другим моделям с меньшими ограничениями. В одном из случаев исследователь на протяжении нескольких недель применял Claude для анализа, планирования и интерпретации данных по высокопатогенному птичьему гриппу. При этом доступ к наиболее мощным моделям был ограничен, и учёный вынужден был использовать менее функциональные версии. Остальные три инцидента касались изучения:
- ортопоксвирусов,
- соединений, связанных с ядами,
- токсинов.
Anthropic не раскрывает имена участников и детали их исследований, но все случаи были переданы в правоохранительные органы и известны другим разработчикам ИИ. Для российского научного и технологического сообщества это служит важным напоминанием о рисках, связанных с неконтролируемым использованием передовых технологий.
Кибероперация из России и ответ Anthropic
Помимо биологических экспериментов, компания сообщила о кибератаке, организованной российской группировкой Midnight Blizzard, где ИИ Claude использовался для автоматизации шпионских действий. Целями атаки стали государственные и военные структуры Украины, дипломатические миссии и оборонные предприятия в Европе. Искусственный интеллект применялся для фишинговых кампаний, настройки инфраструктуры, создания вредоносного ПО и кражи данных. Anthropic выявила более 20 организаций, причастных к подготовке и реализации этой операции. Автоматизированные системы модифицировали вредоносное ПО, чтобы обходить защиту.
В ответ на выявленные угрозы Anthropic ужесточила контроль за доступом к запросам, связанным с опасными биологическими исследованиями, и усилила защиту своих платформ для работы с чувствительной информацией.
Джейкоб Кляйн, эксперт по биологической безопасности, отметил: «Определить грань между законными научными исследованиями и потенциально опасной деятельностью чрезвычайно сложно. Биологические знания могут служить как развитию медицины, так и созданию более опасных патогенов.»
Обнаружение использования ИИ для опасных исследований подчёркивает необходимость строгого контроля технологий, которые могут применяться во вред. Компания Anthropic несет ответственность не только за технические инновации, но и за безопасность общества. Усиление ограничений для опасных запросов — важный шаг, однако вызовы, связанные с применением новейших технологий в зловредных целях, остаются актуальными. Важно, чтобы разработчики и регуляторы сотрудничали для обеспечения безопасного и этичного использования искусственного интеллекта во всех научных и технологических сферах.
В свете последних инцидентов, связанных с использованием ИИ в рискованных исследованиях, стоит обратить внимание на ситуацию внутри самой компании Anthropic. Недавний уход одного из ученых поднял вопросы о контроле над самосовершенствующимся ИИ и его потенциальной угрозе, что лишь подчеркивает важность ответственного подхода к технологии.