Разногласия Пентагона и компании Anthropic
Американское оборонное ведомство настаивает на снятии этических ограничений с искусственного интеллекта Claude, что привело к серьёзному спору с его разработчиком, компанией Anthropic. Генеральный директор фирмы Дарьо Амодеи вызван на переговоры с министром обороны США Питом Хегсетом, которые должны состояться во вторник. Военные угрожают разрывом контрактов и включением Anthropic в список ненадёжных партнёров в случае отказа выполнить их требования.
Причиной конфликта стали внутренние правила, установленные разработчиком для своей нейросети. Anthropic принципиально запрещает применение Claude в двух ключевых сферах:
- массовую слежку за гражданами США;
- создание полностью автономных систем вооружения, способных применять силу без человека.
Напряжённость усугубилась после того, как технология использовалась во время операции в Венесуэле против режима Мадуро в январе 2023 года. Подобные случаи заставляют задуматься о реальных границах применения ИИ в современном мире.
Жёсткая позиция сторон
Представители Пентагона дали понять, что ситуация критическая. Они заявили, что
«для Anthropic это не ознакомительная беседа и не дружеский диалог. Встреча пройдёт в ультимативном ключе: либо выполняйте условия, либо освобождайте место».В свою очередь, в компании утверждают, что «переговоры носят конструктивный характер». Claude — единственная модель ИИ, интегрированная в секретные системы Пентагона, что делает исход дискуссии определяющим для будущего военно-технологического альянса.
Данный спор ярко иллюстрирует растущее противоречие между этическими рамками, устанавливаемыми IT-гигантами, и запросами военных на передовые технологии. В эпоху глобального соперничества и стремительного прогресса в области искусственного интеллекта вопросы безопасности и моральных ограничений выходят на первый план. Итог противостояния между Пентагоном и Anthropic способен задать важный прецедент для всего сектора оборонных технологий и его взаимодействия с частным бизнесом.