Расследование Пентагона
В ходе расследования Пентагон выявил, что чрезмерное доверие к искусственному интеллекту Palantir в ходе военных операций стало одной из причин трагедии в Иране, где в результате удара США погибло 123 ребенка. Этот инцидент произошел 21 сентября. В отчете отмечается, что ошибки в разведданных и использование устаревших спутниковых снимков также сыграли свою роль. Компания Palantir Technologies Inc. создала систему Maven, которая интегрирует свыше 150 различных источников данных для помощи командирам в принятии решений. Однако Пентагон подчеркнул, что чрезмерная зависимость от Maven стала одной из трех ключевых ошибок в цепочке уничтожения цели.
Сложности в разведке
Разведка в южном Иране была ограниченной, при этом школа, подвергшаяся удару, имела собственный веб-сайт и была отображена на Картах Google. Объект оставался отмеченным как военный объект КВИР, что было связано с требованиями администрации Трампа о масштабных первоначальных ударах. В первые сутки было поражено более 1000 целей в Иране. После удара по Минaбу Palantir обновил систему Maven, внедрив возможности для обнаружения несоответствий в разведданных.
Кроме того, 18 сентября телеканал CNN сообщил о неточном отчете искусственного интеллекта, который едва не спровоцировал военный конфликт между США и Китаем. В частности, ИИ ошибочно классифицировал груз на китайском судне как компоненты для ядерного оружия на Ближнем Востоке. После этого американские военные начали подготовку к перехвату и абордажу корабля, при этом ВВС США подняли в воздух боевые самолеты по тревоге.
Представитель Palantir заявил, что «компания не несет ответственность за исходные данные и выявление ошибок в разведывательной информации».
В то же время источник, знакомый с ситуацией, отметил, что «проводится пересмотр исходных разведданных с целью выявления факторов, которые могли бы пометить цель как неподходящую, а также обнаружить несоответствия и ошибки, которые могли быть пропущены при человеческой проверке». Эти случаи вызывают сомнения в надежности и эффективности применения искусственного интеллекта в военных операциях.
Данные события подчеркивают необходимость тщательного анализа и проверки разведывательной информации, особенно в военном контексте, где ошибки могут иметь тяжелые гуманитарные последствия. Хотя ИИ ускоряет процесс принятия решений, зависимость от технологий несет риски при использовании неточных или устаревших данных. Сейчас Пентагону и Palantir предстоит пересмотреть свои подходы, чтобы предотвратить подобные трагедии в будущем.
Для русскоязычной аудитории важно понимать, что подобные случаи демонстрируют глобальные вызовы в применении современных технологий в военной сфере и необходимость балансировать инновации с надежностью и контролем.
В свете недавних событий, связанных с чрезмерной зависимостью от технологий Palantir, важно также обратить внимание на предупреждения главы компании о возможных юридических последствиях для разработчиков ИИ. Эти риски становятся особенно актуальными в условиях, когда ошибки в алгоритмах могут привести к серьезным последствиям в реальных военных операциях. Узнайте больше о потенциальной ответственности разработчиков ИИ и их роли в подобных инцидентах.